docker: fedora: update to Fedora 31

aom-extra-tools has been removed from Fedora:
https://src.fedoraproject.org/rpms/aom/c/038d7b2164e15c9067af3d2d2e0b50a4d890b218?branch=master

gstreamer1-plugins-bad-nonfree has been removed from rpmfusion:
https://pkgs.rpmfusion.org/cgit/nonfree/gstreamer1-plugins-bad-nonfree.git/commit/?id=30641c2ded63d12e099d32cb814bab8244f48c90
It was only used of its build deps of which only faac-devel was not
already installed, so I added it instead.

Need to manually install pip3 now.

ci: Switch msys2 job to manual

This will reduce the excessive load on the runners which are having issues
with this job in particuliar. We will revisit when we better understand the
runners issues.

ci: Replace REGEX variables

Passing regex as variable does not really works, we ended up matching the
regex as a string instead. Replace all REGEX variable with rules: override.
It is longer but more reliable.

Related to !247
Fixes #63

ci: disable Rust jobs for now

They are not reliable enough (#53) and generated artifacts are too big (#61)
so disable them until those issues are solved.

Fix https://gitlab.freedesktop.org/gstreamer/gst-plugins-rs/issues/97

ci: Fix gstreamer-full job to run in gst-build

It was set to gst-omx by accident instead.

ci: Fix exceptions for gst indent job

The name of the variable passing the exception regex wasn't correct. As a side
effect, gst-indent was not run on all repository.

ci: Remove spurious except regex in valgrind test

This was ported but unused from the previous code. In the new code it was
preventing valgrind jobs from being run in gstreamer repository.

ci: Remove outdated commemt

We no longer use awk or cat int hat context.

ci: Cleanup gst-omx from unneeded jobs

Only run CI automatically on merge_request

Make jobs interruptible by default

This was added in 12.3 and is false by default. Make it to true, so that we
stop the previous pipelien on force push.

Port from only/except to rules

Rules is a new feature that replaces only/except and allow for finer grain
control on the workflow. With rules, we gain finer grain to pipeline and merge
request pipelines.

gst-full: Only build 1 plugin and disable all artifacts

This is enough to validate that it works for now.

Fixes: #60

ci_template: extend the scenarios where retries are attempted

The windows runner has become a bit unstable lately, might be
due to some recent update. It frequently timeouts while waiting
to pick up a job or sometimes it goes missing in the middle of a job.

gitlab: build gst-omx with tizonia as target

Build just the minimum to be able to build gst-omx with this specific
target.

docker: allow to specify the branch to pull for various repos

Declare an docker build-arg [1] and use it
whenever cloning one of our repositories. If the buildarg
is not specified, the variable defaults back to 'master'
and thus the current behavior doesn't change.

From the .gitlab-ci.yml file, when building pass
the GST_UPSTREAM_BRANCH that's defined from the ci_template
as the buildarg so we will be building the corresponding branches
for the docker images.

Close #33

[1] https://docs.docker.com/engine/reference/builder/#arg

gitlab/cerbero: Use new prefix for jobs built with MinGW

Add integration test for gstreamer-full-1.0

gitlab/cerbero: Do not add tmp files to cerbero-deps tarball

This is where the WINEPREFIX is now in Cerbero. This used to be
share/wine, but was moved to var/tmp/wine for clarity. It was causing
two problems:

1. The size of these generated files are ~1GB, which were ~500MB after
   tar.gz, and they were completely useless since they can just be
   regenerated by Wine the next time it's run. Let's not waste egress
   bandwidth.

2. Random build failures because wineserver and associated processes
   would not always exit before we started tarring up the prefix, then
   write to the directory on exit while tar was reading the directory
   causing `tar -czf` to fail:

```
$ tar -C ${CERBERO_HOME} -czf $CERBERO_DEPS build-tools build-tools.cache dist/${ARCH} ${ARCH}.cache
tar: build-tools/share/wine: file changed as we read it
Uploading artifacts...
manifest.xml: found 1 matching files
cerbero-build/logs: found 461 matching files
cerbero-build/cerbero-deps.log: found 1 matching files
cerbero-deps.tar.gz: found 1 matching files
Uploading artifacts to coordinator... ok            id=1807197 responseStatus=201 Created token=4_qFUP8z
ERROR: Job failed: exit code 1
```

cerbero-android: don't upload the '-runtime' package

It's useless for android

windows: checkout the correct branch of gst-build for stable branch

Previously we would always checkout from master, which doesn't
end up working well for the stable branch. We already have a mechanism
to specify the correct branch to clone from each template. [1]

[1] https://gitlab.freedesktop.org/gstreamer/gst-ci/-/merge_requests/118

gitlab: Run ges valgrind tests on devtools changes

We have validate 'unit test' there

windows: try to avoid random failures due to pre-existing gst-build clone

This is slightly weird, cause I am not sure what causes the clone
to be there, since gitlab-runner supposedly always either use a
clean volume or at least runs git clean on the existing ones.

But its there and so we have to deal with failures like so
https://gitlab.freedesktop.org/tpm/gstreamer-sharp/-/jobs/1672137

gitlab: update fedora image

Update to meson 0.53.1

docker: fedora: update to meson 0.53.1

Needed to build Tizonia (gst-omx backend).

ci_template: update the docker image versions

docker/fedora: upgrade base images to f31

All the images except the gst-build fedora image,
due to further changes being needed

docker/fedora: add libappstream-glib to the image

Needed to validate the appstream files of GstDebugViewer
in gst-devtools.

https://gitlab.freedesktop.org/gstreamer/gst-devtools/merge_requests/155

gitlab: use libsodium from system

The Rust crate can either build its own libsodium or use the one from
the system. Do the latter to reduce build time.

gitlab: update fedora image

gitlab/cerbero: Run gst-inspect on the built binaries

Using the latest cerbero image to get Wine for cross-win32|64.

docker/cerbero: Install wine in system setup

This is now an optional runtime dependency that cerbero can make use
of for doing runtime testing of the built binaries. Needed for
building a new image so that !227 can be merged.

docker: fedora: install Tizonia dep

Need to build gst-omx with Tizonia as target (#20).

ci_template.yml: Update the windows image version

docker/windows: work around a python ssl issue

Python fails to validate github.com SSL certificate, unless we first
run a dummy download to force refreshing Windows' CA database.
See: https://bugs.python.org/issue36137

Adapted from patches by Xavier Claessens!

docker/windows: install cmake with choco as well

docker/windows: copy the install scripts just before running them

This results into more docker layers, but it avoid invalidating
the previous layers when changing anything in the script, making
build times faster.

Adapted from patches by Xavier Claessens!

docker/windows: install git, gitlfs, 7zip and python3 with choco

Move them into a seperate script to avoid needing to refresh the
env, and make it simpler.

Adapted from patches by Xavier Claessens!

docker/windows: use direct download links from mirrors

Else Invoke-WebRequest gets redirected and ends up downloading
html page. Possibly due to an unkown user-agent? who knows.

docker/windows: Download and install MSYS for Cerbero

docker/windows: Install CMake for Cerbero

docker/windows: Fix 7zip extract command for MSYS2

-Wait is only needed for Start-Process. Also, explicitly extract the
tar file into C:\ -- don't assume the current directory is C:\

docker/windows: Clarify some MSYS2 install steps

docker/windows: Update python, git, and MSYS2

The git update is particularly important because of security
vulnerabilities on Windows related to NTFS.

docker/windows: Use load-balancing for sourceforge URLs

Instead of using a specific mirror, which may be slow or might
disappear.

docker/windows: Install Python to a path without spaces

This is needed for Cerbero since Autotools cannot handle paths to
binaries that have spaces in them.

docker/windows: Download Python installer as python3-installer

Having a binary called 'python3' anywhere that might accidentally end
up in PATH is asking for trouble.

docker/fedora: Install libdav1d

This library is required for the gst-plugins-rs rsdav1d plugin build.

gitlab: run gst-plugins-rs tests

Fix #46

gitlab: override 'except' on build rust job

The parent job has an except rule on gst-plugins-rs which was inherited
preventing the job to be run on gst-plugins-rs updates.

Fix #51

docker: fedora: install libsodium

Used by a Rust plugin.

gitlab: move gst-plugins-rs to its own job

Building Rust code is significantly slowing down ci so do it only for
projects which could make gst-plugins-rs regress.

CI: integration: Split this test in 4 jobs

That job was the slowest, now each jobs takes about 12 minutes, which
makes it slightly faster then msys2 jobs, and sometime iOS due to low
bandwidth and low availibility of OSX runners.

gitlab: cache CARGO_HOME in shared cache

gitlab: enable gst-plugins-rs in build fedora jobs

gitlab: don't run gst-plugins-rs tests

They are not working with CI atm, see #46

gitlab-ci: Fix docker tag when pushing image

Missed in https://gitlab.freedesktop.org/gstreamer/gst-ci/merge_requests/213

gitlab: build gst-omx with zynq as target

Build just the minimum to be able to build gst-omx with this specific
target.

gitlab-ci.yml: Allow tagging images built on upstream branches

If we're on the gstreamer namespace, we should push all images built
on that namespace to the registry. This is needed to, f.ex., update
the docker image used in stable builds. This is needed for:
https://gitlab.freedesktop.org/gstreamer/cerbero/merge_requests/367

docker/cerbero: Do not manually install nasm when building image

This is pulled in correctly via cerbero's bootstrap deps now.

gitlab: disable most jobs for gst-plugins-rs

No need to run jobs which are not building gst-plugins-rs.

gitlab/gst-build: Disable building rust plugins

gst-build now includes gst-plugins-rs, but gst-plugins-rs CI does not
run the gst-build CI jobs, so MRs can easily break gst-build CI.

F.ex: https://gitlab.freedesktop.org/gstreamer/gst-plugins-rs/merge_requests/186#note_371696

Disable this till that's resolved.

gitlab: update Fedora image

Include Rust environnement fix.

docker: export RUSTUP/CARGO_HOME in container

The rust binaries (rustc) needs those variables to be defined to work
properly.

gitlab: update fedora image

Use image with Rust.

docker/fedora: install Rust

Needed to build gst-plugins-rs, see gst-plugins-rs!205

Update fedora image

docker/fedora: Update meson to 0.52.1

docker/fedora: Install libcaca and aalib

Add libcaca-devel and aalib-devel to dependencies so that cacasink and
aasink can be built.

ci_template: limit cerbero jobs to the GStreamer tagged runners

CCache tends to consume a lot of space which taxes heavily some
of the shared runners. Limit the mahcines the job can run
to those were we can ensure they will not have issues with
the storage.

gitlab: enable ios builds by default

They are small enough now to not impact the overall running time of a CI
pipeline.

ci_template: bump timeout for msys2 job

windows: fix invalid powershell syntax

```
At line:1 char:34
+ cd $env:CI_PROJECT_DIR/gst-build && python git-update --no-interactio ...
+                                  ~~
The token '&&' is not a valid statement separator in this version.
    + CategoryInfo          : ParserError: (:) [], ParentContainsErrorRecordEx
   ception
    + FullyQualifiedErrorId : InvalidEndOfLine
```

This is not bash, but powershell, hue hue hue

ci_template: make sure powershell hard exists on errors

We set the env var as the shell of the image, but looks like
the gitlab runner is overriding that.

windows: Migrate to windows 1809 base

Rebuild the windows docker image against the current ltsc [1]
of server 2019. This requires moving some of the msys setup
to the runner job cause it causes docker build to hang

Switch the job tags so they now use the 1809 runner, instead
of 1607.

Tweak the PATHs in the msys job so bash doesn't complain about
slashes..

Lastly, increase the timeout of the windows jobs, as msys2
installs its deps at runtime

[1] https://docs.microsoft.com/en-us/windows-server/get-started-19/servicing-channels-19

gitlab: build cerbero android/ios for gst-docs examples

ci_template: Increase the timeout of gst-builds more

Need to take into account I/O needed to upload artficats
and download docker images.

ci_template: Bump the timeout limit from 10 to 15min for windows

ci_template: set per-job timeouts for builds

In case a build gets stuck for whatever reason,
happens from time to time on windows,
try to baild out quickly.

For cerbero builds, set the timeout to 3h which
according to the docs should also be able to
override the project defined timeout
Fix #19

https://docs.gitlab.com/ce/ci/yaml/README.html#timeout

ci_template: Use a host-mapped volume for the ccache directory

Use hardcoded path for the cache, so it will be shared by
all jobs of all gstreamer projects running on the same runner host. This
should increase the hit rate and decrease the worst case storage used.

Adaptation of https://gitlab.freedesktop.org/mesa/mesa/merge_requests/2818

See https://gitlab.freedesktop.org/freedesktop/freedesktop/issues/120

update for macos 10.15 making / read-only

We've moved the host cached cerbero directory to /Users/gst-ci/cerbero
instead now.

ci_template.yml: Update the windows image used

docker/windows: update the version of various deps we install

ci_template: skip unnecessary jobs for gst-integration-testsuites

Close #42

ci_template: set the TIMEOUT_FACTOR of gst-validate-launcher to 2

We have lots of tests that timeout on the CI due to a high load
of jobs on the CI runners. Let's try giving them a bit more time
and see how its going.

ci_template.yml: Use the new docker cerbero-fedora image

This has nasm temporarily added in it using
https://gitlab.freedesktop.org/gstreamer/gst-ci/merge_requests/179

docker/cerbero: Temporarily add nasm to the system setup

We will later install it as part of the cerbero bootstrap step when
generating the image after
https://gitlab.freedesktop.org/gstreamer/cerbero/merge_requests/320 is
merged.

citemplate: Tag test jobs to only run on the dedicated runners

Avoid spreading the jobs on lower power runners which ends
up trippling the execution time of the testsuites and/or timing out.

docker: Stop using mdv and use bat to colorize markdown

Revert "gitlab: Set COLUMNS and width variable to make terminal_markdown_view happy"

This reverts commit 157f94fb62da7582fce90c85bf2338999d83b7cc.

ci_template: remove gstreamer-vaapi control in test tag

Since now gstreamer-vaapi is blacklisted in
validate (https://gitlab.freedesktop.org/gstreamer/gst-devtools/merge_requests/134)
there is no need to make exceptions in the CI. This patch removes
those exceptions.

ci_template: refresh the docker images used for the CI

ci_template: update the fedora image to a newer build

Among other things, it includes the wpe dependencies !148 and
glslc !145

ci_template: avoid check.gstreamer-vaapi

Check tests are being added to gstreamer/gstreamer-vaapi!181.
However, gstreamer-vaapi inherently requires specific hardware
drivers and platforms to function.  The CI does not provide this
level of driver/platform selection.  Thus, avoid running any
check tests in gstreamer-vaapi.

ci_template: Add an auto-retry policy

Its common that docker will throw transient errors, especially
on the windows runner. If such the case, automatically retry
the job.

Revert "docker/cerbero/fedora install openssl-devel libraries"

This reverts commit 4a8beec41044e21ffeec73b7e58d0afaf112e689.

gitlab: update cerbero docker image used

docker/cerbero/fedora install openssl-devel libraries

Temporary workaround until cerbero installs the library itself

docker: improve logging of the setup scripts

docker/fedora: install debuginfo for python3-libs as well