validate:launcher: Refactor the "main" function

- Move the parser code into a `LauncherConfig.create_parser()` method
- Remove the need to pass libsdir to the _TestsLauncher object
- Extract out a `setup_launcher_from_args` function

launcher: Move http serveur and xvfb server to the main test runner object

No good reason for it to be in the main function

launcher: Cleanup the way we find python test command line

By setting it before the test base class adds the current testsuite name in the classname

launcher: Fix test listing in meson VS gstcheck tests

You might select tests that match Meson but not gstcheck in which
case the 'meson only' variant is exposed but those should never exist.

validate:launcher: Add `%(config_path)s` in the pipeline desc vars

When defining pipelines_descriptions to run test on in a `.json` file, you might
need to point to paths in the testsuite directory (for media files URIs
for example), you can now do

 `"pipeline": "filesrc location="$(config_path)s/../medias/some/file.mkv...`

Release 1.15.1

Fix distcheck

Work around broken disthook check in release.mak so we don't
have to update the common submodules for that (applies only
to this module because the version number is in the top-level
meson.build but the package/dist directory is a subdir). This
only became a problem now because the common submodule hadn't
been updated for the last few years.

win32: update .def file for new API

Fixes distcheck

validate:launcher: Display unix nickname of signals leading to test failure

validate:launcher: Fix error message about 'crashed' test

pre-commit-python: Allow line breaks between binary operators

pre-commit-python overrides the list of ignored Python style errors.
Unfortunately, before this patch the list did not exclude W503 and
W504 (which are otherwise ignored by default).

The consequence of having those two warnings enabled at the same time is
that it's not possible to break lines on binary operators, which is an
unreasonable unintentional restriction:

  'validateflow': "validateflow, expectations-dir=\"" +
                  expectations_dir + "\", actual-results-dir=\"" +
                  actual_results_dir + "\"",

W504 line break after binary operator

  'validateflow': "validateflow, expectations-dir=\""
                  + expectations_dir + "\", actual-results-dir=\""
                  + actual_results_dir + "\"",

W503 line break before binary operator

This patch excludes W503 so that there is a valid style for breaking
lines on binary operators.

validate: Plug newly introduced leak

validate: Use filename instead of full path in dotfiles names

validate:tests: Fix race in `validate_padmonitor.buffer_outside_segment`

We were using a fakesrc which data flow was potentially breaking the
test.

validate: Lower a ERROR message to INFO

This behaviour is totally valid when running unit tests

validate:tests: s/discount_buffer/discont_buffer/

validate:tests: Fix race in `validate_padmonitor.buffer_before_segment`

We were using a fakesrc which data flow was potentially breaking the
test. Stop using it and remove dead code.

Fixes #34

validate: fix crash if timeout when media_descriptor is None

Some tests may not have any media_descriptor. If those were failing to
shutdown after EOS we were calling get_protocol() on None.

validate:launcher: Fix error message

validate:launcher: Fix discovery of commands

gst: allow building static libraries for e.g. Android/iOS

meson: Fix build on {cross-,}win{32,64}

We use visual studio module definitions for the list of symbols to
export when targetting Windows. Fixes CI failure:

../validate/tools/gst-validate.c:460: undefined reference to `gst_validate_spin_on_fault_signals'

validate:launcher: Do not CK_FORK on our test

Otherwise the process can't cleanly quit on assertion because of the way libcheck runner is implemented

validate: launcher: Add a way to retrieve trace without coredumpctl

Simply spnning on segfaults (like gst-launch) and catch that in
the launcher to transform the timeout into a segfault and grab a gdb
backtrace

validate:launcher: Do not take CK_DEFAULT_TIMEOUT into account to set the timeout

The timeout is what is set in the meson build definition otherwise we will not behave as 'meson test' which we should avoid

validate:launcher: Make failure as <failure> in our xunit reporter

I think it was a mistake to call them <error> as the two notions are
different (we marked failed test as "failures" in the <testuite> node).

Should make gitlab happy with our file!

Automatic update of common submodule

From eb6a86e to 59cb678

validate:launcher: Add a GST_VALIDATE_LAUNCHER_MAIN_DIR env variable

This is generally usefull so we do not have to pass -M every time we launch the launcher

And it adds support for nesting launcher calls always respecting the provided main directory

+ Fix some new pep8 errors

validate:launcher: Don't about unexisting tests when filtering tests

It was wrong

validate:launcher: Fix setting meson tests as "parallel"

validate:launcher: Avoid using not yet set variables

And make the file pep8 compliant with latest pep8 checker.

validate: launcher: Add a way to load pipeline tests from a scenario

validate: Update default testsuite git repository

validate: Enhance printing actions with fields

If you have maby field, printed actions where unreadable, clean that
up by adding new lines.

validate:scenario: Add an action to 'include' another scenario

This is particularly useful for scenario that define constants
that are used to check video frame checksum for example, we can
now have one single 'scenario' file that defines consts for the
checksum of the frames, and those can be reused everywhere.

validate:override: Notify override object when they get attached

validate: fix bug monitor subscriptions on pads by name

gst_validate_override_register_by_name() was not working when using a
pad name because by the time gst_validate_pad_monitor_do_setup()
was called to set the name of the monitor it was too late for overrides
to have any effect.

Patch written by Thibault.

Add Gitlab CI configuration

This commit adds a .gitlab-ci.yml file, which uses a feature
to fetch the config from a centralized repository. The intent is
to have all the gstreamer modules use the same configuration.

The configuration is currently hosted at the gst-ci repository
under the gitlab/ci_template.yml path.

Part of https://gitlab.freedesktop.org/gstreamer/gstreamer-project/issues/29

Update git locations to gitlab

validate: Allow connecting reporters by name for overrides

Using the element that owns the pad on which we are connecting
was not making sense.

debug-viewer: Python3 port follow-up

One print statement wasn't ported to Python3.

meson: add option to disable translation

https://bugzilla.gnome.org/show_bug.cgi?id=797342

validate: Update for g_type_class_add_private() deprecation in recent GLib

https://gitlab.gnome.org/GNOME/glib/merge_requests/7

Update for g_type_class_add_private() deprecation in recent GLib

launcher:scenario: Fix the way we compute scenario path/name when paths supplied

We were just iterating over the list without any check and could end
up with a patch that was not corresponding to the actual scenario.

validate:launcher: Just wait for a while before considering Xvfb is ready if xset is not present

This is what xvfb-run so let's consider it good enough

validate:launcher: Use fakevideosink everywhere it makes sense.

validate: Export the plugin symbol correctly

Otherwise it doesn't get correctly exported when building with MSVC

meson: Add a feature option for tests

This autodetection is needed on iOS inside Cerbero where
gstreamer-check-1.0 is not available.

meson: gst_version_* are ints, convert them early

Fixes error reported by ceyusa:

gst-devtools/meson.build:23:0: ERROR:  Multiplication works only with integers.

meson: Maintain macOS ABI through dylib versioning

Requires Meson 0.48, but the feature will be ignored on older versions
so it's safe to add it without bumping the requirement.

Documentation:
https://github.com/mesonbuild/meson/blob/master/docs/markdown/Reference-manual.md#shared_library

meson: Build gstvalidate-default-overrides-1.0

Needed by Cerbero.

gst-validate-launcher: Print copypaste-friendlier commands

This patch removes the quotes surrounding the command shown by
gst-validate to reproduce the issues -- which were troublesome when
copying and pasting.

It also introduces escaping for the arguments, so that the command line
can be copied and pasted in the terminal without further changes.

https://bugzilla.gnome.org/show_bug.cgi?id=796897

meson: Convert common options to feature options

The rest will be converted later, these are necessary for gst-build to
set options correctly.

https://bugzilla.gnome.org/show_bug.cgi?id=795107

validate:scenario: Add an action type to validate last sample checksum

validate: launcher: Print some ERROR log when inspecting scenario fails

validate:scenario: Add a way to define constants to be used in actions

Allowing writing simpler to read scenarios.

validate:scenario: Add a way to set rank on all features of a plugin

You often want to make sure that elements from a particular plugins
are always/never plugged, `set-rank,name=plugin-name,rank=XXX` allows
you to simply do that.

validate:launcher: Minor output string message

validate: Use 'skipped' keyword in xunit xml

It was always meant to be 'skipped' to be 100% compatible with xunit
xsl.

Makes jenkins happy again

validate:launcher: Stop spamming envvars in unit tests command printing.

We used to print the whole environment, making it ugly and hard to
read.

validate:launcher: Allow retrieving coredumps from within flatpak

pad-monitor: Reset stream-related variables when deactivating

Any local variable related to the stream should be resetted
when the pad is deactivated

Avoids weird issues when elements are re-used (and pads are deactivated
and reactivated).

validate:launcher: Fix the --forever switch

It was not stopping on error.

https://bugzilla.gnome.org/show_bug.cgi?id=796608

validate: Update .def

validate:launcher: Add a TestManager to run python tests

Add a stupid simple testsuite made to be configured from the outside

validate: Fix mixup in variable check

meson: Rename the gtkdoc option to gtk_doc

This is what other modules use

validate: media-check: Avoid spamming the MediaInfo file on stdout

validate: launcher: Add support for running tests with a pushfile source

Introducing the `.media_info.push` media info extension, which is meant
to let the launcher know that those file should run with the "pushfile://"
protocol.

And allow symlinking "normal" `.media_info` to their `.pushfile` variant
so that both can share the exact same content.

validate: media-check: Add a way to skip pluggin parsers

This is useful when you want to check only the demuxer output.

- Keep the information in the media file so that we can launch media-check
  with the proper arguments in the launcher. Update it accordingly.
- Refactor compare_streams to simplify it, which in the end leads to
  reporting all the issues instead of exiting on the first one.

validate: media-descriptor: Add a way to specify when a field value is unknown

And this way is to set the attribute to... `unknown`

validate: media-check: Also check that segments are correct

debug-viewer: Fix reload file action.

Copy the log file only we're loading a file different from the previous file.
The previous version of this code was broken because the existing tmpfile was
removed from disk before being copied to a new temporary file.

validate/media-descriptor: Fix indentation

validate: Add a new issue to detect invalid event seqnum

Events should always have a valid seqnum. Add a new issue which
allows detecting such events. And use that check in the
pad monitor

validate: Update all gitignore

gst-validate-launcher: let gdb handle SIGINT itself

Otherwise both gdb and gst-validate-launcher will react to ^C at the
same time, gdb will be killed by SIGHUP (because gst-validate-launcher
quitted in consequence of the ^C) and the terminal state will be left
garbled because readline inside gdb had disabled echo.

https://bugzilla.gnome.org/show_bug.cgi?id=796396

gst-validate-launcher: disable timeouts when debugging in gdb interactively

An interactive debugging session can be going for a long time, we don't
want any timeouts in that case.

https://bugzilla.gnome.org/show_bug.cgi?id=796397

gst-validate-launcher: Stop in --gdb by default, add --gdb-non-stop

This patch modifies the default behavior of --gdb to not run and quit
automatically the test, but rather wait for user input. This is
usually much more convenient to debug all kinds of bugs.

The automatic run behavior has been moved to a new command switch:
--gdb-non-stop

https://bugzilla.gnome.org/show_bug.cgi?id=796389

validate: Error out if gst_parse_launch sets an error.

https://bugzilla.gnome.org/show_bug.cgi?id=796240

validate:launcher: Error out loudly if the testlist changes

When --fail-on-testlist-change is set.

validate:launcher: Do not print time spent if the testsuite never started

validate: launcher: Make sure testsuites are used/configured once only

validate:launcher: Add a way to check if a gst feature is present

And make sure iqa is present to run IQA tests.

validate:launcher: Cleanup the way we find where -validate tools are

validate: launcher: Add a way to simply run SSIM checks on rendered files

We will run a simple pipeline with the IQA element to run ssim (dssim)
tests on the rendered files, comparing it with a reference file.

For now we use the very empiric 1.0 value as a ssim error threshold and
the goal is basically to detect completely broken renderings.

validate: Add support for the new testbin protocol

debug-viewer: Ignore broken utf8 errors

Not much we can do if the input file is not perfectly valid UTF8
but we should just do as good as we can.

debug-viewer: MEMDUMP debug level support

validate: Remove hls.*seek_with_stop blacklisting

The issue is closed upstream (because of concentrating on decodebin3
instead), and initial forever testing seems to show the issue doesn't
happen anymore

meson: Update option names to omit disable_ prefixes

Also yield common options to the outer project (gst-build in our case)
so that they don't have to be set manually.

validate: pipeline: Handle the case where a pad has no monitor

We do not monitor ghost pads, only real pads, so this is a totally
legitimate case.

https://bugzilla.gnome.org/show_bug.cgi?id=792536

validate: fix out of source tree build error

It fails to generate gst-validate-enum-types.h and gst-validate-enum-types.c
when build out of source tree. Add the path for template files.

https://bugzilla.gnome.org/show_bug.cgi?id=795531

Signed-off-by: Kai Kang <kai.kang@windriver.com>

debug-viewer: Fix raising unhandled exception

Old code was uselessly complex

debug-viewer: Fix stacktrace after port to py3

debug-viewer: Copy log files in temporaries before using them

They are mmap'ed and it gets wrong if the file is changed.
There is high probablility the user will generate new logs while
inspecting some logs in the same file

debug-viewer: Add a shortcut to show/hide timeline

debug-viewer: Port to meson

This allows us to run unit test as part of ninja test and have versionning
in sync. Also the goal is to have everything inside meson.

https://bugzilla.gnome.org/show_bug.cgi?id=795282

validate:launcher: Add support for specifying a workdir in tests