New validate plugin: validateflow

validateflow can be used to check the buffers and events flowing through
a custom pipeline match an expectation file. This can be used to test
non-regular-playback use cases like demuxers handling adaptive streaming
fragment pushing.

This patch includes also new actions used for these cases:
`appsrc-push`, `appsrc-eos` and `flush` (plus `checkpoint`, which is
only available with validateflow).

baseclass: add_validate_config: don't use self.proc_env

self.proc_env is created when starting the test but this API can be call
by generator when creating the test.

validate: allow scenarios to define a max nb of dropped buffers

The 'max-dropped' description field can now be used to specify the max
number of buffers than can be dropped by the QoS system.

validate:launcher: Error out in the check testsuite if rebuilding failed

validate: allow scenarios to define max pipeline latency

The 'max-latency' description field can now be used to specify the max
latency allowed for the running pipeline.

Scenarios: override seek flags for RTSP tests

Our RTSP server is not accurate, it makes no sense to perform
accuracy checks on the client-side segments.

validate:scenario: Set variables on all action fields

validate: Handle G_LOG_ERROR in our glog handler

validate:scenario: Rename action 'define-consts' to 'set-vars'

Those are not consts are they can be modified at runtime

validate: Cleanup flags/enum_from_string

scenario: prioritize SCENARIOS_PATH when including

validate: Let people know the testsuite starts running

Now that we do not print infos about successful tests when redirecting.

validate: Keep trying to print stack traces when our log hanlder is removed

There are cases where a crash happens after the program ends

validate:scenario: Give pipeline position when failling on EOS

validate:launcher: Do not print passing tests if not running in a tty

validate:scenario: Explicitely mark generated stop() action as such

validate:launcher:punittest: Raise an exception if a testsuite can't be loaded

pad-monitor: Remove unused pad getrange override

validate: Use g_object_{get|set}_qdata where applicable

This provides a substantial speedup compared to using strings

TestsManager: stop displaying blacklisted tests on stdout

It's basically spam, better suited to the debug logs

validate:launcher: Never print lines larger than the terminal

validate: scenario: Mark action as being executed right before calling ->execute

And make sure that we do not try to execute the following action

In the case the action type leads to the GMainContext to be ieterated

validate: Report the full test name in the xunit file

Looks like gitlab prefers this way of representing tests as it
displays only the name field in its junit reports.

Close #32

validate:launcher: Make baseclasses.py pep8 compliant

validate:launcher: Handle launching launching a sub launcher

If you use validate-launcher in a meson testsuite, those test now
gets integrated as one unique testsuite (with a pretty long namespace).

validate:launcher: Refactor the "main" function

- Move the parser code into a `LauncherConfig.create_parser()` method
- Remove the need to pass libsdir to the _TestsLauncher object
- Extract out a `setup_launcher_from_args` function

launcher: Move http serveur and xvfb server to the main test runner object

No good reason for it to be in the main function

launcher: Cleanup the way we find python test command line

By setting it before the test base class adds the current testsuite name in the classname

launcher: Fix test listing in meson VS gstcheck tests

You might select tests that match Meson but not gstcheck in which
case the 'meson only' variant is exposed but those should never exist.

validate:launcher: Add `%(config_path)s` in the pipeline desc vars

When defining pipelines_descriptions to run test on in a `.json` file, you might
need to point to paths in the testsuite directory (for media files URIs
for example), you can now do

 `"pipeline": "filesrc location="$(config_path)s/../medias/some/file.mkv...`

Release 1.15.1

Fix distcheck

Work around broken disthook check in release.mak so we don't
have to update the common submodules for that (applies only
to this module because the version number is in the top-level
meson.build but the package/dist directory is a subdir). This
only became a problem now because the common submodule hadn't
been updated for the last few years.

win32: update .def file for new API

Fixes distcheck

validate:launcher: Display unix nickname of signals leading to test failure

validate:launcher: Fix error message about 'crashed' test

pre-commit-python: Allow line breaks between binary operators

pre-commit-python overrides the list of ignored Python style errors.
Unfortunately, before this patch the list did not exclude W503 and
W504 (which are otherwise ignored by default).

The consequence of having those two warnings enabled at the same time is
that it's not possible to break lines on binary operators, which is an
unreasonable unintentional restriction:

  'validateflow': "validateflow, expectations-dir=\"" +
                  expectations_dir + "\", actual-results-dir=\"" +
                  actual_results_dir + "\"",

W504 line break after binary operator

  'validateflow': "validateflow, expectations-dir=\""
                  + expectations_dir + "\", actual-results-dir=\""
                  + actual_results_dir + "\"",

W503 line break before binary operator

This patch excludes W503 so that there is a valid style for breaking
lines on binary operators.

validate: Plug newly introduced leak

validate: Use filename instead of full path in dotfiles names

validate:tests: Fix race in `validate_padmonitor.buffer_outside_segment`

We were using a fakesrc which data flow was potentially breaking the
test.

validate: Lower a ERROR message to INFO

This behaviour is totally valid when running unit tests

validate:tests: s/discount_buffer/discont_buffer/

validate:tests: Fix race in `validate_padmonitor.buffer_before_segment`

We were using a fakesrc which data flow was potentially breaking the
test. Stop using it and remove dead code.

Fixes #34

validate: fix crash if timeout when media_descriptor is None

Some tests may not have any media_descriptor. If those were failing to
shutdown after EOS we were calling get_protocol() on None.

validate:launcher: Fix error message

validate:launcher: Fix discovery of commands

gst: allow building static libraries for e.g. Android/iOS

meson: Fix build on {cross-,}win{32,64}

We use visual studio module definitions for the list of symbols to
export when targetting Windows. Fixes CI failure:

../validate/tools/gst-validate.c:460: undefined reference to `gst_validate_spin_on_fault_signals'

validate:launcher: Do not CK_FORK on our test

Otherwise the process can't cleanly quit on assertion because of the way libcheck runner is implemented

validate: launcher: Add a way to retrieve trace without coredumpctl

Simply spnning on segfaults (like gst-launch) and catch that in
the launcher to transform the timeout into a segfault and grab a gdb
backtrace

validate:launcher: Do not take CK_DEFAULT_TIMEOUT into account to set the timeout

The timeout is what is set in the meson build definition otherwise we will not behave as 'meson test' which we should avoid

validate:launcher: Make failure as <failure> in our xunit reporter

I think it was a mistake to call them <error> as the two notions are
different (we marked failed test as "failures" in the <testuite> node).

Should make gitlab happy with our file!

Automatic update of common submodule

From eb6a86e to 59cb678

validate:launcher: Add a GST_VALIDATE_LAUNCHER_MAIN_DIR env variable

This is generally usefull so we do not have to pass -M every time we launch the launcher

And it adds support for nesting launcher calls always respecting the provided main directory

+ Fix some new pep8 errors

validate:launcher: Don't about unexisting tests when filtering tests

It was wrong

validate:launcher: Fix setting meson tests as "parallel"

validate:launcher: Avoid using not yet set variables

And make the file pep8 compliant with latest pep8 checker.

validate: launcher: Add a way to load pipeline tests from a scenario

validate: Update default testsuite git repository

validate: Enhance printing actions with fields

If you have maby field, printed actions where unreadable, clean that
up by adding new lines.

validate:scenario: Add an action to 'include' another scenario

This is particularly useful for scenario that define constants
that are used to check video frame checksum for example, we can
now have one single 'scenario' file that defines consts for the
checksum of the frames, and those can be reused everywhere.

validate:override: Notify override object when they get attached

validate: fix bug monitor subscriptions on pads by name

gst_validate_override_register_by_name() was not working when using a
pad name because by the time gst_validate_pad_monitor_do_setup()
was called to set the name of the monitor it was too late for overrides
to have any effect.

Patch written by Thibault.

Add Gitlab CI configuration

This commit adds a .gitlab-ci.yml file, which uses a feature
to fetch the config from a centralized repository. The intent is
to have all the gstreamer modules use the same configuration.

The configuration is currently hosted at the gst-ci repository
under the gitlab/ci_template.yml path.

Part of https://gitlab.freedesktop.org/gstreamer/gstreamer-project/issues/29

Update git locations to gitlab

validate: Allow connecting reporters by name for overrides

Using the element that owns the pad on which we are connecting
was not making sense.

debug-viewer: Python3 port follow-up

One print statement wasn't ported to Python3.

meson: add option to disable translation

https://bugzilla.gnome.org/show_bug.cgi?id=797342

validate: Update for g_type_class_add_private() deprecation in recent GLib

https://gitlab.gnome.org/GNOME/glib/merge_requests/7

Update for g_type_class_add_private() deprecation in recent GLib

launcher:scenario: Fix the way we compute scenario path/name when paths supplied

We were just iterating over the list without any check and could end
up with a patch that was not corresponding to the actual scenario.

validate:launcher: Just wait for a while before considering Xvfb is ready if xset is not present

This is what xvfb-run so let's consider it good enough

validate:launcher: Use fakevideosink everywhere it makes sense.

validate: Export the plugin symbol correctly

Otherwise it doesn't get correctly exported when building with MSVC

meson: Add a feature option for tests

This autodetection is needed on iOS inside Cerbero where
gstreamer-check-1.0 is not available.

meson: gst_version_* are ints, convert them early

Fixes error reported by ceyusa:

gst-devtools/meson.build:23:0: ERROR:  Multiplication works only with integers.

meson: Maintain macOS ABI through dylib versioning

Requires Meson 0.48, but the feature will be ignored on older versions
so it's safe to add it without bumping the requirement.

Documentation:
https://github.com/mesonbuild/meson/blob/master/docs/markdown/Reference-manual.md#shared_library

meson: Build gstvalidate-default-overrides-1.0

Needed by Cerbero.

gst-validate-launcher: Print copypaste-friendlier commands

This patch removes the quotes surrounding the command shown by
gst-validate to reproduce the issues -- which were troublesome when
copying and pasting.

It also introduces escaping for the arguments, so that the command line
can be copied and pasted in the terminal without further changes.

https://bugzilla.gnome.org/show_bug.cgi?id=796897

meson: Convert common options to feature options

The rest will be converted later, these are necessary for gst-build to
set options correctly.

https://bugzilla.gnome.org/show_bug.cgi?id=795107

validate:scenario: Add an action type to validate last sample checksum

validate: launcher: Print some ERROR log when inspecting scenario fails

validate:scenario: Add a way to define constants to be used in actions

Allowing writing simpler to read scenarios.

validate:scenario: Add a way to set rank on all features of a plugin

You often want to make sure that elements from a particular plugins
are always/never plugged, `set-rank,name=plugin-name,rank=XXX` allows
you to simply do that.

validate:launcher: Minor output string message

validate: Use 'skipped' keyword in xunit xml

It was always meant to be 'skipped' to be 100% compatible with xunit
xsl.

Makes jenkins happy again

validate:launcher: Stop spamming envvars in unit tests command printing.

We used to print the whole environment, making it ugly and hard to
read.

validate:launcher: Allow retrieving coredumps from within flatpak

pad-monitor: Reset stream-related variables when deactivating

Any local variable related to the stream should be resetted
when the pad is deactivated

Avoids weird issues when elements are re-used (and pads are deactivated
and reactivated).

validate:launcher: Fix the --forever switch

It was not stopping on error.

https://bugzilla.gnome.org/show_bug.cgi?id=796608

validate: Update .def

validate:launcher: Add a TestManager to run python tests

Add a stupid simple testsuite made to be configured from the outside

validate: Fix mixup in variable check

meson: Rename the gtkdoc option to gtk_doc

This is what other modules use

validate: media-check: Avoid spamming the MediaInfo file on stdout

validate: launcher: Add support for running tests with a pushfile source

Introducing the `.media_info.push` media info extension, which is meant
to let the launcher know that those file should run with the "pushfile://"
protocol.

And allow symlinking "normal" `.media_info` to their `.pushfile` variant
so that both can share the exact same content.

validate: media-check: Add a way to skip pluggin parsers

This is useful when you want to check only the demuxer output.

- Keep the information in the media file so that we can launch media-check
  with the proper arguments in the launcher. Update it accordingly.
- Refactor compare_streams to simplify it, which in the end leads to
  reporting all the issues instead of exiting on the first one.

validate: media-descriptor: Add a way to specify when a field value is unknown

And this way is to set the attribute to... `unknown`

validate: media-check: Also check that segments are correct

debug-viewer: Fix reload file action.

Copy the log file only we're loading a file different from the previous file.
The previous version of this code was broken because the existing tmpfile was
removed from disk before being copied to a new temporary file.

validate/media-descriptor: Fix indentation