validate:launcher: Add a way to require a non fatal error when matching a fatal one

validate:launcher: Add a way to force coloration

validate:launcher: factor out TTY check and enhance iteration output

validate:scenario: Clear up last seek on EOS generating a 'stop' action

Otherwise there is a race leading to a segfault where ASYNC_DONE is
received *after* generating EOS ourselves:

```
Executing stop (
    - generated-after-eos=true
)
<Caught SIGNAL: SIGSEGV>

**Stack trace**:

...
Thread 1 (Thread 0x7f3c3e50df00 (LWP 10183)):
    #8  0x00007f3c3f01bea5 in g_cclosure_marshal_generic (closure=<optimized out>, return_gvalue=<optimized out>, n_param_values=<optimized out>, param_values=<optimized out>, invocation_hint=<optimized out>, marshal_data=<optimized out>) at gclosure.c:1496
    #9  0x00007f3c3f01b3dd in g_closure_invoke (closure=0x1855980, return_value=0x0, n_param_values=2, param_values=0x7ffda2e0a7e0, invocation_hint=0x7ffda2e0a760) at gclosure.c:810
    #10 0x00007f3c3f02e983 in signal_emit_unlocked_R (node=node@entry=0x15af670, detail=detail@entry=298, instance=instance@entry=0x171fc80, emission_return=emission_return@entry=0x0, instance_and_params=instance_and_params@entry=0x7ffda2e0a7e0) at gsignal.c:3635
    #11 0x00007f3c3f037aaa in g_signal_emit_valist (instance=<optimized out>, signal_id=<optimized out>, detail=<optimized out>, var_args=var_args@entry=0x7ffda2e0a9c0) at gsignal.c:3391
[Inferior 1 (process 10183) detached]

```

validate:launcher: Add generated known issue list to the logs instead of printing then

validate:launcher: Add a way to force stdout coloring

validate:launcher: Rework expected-issues data format

Instead of having the issues centered on the test classes, they
are now focusing on the "bug".

And harmise names on `expected_issue` not `expected_failures`

validate:launcher: Allow printing log URL on a CI server

validate:launcher: Fix getting skip-parser when generating media descriptor

On old version it didn't exist

validate:launcher: Review default for `--mute`

`--mute` is now True by default and added `--unmute` if the user wants
to have visual/audio feedback. It was really annoying to have thousand
of window pop up by default

validate:launcher: Allow referencing known issue by exiting signal names

validate:launcher: Output markdown as much as possible

validate:launcher: Implement bug checks for gitlab

And use new gitlab urls for all the bugs

validate:launcher: Enhance and standardize output

validate:scenario: Add a way to ignore EOS

And ignore then in seek_forward/backward to avoid cases where the pipeline EOS
before we have the chance to launch the following seek, see:

https://ci.gstreamer.net/job/GStreamer-master-meson-validate/3483/testReport/junit/(root)/gst-validate-launcher/validate_rtsp_playback_seek_backward_raw_h264_1_mp4/

validate:launcher: Take into account the timeout when checking EOS

Pass python files through autopep8

validate:launcher: Help the user add known issues

And make it clear a bug should be opened about it

validate:launcher: Enhance dumping log files output

validate:launcher: Use gst-integration-testsuites subproject as default testsuite repo if avalaible

validate: fix pause duration handling

Commit 394242c2248a ("validate:scenario: Enhance variable
implementation") caused the duration parameter to be stored
as a double instead of GstClockTime, which the _execute_pause
implementation expects. Fix the parameter type and use
gst_validate_action_get_clocktime to handle duration correctly.

https://gitlab.freedesktop.org/gstreamer/gst-devtools/merge_requests/73

debug-viewer: Use python.install_sources()

With current implementation we would try and install into the system
path regardless of the prefix. On top of that, we could install any left
over pyc file and would install the unit test also.

To fix this, we now list every files to be installed and use
python.install_sources(), leaving to meson the decision on where things
should be installed.

meson: validate: Fix linking error missing GstBaseTransform

There is a mockdecryptor that has been added into validate-sources and
this element is base on GstBaseTransform. This added a deps against
gstbase which was leading to linking errors when building with meson.

codecanalyzer: Use glib variant of strcmp

safer, and avoids missing include

validate: Print some log when environment variable is not set

print some log when environment variable is not set

meson: validate: actually pass extra arguments to gnome.generate_gir()

Especially the init section and the --quiet.

Remove the whole manual build/source dir include addition
to the g-ir-scanner args seeing that things worked fine
without the args being passed to the scanner at all.

validate: fix g-i warnings

gst-validate-utils.c:914: gst_validate_element_matches_target: unknown parameter 'structure' in documentation comment, should be 's'
gst-validate-override-registry.h:49: gst_validate_override_registry_get_override_list: return value: Missing (element-type) annotation

g-i: pass --quiet to g-ir-scanner

This suppresses the annoying 'g-ir-scanner: link: cc ..' output
that we get even if everything works just fine.

We still get g-ir-scanner warnings and compiler warnings if
we pass this option.

Avoid C99 declaration in 'for' loop

validate:launcher: Set CK_MULTIPLIER=10 in GstCheck tests when using valgrind

Fixes https://gitlab.freedesktop.org/gstreamer/gst-devtools/issues/39

meson: use new 'python' module instead of deprecated 'python3' one

https://github.com/mesonbuild/meson/pull/4169

validate: allow building a static overrides library

validate: Add a mock decryptor element.

validateflow: Fail when a pad is not attached

Previously validateflow tests did not fail when the pad was not
attached.

This was a limitation caused by how the Validate API worked. Before, the
`notify::validate-runner` signal was not emitted until a monitor was
attached to the override. This made impossible to listen for the
runner's `stopping` signal.

This patch fixes the problem by setting `validate-runner` for all
existing overrides when the runner is initialized and adding checks in
validateflow to error in the case no pad was attached.

validate:launcher: Move '_format_config_template' to the utilities

So it can be reused by GES tests

validate: Check that position <= duration from the pipeline monitor

We should not require a scenario for that check to happen

validate:scenario: Cleanup spurious error message

validate-flow: Add an ignored-event-fields configuration

It replaces `record-stream-id` as it is a more generic way of doing
the same thing.

docs: Document the validateflow plugin

validate: More usage of g_strcmp0 instead of strcmp

validateflow: Use glib variant of strcmp

safer, and avoids missing include

validate: Include config.h before anything else

To avoid double-defines (such as GST_LEVEL_DEFAULT)

Back to development

Release 1.15.2

scenarios: don't clobber scenarios in 'make install'

/usr/bin/install: will not overwrite just-created '_inst/share/gstreamer-1.0/validate/scenarios/default-seek-flags.scenario' with '../../../../data/scenarios/rtsp_overrides/includes/default-seek-flags.scenario'

https://gitlab.freedesktop.org/gstreamer/gst-devtools/merge_requests/44#note_123683

validate: add new API to exports file

validate: Notice that issue summaries should be 'stable'

As they are used in the testsuite to define known issues

gst-validate-scenario: Make waits optional in appsrc-push

While in many cases it's desirable to wait for a buffer to be pushed
downstream when using appsrc-push, in some cases this is not possible as
such pushing action is dependent on following actions that would not be
executed if we wait.

An example for this is prerolling:

    appsrc ! qtdemux ! video/x-h264 ! decodebin name=dec ! %(videosink)s

    description, seek=false, handles-states=true
    appsrc-push, target-element-name=appsrc0, file-name="raw_h264.0.mp4"
    set-state, state=playing
    appsrc-eos, target-element-name=appsrc0

In order for the preroll to occur, both the appsrc needs to push the
buffer and the state needs to reach PLAYING. But `set-state` cannot
finish if the buffer has not been pushed (the state transition does not
finish) and conversely pushing the buffer will not finish until the
state has reached.

Making appsrc-push not wait for the buffer solves this problem. This
patch makes appsrc-push aware of this issue by only waiting for the
buffer to be pushed if the pipeline is in a state that allows buffers to
flow.

gst-validate-scenario: Fix (another) race condition in EOS handling

Since gst_validate_action_set_done() is asynchronous, the bus EOS
handler may already be running before the action is actually finished.
This patch ensures that is not a problem.

validateflow: interpolate folder directories into pipeline descriptions.

Allow 'pipeline' fields in validateflow to be interpolated with
directory keys like $(medias)s.

validate: allow config to check for minimum buffer frequency on pads

This change allow tests to check performance of elements by checking the
frequency at which buffers are pushed on src pads.
I re-used most of the logic from fpsdisplaysink to compute the
frequency.

We can now uses something like:
  GST_VALIDATE_CONFIG='core,min-buffer-frequency=60,target-element-factory-name=v4l2src'

The 'buffer-frequency-start' optional field can be used to ignore the
frequency during the start of the pipeline. This is useful when testing live
pipelines where configuring and setting up elements can take some time slowing
down the first buffers.

validate: factor out gst_validate_element_matches_target()

validateflow: Fix double-free on stdout

validate: report: Fix the way we print 'repeat' values

validate: Force LC_NUMERIC to C as it is required by our expression parser

And... add some expression parser unit tests

validate:scenario: Enhance variable implementation

- Stop arbitrarily consider params as ClockTime based on their names
  but add a convetion that the `.type` field of the ActionType should
  end by `(GstClockTime)` when it is a clock time.

validate:scenario: Make gst_validate_action_new public

Mainly so it can be used in unit tests.

validate:scenario: Allow using set-vars from numeric expressions

And require them to follow the `$varname` (can't be $(varname) as
parenthesis have another meaning in those expressions).

Still accept "duration" and "position" as varname for backward compat
but update our scenarios anyway.

validate: scenario: Parse playback times as we execute the scenario

This way we will be able to use 'set-vars' for it

validate:scenario: Enforce a synthax $(varname) to reference variables

This way it is clear that you are using a variable reading the scenario
and we can verify that what the scenario writer intents is to use an
already set variable.

validate: don't override max-latency if config contains multiple structs

gst_validate_utils_get_clocktime() is resetting the value if it's not
present in the struct so we were overriding it on the next iterations.

validate: baseclasses: include env variable in logged command

We were missing the env variables in the command written to the log
file, making it impossible to re-run the test later from the logs.

gst-validate-scenario: Add GST_VALIDATE_SCENARIO_EOS_HANDLING_LOCK

There was a race in appsrc-push when the pushed buffer caused an EOS.
The EOS event could be handled by the main thread, finishing the test
while the action, executing in the streaming thread, has not finished
yet.

A mutex is now introduced to add mutual exclusion for the two threads so
that an EOS does not cause the termination of the test while the action
is still going.

validateflow: Print some indication that the flow checking is happening

validate: Add autotools support for flow plugin

Revert "validate:launcher: Cache the result of meson introspect"

This reverts commit 05ce6d3b92e88341bd9743b021b33ce606c5d1bc.

We can't do that as it breaks meson logic to set envvars

validate:launcher: Do not sort tests all the time

Do it once only once it is fully populated

validate:launcher: Cache the result of meson introspect

Running it takes quite some time and we can easily cache it.

validate:launcher: Add a simple way to profile app

validate: scenario: not need to use an atomic to handle dropped count

It's all handled from the same thread.

validate: scenario: fix dropped checking when terminating scenario

We want to early return if either no max value has been set for the
scenario or if we didn't receive any QoS information.

validate: properly namespace config related checks

New validate plugin: validateflow

validateflow can be used to check the buffers and events flowing through
a custom pipeline match an expectation file. This can be used to test
non-regular-playback use cases like demuxers handling adaptive streaming
fragment pushing.

This patch includes also new actions used for these cases:
`appsrc-push`, `appsrc-eos` and `flush` (plus `checkpoint`, which is
only available with validateflow).

baseclass: add_validate_config: don't use self.proc_env

self.proc_env is created when starting the test but this API can be call
by generator when creating the test.

validate: allow scenarios to define a max nb of dropped buffers

The 'max-dropped' description field can now be used to specify the max
number of buffers than can be dropped by the QoS system.

validate:launcher: Error out in the check testsuite if rebuilding failed

validate: allow scenarios to define max pipeline latency

The 'max-latency' description field can now be used to specify the max
latency allowed for the running pipeline.

Scenarios: override seek flags for RTSP tests

Our RTSP server is not accurate, it makes no sense to perform
accuracy checks on the client-side segments.

validate:scenario: Set variables on all action fields

validate: Handle G_LOG_ERROR in our glog handler

validate:scenario: Rename action 'define-consts' to 'set-vars'

Those are not consts are they can be modified at runtime

validate: Cleanup flags/enum_from_string

scenario: prioritize SCENARIOS_PATH when including

validate: Let people know the testsuite starts running

Now that we do not print infos about successful tests when redirecting.

validate: Keep trying to print stack traces when our log hanlder is removed

There are cases where a crash happens after the program ends

validate:scenario: Give pipeline position when failling on EOS

validate:launcher: Do not print passing tests if not running in a tty

validate:scenario: Explicitely mark generated stop() action as such

validate:launcher:punittest: Raise an exception if a testsuite can't be loaded

pad-monitor: Remove unused pad getrange override

validate: Use g_object_{get|set}_qdata where applicable

This provides a substantial speedup compared to using strings

TestsManager: stop displaying blacklisted tests on stdout

It's basically spam, better suited to the debug logs

validate:launcher: Never print lines larger than the terminal

validate: scenario: Mark action as being executed right before calling ->execute

And make sure that we do not try to execute the following action

In the case the action type leads to the GMainContext to be ieterated

validate: Report the full test name in the xunit file

Looks like gitlab prefers this way of representing tests as it
displays only the name field in its junit reports.

Close #32

validate:launcher: Make baseclasses.py pep8 compliant

validate:launcher: Handle launching launching a sub launcher

If you use validate-launcher in a meson testsuite, those test now
gets integrated as one unique testsuite (with a pretty long namespace).

validate:launcher: Refactor the "main" function

- Move the parser code into a `LauncherConfig.create_parser()` method
- Remove the need to pass libsdir to the _TestsLauncher object
- Extract out a `setup_launcher_from_args` function

launcher: Move http serveur and xvfb server to the main test runner object

No good reason for it to be in the main function

launcher: Cleanup the way we find python test command line

By setting it before the test base class adds the current testsuite name in the classname