validate:launcher: Set ORC_CODE=backup when running gst unit tests under valgrind

validate:check: Blacklist and mark some GES tests as long under valgrind

validate:testsuites: Add unit tests blacklists

validate:launcher: Ignore possibly lost for now

TestsManager: _add_blacklist in set_default_blacklist

Otherwise test suites that want to set_default_blacklist and
add tests in setup_tests were seeing their blacklist ignored.

Split up and rename set_blacklists() to complete the refactoring

Check indirect leaks

validate:launcher: Do not copy logs for non flaky tests

That looks weird for users and is incorrect

validate:launcher: Fix printing debug logs URIs

validate:launcher: Do not stop tcp server when reiterating tests runs

validate:launcher: Associate issues with the bug they come from

Making it simpler to follow when print the known issues

validate:launcher: Indent known issues printing

validate:launcher: Print the number of times the test was run when --forever

validate:launcher: Add python suppression files

validate:launcher: Use md viewer to dump md logs if avalaible

And enhance the markdown
See https://github.com/axiros/terminal_markdown_viewer

validate:launcher: Avoid forking when running gstcheck tests in gdb

validate:launcher: Add an option to output HTML if commonmark is installed

validate:launcher: Do not user python 3.5 features

validate:launcher: Move all logs to one single log files to be displayed to end user

validate:launcher: Make extra_logfiles a set and fix their names

validate:launcher: Remove spurious print

validate:launcher: Remove noise about empty known issues in logs

validate:launcher: Fix printing application name in the logs

Release 1.15.90

validate: autotools: dist mock decryptor header file

validate: win32: add new api to export file

validate:launcher: Add a list of well known subpression files from gst-build subprojects

Fixes https://gitlab.freedesktop.org/gstreamer/gst-devtools/issues/38

validate: Add a mecanism to rerun failling tests

And add a way to mark some 'flakes' as tolerated

validate:launcher: Reset process on clean

validate: Print error message details in our reports

validate:launcher: Dump applied known issues in the logs

validate:launcher: Put all logs inside the failure node

Pleasing gitlab CI reporting system

validate:launcher: By default use cpu_count / 2

validate:launcher: Print name of the test to be debugged

When --debug was passed

validate:pad-monitor: Accept any return value when we aggregated FLUSHING while tearing down

Basically nothing guarantees that the set of pads we aggregated the flow
for is the same as the one that was aggregated during the actual data
flow as some pads could have been removed meanwhile.

validate:scenario: Allow last-sample to not be set when checking it

And instead of failling, wait for it to be set again.

Depends on https://gitlab.freedesktop.org/gstreamer/gstreamer/merge_requests/119

validate: Return the GstValidateAction on .ref()

validate: Generate dot files and link to them on CI

validate:launcher: Try to send SIGINT before killing processes

Giving a chance for validate to print reports

validate:launcher: Add a way to say that a known issues can happen several times

validate:launcher: Remove now useless code to check sending EOS brings down the pipeline

If we want to make an exception we can use known issues these days

validate:launcher: Be a bit more resilient in GstValidateListener

And handle exception decoding received json info

validate:scenario: Implement a way to execute an action on message

And use it for seek forward and fast forward scenarios

validate:launcher: Add a way to require a non fatal error when matching a fatal one

validate:launcher: Add a way to force coloration

validate:launcher: factor out TTY check and enhance iteration output

validate:scenario: Clear up last seek on EOS generating a 'stop' action

Otherwise there is a race leading to a segfault where ASYNC_DONE is
received *after* generating EOS ourselves:

```
Executing stop (
    - generated-after-eos=true
)
<Caught SIGNAL: SIGSEGV>

**Stack trace**:

...
Thread 1 (Thread 0x7f3c3e50df00 (LWP 10183)):
    #8  0x00007f3c3f01bea5 in g_cclosure_marshal_generic (closure=<optimized out>, return_gvalue=<optimized out>, n_param_values=<optimized out>, param_values=<optimized out>, invocation_hint=<optimized out>, marshal_data=<optimized out>) at gclosure.c:1496
    #9  0x00007f3c3f01b3dd in g_closure_invoke (closure=0x1855980, return_value=0x0, n_param_values=2, param_values=0x7ffda2e0a7e0, invocation_hint=0x7ffda2e0a760) at gclosure.c:810
    #10 0x00007f3c3f02e983 in signal_emit_unlocked_R (node=node@entry=0x15af670, detail=detail@entry=298, instance=instance@entry=0x171fc80, emission_return=emission_return@entry=0x0, instance_and_params=instance_and_params@entry=0x7ffda2e0a7e0) at gsignal.c:3635
    #11 0x00007f3c3f037aaa in g_signal_emit_valist (instance=<optimized out>, signal_id=<optimized out>, detail=<optimized out>, var_args=var_args@entry=0x7ffda2e0a9c0) at gsignal.c:3391
[Inferior 1 (process 10183) detached]

```

validate:launcher: Add generated known issue list to the logs instead of printing then

validate:launcher: Add a way to force stdout coloring

validate:launcher: Rework expected-issues data format

Instead of having the issues centered on the test classes, they
are now focusing on the "bug".

And harmise names on `expected_issue` not `expected_failures`

validate:launcher: Allow printing log URL on a CI server

validate:launcher: Fix getting skip-parser when generating media descriptor

On old version it didn't exist

validate:launcher: Review default for `--mute`

`--mute` is now True by default and added `--unmute` if the user wants
to have visual/audio feedback. It was really annoying to have thousand
of window pop up by default

validate:launcher: Allow referencing known issue by exiting signal names

validate:launcher: Output markdown as much as possible

validate:launcher: Implement bug checks for gitlab

And use new gitlab urls for all the bugs

validate:launcher: Enhance and standardize output

validate:scenario: Add a way to ignore EOS

And ignore then in seek_forward/backward to avoid cases where the pipeline EOS
before we have the chance to launch the following seek, see:

https://ci.gstreamer.net/job/GStreamer-master-meson-validate/3483/testReport/junit/(root)/gst-validate-launcher/validate_rtsp_playback_seek_backward_raw_h264_1_mp4/

validate:launcher: Take into account the timeout when checking EOS

Pass python files through autopep8

validate:launcher: Help the user add known issues

And make it clear a bug should be opened about it

validate:launcher: Enhance dumping log files output

validate:launcher: Use gst-integration-testsuites subproject as default testsuite repo if avalaible

validate: fix pause duration handling

Commit 394242c2248a ("validate:scenario: Enhance variable
implementation") caused the duration parameter to be stored
as a double instead of GstClockTime, which the _execute_pause
implementation expects. Fix the parameter type and use
gst_validate_action_get_clocktime to handle duration correctly.

https://gitlab.freedesktop.org/gstreamer/gst-devtools/merge_requests/73

debug-viewer: Use python.install_sources()

With current implementation we would try and install into the system
path regardless of the prefix. On top of that, we could install any left
over pyc file and would install the unit test also.

To fix this, we now list every files to be installed and use
python.install_sources(), leaving to meson the decision on where things
should be installed.

meson: validate: Fix linking error missing GstBaseTransform

There is a mockdecryptor that has been added into validate-sources and
this element is base on GstBaseTransform. This added a deps against
gstbase which was leading to linking errors when building with meson.

codecanalyzer: Use glib variant of strcmp

safer, and avoids missing include

validate: Print some log when environment variable is not set

print some log when environment variable is not set

meson: validate: actually pass extra arguments to gnome.generate_gir()

Especially the init section and the --quiet.

Remove the whole manual build/source dir include addition
to the g-ir-scanner args seeing that things worked fine
without the args being passed to the scanner at all.

validate: fix g-i warnings

gst-validate-utils.c:914: gst_validate_element_matches_target: unknown parameter 'structure' in documentation comment, should be 's'
gst-validate-override-registry.h:49: gst_validate_override_registry_get_override_list: return value: Missing (element-type) annotation

g-i: pass --quiet to g-ir-scanner

This suppresses the annoying 'g-ir-scanner: link: cc ..' output
that we get even if everything works just fine.

We still get g-ir-scanner warnings and compiler warnings if
we pass this option.

Avoid C99 declaration in 'for' loop

validate:launcher: Set CK_MULTIPLIER=10 in GstCheck tests when using valgrind

Fixes https://gitlab.freedesktop.org/gstreamer/gst-devtools/issues/39

meson: use new 'python' module instead of deprecated 'python3' one

https://github.com/mesonbuild/meson/pull/4169

validate: allow building a static overrides library

validate: Add a mock decryptor element.

validateflow: Fail when a pad is not attached

Previously validateflow tests did not fail when the pad was not
attached.

This was a limitation caused by how the Validate API worked. Before, the
`notify::validate-runner` signal was not emitted until a monitor was
attached to the override. This made impossible to listen for the
runner's `stopping` signal.

This patch fixes the problem by setting `validate-runner` for all
existing overrides when the runner is initialized and adding checks in
validateflow to error in the case no pad was attached.

validate:launcher: Move '_format_config_template' to the utilities

So it can be reused by GES tests

validate: Check that position <= duration from the pipeline monitor

We should not require a scenario for that check to happen

validate:scenario: Cleanup spurious error message

validate-flow: Add an ignored-event-fields configuration

It replaces `record-stream-id` as it is a more generic way of doing
the same thing.

docs: Document the validateflow plugin

validate: More usage of g_strcmp0 instead of strcmp

validateflow: Use glib variant of strcmp

safer, and avoids missing include

validate: Include config.h before anything else

To avoid double-defines (such as GST_LEVEL_DEFAULT)

Back to development

Release 1.15.2

scenarios: don't clobber scenarios in 'make install'

/usr/bin/install: will not overwrite just-created '_inst/share/gstreamer-1.0/validate/scenarios/default-seek-flags.scenario' with '../../../../data/scenarios/rtsp_overrides/includes/default-seek-flags.scenario'

https://gitlab.freedesktop.org/gstreamer/gst-devtools/merge_requests/44#note_123683

validate: add new API to exports file

validate: Notice that issue summaries should be 'stable'

As they are used in the testsuite to define known issues

gst-validate-scenario: Make waits optional in appsrc-push

While in many cases it's desirable to wait for a buffer to be pushed
downstream when using appsrc-push, in some cases this is not possible as
such pushing action is dependent on following actions that would not be
executed if we wait.

An example for this is prerolling:

    appsrc ! qtdemux ! video/x-h264 ! decodebin name=dec ! %(videosink)s

    description, seek=false, handles-states=true
    appsrc-push, target-element-name=appsrc0, file-name="raw_h264.0.mp4"
    set-state, state=playing
    appsrc-eos, target-element-name=appsrc0

In order for the preroll to occur, both the appsrc needs to push the
buffer and the state needs to reach PLAYING. But `set-state` cannot
finish if the buffer has not been pushed (the state transition does not
finish) and conversely pushing the buffer will not finish until the
state has reached.

Making appsrc-push not wait for the buffer solves this problem. This
patch makes appsrc-push aware of this issue by only waiting for the
buffer to be pushed if the pipeline is in a state that allows buffers to
flow.

gst-validate-scenario: Fix (another) race condition in EOS handling

Since gst_validate_action_set_done() is asynchronous, the bus EOS
handler may already be running before the action is actually finished.
This patch ensures that is not a problem.

validateflow: interpolate folder directories into pipeline descriptions.

Allow 'pipeline' fields in validateflow to be interpolated with
directory keys like $(medias)s.

validate: allow config to check for minimum buffer frequency on pads

This change allow tests to check performance of elements by checking the
frequency at which buffers are pushed on src pads.
I re-used most of the logic from fpsdisplaysink to compute the
frequency.

We can now uses something like:
  GST_VALIDATE_CONFIG='core,min-buffer-frequency=60,target-element-factory-name=v4l2src'

The 'buffer-frequency-start' optional field can be used to ignore the
frequency during the start of the pipeline. This is useful when testing live
pipelines where configuring and setting up elements can take some time slowing
down the first buffers.

validate: factor out gst_validate_element_matches_target()

validateflow: Fix double-free on stdout

validate: report: Fix the way we print 'repeat' values

validate: Force LC_NUMERIC to C as it is required by our expression parser

And... add some expression parser unit tests

validate:scenario: Enhance variable implementation

- Stop arbitrarily consider params as ClockTime based on their names
  but add a convetion that the `.type` field of the ActionType should
  end by `(GstClockTime)` when it is a clock time.

validate:scenario: Make gst_validate_action_new public

Mainly so it can be used in unit tests.

validate:scenario: Allow using set-vars from numeric expressions

And require them to follow the `$varname` (can't be $(varname) as
parenthesis have another meaning in those expressions).

Still accept "duration" and "position" as varname for backward compat
but update our scenarios anyway.