amcviddec: output external-oes textures
authorMatthew Waters <matthew@centricular.com>
Tue, 3 Nov 2015 02:19:41 +0000 (13:19 +1100)
committerMatthew Waters <matthew@centricular.com>
Tue, 17 Nov 2015 04:27:26 +0000 (15:27 +1100)
commitf2ca0eaf27c54cba7bce3868be07e205f35545b5
treed1773c837865501c38dfeefa4bf8eb8185e21808
parent67327615df95e269d1e10588da70ccf4bed4078b
amcviddec: output external-oes textures

This provides a performance and power usage improvement by removing
the texture copy from an OES texture to 2D texture.

The flow is as follows
1. Generate the output buffer with the required sync meta with the incrementing
   push counter and OES GL memory
1.1 release_output_buffer (buf, render=true) and push downstream
2. Downstream waits for on the sync meta (timed wait) or drops the frame (no wait)
2.1 Timed wait for the frame number to reach the number of frame callbacks fired
2.2 Unconditionally update the image when the wait completes (success or fail).
    Sets the affine transformation matrix meta on the buffer.
3. Downstream renders as usual.

At *some* point through this the on_frame_callback may or may not fire.  If it
does fire, we can finish waiting early and render. Otherwise we have to
wait for a timeout to occur which may cause more buffers to be pused into the
internal GL queue which siginificantly decreases the chances of the
on_frame_callback to fire again.  This is because the frame callback only occurs
when the internal GL queue changes state from empty to non-empty.

Because there is no way to reliably correlate between the number of buffers
pushed and the number of frame callbacks received, there are a number of
workarounds in place.
1. We self-increment the ready counter when it falls behind the push counter
2. Time based waits as the frame callback may not be fired for a certain frame.
3. It is assumed that the device can render at speed or performs some QoS of
   the interal GL queue (which may not match the GStreamer QoS).

It holds that we call SurfaceTexture::updateTexImage for each buffer pushed
downstream however there's no guarentee that updateTexImage will result in
the exact next frame (it could skip or duplicate) so synchronization is not
guaranteed to be accurate although it seems to be close enough to be unable
to discern visually.  This has not changed from before this patch.  The current
requirement for synchronization is that updateTexImage is called at the point in
time when the buffers is to be rendered.

https://bugzilla.gnome.org/show_bug.cgi?id=757285
sys/androidmedia/Makefile.am
sys/androidmedia/gstamc2dtexturerenderer.c [deleted file]
sys/androidmedia/gstamc2dtexturerenderer.h [deleted file]
sys/androidmedia/gstamcvideodec.c
sys/androidmedia/gstamcvideodec.h