libs: encoder: vp8,vp9: reset frame_counter when input frame's format changes
authorFreyr <freyrnjordrson@gmail.com>
Thu, 6 Jun 2019 14:24:30 +0000 (17:24 +0300)
committerFreyr <freyrnjordrson@gmail.com>
Thu, 6 Jun 2019 14:24:30 +0000 (17:24 +0300)
commit1f5ad9c7e51c27f7d3067ff7a9cd505b1ea5f55c
tree2aa033010f26573503ecd84daddf1fcb0b7177c2
parented7277a1b717f410302fddede64334bd483502ca
libs: encoder: vp8,vp9: reset frame_counter when input frame's format changes

When input frame's formate changes, vp{8,9} encoders don't reset their frame
counter, hence the newly created frame could become a P-frame, leading to some
major troubles (sigabrt in libdrm in case of vp9). This patch adds some frame
prediction-related reset logic to the `flush' methods of GstVaapiEncoderVP8 and
GstVaapiEncoderVP9 implementations.
gst-libs/gst/vaapi/gstvaapiencoder_vp8.c
gst-libs/gst/vaapi/gstvaapiencoder_vp9.c