videoconvert: fix offset and scale for GRAY
authorWim Taymans <wim.taymans@collabora.co.uk>
Tue, 10 Jul 2012 09:06:02 +0000 (11:06 +0200)
committerWim Taymans <wim.taymans@collabora.co.uk>
Tue, 10 Jul 2012 09:08:00 +0000 (11:08 +0200)
commitaa261162d20c71956dcec783e00c57b832fe9ce6
tree81dc034db2fc743c9c485506358e8ce91170e3f3
parent566b5c4d1d9d7ecef514fe5134bea8d56d860490
videoconvert: fix offset and scale for GRAY

Fix the calculation of the offset and scale values for GRAY formats. We also
need to set the offset and base of the chroma values to match what the unpack
function creates.

Fixes https://bugzilla.gnome.org/show_bug.cgi?id=679612
gst/videoconvert/videoconvert.c