OMAPDSS: apply fixes
authorTomi Valkeinen <tomi.valkeinen@ti.com>
Tue, 12 Nov 2013 10:21:46 +0000 (12:21 +0200)
committerTomi Valkeinen <tomi.valkeinen@ti.com>
Mon, 30 Dec 2013 14:14:15 +0000 (16:14 +0200)
commit7a53df2c08119c1a7008d8480205fb3e6859c721
treed0cf7d5306e660404fa5b95ce170fcfdde662819
parentac9f24211e4cf9cc30122a7e0d830eba2cace14b
OMAPDSS: apply fixes

When omapfb does ovl->get_overlay_info, ovl->set_overlay_info, the set
function may fail even if the info has not been changed. This is because
omapdss doesn't initialize the info, but expect the caller to set valid
values.

Normally that is the case, but there is at least one corner case: if
omapfb has not allocated memory for the overlay yet, and the user uses
ioctl to disable the overlay to make sure it's disabled. In this case
get_overlay_info returns invalid data, but the user is only interested
in setting the overlay to disabled, not configuring it, and
set_overlay_info fails.

The issue is made possible by the omapfb's setup_plane ioctl, which
groups overlay configuration and overlay enable/disable bit into the
same struct. Thus, when you are disabling an overlay, you are also
configuring it.

This is a bit counter intuitive, so I think it's better to initialize
the info to some valid values.

The fields requiring initialization are color_mode and rotation_type,
and also we need to remove the check for (paddr == 0), as paddr is 0 for
unallocated overlay (but it's still fine to disable the overlay).

Signed-off-by: Tomi Valkeinen <tomi.valkeinen@ti.com>
drivers/video/omap2/dss/apply.c
drivers/video/omap2/dss/overlay.c