mesa: fix error handling for dlist image unpacking
authorBrian Paul <brianp@vmware.com>
Thu, 15 Sep 2011 15:06:19 +0000 (09:06 -0600)
committerBrian Paul <brianp@vmware.com>
Thu, 15 Sep 2011 15:39:13 +0000 (09:39 -0600)
commit6fd6efa7bf90b0c85f69f2e989a273f82f381e3b
tree6d9da3ac43f73f0104ebfb98b3e6c3c0e1d79568
parentb0524e49fc555ec8e5505e88c03e1993cdf3666b
mesa: fix error handling for dlist image unpacking

When compiling glDrawPixels, glTexImage(), etc. and we're copying
the user's image we need to be careful about GL error checking.
Previously, we were incorrectly generating GL_OUT_OF_MEMORY in
unpack_image() if width <= 0 or height <= 0 or for invalid format/type
values.  We now check those arguments in unpack_image() and return NULL
if there's a bad value.  The command will get compiled with the
arguments as-is and image=NULL.  Later, when the command is executed the
correct errors will be generated.

This issue was reported by Yuanhan Liu <yuanhan.liu@linux.intel.com>

Reviewed-by: Yuanhan Liu <yuanhan.liu@linux.intel.com>
src/mesa/main/dlist.c