draw: handle out of memory conditions
authorBrian Paul <brianp@vmware.com>
Thu, 10 Nov 2011 16:51:57 +0000 (09:51 -0700)
committerBrian Paul <brianp@vmware.com>
Fri, 11 Nov 2011 14:10:56 +0000 (07:10 -0700)
If the vbuf backend fails to allocate a vertex buffer, don't crash
or assert.

src/gallium/auxiliary/draw/draw_pipe_vbuf.c

index a9b0f22..578433c 100644 (file)
@@ -130,7 +130,7 @@ static INLINE ushort
 emit_vertex( struct vbuf_stage *vbuf,
              struct vertex_header *vertex )
 {
-   if(vertex->vertex_id == UNDEFINED_VERTEX_ID) {      
+   if (vertex->vertex_id == UNDEFINED_VERTEX_ID && vbuf->vertex_ptr) {
       /* Hmm - vertices are emitted one at a time - better make sure
        * set_buffer is efficient.  Consider a special one-shot mode for
        * translate.
@@ -357,8 +357,10 @@ vbuf_flush_vertices( struct vbuf_stage *vbuf )
 static void 
 vbuf_alloc_vertices( struct vbuf_stage *vbuf )
 {
-   assert(!vbuf->nr_indices);
-   assert(!vbuf->vertices);
+   if (vbuf->vertex_ptr) {
+      assert(!vbuf->nr_indices);
+      assert(!vbuf->vertices);
+   }
    
    /* Allocate a new vertex buffer */
    vbuf->max_vertices = vbuf->render->max_vertex_buffer_bytes / vbuf->vertex_size;