vp8/denoising: add missing alloc check
authorJames Zern <jzern@google.com>
Wed, 17 Feb 2016 22:54:57 +0000 (14:54 -0800)
committerJames Zern <jzern@google.com>
Thu, 18 Feb 2016 00:33:56 +0000 (16:33 -0800)
Change-Id: I51ede902cd9d7bafa41f7caa3f9adf77f9df5903

vp8/encoder/denoising.c

index 2a21943..113865f 100644 (file)
@@ -440,6 +440,11 @@ int vp8_denoiser_allocate(VP8_DENOISER *denoiser, int width, int height,
            denoiser->yv12_last_source.frame_size);
 
     denoiser->denoise_state = vpx_calloc((num_mb_rows * num_mb_cols), 1);
+    if (!denoiser->denoise_state)
+    {
+        vp8_denoiser_free(denoiser);
+        return 1;
+    }
     memset(denoiser->denoise_state, 0, (num_mb_rows * num_mb_cols));
     vp8_denoiser_set_parameters(denoiser, mode);
     denoiser->nmse_source_diff = 0;