correct lenght calculation for SE
authorMathis Rosenhauer <rosenhauer@dkrz.de>
Tue, 11 Feb 2014 12:57:54 +0000 (13:57 +0100)
committerMathis Rosenhauer <rosenhauer@dkrz.de>
Tue, 11 Feb 2014 14:33:18 +0000 (15:33 +0100)
src/encode.c
tests/check_code_options.c

index f301ac2..a59f42e 100644 (file)
@@ -443,7 +443,7 @@ static uint32_t assess_se_option(struct aec_stream *strm)
             len = UINT32_MAX;
             break;
         } else {
-            len += d * (d + 1) / 2 + state->block[i + 1];
+            len += d * (d + 1) / 2 + state->block[i + 1] + 1;
         }
     }
     return len;
index dc6bebf..5259a46 100644 (file)
@@ -138,9 +138,9 @@ int check_se(struct test_state *state)
         state->out(tmp + size, 0, size);
         state->out(tmp + 2 * size, 0, size);
         state->out(tmp + 3 * size, 0, size);
-        state->out(tmp + 4 * size, 0, size);
-        state->out(tmp + 5 * size, 0, size);
-        state->out(tmp + 6 * size, 0, size);
+        state->out(tmp + 4 * size, 1, size);
+        state->out(tmp + 5 * size, 1, size);
+        state->out(tmp + 6 * size, 1, size);
         state->out(tmp + 7 * size, 1, size);
     }