vp9_dx_iface,init_buffer_callbacks: return on alloc failure
[platform/upstream/libvpx.git] / md5_utils.c
1 /*
2  * This code implements the MD5 message-digest algorithm.
3  * The algorithm is due to Ron Rivest.  This code was
4  * written by Colin Plumb in 1993, no copyright is claimed.
5  * This code is in the public domain; do with it what you wish.
6  *
7  * Equivalent code is available from RSA Data Security, Inc.
8  * This code has been tested against that, and is equivalent,
9  * except that you don't need to include two pages of legalese
10  * with every copy.
11  *
12  * To compute the message digest of a chunk of bytes, declare an
13  * MD5Context structure, pass it to MD5Init, call MD5Update as
14  * needed on buffers full of bytes, and then call MD5Final, which
15  * will fill a supplied 16-byte array with the digest.
16  *
17  * Changed so as no longer to depend on Colin Plumb's `usual.h' header
18  * definitions
19  *  - Ian Jackson <ian@chiark.greenend.org.uk>.
20  * Still in the public domain.
21  */
22
23 #include <string.h> /* for memcpy() */
24
25 #include "md5_utils.h"
26 #include "vpx_ports/compiler_attributes.h"
27
28 static void byteSwap(UWORD32 *buf, unsigned words) {
29   md5byte *p;
30
31   /* Only swap bytes for big endian machines */
32   int i = 1;
33
34   if (*(char *)&i == 1) return;
35
36   p = (md5byte *)buf;
37
38   do {
39     *buf++ = (UWORD32)((unsigned)p[3] << 8 | p[2]) << 16 |
40              ((unsigned)p[1] << 8 | p[0]);
41     p += 4;
42   } while (--words);
43 }
44
45 /*
46  * Start MD5 accumulation.  Set bit count to 0 and buffer to mysterious
47  * initialization constants.
48  */
49 void MD5Init(struct MD5Context *ctx) {
50   ctx->buf[0] = 0x67452301;
51   ctx->buf[1] = 0xefcdab89;
52   ctx->buf[2] = 0x98badcfe;
53   ctx->buf[3] = 0x10325476;
54
55   ctx->bytes[0] = 0;
56   ctx->bytes[1] = 0;
57 }
58
59 /*
60  * Update context to reflect the concatenation of another buffer full
61  * of bytes.
62  */
63 void MD5Update(struct MD5Context *ctx, md5byte const *buf, unsigned len) {
64   UWORD32 t;
65
66   /* Update byte count */
67
68   t = ctx->bytes[0];
69
70   if ((ctx->bytes[0] = t + len) < t)
71     ctx->bytes[1]++; /* Carry from low to high */
72
73   t = 64 - (t & 0x3f); /* Space available in ctx->in (at least 1) */
74
75   if (t > len) {
76     memcpy((md5byte *)ctx->in + 64 - t, buf, len);
77     return;
78   }
79
80   /* First chunk is an odd size */
81   memcpy((md5byte *)ctx->in + 64 - t, buf, t);
82   byteSwap(ctx->in, 16);
83   MD5Transform(ctx->buf, ctx->in);
84   buf += t;
85   len -= t;
86
87   /* Process data in 64-byte chunks */
88   while (len >= 64) {
89     memcpy(ctx->in, buf, 64);
90     byteSwap(ctx->in, 16);
91     MD5Transform(ctx->buf, ctx->in);
92     buf += 64;
93     len -= 64;
94   }
95
96   /* Handle any remaining bytes of data. */
97   memcpy(ctx->in, buf, len);
98 }
99
100 /*
101  * Final wrapup - pad to 64-byte boundary with the bit pattern
102  * 1 0* (64-bit count of bits processed, MSB-first)
103  */
104 void MD5Final(md5byte digest[16], struct MD5Context *ctx) {
105   int count = ctx->bytes[0] & 0x3f; /* Number of bytes in ctx->in */
106   md5byte *p = (md5byte *)ctx->in + count;
107
108   /* Set the first char of padding to 0x80.  There is always room. */
109   *p++ = 0x80;
110
111   /* Bytes of padding needed to make 56 bytes (-8..55) */
112   count = 56 - 1 - count;
113
114   if (count < 0) { /* Padding forces an extra block */
115     memset(p, 0, count + 8);
116     byteSwap(ctx->in, 16);
117     MD5Transform(ctx->buf, ctx->in);
118     p = (md5byte *)ctx->in;
119     count = 56;
120   }
121
122   memset(p, 0, count);
123   byteSwap(ctx->in, 14);
124
125   /* Append length in bits and transform */
126   ctx->in[14] = ctx->bytes[0] << 3;
127   ctx->in[15] = ctx->bytes[1] << 3 | ctx->bytes[0] >> 29;
128   MD5Transform(ctx->buf, ctx->in);
129
130   byteSwap(ctx->buf, 4);
131   memcpy(digest, ctx->buf, 16);
132   memset(ctx, 0, sizeof(*ctx)); /* In case it's sensitive */
133 }
134
135 #ifndef ASM_MD5
136
137 /* The four core functions - F1 is optimized somewhat */
138
139 /* #define F1(x, y, z) (x & y | ~x & z) */
140 #define F1(x, y, z) (z ^ (x & (y ^ z)))
141 #define F2(x, y, z) F1(z, x, y)
142 #define F3(x, y, z) (x ^ y ^ z)
143 #define F4(x, y, z) (y ^ (x | ~z))
144
145 /* This is the central step in the MD5 algorithm. */
146 #define MD5STEP(f, w, x, y, z, in, s) \
147   (w += f(x, y, z) + in, w = (w << s | w >> (32 - s)) + x)
148
149 /*
150  * The core of the MD5 algorithm, this alters an existing MD5 hash to
151  * reflect the addition of 16 longwords of new data.  MD5Update blocks
152  * the data and converts bytes into longwords for this routine.
153  */
154 VPX_NO_UNSIGNED_OVERFLOW_CHECK void MD5Transform(UWORD32 buf[4],
155                                                  UWORD32 const in[16]) {
156   UWORD32 a, b, c, d;
157
158   a = buf[0];
159   b = buf[1];
160   c = buf[2];
161   d = buf[3];
162
163   MD5STEP(F1, a, b, c, d, in[0] + 0xd76aa478, 7);
164   MD5STEP(F1, d, a, b, c, in[1] + 0xe8c7b756, 12);
165   MD5STEP(F1, c, d, a, b, in[2] + 0x242070db, 17);
166   MD5STEP(F1, b, c, d, a, in[3] + 0xc1bdceee, 22);
167   MD5STEP(F1, a, b, c, d, in[4] + 0xf57c0faf, 7);
168   MD5STEP(F1, d, a, b, c, in[5] + 0x4787c62a, 12);
169   MD5STEP(F1, c, d, a, b, in[6] + 0xa8304613, 17);
170   MD5STEP(F1, b, c, d, a, in[7] + 0xfd469501, 22);
171   MD5STEP(F1, a, b, c, d, in[8] + 0x698098d8, 7);
172   MD5STEP(F1, d, a, b, c, in[9] + 0x8b44f7af, 12);
173   MD5STEP(F1, c, d, a, b, in[10] + 0xffff5bb1, 17);
174   MD5STEP(F1, b, c, d, a, in[11] + 0x895cd7be, 22);
175   MD5STEP(F1, a, b, c, d, in[12] + 0x6b901122, 7);
176   MD5STEP(F1, d, a, b, c, in[13] + 0xfd987193, 12);
177   MD5STEP(F1, c, d, a, b, in[14] + 0xa679438e, 17);
178   MD5STEP(F1, b, c, d, a, in[15] + 0x49b40821, 22);
179
180   MD5STEP(F2, a, b, c, d, in[1] + 0xf61e2562, 5);
181   MD5STEP(F2, d, a, b, c, in[6] + 0xc040b340, 9);
182   MD5STEP(F2, c, d, a, b, in[11] + 0x265e5a51, 14);
183   MD5STEP(F2, b, c, d, a, in[0] + 0xe9b6c7aa, 20);
184   MD5STEP(F2, a, b, c, d, in[5] + 0xd62f105d, 5);
185   MD5STEP(F2, d, a, b, c, in[10] + 0x02441453, 9);
186   MD5STEP(F2, c, d, a, b, in[15] + 0xd8a1e681, 14);
187   MD5STEP(F2, b, c, d, a, in[4] + 0xe7d3fbc8, 20);
188   MD5STEP(F2, a, b, c, d, in[9] + 0x21e1cde6, 5);
189   MD5STEP(F2, d, a, b, c, in[14] + 0xc33707d6, 9);
190   MD5STEP(F2, c, d, a, b, in[3] + 0xf4d50d87, 14);
191   MD5STEP(F2, b, c, d, a, in[8] + 0x455a14ed, 20);
192   MD5STEP(F2, a, b, c, d, in[13] + 0xa9e3e905, 5);
193   MD5STEP(F2, d, a, b, c, in[2] + 0xfcefa3f8, 9);
194   MD5STEP(F2, c, d, a, b, in[7] + 0x676f02d9, 14);
195   MD5STEP(F2, b, c, d, a, in[12] + 0x8d2a4c8a, 20);
196
197   MD5STEP(F3, a, b, c, d, in[5] + 0xfffa3942, 4);
198   MD5STEP(F3, d, a, b, c, in[8] + 0x8771f681, 11);
199   MD5STEP(F3, c, d, a, b, in[11] + 0x6d9d6122, 16);
200   MD5STEP(F3, b, c, d, a, in[14] + 0xfde5380c, 23);
201   MD5STEP(F3, a, b, c, d, in[1] + 0xa4beea44, 4);
202   MD5STEP(F3, d, a, b, c, in[4] + 0x4bdecfa9, 11);
203   MD5STEP(F3, c, d, a, b, in[7] + 0xf6bb4b60, 16);
204   MD5STEP(F3, b, c, d, a, in[10] + 0xbebfbc70, 23);
205   MD5STEP(F3, a, b, c, d, in[13] + 0x289b7ec6, 4);
206   MD5STEP(F3, d, a, b, c, in[0] + 0xeaa127fa, 11);
207   MD5STEP(F3, c, d, a, b, in[3] + 0xd4ef3085, 16);
208   MD5STEP(F3, b, c, d, a, in[6] + 0x04881d05, 23);
209   MD5STEP(F3, a, b, c, d, in[9] + 0xd9d4d039, 4);
210   MD5STEP(F3, d, a, b, c, in[12] + 0xe6db99e5, 11);
211   MD5STEP(F3, c, d, a, b, in[15] + 0x1fa27cf8, 16);
212   MD5STEP(F3, b, c, d, a, in[2] + 0xc4ac5665, 23);
213
214   MD5STEP(F4, a, b, c, d, in[0] + 0xf4292244, 6);
215   MD5STEP(F4, d, a, b, c, in[7] + 0x432aff97, 10);
216   MD5STEP(F4, c, d, a, b, in[14] + 0xab9423a7, 15);
217   MD5STEP(F4, b, c, d, a, in[5] + 0xfc93a039, 21);
218   MD5STEP(F4, a, b, c, d, in[12] + 0x655b59c3, 6);
219   MD5STEP(F4, d, a, b, c, in[3] + 0x8f0ccc92, 10);
220   MD5STEP(F4, c, d, a, b, in[10] + 0xffeff47d, 15);
221   MD5STEP(F4, b, c, d, a, in[1] + 0x85845dd1, 21);
222   MD5STEP(F4, a, b, c, d, in[8] + 0x6fa87e4f, 6);
223   MD5STEP(F4, d, a, b, c, in[15] + 0xfe2ce6e0, 10);
224   MD5STEP(F4, c, d, a, b, in[6] + 0xa3014314, 15);
225   MD5STEP(F4, b, c, d, a, in[13] + 0x4e0811a1, 21);
226   MD5STEP(F4, a, b, c, d, in[4] + 0xf7537e82, 6);
227   MD5STEP(F4, d, a, b, c, in[11] + 0xbd3af235, 10);
228   MD5STEP(F4, c, d, a, b, in[2] + 0x2ad7d2bb, 15);
229   MD5STEP(F4, b, c, d, a, in[9] + 0xeb86d391, 21);
230
231   buf[0] += a;
232   buf[1] += b;
233   buf[2] += c;
234   buf[3] += d;
235 }
236
237 #endif