Merge branch 'master' of gitorious.org:opensuse/sat-solver
[platform/upstream/libsolv.git] / ext / repo_deb.c
1 /*
2  * Copyright (c) 2009, Novell Inc.
3  *
4  * This program is licensed under the BSD license, read LICENSE.BSD
5  * for further information
6  */
7
8 #include <sys/types.h>
9 #include <sys/stat.h>
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <string.h>
13 #include <unistd.h>
14 #include <zlib.h>
15
16 #include "pool.h"
17 #include "repo.h"
18 #include "util.h"
19 #include "chksum.h"
20 #include "repo_deb.h"
21
22 static unsigned char *
23 decompress(unsigned char *in, int inl, int *outlp)
24 {
25   z_stream strm;
26   int outl, ret;
27   unsigned char *out;
28
29   memset(&strm, 0, sizeof(strm));
30   strm.next_in = in;
31   strm.avail_in = inl;
32   out = sat_malloc(4096);
33   strm.next_out = out;
34   strm.avail_out = 4096;
35   outl = 0;
36   ret = inflateInit2(&strm, -MAX_WBITS);
37   if (ret != Z_OK)
38     {
39       free(out);
40       return 0;
41     }
42   for (;;)
43     {
44       if (strm.avail_out == 0)
45         {
46           outl += 4096;
47           out = sat_realloc(out, outl + 4096);
48           strm.next_out = out + outl;
49           strm.avail_out = 4096;
50         }
51       ret = inflate(&strm, Z_NO_FLUSH);
52       if (ret == Z_STREAM_END)
53         break;
54       if (ret != Z_OK)
55         {
56           free(out);
57           return 0;
58         }
59     }
60   outl += 4096 - strm.avail_out;
61   inflateEnd(&strm);
62   *outlp = outl;
63   return out;
64 }
65
66 static Id
67 parseonedep(Pool *pool, char *p)
68 {
69   char *n, *ne, *e, *ee;
70   Id name, evr;
71   int flags;
72
73   while (*p == ' ' || *p == '\t' || *p == '\n')
74     p++;
75   if (!*p || *p == '(')
76     return 0;
77   n = p;
78   /* find end of name */
79   while (*p && *p != ' ' && *p != '\t' && *p != '\n' && *p != '(' && *p != '|')
80     p++;
81   ne = p;
82   while (*p == ' ' || *p == '\t' || *p == '\n')
83     p++;
84   evr = 0;
85   flags = 0;
86   e = ee = 0;
87   if (*p == '(')
88     {
89       p++;
90       while (*p == ' ' || *p == '\t' || *p == '\n')
91         p++;
92       if (*p == '>')
93         flags |= REL_GT;
94       else if (*p == '=')
95         flags |= REL_EQ;
96       else if (*p == '<')
97         flags |= REL_LT;
98       if (flags)
99         {
100           p++;
101           if (*p == '>')
102             flags |= REL_GT;
103           else if (*p == '=')
104             flags |= REL_EQ;
105           else if (*p == '<')
106             flags |= REL_LT;
107           else
108             p--;
109           p++;
110         }
111       while (*p == ' ' || *p == '\t' || *p == '\n')
112         p++;
113       e = p;
114       while (*p && *p != ' ' && *p != '\t' && *p != '\n' && *p != ')')
115         p++;
116       ee = p;
117       while (*p && *p != ')')
118         p++;
119       if (*p)
120         p++;
121       while (*p == ' ' || *p == '\t' || *p == '\n')
122         p++;
123     }
124   name = strn2id(pool, n, ne - n, 1);
125   if (e)
126     {
127       evr = strn2id(pool, e, ee - e, 1);
128       name = rel2id(pool, name, evr, flags, 1);
129     }
130   if (*p == '|')
131     {
132       Id id = parseonedep(pool, p + 1);
133       if (id)
134         name = rel2id(pool, name, id, REL_OR, 1);
135     }
136   return name;
137 }
138
139 static unsigned int
140 makedeps(Repo *repo, char *deps, unsigned int olddeps, Id marker)
141 {
142   Pool *pool = repo->pool;
143   char *p;
144   Id id;
145
146   while ((p = strchr(deps, ',')) != 0)
147     {
148       *p = 0;
149       olddeps = makedeps(repo, deps, olddeps, marker);
150       *p = ',';
151       deps = p + 1;
152     }
153   id = parseonedep(pool, deps);
154   if (!id)
155     return olddeps;
156   return repo_addid_dep(repo, olddeps, id, marker);
157 }
158
159
160 /* put data from control file into the solvable */
161 /* warning: does inplace changes */
162 static void
163 control2solvable(Solvable *s, Repodata *data, char *control)
164 {
165   Repo *repo = s->repo;
166   Pool *pool = repo->pool;
167   char *p, *q, *end, *tag;
168   int x, l;
169   int havesource = 0;
170   char checksum[32 * 2 + 1];
171   Id checksumtype = 0;
172
173   p = control;
174   while (*p)
175     {
176       p = strchr(p, '\n');
177       if (!p)
178         break;
179       if (p[1] == ' ' || p[1] == '\t')
180         {
181           char *q;
182           /* continuation line */
183           q = p - 1;
184           while (q >= control && *q == ' ' && *q == '\t')
185             q--;
186           l = q + 1 - control;
187           if (l)
188             memmove(p + 1 - l, control, l);
189           control = p + 1 - l;
190           p[1] = '\n';
191           p += 2;
192           continue;
193         }
194       end = p - 1;
195       if (*p)
196         *p++ = 0;
197       /* strip trailing space */
198       while (end >= control && *end == ' ' && *end == '\t')
199         *end-- = 0;
200       tag = control;
201       control = p;
202       q = strchr(tag, ':');
203       if (!q || q - tag < 4)
204         continue;
205       *q++ = 0;
206       while (*q == ' ' || *q == '\t')
207         q++;
208       x = '@' + (tag[0] & 0x1f);
209       x = (x << 8) + '@' + (tag[1] & 0x1f);
210       switch(x)
211         {
212         case 'A' << 8 | 'R':
213           if (!strcasecmp(tag, "architecture"))
214             s->arch = str2id(pool, q, 1);
215           break;
216         case 'B' << 8 | 'R':
217           if (!strcasecmp(tag, "breaks"))
218             s->conflicts = makedeps(repo, q, s->conflicts, 0);
219           break;
220         case 'C' << 8 | 'O':
221           if (!strcasecmp(tag, "conflicts"))
222             s->conflicts = makedeps(repo, q, s->conflicts, 0);
223           break;
224         case 'D' << 8 | 'E':
225           if (!strcasecmp(tag, "depends"))
226             s->requires = makedeps(repo, q, s->requires, -SOLVABLE_PREREQMARKER);
227           else if (!strcasecmp(tag, "description"))
228             {
229               char *ld = strchr(q, '\n');
230               if (ld)
231                 {
232                   *ld++ = 0;
233                   repodata_set_str(data, s - pool->solvables, SOLVABLE_DESCRIPTION, ld);
234                 }
235               else
236                 repodata_set_str(data, s - pool->solvables, SOLVABLE_DESCRIPTION, q);
237               repodata_set_str(data, s - pool->solvables, SOLVABLE_SUMMARY, q);
238             }
239           break;
240         case 'E' << 8 | 'N':
241           if (!strcasecmp(tag, "enhances"))
242             s->enhances = makedeps(repo, q, s->enhances, 0);
243           break;
244         case 'F' << 8 | 'I':
245           if (!strcasecmp(tag, "filename"))
246             repodata_set_location(data, s - pool->solvables, 0, 0, q);
247           break;
248         case 'H' << 8 | 'O':
249           if (!strcasecmp(tag, "homepage"))
250             repodata_set_str(data, s - pool->solvables, SOLVABLE_URL, q);
251           break;
252         case 'I' << 8 | 'N':
253           if (!strcasecmp(tag, "installed-size"))
254             repodata_set_num(data, s - pool->solvables, SOLVABLE_INSTALLSIZE, atoi(q));
255           break;
256         case 'M' << 8 | 'D':
257           if (!strcasecmp(tag, "md5sum") && !checksumtype && strlen(q) == 16 * 2)
258             {
259               strcpy(checksum, q);
260               checksumtype = REPOKEY_TYPE_MD5;
261             }
262           break;
263         case 'P' << 8 | 'A':
264           if (!strcasecmp(tag, "package"))
265             s->name = str2id(pool, q, 1);
266           break;
267         case 'P' << 8 | 'R':
268           if (!strcasecmp(tag, "pre-depends"))
269             s->requires = makedeps(repo, q, s->requires, SOLVABLE_PREREQMARKER);
270           else if (!strcasecmp(tag, "provides"))
271             s->provides = makedeps(repo, q, s->provides, 0);
272           break;
273         case 'R' << 8 | 'E':
274           if (!strcasecmp(tag, "replaces"))
275             s->obsoletes = makedeps(repo, q, s->conflicts, 0);
276           else if (!strcasecmp(tag, "recommends"))
277             s->recommends = makedeps(repo, q, s->recommends, 0);
278           break;
279         case 'S' << 8 | 'H':
280           if (!strcasecmp(tag, "sha1") && checksumtype != REPOKEY_TYPE_SHA256 && strlen(q) == 20 * 2)
281             {
282               strcpy(checksum, q);
283               checksumtype = REPOKEY_TYPE_SHA1;
284             }
285           else if (!strcasecmp(tag, "sha256") && strlen(q) == 32 * 2)
286             {
287               strcpy(checksum, q);
288               checksumtype = REPOKEY_TYPE_SHA256;
289             }
290           break;
291         case 'S' << 8 | 'O':
292           if (!strcasecmp(tag, "source"))
293             {
294               char *q2;
295               /* ignore version for now */
296               for (q2 = q; *q2; q2++)
297                 if (*q2 == ' ' || *q2 == '\t')
298                   {
299                     *q2 = 0;
300                     break;
301                   }
302               if (s->name && !strcmp(q, id2str(pool, s->name)))
303                 repodata_set_void(data, s - pool->solvables, SOLVABLE_SOURCENAME);
304               else
305                 repodata_set_id(data, s - pool->solvables, SOLVABLE_SOURCENAME, str2id(pool, q, 1));
306               havesource = 1;
307             }
308           break;
309         case 'S' << 8 | 'U':
310           if (!strcasecmp(tag, "suggests"))
311             s->suggests = makedeps(repo, q, s->suggests, 0);
312           break;
313         case 'V' << 8 | 'E':
314           if (!strcasecmp(tag, "version"))
315             s->evr = str2id(pool, q, 1);
316           break;
317         }
318     }
319   if (checksumtype)
320     repodata_set_checksum(data, s - pool->solvables, SOLVABLE_CHECKSUM, checksumtype, checksum);
321   if (!s->arch)
322     s->arch = ARCH_ALL;
323   if (!s->evr)
324     s->evr = ID_EMPTY;
325   if (s->name)
326     s->provides = repo_addid_dep(repo, s->provides, rel2id(pool, s->name, s->evr, REL_EQ, 1), 0);
327   if (s->name && !havesource)
328     repodata_set_void(data, s - pool->solvables, SOLVABLE_SOURCENAME);
329   if (s->obsoletes)
330     {
331       /* obsoletes only count when the packages also conflict */
332       int i, j, k;
333       Id d;
334       for (i = j = s->obsoletes; (d = repo->idarraydata[i]) != 0; i++)
335         {
336           if (s->conflicts)
337             {
338               for (k = s->conflicts; repo->idarraydata[k] != 0; k++)
339                 if (repo->idarraydata[k] == d)
340                   break;
341               if (repo->idarraydata[k])
342                 {
343                   repo->idarraydata[j++] = d;
344                 }
345             }
346         }
347       repo->idarraydata[j] = 0;
348     }
349 }
350
351 void
352 repo_add_debpackages(Repo *repo, FILE *fp, int flags)
353 {
354   Pool *pool = repo->pool;
355   Repodata *data;
356   char *buf, *p;
357   int bufl, l, ll;
358   Solvable *s;
359
360   data = repo_add_repodata(repo, flags);
361   buf = sat_malloc(4096);
362   bufl = 4096;
363   l = 0;
364   buf[l] = 0;
365   p = buf;
366   for (;;)
367     {
368       if (!(p = strchr(p, '\n')))
369         {
370           int l3;
371           if (l + 1024 >= bufl)
372             {
373               buf = sat_realloc(buf, bufl + 4096);
374               bufl += 4096;
375               p = buf + l;
376               continue;
377             }
378           p = buf + l;
379           ll = fread(p, 1, bufl - l - 1, fp);
380           if (ll <= 0)
381             break;
382           p[ll] = 0;
383           while ((l3 = strlen(p)) < ll)
384             p[l3] = '\n';
385           l += ll;
386           continue;
387         }
388       p++;
389       if (*p != '\n')
390         continue;
391       *p = 0;
392       ll = p - buf + 1;
393       s = pool_id2solvable(pool, repo_add_solvable(repo));
394       control2solvable(s, data, buf);
395       if (!s->name)
396         repo_free_solvable_block(repo, s - pool->solvables, 1, 1);
397       if (l > ll)
398         memmove(buf, p + 1, l - ll);
399       l -= ll;
400       p = buf;
401       buf[l] = 0;
402     }
403   if (l)
404     {
405       s = pool_id2solvable(pool, repo_add_solvable(repo));
406       control2solvable(s, data, buf);
407       if (!s->name)
408         repo_free_solvable_block(repo, s - pool->solvables, 1, 1);
409     }
410   sat_free(buf);
411   if (!(flags & REPO_NO_INTERNALIZE))
412     repodata_internalize(data);
413 }
414
415 void
416 repo_add_debs(Repo *repo, const char **debs, int ndebs, int flags)
417 {
418   Pool *pool = repo->pool;
419   Repodata *data;
420   unsigned char buf[4096], *bp;
421   int i, l, l2, vlen, clen, ctarlen;
422   unsigned char *ctgz;
423   unsigned char pkgid[16];
424   unsigned char *ctar;
425   int gotpkgid;
426   FILE *fp;
427   Solvable *s;
428   struct stat stb;
429
430   data = repo_add_repodata(repo, flags);
431   for (i = 0; i < ndebs; i++)
432     {
433       if ((fp = fopen(debs[i], "r")) == 0)
434         {
435           perror(debs[i]);
436           continue;
437         }
438       if (fstat(fileno(fp), &stb))
439         {
440           perror("stat");
441           continue;
442         }
443       l = fread(buf, 1, sizeof(buf), fp);
444       if (l < 8 + 60 || strncmp((char *)buf, "!<arch>\ndebian-binary   ", 8 + 16) != 0)
445         {
446           fprintf(stderr, "%s: not a deb package\n", debs[i]);
447           fclose(fp);
448           continue;
449         }
450       vlen = atoi((char *)buf + 8 + 48);
451       if (vlen < 0 || vlen > l)
452         {
453           fprintf(stderr, "%s: not a deb package\n", debs[i]);
454           fclose(fp);
455           continue;
456         }
457       vlen += vlen & 1;
458       if (l < 8 + 60 + vlen + 60)
459         {
460           fprintf(stderr, "%s: unhandled deb package\n", debs[i]);
461           fclose(fp);
462           continue;
463         }
464       if (strncmp((char *)buf + 8 + 60 + vlen, "control.tar.gz  ", 16) != 0)
465         {
466           fprintf(stderr, "%s: control.tar.gz is not second entry\n", debs[i]);
467           fclose(fp);
468           continue;
469         }
470       clen = atoi((char *)buf + 8 + 60 + vlen + 48);
471       if (clen <= 0)
472         {
473           fprintf(stderr, "%s: control.tar.gz has illegal size\n", debs[i]);
474           fclose(fp);
475           continue;
476         }
477       ctgz = sat_calloc(1, clen + 4);
478       bp = buf + 8 + 60 + vlen + 60;
479       l -= 8 + 60 + vlen + 60;
480       if (l > clen)
481         l = clen;
482       if (l)
483         memcpy(ctgz, bp, l);
484       if (l < clen)
485         {
486           if (fread(ctgz + l, clen - l, 1, fp) != 1)
487             {
488               fprintf(stderr, "%s: unexpected EOF\n", debs[i]);
489               sat_free(ctgz);
490               fclose(fp);
491               continue;
492             }
493         }
494       fclose(fp);
495       gotpkgid = 0;
496       if (flags & DEBS_ADD_WITH_PKGID)
497         {
498           void *handle = sat_chksum_create(REPOKEY_TYPE_MD5);
499           sat_chksum_add(handle, ctgz, clen);
500           sat_chksum_free(handle, pkgid);
501           gotpkgid = 1;
502         }
503       if (ctgz[0] != 0x1f || ctgz[1] != 0x8b)
504         {
505           fprintf(stderr, "%s: control.tar.gz is not gzipped\n", debs[i]);
506           sat_free(ctgz);
507           continue;
508         }
509       if (ctgz[2] != 8 || (ctgz[3] & 0xe0) != 0)
510         {
511           fprintf(stderr, "%s: control.tar.gz is compressed in a strange way\n", debs[i]);
512           sat_free(ctgz);
513           continue;
514         }
515       bp = ctgz + 4;
516       bp += 6;  /* skip time, xflags and OS code */
517       if (ctgz[3] & 0x04)
518         {
519           /* skip extra field */
520           l = bp[0] | bp[1] << 8;
521           bp += l + 2;
522           if (bp >= ctgz + clen)
523             {
524               fprintf(stderr, "%s: corrupt gzip\n", debs[i]);
525               sat_free(ctgz);
526               continue;
527             }
528         }
529       if (ctgz[3] & 0x08)       /* orig filename */
530         while (*bp)
531           bp++;
532       if (ctgz[3] & 0x10)       /* file comment */
533         while (*bp)
534           bp++;
535       if (ctgz[3] & 0x02)       /* header crc */
536         bp += 2;
537       if (bp >= ctgz + clen)
538         {
539           fprintf(stderr, "%s: corrupt control.tar.gz\n", debs[i]);
540           sat_free(ctgz);
541           continue;
542         }
543       ctar = decompress(bp, ctgz + clen - bp, &ctarlen);
544       sat_free(ctgz);
545       if (!ctar)
546         {
547           fprintf(stderr, "%s: corrupt control.tar.gz\n", debs[i]);
548           continue;
549         }
550       bp = ctar;
551       l = ctarlen;
552       while (l > 512)
553         {
554           int j;
555           l2 = 0;
556           for (j = 124; j < 124 + 12; j++)
557             if (bp[j] >= '0' && bp[j] <= '7')
558               l2 = l2 * 8 + (bp[j] - '0');
559           if (!strcmp((char *)bp, "./control"))
560             break;
561           l2 = 512 + ((l2 + 511) & ~511);
562           l -= l2;
563           bp += l2;
564         }
565       if (l <= 512 || l - 512 - l2 <= 0 || l2 <= 0)
566         {
567           fprintf(stderr, "%s: control.tar.gz contains no ./control file\n", debs[i]);
568           free(ctar);
569           continue;
570         }
571       memmove(ctar, bp + 512, l2);
572       ctar = sat_realloc(ctar, l2 + 1);
573       ctar[l2] = 0;
574       s = pool_id2solvable(pool, repo_add_solvable(repo));
575       control2solvable(s, data, (char *)ctar);
576       repodata_set_location(data, s - pool->solvables, 0, 0, debs[i]);
577       if (S_ISREG(stb.st_mode))
578         repodata_set_num(data, s - pool->solvables, SOLVABLE_DOWNLOADSIZE, (unsigned int)((stb.st_size + 1023) / 1024));
579       if (gotpkgid)
580         repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_PKGID, REPOKEY_TYPE_MD5, pkgid);
581       sat_free(ctar);
582     }
583   if (!(flags & REPO_NO_INTERNALIZE))
584     repodata_internalize(data);
585 }