add repodata_translate_id to get rid of some "implement me" assertions
[platform/upstream/libsolv.git] / ext / repo_rpmdb.c
1 /*
2  * Copyright (c) 2007-2012, Novell Inc.
3  *
4  * This program is licensed under the BSD license, read LICENSE.BSD
5  * for further information
6  */
7
8 /*
9  * repo_rpmdb
10  *
11  * convert rpm db to repo
12  *
13  */
14
15 #include <sys/types.h>
16 #include <sys/stat.h>
17 #include <limits.h>
18 #include <fcntl.h>
19 #include <stdio.h>
20 #include <stdlib.h>
21 #include <string.h>
22 #include <unistd.h>
23 #include <assert.h>
24 #include <stdint.h>
25 #include <errno.h>
26
27 #include <rpm/rpmio.h>
28 #include <rpm/rpmpgp.h>
29 #ifndef RPM5
30 #include <rpm/header.h>
31 #endif
32 #include <rpm/rpmdb.h>
33
34 #ifndef DB_CREATE
35 # if defined(SUSE) || defined(HAVE_RPM_DB_H)
36 #  include <rpm/db.h>
37 # else
38 #  include <db.h>
39 # endif
40 #endif
41
42 #include "pool.h"
43 #include "repo.h"
44 #include "hash.h"
45 #include "util.h"
46 #include "queue.h"
47 #include "chksum.h"
48 #include "repo_rpmdb.h"
49 #include "repo_solv.h"
50
51 /* 3: added triggers */
52 /* 4: fixed triggers */
53 #define RPMDB_COOKIE_VERSION 4
54
55 #define TAG_NAME                1000
56 #define TAG_VERSION             1001
57 #define TAG_RELEASE             1002
58 #define TAG_EPOCH               1003
59 #define TAG_SUMMARY             1004
60 #define TAG_DESCRIPTION         1005
61 #define TAG_BUILDTIME           1006
62 #define TAG_BUILDHOST           1007
63 #define TAG_INSTALLTIME         1008
64 #define TAG_SIZE                1009
65 #define TAG_DISTRIBUTION        1010
66 #define TAG_VENDOR              1011
67 #define TAG_LICENSE             1014
68 #define TAG_PACKAGER            1015
69 #define TAG_GROUP               1016
70 #define TAG_URL                 1020
71 #define TAG_ARCH                1022
72 #define TAG_FILESIZES           1028
73 #define TAG_FILEMODES           1030
74 #define TAG_FILEMD5S            1035
75 #define TAG_FILELINKTOS         1036
76 #define TAG_FILEFLAGS           1037
77 #define TAG_SOURCERPM           1044
78 #define TAG_PROVIDENAME         1047
79 #define TAG_REQUIREFLAGS        1048
80 #define TAG_REQUIRENAME         1049
81 #define TAG_REQUIREVERSION      1050
82 #define TAG_NOSOURCE            1051
83 #define TAG_NOPATCH             1052
84 #define TAG_CONFLICTFLAGS       1053
85 #define TAG_CONFLICTNAME        1054
86 #define TAG_CONFLICTVERSION     1055
87 #define TAG_TRIGGERNAME         1066
88 #define TAG_TRIGGERVERSION      1067
89 #define TAG_TRIGGERFLAGS        1068
90 #define TAG_CHANGELOGTIME       1080
91 #define TAG_CHANGELOGNAME       1081
92 #define TAG_CHANGELOGTEXT       1082
93 #define TAG_OBSOLETENAME        1090
94 #define TAG_FILEDEVICES         1095
95 #define TAG_FILEINODES          1096
96 #define TAG_SOURCEPACKAGE       1106
97 #define TAG_PROVIDEFLAGS        1112
98 #define TAG_PROVIDEVERSION      1113
99 #define TAG_OBSOLETEFLAGS       1114
100 #define TAG_OBSOLETEVERSION     1115
101 #define TAG_DIRINDEXES          1116
102 #define TAG_BASENAMES           1117
103 #define TAG_DIRNAMES            1118
104 #define TAG_PAYLOADFORMAT       1124
105 #define TAG_PATCHESNAME         1133
106 #define TAG_FILECOLORS          1140
107 #define TAG_SUGGESTSNAME        1156
108 #define TAG_SUGGESTSVERSION     1157
109 #define TAG_SUGGESTSFLAGS       1158
110 #define TAG_ENHANCESNAME        1159
111 #define TAG_ENHANCESVERSION     1160
112 #define TAG_ENHANCESFLAGS       1161
113
114 /* rpm5 tags */
115 #define TAG_DISTEPOCH           1218
116
117 /* rpm4 tags */
118 #define TAG_LONGFILESIZES       5008
119 #define TAG_LONGSIZE            5009
120
121 /* signature tags */
122 #define TAG_SIGBASE             256
123 #define TAG_SIGMD5              (TAG_SIGBASE + 5)
124 #define TAG_SHA1HEADER          (TAG_SIGBASE + 13)
125
126 #define SIGTAG_SIZE             1000
127 #define SIGTAG_PGP              1002    /* RSA signature */
128 #define SIGTAG_MD5              1004    /* header+payload md5 checksum */
129 #define SIGTAG_GPG              1005    /* DSA signature */
130
131 #define DEP_LESS                (1 << 1)
132 #define DEP_GREATER             (1 << 2)
133 #define DEP_EQUAL               (1 << 3)
134 #define DEP_STRONG              (1 << 27)
135 #define DEP_PRE                 ((1 << 6) | (1 << 9) | (1 << 10) | (1 << 11) | (1 << 12))
136
137 #define FILEFLAG_GHOST          (1 <<  6)
138
139
140 #ifdef RPM5
141 # define RPM_INDEX_SIZE 4
142 #else
143 # define RPM_INDEX_SIZE 8
144 #endif
145
146
147 typedef struct rpmhead {
148   int cnt;
149   int dcnt;
150   unsigned char *dp;
151   int forcebinary;              /* sigh */
152   unsigned char data[1];
153 } RpmHead;
154
155
156 static inline unsigned char *
157 headfindtag(RpmHead *h, int tag)
158 {
159   unsigned int i;
160   unsigned char *d, taga[4];
161   d = h->dp - 16;
162   taga[0] = tag >> 24;
163   taga[1] = tag >> 16;
164   taga[2] = tag >> 8;
165   taga[3] = tag;
166   for (i = 0; i < h->cnt; i++, d -= 16)
167     if (d[3] == taga[3] && d[2] == taga[2] && d[1] == taga[1] && d[0] == taga[0])
168       return d;
169   return 0;
170 }
171
172 static int
173 headexists(RpmHead *h, int tag)
174 {
175   return headfindtag(h, tag) ? 1 : 0;
176 }
177
178 static unsigned int *
179 headint32array(RpmHead *h, int tag, int *cnt)
180 {
181   unsigned int i, o, *r;
182   unsigned char *d = headfindtag(h, tag);
183
184   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 4)
185     return 0;
186   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
187   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
188   if (o + 4 * i > h->dcnt)
189     return 0;
190   d = h->dp + o;
191   r = solv_calloc(i ? i : 1, sizeof(unsigned int));
192   if (cnt)
193     *cnt = i;
194   for (o = 0; o < i; o++, d += 4)
195     r[o] = d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
196   return r;
197 }
198
199 /* returns the first entry of an integer array */
200 static unsigned int
201 headint32(RpmHead *h, int tag)
202 {
203   unsigned int i, o;
204   unsigned char *d = headfindtag(h, tag);
205
206   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 4)
207     return 0;
208   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
209   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
210   if (i == 0 || o + 4 * i > h->dcnt)
211     return 0;
212   d = h->dp + o;
213   return d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
214 }
215
216 /* returns the first entry of an 64bit integer array */
217 static unsigned long long
218 headint64(RpmHead *h, int tag)
219 {
220   unsigned int i, o;
221   unsigned char *d = headfindtag(h, tag);
222   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 5)
223     return 0;
224   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
225   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
226   if (i == 0 || o + 8 * i > h->dcnt)
227     return 0;
228   d = h->dp + o;
229   i = d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
230   return (unsigned long long)i << 32 | (d[4] << 24 | d[5] << 16 | d[6] << 8 | d[7]);
231 }
232
233 static unsigned int *
234 headint16array(RpmHead *h, int tag, int *cnt)
235 {
236   unsigned int i, o, *r;
237   unsigned char *d = headfindtag(h, tag);
238
239   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 3)
240     return 0;
241   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
242   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
243   if (o + 4 * i > h->dcnt)
244     return 0;
245   d = h->dp + o;
246   r = solv_calloc(i ? i : 1, sizeof(unsigned int));
247   if (cnt)
248     *cnt = i;
249   for (o = 0; o < i; o++, d += 2)
250     r[o] = d[0] << 8 | d[1];
251   return r;
252 }
253
254 static char *
255 headstring(RpmHead *h, int tag)
256 {
257   unsigned int o;
258   unsigned char *d = headfindtag(h, tag);
259   /* 6: STRING, 9: I18NSTRING */
260   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || (d[7] != 6 && d[7] != 9))
261     return 0;
262   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
263   if (o >= h->dcnt)
264     return 0;
265   return (char *)h->dp + o;
266 }
267
268 static char **
269 headstringarray(RpmHead *h, int tag, int *cnt)
270 {
271   unsigned int i, o;
272   unsigned char *d = headfindtag(h, tag);
273   char **r;
274
275   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 8)
276     return 0;
277   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
278   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
279   r = solv_calloc(i ? i : 1, sizeof(char *));
280   if (cnt)
281     *cnt = i;
282   d = h->dp + o;
283   for (o = 0; o < i; o++)
284     {
285       r[o] = (char *)d;
286       if (o + 1 < i)
287         d += strlen((char *)d) + 1;
288       if (d >= h->dp + h->dcnt)
289         {
290           solv_free(r);
291           return 0;
292         }
293     }
294   return r;
295 }
296
297 static unsigned char *
298 headbinary(RpmHead *h, int tag, unsigned int *sizep)
299 {
300   unsigned int i, o;
301   unsigned char *d = headfindtag(h, tag);
302   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 7)
303     return 0;
304   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
305   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
306   if (o > h->dcnt || o + i < o || o + i > h->dcnt)
307     return 0;
308   if (sizep)
309     *sizep = i;
310   return h->dp + o;
311 }
312
313 static char *headtoevr(RpmHead *h)
314 {
315   unsigned int epoch;
316   char *version, *v;
317   char *release;
318   char *evr;
319   char *distepoch;
320
321   version  = headstring(h, TAG_VERSION);
322   release  = headstring(h, TAG_RELEASE);
323   epoch = headint32(h, TAG_EPOCH);
324   if (!version || !release)
325     {
326       fprintf(stderr, "headtoevr: bad rpm header\n");
327       return 0;
328     }
329   for (v = version; *v >= '0' && *v <= '9'; v++)
330     ;
331   if (epoch || (v != version && *v == ':'))
332     {
333       char epochbuf[11];        /* 32bit decimal will fit in */
334       sprintf(epochbuf, "%u", epoch);
335       evr = solv_malloc(strlen(epochbuf) + 1 + strlen(version) + 1 + strlen(release) + 1);
336       sprintf(evr, "%s:%s-%s", epochbuf, version, release);
337     }
338   else
339     {
340       evr = solv_malloc(strlen(version) + 1 + strlen(release) + 1);
341       sprintf(evr, "%s-%s", version, release);
342     }
343   distepoch = headstring(h, TAG_DISTEPOCH);
344   if (distepoch && *distepoch)
345     {
346       int l = strlen(evr);
347       evr = solv_realloc(evr, l + strlen(distepoch) + 2);
348       evr[l++] = ':';
349       strcpy(evr + l, distepoch);
350     }
351   return evr;
352 }
353
354
355 static void
356 setutf8string(Repodata *repodata, Id handle, Id tag, const char *str)
357 {
358   const unsigned char *cp;
359   int state = 0;
360   int c;
361   unsigned char *buf = 0, *bp;
362
363   /* check if it's already utf8, code taken from screen ;-) */
364   cp = (const unsigned char *)str;
365   while ((c = *cp++) != 0)
366     {
367       if (state)
368         {
369           if ((c & 0xc0) != 0x80)
370             break; /* encoding error */
371           c = (c & 0x3f) | (state << 6);
372           if (!(state & 0x40000000))
373             {
374               /* check for overlong sequences */
375               if ((c & 0x820823e0) == 0x80000000)
376                 break;
377               else if ((c & 0x020821f0) == 0x02000000)
378                 break;
379               else if ((c & 0x000820f8) == 0x00080000)
380                 break;
381               else if ((c & 0x0000207c) == 0x00002000)
382                 break;
383             }
384         }
385       else
386         {
387           /* new sequence */
388           if (c >= 0xfe)
389             break;
390           else if (c >= 0xfc)
391             c = (c & 0x01) | 0xbffffffc;    /* 5 bytes to follow */
392           else if (c >= 0xf8)
393             c = (c & 0x03) | 0xbfffff00;    /* 4 */
394           else if (c >= 0xf0)
395             c = (c & 0x07) | 0xbfffc000;    /* 3 */
396           else if (c >= 0xe0)
397             c = (c & 0x0f) | 0xbff00000;    /* 2 */
398           else if (c >= 0xc2)
399             c = (c & 0x1f) | 0xfc000000;    /* 1 */
400           else if (c >= 0x80)
401             break;
402         }
403       state = (c & 0x80000000) ? c : 0;
404     }
405   if (c)
406     {
407       /* not utf8, assume latin1 */
408       buf = solv_malloc(2 * strlen(str) + 1);
409       cp = (const unsigned char *)str;
410       str = (char *)buf;
411       bp = buf;
412       while ((c = *cp++) != 0)
413         {
414           if (c >= 0xc0)
415             {
416               *bp++ = 0xc3;
417               c ^= 0x80;
418             }
419           else if (c >= 0x80)
420             *bp++ = 0xc2;
421           *bp++ = c;
422         }
423       *bp++ = 0;
424     }
425   repodata_set_str(repodata, handle, tag, str);
426   if (buf)
427     solv_free(buf);
428 }
429
430
431 #define MAKEDEPS_FILTER_WEAK    (1 << 0)
432 #define MAKEDEPS_FILTER_STRONG  (1 << 1)
433 #define MAKEDEPS_NO_RPMLIB      (1 << 2)
434
435 /*
436  * strong: 0: ignore strongness
437  *         1: filter to strong
438  *         2: filter to weak
439  */
440 static unsigned int
441 makedeps(Pool *pool, Repo *repo, RpmHead *rpmhead, int tagn, int tagv, int tagf, int flags)
442 {
443   char **n, **v;
444   unsigned int *f;
445   int i, cc, nc, vc, fc;
446   int haspre;
447   unsigned int olddeps;
448   Id *ida;
449   int strong;
450
451   strong = flags & (MAKEDEPS_FILTER_STRONG|MAKEDEPS_FILTER_WEAK);
452   n = headstringarray(rpmhead, tagn, &nc);
453   if (!n || !nc)
454     return 0;
455   vc = fc = 0;
456   v = headstringarray(rpmhead, tagv, &vc);
457   f = headint32array(rpmhead, tagf, &fc);
458   if (!v || !f || nc != vc || nc != fc)
459     {
460       char *pkgname = rpm_query(rpmhead, 0);
461       pool_error(pool, 0, "bad dependency entries for %s: %d %d %d", pkgname ? pkgname : "<NULL>", nc, vc, fc);
462       solv_free(pkgname);
463       solv_free(n);
464       solv_free(v);
465       solv_free(f);
466       return 0;
467     }
468
469   cc = nc;
470   haspre = 0;   /* add no prereq marker */
471   if (flags)
472     {
473       /* we do filtering */
474       cc = 0;
475       for (i = 0; i < nc; i++)
476         {
477           if (strong && (f[i] & DEP_STRONG) != (strong == MAKEDEPS_FILTER_WEAK ? 0 : DEP_STRONG))
478             continue;
479           if ((flags & MAKEDEPS_NO_RPMLIB) != 0)
480             if (!strncmp(n[i], "rpmlib(", 7))
481               continue;
482           if ((f[i] & DEP_PRE) != 0)
483             haspre = 1;
484           cc++;
485         }
486     }
487   else if (tagn == TAG_REQUIRENAME)
488     {
489       /* no filtering, just look for the first prereq */
490       for (i = 0; i < nc; i++)
491         if ((f[i] & DEP_PRE) != 0)
492           {
493             haspre = 1;
494             break;
495           }
496     }
497   if (cc == 0)
498     {
499       solv_free(n);
500       solv_free(v);
501       solv_free(f);
502       return 0;
503     }
504   cc += haspre;
505   olddeps = repo_reserve_ids(repo, 0, cc);
506   ida = repo->idarraydata + olddeps;
507   for (i = 0; ; i++)
508     {
509       if (i == nc)
510         {
511           if (haspre != 1)
512             break;
513           haspre = 2;   /* pass two: prereqs */
514           i = 0;
515           *ida++ = SOLVABLE_PREREQMARKER;
516         }
517       if (strong && (f[i] & DEP_STRONG) != (strong == MAKEDEPS_FILTER_WEAK ? 0 : DEP_STRONG))
518         continue;
519       if (haspre == 1 && (f[i] & DEP_PRE) != 0)
520         continue;
521       if (haspre == 2 && (f[i] & DEP_PRE) == 0)
522         continue;
523       if ((flags & MAKEDEPS_NO_RPMLIB) != 0)
524         if (!strncmp(n[i], "rpmlib(", 7))
525           continue;
526       if (f[i] & (DEP_LESS|DEP_GREATER|DEP_EQUAL))
527         {
528           Id name, evr;
529           int flags = 0;
530           if ((f[i] & DEP_LESS) != 0)
531             flags |= 4;
532           if ((f[i] & DEP_EQUAL) != 0)
533             flags |= 2;
534           if ((f[i] & DEP_GREATER) != 0)
535             flags |= 1;
536           name = pool_str2id(pool, n[i], 1);
537           if (v[i][0] == '0' && v[i][1] == ':' && v[i][2])
538             evr = pool_str2id(pool, v[i] + 2, 1);
539           else
540             evr = pool_str2id(pool, v[i], 1);
541           *ida++ = pool_rel2id(pool, name, evr, flags, 1);
542         }
543       else
544         *ida++ = pool_str2id(pool, n[i], 1);
545     }
546   *ida++ = 0;
547   repo->idarraysize += cc + 1;
548   solv_free(n);
549   solv_free(v);
550   solv_free(f);
551   return olddeps;
552 }
553
554
555 static void
556 adddudata(Repodata *data, Id handle, RpmHead *rpmhead, char **dn, unsigned int *di, int fc, int dc)
557 {
558   Id did;
559   int i, fszc;
560   unsigned int *fkb, *fn, *fsz, *fm, *fino;
561   unsigned int inotest[256], inotestok;
562
563   if (!fc)
564     return;
565   /* XXX: use TAG_LONGFILESIZES if available */
566   fsz = headint32array(rpmhead, TAG_FILESIZES, &fszc);
567   if (!fsz || fc != fszc)
568     {
569       solv_free(fsz);
570       return;
571     }
572   /* stupid rpm records sizes of directories, so we have to check the mode */
573   fm = headint16array(rpmhead, TAG_FILEMODES, &fszc);
574   if (!fm || fc != fszc)
575     {
576       solv_free(fsz);
577       solv_free(fm);
578       return;
579     }
580   fino = headint32array(rpmhead, TAG_FILEINODES, &fszc);
581   if (!fino || fc != fszc)
582     {
583       solv_free(fsz);
584       solv_free(fm);
585       solv_free(fino);
586       return;
587     }
588   inotestok = 0;
589   if (fc < sizeof(inotest))
590     {
591       memset(inotest, 0, sizeof(inotest));
592       for (i = 0; i < fc; i++)
593         {
594           int off, bit;
595           if (fsz[i] == 0 || !S_ISREG(fm[i]))
596             continue;
597           off = (fino[i] >> 5) & (sizeof(inotest)/sizeof(*inotest) - 1);
598           bit = 1 << (fino[i] & 31);
599           if ((inotest[off] & bit) != 0)
600             break;
601           inotest[off] |= bit;
602         }
603       if (i == fc)
604         inotestok = 1;
605     }
606   if (!inotestok)
607     {
608       unsigned int *fdev = headint32array(rpmhead, TAG_FILEDEVICES, &fszc);
609       unsigned int *fx, j;
610       unsigned int mask, hash, hh;
611       if (!fdev || fc != fszc)
612         {
613           solv_free(fsz);
614           solv_free(fm);
615           solv_free(fdev);
616           solv_free(fino);
617           return;
618         }
619       mask = fc;
620       while ((mask & (mask - 1)) != 0)
621         mask = mask & (mask - 1);
622       mask <<= 2;
623       if (mask > sizeof(inotest)/sizeof(*inotest))
624         fx = solv_calloc(mask, sizeof(unsigned int));
625       else
626         {
627           fx = inotest;
628           memset(fx, 0, mask * sizeof(unsigned int));
629         }
630       mask--;
631       for (i = 0; i < fc; i++)
632         {
633           if (fsz[i] == 0 || !S_ISREG(fm[i]))
634             continue;
635           hash = (fino[i] + fdev[i] * 31) & mask;
636           hh = 7;
637           while ((j = fx[hash]) != 0)
638             {
639               if (fino[j - 1] == fino[i] && fdev[j - 1] == fdev[i])
640                 {
641                   fsz[i] = 0;   /* kill entry */
642                   break;
643                 }
644               hash = (hash + hh++) & mask;
645             }
646           if (!j)
647             fx[hash] = i + 1;
648         }
649       if (fx != inotest)
650         solv_free(fx);
651       solv_free(fdev);
652     }
653   solv_free(fino);
654   fn = solv_calloc(dc, sizeof(unsigned int));
655   fkb = solv_calloc(dc, sizeof(unsigned int));
656   for (i = 0; i < fc; i++)
657     {
658       if (di[i] >= dc)
659         continue;
660       fn[di[i]]++;
661       if (fsz[i] == 0 || !S_ISREG(fm[i]))
662         continue;
663       fkb[di[i]] += fsz[i] / 1024 + 1;
664     }
665   solv_free(fsz);
666   solv_free(fm);
667   /* commit */
668   for (i = 0; i < dc; i++)
669     {
670       if (!fn[i])
671         continue;
672       if (!*dn[i])
673         {
674           Solvable *s = data->repo->pool->solvables + handle;
675           if (s->arch == ARCH_SRC || s->arch == ARCH_NOSRC)
676             did = repodata_str2dir(data, "/usr/src", 1);
677           else
678             continue;   /* work around rpm bug */
679         }
680       else
681         did = repodata_str2dir(data, dn[i], 1);
682       repodata_add_dirnumnum(data, handle, SOLVABLE_DISKUSAGE, did, fkb[i], fn[i]);
683     }
684   solv_free(fn);
685   solv_free(fkb);
686 }
687
688 static void
689 addfilelist(Repodata *data, Id handle, RpmHead *rpmhead)
690 {
691   char **bn;
692   char **dn;
693   unsigned int *di;
694   int bnc, dnc, dic;
695   int i;
696   Id lastdid = 0;
697   int lastdii = -1;
698
699   if (!data)
700     return;
701   bn = headstringarray(rpmhead, TAG_BASENAMES, &bnc);
702   if (!bn)
703     return;
704   dn = headstringarray(rpmhead, TAG_DIRNAMES, &dnc);
705   if (!dn)
706     {
707       solv_free(bn);
708       return;
709     }
710   di = headint32array(rpmhead, TAG_DIRINDEXES, &dic);
711   if (!di)
712     {
713       solv_free(bn);
714       solv_free(dn);
715       return;
716     }
717   if (bnc != dic)
718     {
719       pool_error(data->repo->pool, 0, "bad filelist");
720       return;
721     }
722
723   adddudata(data, handle, rpmhead, dn, di, bnc, dnc);
724
725   for (i = 0; i < bnc; i++)
726     {
727       Id did;
728       char *b = bn[i];
729
730       if (di[i] == lastdii)
731         did = lastdid;
732       else
733         {
734           did = repodata_str2dir(data, dn[di[i]], 1);
735           if (!did)
736             did = repodata_str2dir(data, "/", 1);
737           lastdid = did;
738           lastdii = di[i];
739         }
740       if (b && *b == '/')       /* work around rpm bug */
741         b++;
742       repodata_add_dirstr(data, handle, SOLVABLE_FILELIST, did, b);
743     }
744   solv_free(bn);
745   solv_free(dn);
746   solv_free(di);
747 }
748
749 static void
750 addchangelog(Repodata *data, Id handle, RpmHead *rpmhead)
751 {
752   char **cn;
753   char **cx;
754   unsigned int *ct;
755   int i, cnc, cxc, ctc;
756   Queue hq;
757
758   ct = headint32array(rpmhead, TAG_CHANGELOGTIME, &ctc);
759   cx = headstringarray(rpmhead, TAG_CHANGELOGTEXT, &cxc);
760   cn = headstringarray(rpmhead, TAG_CHANGELOGNAME, &cnc);
761   if (!ct || !cx || !cn || !ctc || ctc != cxc || ctc != cnc)
762     {
763       solv_free(ct);
764       solv_free(cx);
765       solv_free(cn);
766       return;
767     }
768   queue_init(&hq);
769   for (i = 0; i < ctc; i++)
770     {
771       Id h = repodata_new_handle(data);
772       if (ct[i])
773         repodata_set_num(data, h, SOLVABLE_CHANGELOG_TIME, ct[i]);
774       if (cn[i])
775         repodata_set_str(data, h, SOLVABLE_CHANGELOG_AUTHOR, cn[i]);
776       if (cx[i])
777         repodata_set_str(data, h, SOLVABLE_CHANGELOG_TEXT, cx[i]);
778       queue_push(&hq, h);
779     }
780   for (i = 0; i < hq.count; i++)
781     repodata_add_flexarray(data, handle, SOLVABLE_CHANGELOG, hq.elements[i]);
782   queue_free(&hq);
783   solv_free(ct);
784   solv_free(cx);
785   solv_free(cn);
786 }
787
788
789 static int
790 rpm2solv(Pool *pool, Repo *repo, Repodata *data, Solvable *s, RpmHead *rpmhead, int flags)
791 {
792   char *name;
793   char *evr;
794   char *sourcerpm;
795
796   name = headstring(rpmhead, TAG_NAME);
797   if (!name)
798     {
799       pool_error(pool, 0, "package has no name");
800       return 0;
801     }
802   if (!strcmp(name, "gpg-pubkey"))
803     return 0;
804   s->name = pool_str2id(pool, name, 1);
805   sourcerpm = headstring(rpmhead, TAG_SOURCERPM);
806   if (sourcerpm || (rpmhead->forcebinary && !headexists(rpmhead, TAG_SOURCEPACKAGE)))
807     s->arch = pool_str2id(pool, headstring(rpmhead, TAG_ARCH), 1);
808   else
809     {
810       if (headexists(rpmhead, TAG_NOSOURCE) || headexists(rpmhead, TAG_NOPATCH))
811         s->arch = ARCH_NOSRC;
812       else
813         s->arch = ARCH_SRC;
814     }
815   if (!s->arch)
816     s->arch = ARCH_NOARCH;
817   evr = headtoevr(rpmhead);
818   s->evr = pool_str2id(pool, evr, 1);
819   s->vendor = pool_str2id(pool, headstring(rpmhead, TAG_VENDOR), 1);
820
821   s->provides = makedeps(pool, repo, rpmhead, TAG_PROVIDENAME, TAG_PROVIDEVERSION, TAG_PROVIDEFLAGS, 0);
822   if (s->arch != ARCH_SRC && s->arch != ARCH_NOSRC)
823     s->provides = repo_addid_dep(repo, s->provides, pool_rel2id(pool, s->name, s->evr, REL_EQ, 1), 0);
824   s->requires = makedeps(pool, repo, rpmhead, TAG_REQUIRENAME, TAG_REQUIREVERSION, TAG_REQUIREFLAGS, (flags & RPM_ADD_NO_RPMLIBREQS) ? MAKEDEPS_NO_RPMLIB : 0);
825   s->conflicts = makedeps(pool, repo, rpmhead, TAG_CONFLICTNAME, TAG_CONFLICTVERSION, TAG_CONFLICTFLAGS, 0);
826   s->obsoletes = makedeps(pool, repo, rpmhead, TAG_OBSOLETENAME, TAG_OBSOLETEVERSION, TAG_OBSOLETEFLAGS, 0);
827
828   s->recommends = makedeps(pool, repo, rpmhead, TAG_SUGGESTSNAME, TAG_SUGGESTSVERSION, TAG_SUGGESTSFLAGS, MAKEDEPS_FILTER_STRONG);
829   s->suggests = makedeps(pool, repo, rpmhead, TAG_SUGGESTSNAME, TAG_SUGGESTSVERSION, TAG_SUGGESTSFLAGS, MAKEDEPS_FILTER_WEAK);
830   s->supplements = makedeps(pool, repo, rpmhead, TAG_ENHANCESNAME, TAG_ENHANCESVERSION, TAG_ENHANCESFLAGS, MAKEDEPS_FILTER_STRONG);
831   s->enhances  = makedeps(pool, repo, rpmhead, TAG_ENHANCESNAME, TAG_ENHANCESVERSION, TAG_ENHANCESFLAGS, MAKEDEPS_FILTER_WEAK);
832   s->supplements = repo_fix_supplements(repo, s->provides, s->supplements, 0);
833   s->conflicts = repo_fix_conflicts(repo, s->conflicts);
834
835   if (data)
836     {
837       Id handle;
838       char *str;
839       unsigned int u32;
840       unsigned long long u64;
841
842       handle = s - pool->solvables;
843       str = headstring(rpmhead, TAG_SUMMARY);
844       if (str)
845         setutf8string(data, handle, SOLVABLE_SUMMARY, str);
846       str = headstring(rpmhead, TAG_DESCRIPTION);
847       if (str)
848         {
849           char *aut, *p;
850           for (aut = str; (aut = strchr(aut, '\n')) != 0; aut++)
851             if (!strncmp(aut, "\nAuthors:\n--------\n", 19))
852               break;
853           if (aut)
854             {
855               /* oh my, found SUSE special author section */
856               int l = aut - str;
857               str = solv_strdup(str);
858               aut = str + l;
859               str[l] = 0;
860               while (l > 0 && str[l - 1] == '\n')
861                 str[--l] = 0;
862               if (l)
863                 setutf8string(data, handle, SOLVABLE_DESCRIPTION, str);
864               p = aut + 19;
865               aut = str;        /* copy over */
866               while (*p == ' ' || *p == '\n')
867                 p++;
868               while (*p)
869                 {
870                   if (*p == '\n')
871                     {
872                       *aut++ = *p++;
873                       while (*p == ' ')
874                         p++;
875                       continue;
876                     }
877                   *aut++ = *p++;
878                 }
879               while (aut != str && aut[-1] == '\n')
880                 aut--;
881               *aut = 0;
882               if (*str)
883                 setutf8string(data, handle, SOLVABLE_AUTHORS, str);
884               free(str);
885             }
886           else if (*str)
887             setutf8string(data, handle, SOLVABLE_DESCRIPTION, str);
888         }
889       str = headstring(rpmhead, TAG_GROUP);
890       if (str)
891         repodata_set_poolstr(data, handle, SOLVABLE_GROUP, str);
892       str = headstring(rpmhead, TAG_LICENSE);
893       if (str)
894         repodata_set_poolstr(data, handle, SOLVABLE_LICENSE, str);
895       str = headstring(rpmhead, TAG_URL);
896       if (str)
897         repodata_set_str(data, handle, SOLVABLE_URL, str);
898       str = headstring(rpmhead, TAG_DISTRIBUTION);
899       if (str)
900         repodata_set_poolstr(data, handle, SOLVABLE_DISTRIBUTION, str);
901       str = headstring(rpmhead, TAG_PACKAGER);
902       if (str)
903         repodata_set_poolstr(data, handle, SOLVABLE_PACKAGER, str);
904       if ((flags & RPM_ADD_WITH_PKGID) != 0)
905         {
906           unsigned char *chksum;
907           unsigned int chksumsize;
908           chksum = headbinary(rpmhead, TAG_SIGMD5, &chksumsize);
909           if (chksum && chksumsize == 16)
910             repodata_set_bin_checksum(data, handle, SOLVABLE_PKGID, REPOKEY_TYPE_MD5, chksum);
911         }
912       if ((flags & RPM_ADD_WITH_HDRID) != 0)
913         {
914           str = headstring(rpmhead, TAG_SHA1HEADER);
915           if (str && strlen(str) == 40)
916             repodata_set_checksum(data, handle, SOLVABLE_HDRID, REPOKEY_TYPE_SHA1, str);
917           else if (str && strlen(str) == 64)
918             repodata_set_checksum(data, handle, SOLVABLE_HDRID, REPOKEY_TYPE_SHA256, str);
919         }
920       u32 = headint32(rpmhead, TAG_BUILDTIME);
921       if (u32)
922         repodata_set_num(data, handle, SOLVABLE_BUILDTIME, u32);
923       u32 = headint32(rpmhead, TAG_INSTALLTIME);
924       if (u32)
925         repodata_set_num(data, handle, SOLVABLE_INSTALLTIME, u32);
926       u64 = headint64(rpmhead, TAG_LONGSIZE);
927       if (u64)
928         repodata_set_num(data, handle, SOLVABLE_INSTALLSIZE, u64);
929       else
930         {
931           u32 = headint32(rpmhead, TAG_SIZE);
932           if (u32)
933             repodata_set_num(data, handle, SOLVABLE_INSTALLSIZE, u32);
934         }
935       if (sourcerpm)
936         repodata_set_sourcepkg(data, handle, sourcerpm);
937       if ((flags & RPM_ADD_TRIGGERS) != 0)
938         {
939           Id id, lastid;
940           unsigned int ida = makedeps(pool, repo, rpmhead, TAG_TRIGGERNAME, TAG_TRIGGERVERSION, TAG_TRIGGERFLAGS, 0);
941
942           lastid = 0;
943           for (; (id = repo->idarraydata[ida]) != 0; ida++)
944             {
945               /* we currently do not support rel ids in incore data, so
946                * strip off versioning information */
947               while (ISRELDEP(id))
948                 {
949                   Reldep *rd = GETRELDEP(pool, id);
950                   id = rd->name;
951                 }
952               if (id == lastid)
953                 continue;
954               repodata_add_idarray(data, handle, SOLVABLE_TRIGGERS, id);
955               lastid = id;
956             }
957         }
958       if ((flags & RPM_ADD_NO_FILELIST) == 0)
959         addfilelist(data, handle, rpmhead);
960       if ((flags & RPM_ADD_WITH_CHANGELOG) != 0)
961         addchangelog(data, handle, rpmhead);
962     }
963   solv_free(evr);
964   return 1;
965 }
966
967
968 /******************************************************************/
969 /*  Rpm Database stuff
970  */
971
972 struct rpmdbstate {
973   Pool *pool; 
974   char *rootdir;
975
976   RpmHead *rpmhead;     /* header storage space */
977   int rpmheadsize;
978
979   int dbopened;
980   DB_ENV *dbenv;        /* database environment */
981   DB *db;               /* packages database */
982   int byteswapped;      /* endianess of packages database */
983 };
984
985 struct rpmdbentry {
986   Id rpmdbid;
987   Id nameoff;
988 };
989
990 #define ENTRIES_BLOCK 255
991 #define NAMEDATA_BLOCK 1023
992
993
994 static inline Id db2rpmdbid(unsigned char *db, int byteswapped)
995 {
996 #ifdef RPM5
997   return db[0] << 24 | db[1] << 16 | db[2] << 8 | db[3];
998 #else
999 # if defined(WORDS_BIGENDIAN)
1000   if (!byteswapped)
1001 # else
1002   if (byteswapped)
1003 # endif
1004     return db[0] << 24 | db[1] << 16 | db[2] << 8 | db[3];
1005   else
1006     return db[3] << 24 | db[2] << 16 | db[1] << 8 | db[0];
1007 #endif
1008 }
1009
1010 static inline void rpmdbid2db(unsigned char *db, Id id, int byteswapped)
1011 {
1012 #ifdef RPM5
1013   db[0] = id >> 24, db[1] = id >> 16, db[2] = id >> 8, db[3] = id;
1014 #else
1015 # if defined(WORDS_BIGENDIAN)
1016   if (!byteswapped)
1017 # else
1018   if (byteswapped)
1019 # endif
1020     db[0] = id >> 24, db[1] = id >> 16, db[2] = id >> 8, db[3] = id;
1021   else
1022     db[3] = id >> 24, db[2] = id >> 16, db[1] = id >> 8, db[0] = id;
1023 #endif
1024 }
1025
1026 /* should look in /usr/lib/rpm/macros instead, but we want speed... */
1027 static int
1028 opendbenv(struct rpmdbstate *state, const char *rootdir)
1029 {
1030   char dbpath[PATH_MAX];
1031   DB_ENV *dbenv = 0;
1032   int r;
1033
1034   if (db_env_create(&dbenv, 0))
1035     return pool_error(state->pool, 0, "db_env_create: %s", strerror(errno));
1036 #if defined(FEDORA) && (DB_VERSION_MAJOR >= 5 || (DB_VERSION_MAJOR == 4 && DB_VERSION_MINOR >= 5))
1037   dbenv->set_thread_count(dbenv, 8);
1038 #endif
1039   snprintf(dbpath, PATH_MAX, "%s/var/lib/rpm", rootdir ? rootdir : "");
1040   if (access(dbpath, W_OK) == -1)
1041     {
1042       r = dbenv->open(dbenv, dbpath, DB_CREATE|DB_PRIVATE|DB_INIT_MPOOL, 0);
1043     }
1044   else
1045     {
1046 #ifdef FEDORA
1047       r = dbenv->open(dbenv, dbpath, DB_CREATE|DB_INIT_CDB|DB_INIT_MPOOL, 0644);
1048 #else
1049       r = dbenv->open(dbenv, dbpath, DB_CREATE|DB_PRIVATE|DB_INIT_MPOOL, 0);
1050 #endif
1051     }
1052   if (r)
1053     {
1054       pool_error(state->pool, 0, "dbenv->open: %s", strerror(errno));
1055       dbenv->close(dbenv, 0);
1056       return 0;
1057     }
1058   state->dbenv = dbenv;
1059   return 1;
1060 }
1061
1062 static int
1063 openpkgdb(struct rpmdbstate *state)
1064 {
1065   if (state->dbopened)
1066     return state->dbopened > 0 ? 1 : 0;
1067   state->dbopened = -1;
1068   if (!state->dbenv && !opendbenv(state, state->rootdir))
1069     return 0;
1070   if (db_create(&state->db, state->dbenv, 0))
1071     {
1072       pool_error(state->pool, 0, "db_create: %s", strerror(errno));
1073       state->db = 0;
1074       state->dbenv->close(state->dbenv, 0);
1075       state->dbenv = 0;
1076       return 0;
1077     }
1078   if (state->db->open(state->db, 0, "Packages", 0, DB_UNKNOWN, DB_RDONLY, 0664))
1079     {
1080       pool_error(state->pool, 0, "db->open Packages: %s", strerror(errno));
1081       state->db->close(state->db, 0);
1082       state->db = 0;
1083       state->dbenv->close(state->dbenv, 0);
1084       state->dbenv = 0;
1085       return 0;
1086     }
1087   if (state->db->get_byteswapped(state->db, &state->byteswapped))
1088     {
1089       pool_error(state->pool, 0, "db->get_byteswapped: %s", strerror(errno));
1090       state->db->close(state->db, 0);
1091       state->db = 0;
1092       state->dbenv->close(state->dbenv, 0);
1093       state->dbenv = 0;
1094       return 0;
1095     }
1096   state->dbopened = 1;
1097   return 1;
1098 }
1099
1100 /* get the rpmdbids of all installed packages from the Name index database.
1101  * This is much faster then querying the big Packages database */
1102 static struct rpmdbentry *
1103 getinstalledrpmdbids(struct rpmdbstate *state, const char *index, const char *match, int *nentriesp, char **namedatap)
1104 {
1105   DB_ENV *dbenv = 0;
1106   DB *db = 0;
1107   DBC *dbc = 0;
1108   int byteswapped;
1109   DBT dbkey;
1110   DBT dbdata;
1111   unsigned char *dp;
1112   int dl;
1113   Id nameoff;
1114
1115   char *namedata = 0;
1116   int namedatal = 0;
1117   struct rpmdbentry *entries = 0;
1118   int nentries = 0;
1119
1120   *nentriesp = 0;
1121   if (namedatap)
1122     *namedatap = 0;
1123
1124   if (!state->dbenv && !opendbenv(state, state->rootdir))
1125     return 0;
1126   dbenv = state->dbenv;
1127   if (db_create(&db, dbenv, 0))
1128     {
1129       pool_error(state->pool, 0, "db_create: %s", strerror(errno));
1130       return 0;
1131     }
1132   if (db->open(db, 0, index, 0, DB_UNKNOWN, DB_RDONLY, 0664))
1133     {
1134       pool_error(state->pool, 0, "db->open %s: %s", index, strerror(errno));
1135       db->close(db, 0);
1136       return 0;
1137     }
1138   if (db->get_byteswapped(db, &byteswapped))
1139     {
1140       pool_error(state->pool, 0, "db->get_byteswapped: %s", strerror(errno));
1141       db->close(db, 0);
1142       return 0;
1143     }
1144   if (db->cursor(db, NULL, &dbc, 0))
1145     {
1146       pool_error(state->pool, 0, "db->cursor: %s", strerror(errno));
1147       db->close(db, 0);
1148       return 0;
1149     }
1150   memset(&dbkey, 0, sizeof(dbkey));
1151   memset(&dbdata, 0, sizeof(dbdata));
1152   if (match)
1153     {
1154       dbkey.data = (void *)match;
1155       dbkey.size = strlen(match);
1156     }
1157   while (dbc->c_get(dbc, &dbkey, &dbdata, match ? DB_SET : DB_NEXT) == 0)
1158     {
1159       if (!match && dbkey.size == 10 && !memcmp(dbkey.data, "gpg-pubkey", 10))
1160         continue;
1161       dl = dbdata.size;
1162       dp = dbdata.data;
1163       nameoff = namedatal;
1164       if (namedatap)
1165         {
1166           namedata = solv_extend(namedata, namedatal, dbkey.size + 1, 1, NAMEDATA_BLOCK);
1167           memcpy(namedata + namedatal, dbkey.data, dbkey.size);
1168           namedata[namedatal + dbkey.size] = 0;
1169           namedatal += dbkey.size + 1;
1170         }
1171       while(dl >= RPM_INDEX_SIZE)
1172         {
1173           entries = solv_extend(entries, nentries, 1, sizeof(*entries), ENTRIES_BLOCK);
1174           entries[nentries].rpmdbid = db2rpmdbid(dp, byteswapped);
1175           entries[nentries].nameoff = nameoff;
1176           nentries++;
1177           dp += RPM_INDEX_SIZE;
1178           dl -= RPM_INDEX_SIZE;
1179         }
1180       if (match)
1181         break;
1182     }
1183   dbc->c_close(dbc);
1184   db->close(db, 0);
1185   /* make sure that enteries is != 0 if there was no error */
1186   if (!entries)
1187     entries = solv_extend(entries, 1, 1, sizeof(*entries), ENTRIES_BLOCK);
1188   *nentriesp = nentries;
1189   if (namedatap)
1190     *namedatap = namedata;
1191   return entries;
1192 }
1193
1194 /* retrive header by rpmdbid */
1195 static int
1196 getrpmdbid(struct rpmdbstate *state, Id rpmdbid)
1197 {
1198   unsigned char buf[16];
1199   DBT dbkey;
1200   DBT dbdata;
1201   RpmHead *rpmhead;
1202
1203   if (!rpmdbid)
1204     {
1205       pool_error(state->pool, 0, "illegal rpmdbid");
1206       return -1;
1207     }
1208   if (state->dbopened != 1 && !openpkgdb(state))
1209     return -1;
1210   rpmdbid2db(buf, rpmdbid, state->byteswapped);
1211   memset(&dbkey, 0, sizeof(dbkey));
1212   memset(&dbdata, 0, sizeof(dbdata));
1213   dbkey.data = buf;
1214   dbkey.size = 4;
1215   dbdata.data = 0;
1216   dbdata.size = 0;
1217   if (state->db->get(state->db, NULL, &dbkey, &dbdata, 0))
1218     return 0;
1219   if (dbdata.size < 8)
1220     {
1221       pool_error(state->pool, 0, "corrupt rpm database (size)");
1222       return -1;
1223     }
1224   if (dbdata.size > state->rpmheadsize)
1225     {
1226       state->rpmheadsize = dbdata.size + 128;
1227       state->rpmhead = solv_realloc(state->rpmhead, sizeof(*rpmhead) + state->rpmheadsize);
1228     }
1229   rpmhead = state->rpmhead;
1230   memcpy(buf, dbdata.data, 8);
1231   rpmhead->forcebinary = 1;
1232   rpmhead->cnt = buf[0] << 24  | buf[1] << 16  | buf[2] << 8 | buf[3];
1233   rpmhead->dcnt = buf[4] << 24  | buf[5] << 16  | buf[6] << 8 | buf[7];
1234   if (8 + rpmhead->cnt * 16 + rpmhead->dcnt > dbdata.size)
1235     {
1236       pool_error(state->pool, 0, "corrupt rpm database (data size)");
1237       return -1;
1238     }
1239   memcpy(rpmhead->data, (unsigned char *)dbdata.data + 8, rpmhead->cnt * 16 + rpmhead->dcnt);
1240   rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
1241   return 1;
1242 }
1243
1244 /* retrive header by berkeleydb cursor */
1245 static Id
1246 getrpmcursor(struct rpmdbstate *state, DBC *dbc)
1247 {
1248   unsigned char buf[16];
1249   DBT dbkey;
1250   DBT dbdata;
1251   RpmHead *rpmhead;
1252   Id dbid;
1253
1254   memset(&dbkey, 0, sizeof(dbkey));
1255   memset(&dbdata, 0, sizeof(dbdata));
1256   while (dbc->c_get(dbc, &dbkey, &dbdata, DB_NEXT) == 0)
1257     {
1258       if (dbkey.size != 4)
1259         return pool_error(state->pool, -1, "corrupt Packages database (key size)");
1260       dbid = db2rpmdbid(dbkey.data, state->byteswapped);
1261       if (dbid == 0)            /* the join key */
1262         continue;
1263       if (dbdata.size < 8)
1264         return pool_error(state->pool, -1, "corrupt rpm database (size %u)\n", dbdata.size);
1265       if (dbdata.size > state->rpmheadsize)
1266         {
1267           state->rpmheadsize = dbdata.size + 128;
1268           state->rpmhead = solv_realloc(state->rpmhead, sizeof(*state->rpmhead) + state->rpmheadsize);
1269         }
1270       rpmhead = state->rpmhead;
1271       memcpy(buf, dbdata.data, 8);
1272       rpmhead->forcebinary = 1;
1273       rpmhead->cnt = buf[0] << 24  | buf[1] << 16  | buf[2] << 8 | buf[3];
1274       rpmhead->dcnt = buf[4] << 24  | buf[5] << 16  | buf[6] << 8 | buf[7];
1275       if (8 + rpmhead->cnt * 16 + rpmhead->dcnt > dbdata.size)
1276         return pool_error(state->pool, -1, "corrupt rpm database (data size)\n");
1277       memcpy(rpmhead->data, (unsigned char *)dbdata.data + 8, rpmhead->cnt * 16 + rpmhead->dcnt);
1278       rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
1279       return dbid;
1280     }
1281   return 0;
1282 }
1283
1284 static void
1285 freestate(struct rpmdbstate *state)
1286 {
1287   /* close down */
1288   if (!state)
1289     return;
1290   if (state->rootdir)
1291     solv_free(state->rootdir);
1292   if (state->db)
1293     state->db->close(state->db, 0);
1294   if (state->dbenv)
1295     state->dbenv->close(state->dbenv, 0);
1296   solv_free(state->rpmhead);
1297 }
1298
1299 void *
1300 rpm_state_create(Pool *pool, const char *rootdir)
1301 {
1302   struct rpmdbstate *state;
1303   state = solv_calloc(1, sizeof(*state));
1304   state->pool = pool;
1305   if (rootdir)
1306     state->rootdir = solv_strdup(rootdir);
1307   return state;
1308 }
1309
1310 void *
1311 rpm_state_free(void *state)
1312 {
1313   freestate(state);
1314   return solv_free(state);
1315 }
1316
1317 static int
1318 count_headers(Pool *pool, const char *rootdir, DB_ENV *dbenv)
1319 {
1320   char dbpath[PATH_MAX];
1321   struct stat statbuf;
1322   DB *db = 0;
1323   DBC *dbc = 0;
1324   int count = 0;
1325   DBT dbkey;
1326   DBT dbdata;
1327
1328   snprintf(dbpath, PATH_MAX, "%s/var/lib/rpm/Name", rootdir ? rootdir : "");
1329   if (stat(dbpath, &statbuf))
1330     return 0;
1331   memset(&dbkey, 0, sizeof(dbkey));
1332   memset(&dbdata, 0, sizeof(dbdata));
1333   if (db_create(&db, dbenv, 0))
1334     {
1335       pool_error(pool, 0, "db_create: %s", strerror(errno));
1336       return 0;
1337     }
1338   if (db->open(db, 0, "Name", 0, DB_UNKNOWN, DB_RDONLY, 0664))
1339     {
1340       pool_error(pool, 0, "db->open Name: %s", strerror(errno));
1341       db->close(db, 0);
1342       return 0;
1343     }
1344   if (db->cursor(db, NULL, &dbc, 0))
1345     {
1346       db->close(db, 0);
1347       pool_error(pool, 0, "db->cursor: %s", strerror(errno));
1348       return 0;
1349     }
1350   while (dbc->c_get(dbc, &dbkey, &dbdata, DB_NEXT) == 0)
1351     count += dbdata.size / RPM_INDEX_SIZE;
1352   dbc->c_close(dbc);
1353   db->close(db, 0);
1354   return count;
1355 }
1356
1357 /******************************************************************/
1358
1359 static Offset
1360 copydeps(Pool *pool, Repo *repo, Offset fromoff, Repo *fromrepo)
1361 {
1362   int cc;
1363   Id *ida, *from;
1364   Offset ido;
1365
1366   if (!fromoff)
1367     return 0;
1368   from = fromrepo->idarraydata + fromoff;
1369   for (ida = from, cc = 0; *ida; ida++, cc++)
1370     ;
1371   if (cc == 0)
1372     return 0;
1373   ido = repo_reserve_ids(repo, 0, cc);
1374   ida = repo->idarraydata + ido;
1375   memcpy(ida, from, (cc + 1) * sizeof(Id));
1376   repo->idarraysize += cc + 1;
1377   return ido;
1378 }
1379
1380 #define COPYDIR_DIRCACHE_SIZE 512
1381
1382 static Id copydir_complex(Pool *pool, Repodata *data, Repodata *fromdata, Id did, Id *cache);
1383
1384 static inline Id
1385 copydir(Pool *pool, Repodata *data, Repodata *fromdata, Id did, Id *cache)
1386 {
1387   if (cache && cache[did & 255] == did)
1388     return cache[(did & 255) + 256];
1389   return copydir_complex(pool, data, fromdata, did, cache);
1390 }
1391
1392 static Id
1393 copydir_complex(Pool *pool, Repodata *data, Repodata *fromdata, Id did, Id *cache)
1394 {
1395   Id parent = dirpool_parent(&fromdata->dirpool, did);
1396   Id compid = dirpool_compid(&fromdata->dirpool, did);
1397   if (parent)
1398     parent = copydir(pool, data, fromdata, parent, cache);
1399   if (data->localpool || fromdata->localpool)
1400     compid = repodata_translate_id(data, fromdata, compid, 1);
1401   compid = dirpool_add_dir(&data->dirpool, parent, compid, 1);
1402   if (cache)
1403     {
1404       cache[did & 255] = did;
1405       cache[(did & 255) + 256] = compid;
1406     }
1407   return compid;
1408 }
1409
1410 struct solvable_copy_cbdata {
1411   Repodata *data;
1412   Id handle;
1413   Id subhandle;
1414   Id *dircache;
1415 };
1416
1417 static int
1418 solvable_copy_cb(void *vcbdata, Solvable *r, Repodata *fromdata, Repokey *key, KeyValue *kv)
1419 {
1420   struct solvable_copy_cbdata *cbdata = vcbdata;
1421   Id id, keyname;
1422   Repodata *data = cbdata->data;
1423   Id handle = cbdata->handle;
1424   Pool *pool = data->repo->pool;
1425
1426   keyname = key->name;
1427   switch(key->type)
1428     {
1429     case REPOKEY_TYPE_ID:
1430     case REPOKEY_TYPE_CONSTANTID:
1431     case REPOKEY_TYPE_IDARRAY:  /* used for triggers */
1432       id = kv->id;
1433       if (data->localpool || fromdata->localpool)
1434         id = repodata_translate_id(data, fromdata, id, 1);
1435       if (key->type == REPOKEY_TYPE_ID)
1436         repodata_set_id(data, handle, keyname, id);
1437       else if (key->type == REPOKEY_TYPE_CONSTANTID)
1438         repodata_set_constantid(data, handle, keyname, id);
1439       else
1440         repodata_add_idarray(data, handle, keyname, id);
1441       break;
1442     case REPOKEY_TYPE_STR:
1443       repodata_set_str(data, handle, keyname, kv->str);
1444       break;
1445     case REPOKEY_TYPE_VOID:
1446       repodata_set_void(data, handle, keyname);
1447       break;
1448     case REPOKEY_TYPE_NUM:
1449       repodata_set_num(data, handle, keyname, SOLV_KV_NUM64(kv));
1450       break;
1451     case REPOKEY_TYPE_CONSTANT:
1452       repodata_set_constant(data, handle, keyname, kv->num);
1453       break;
1454     case REPOKEY_TYPE_DIRNUMNUMARRAY:
1455       id = kv->id;
1456       id = copydir(pool, data, fromdata, id, cbdata->dircache);
1457       repodata_add_dirnumnum(data, handle, keyname, id, kv->num, kv->num2);
1458       break;
1459     case REPOKEY_TYPE_DIRSTRARRAY:
1460       id = kv->id;
1461       id = copydir(pool, data, fromdata, id, cbdata->dircache);
1462       repodata_add_dirstr(data, handle, keyname, id, kv->str);
1463       break;
1464     case REPOKEY_TYPE_FLEXARRAY:
1465       if (kv->eof == 2)
1466         {
1467           assert(cbdata->subhandle);
1468           cbdata->handle = cbdata->subhandle;
1469           cbdata->subhandle = 0;
1470           break;
1471         }
1472       if (!kv->entry)
1473         {
1474           assert(!cbdata->subhandle);
1475           cbdata->subhandle = cbdata->handle;
1476         }
1477       cbdata->handle = repodata_new_handle(data);
1478       repodata_add_flexarray(data, cbdata->subhandle, keyname, cbdata->handle);
1479       break;
1480     default:
1481       break;
1482     }
1483   return 0;
1484 }
1485
1486 static void
1487 solvable_copy(Solvable *s, Solvable *r, Repodata *data, Id *dircache)
1488 {
1489   Repo *repo = s->repo;
1490   Pool *pool = repo->pool;
1491   Repo *fromrepo = r->repo;
1492   struct solvable_copy_cbdata cbdata;
1493
1494   /* copy solvable data */
1495   s->name = r->name;
1496   s->evr = r->evr;
1497   s->arch = r->arch;
1498   s->vendor = r->vendor;
1499   s->provides = copydeps(pool, repo, r->provides, fromrepo);
1500   s->requires = copydeps(pool, repo, r->requires, fromrepo);
1501   s->conflicts = copydeps(pool, repo, r->conflicts, fromrepo);
1502   s->obsoletes = copydeps(pool, repo, r->obsoletes, fromrepo);
1503   s->recommends = copydeps(pool, repo, r->recommends, fromrepo);
1504   s->suggests = copydeps(pool, repo, r->suggests, fromrepo);
1505   s->supplements = copydeps(pool, repo, r->supplements, fromrepo);
1506   s->enhances  = copydeps(pool, repo, r->enhances, fromrepo);
1507
1508   /* copy all attributes */
1509   if (!data)
1510     return;
1511   cbdata.data = data;
1512   cbdata.handle = s - pool->solvables;
1513   cbdata.subhandle = 0;
1514   cbdata.dircache = dircache;
1515   repo_search(fromrepo, (r - fromrepo->pool->solvables), 0, 0, SEARCH_NO_STORAGE_SOLVABLE | SEARCH_SUB | SEARCH_ARRAYSENTINEL, solvable_copy_cb, &cbdata);
1516 }
1517
1518 /* used to sort entries by package name that got returned in some database order */
1519 static int
1520 rpmids_sort_cmp(const void *va, const void *vb, void *dp)
1521 {
1522   struct rpmdbentry const *a = va, *b = vb;
1523   char *namedata = dp;
1524   int r;
1525   r = strcmp(namedata + a->nameoff, namedata + b->nameoff);
1526   if (r)
1527     return r;
1528   return a->rpmdbid - b->rpmdbid;
1529 }
1530
1531 static int
1532 pkgids_sort_cmp(const void *va, const void *vb, void *dp)
1533 {
1534   Repo *repo = dp;
1535   Pool *pool = repo->pool;
1536   Solvable *a = pool->solvables + *(Id *)va;
1537   Solvable *b = pool->solvables + *(Id *)vb;
1538   Id *rpmdbid;
1539
1540   if (a->name != b->name)
1541     return strcmp(pool_id2str(pool, a->name), pool_id2str(pool, b->name));
1542   rpmdbid = repo->rpmdbid;
1543   return rpmdbid[(a - pool->solvables) - repo->start] - rpmdbid[(b - pool->solvables) - repo->start];
1544 }
1545
1546 static void
1547 swap_solvables(Repo *repo, Repodata *data, Id pa, Id pb)
1548 {
1549   Pool *pool = repo->pool;
1550   Solvable tmp;
1551
1552   tmp = pool->solvables[pa];
1553   pool->solvables[pa] = pool->solvables[pb];
1554   pool->solvables[pb] = tmp;
1555   if (repo->rpmdbid)
1556     {
1557       Id tmpid = repo->rpmdbid[pa - repo->start];
1558       repo->rpmdbid[pa - repo->start] = repo->rpmdbid[pb - repo->start];
1559       repo->rpmdbid[pb - repo->start] = tmpid;
1560     }
1561   /* only works if nothing is already internalized! */
1562   if (data)
1563     repodata_swap_attrs(data, pa, pb);
1564 }
1565
1566 static void
1567 mkrpmdbcookie(struct stat *st, unsigned char *cookie)
1568 {
1569   memset(cookie, 0, 32);
1570   cookie[3] = RPMDB_COOKIE_VERSION;
1571   memcpy(cookie + 16, &st->st_ino, sizeof(st->st_ino));
1572   memcpy(cookie + 24, &st->st_dev, sizeof(st->st_dev));
1573 }
1574
1575 /*
1576  * read rpm db as repo
1577  *
1578  */
1579
1580 int
1581 repo_add_rpmdb(Repo *repo, Repo *ref, int flags)
1582 {
1583   Pool *pool = repo->pool;
1584   char dbpath[PATH_MAX];
1585   struct stat packagesstat;
1586   unsigned char newcookie[32];
1587   const unsigned char *oldcookie = 0;
1588   Id oldcookietype = 0;
1589   Repodata *data;
1590   int count = 0, done = 0;
1591   const char *rootdir = 0;
1592   struct rpmdbstate state;
1593   int i;
1594   Solvable *s;
1595   unsigned int now;
1596
1597   now = solv_timems(0);
1598   memset(&state, 0, sizeof(state));
1599   state.pool = pool;
1600
1601   data = repo_add_repodata(repo, flags);
1602
1603   if (ref && !(ref->nsolvables && ref->rpmdbid && ref->pool == repo->pool))
1604     {
1605       if ((flags & RPMDB_EMPTY_REFREPO) != 0)
1606         repo_empty(ref, 1);
1607       ref = 0;
1608     }
1609
1610   if (flags & REPO_USE_ROOTDIR)
1611     rootdir = pool_get_rootdir(pool);
1612   if (!opendbenv(&state, rootdir))
1613     return -1;
1614
1615   /* XXX: should get ro lock of Packages database! */
1616   snprintf(dbpath, PATH_MAX, "%s/var/lib/rpm/Packages", rootdir ? rootdir : "");
1617   if (stat(dbpath, &packagesstat))
1618     {
1619       pool_error(pool, -1, "%s: %s", dbpath, strerror(errno));
1620       freestate(&state);
1621       return -1;
1622     }
1623   mkrpmdbcookie(&packagesstat, newcookie);
1624   repodata_set_bin_checksum(data, SOLVID_META, REPOSITORY_RPMDBCOOKIE, REPOKEY_TYPE_SHA256, newcookie);
1625
1626   if (ref)
1627     oldcookie = repo_lookup_bin_checksum(ref, SOLVID_META, REPOSITORY_RPMDBCOOKIE, &oldcookietype);
1628   if (!ref || !oldcookie || oldcookietype != REPOKEY_TYPE_SHA256 || memcmp(oldcookie, newcookie, 32) != 0)
1629     {
1630       int solvstart = 0, solvend = 0;
1631       Id dbid;
1632       DBC *dbc = 0;
1633
1634       if (ref && (flags & RPMDB_EMPTY_REFREPO) != 0)
1635         repo_empty(ref, 1);     /* get it out of the way */
1636       if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1637         count = count_headers(pool, rootdir, state.dbenv);
1638       if (!openpkgdb(&state))
1639         {
1640           freestate(&state);
1641           return -1;
1642         }
1643       if (state.db->cursor(state.db, NULL, &dbc, 0))
1644         {
1645           freestate(&state);
1646           return pool_error(pool, -1, "db->cursor failed");
1647         }
1648       i = 0;
1649       s = 0;
1650       while ((dbid = getrpmcursor(&state, dbc)) != 0)
1651         {
1652           if (dbid == -1)
1653             {
1654               dbc->c_close(dbc);
1655               freestate(&state);
1656               return -1;
1657             }
1658           if (!s)
1659             {
1660               s = pool_id2solvable(pool, repo_add_solvable(repo));
1661               if (!solvstart)
1662                 solvstart = s - pool->solvables;
1663               solvend = s - pool->solvables + 1;
1664             }
1665           if (!repo->rpmdbid)
1666             repo->rpmdbid = repo_sidedata_create(repo, sizeof(Id));
1667           repo->rpmdbid[(s - pool->solvables) - repo->start] = dbid;
1668           if (rpm2solv(pool, repo, data, s, state.rpmhead, flags | RPM_ADD_TRIGGERS))
1669             {
1670               i++;
1671               s = 0;
1672             }
1673           else
1674             {
1675               /* We can reuse this solvable, but make sure it's still
1676                  associated with this repo.  */
1677               memset(s, 0, sizeof(*s));
1678               s->repo = repo;
1679             }
1680           if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1681             {
1682               if (done < count)
1683                 done++;
1684               if (done < count && (done - 1) * 100 / count != done * 100 / count)
1685                 pool_debug(pool, SOLV_ERROR, "%%%% %d\n", done * 100 / count);
1686             }
1687         }
1688       dbc->c_close(dbc);
1689       if (s)
1690         {
1691           /* oops, could not reuse. free it instead */
1692           repo_free_solvable(repo, s - pool->solvables, 1);
1693           solvend--;
1694           s = 0;
1695         }
1696       /* now sort all solvables in the new solvstart..solvend block */
1697       if (solvend - solvstart > 1)
1698         {
1699           Id *pkgids = solv_malloc2(solvend - solvstart, sizeof(Id));
1700           for (i = solvstart; i < solvend; i++)
1701             pkgids[i - solvstart] = i;
1702           solv_sort(pkgids, solvend - solvstart, sizeof(Id), pkgids_sort_cmp, repo);
1703           /* adapt order */
1704           for (i = solvstart; i < solvend; i++)
1705             {
1706               int j = pkgids[i - solvstart];
1707               while (j < i)
1708                 j = pkgids[i - solvstart] = pkgids[j - solvstart];
1709               if (j != i)
1710                 swap_solvables(repo, data, i, j);
1711             }
1712           solv_free(pkgids);
1713         }
1714     }
1715   else
1716     {
1717       Id dircache[COPYDIR_DIRCACHE_SIZE];               /* see copydir */
1718       struct rpmdbentry *entries = 0, *rp;
1719       int nentries = 0;
1720       char *namedata = 0;
1721       unsigned int refmask, h;
1722       Id id, *refhash;
1723       int res;
1724
1725       memset(dircache, 0, sizeof(dircache));
1726
1727       /* get ids of installed rpms */
1728       entries = getinstalledrpmdbids(&state, "Name", 0, &nentries, &namedata);
1729       if (!entries)
1730         {
1731           freestate(&state);
1732           return -1;
1733         }
1734
1735       /* sort by name */
1736       if (nentries > 1)
1737         solv_sort(entries, nentries, sizeof(*entries), rpmids_sort_cmp, namedata);
1738
1739       /* create hash from dbid to ref */
1740       refmask = mkmask(ref->nsolvables);
1741       refhash = solv_calloc(refmask + 1, sizeof(Id));
1742       for (i = 0; i < ref->end - ref->start; i++)
1743         {
1744           if (!ref->rpmdbid[i])
1745             continue;
1746           h = ref->rpmdbid[i] & refmask;
1747           while (refhash[h])
1748             h = (h + 317) & refmask;
1749           refhash[h] = i + 1;   /* make it non-zero */
1750         }
1751
1752       /* count the misses, they will cost us time */
1753       if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1754         {
1755           for (i = 0, rp = entries; i < nentries; i++, rp++)
1756             {
1757               if (refhash)
1758                 {
1759                   Id dbid = rp->rpmdbid;
1760                   h = dbid & refmask;
1761                   while ((id = refhash[h]))
1762                     {
1763                       if (ref->rpmdbid[id - 1] == dbid)
1764                         break;
1765                       h = (h + 317) & refmask;
1766                     }
1767                   if (id)
1768                     continue;
1769                 }
1770               count++;
1771             }
1772         }
1773
1774       if (ref && (flags & RPMDB_EMPTY_REFREPO) != 0)
1775         s = pool_id2solvable(pool, repo_add_solvable_block_before(repo, nentries, ref));
1776       else
1777         s = pool_id2solvable(pool, repo_add_solvable_block(repo, nentries));
1778       if (!repo->rpmdbid)
1779         repo->rpmdbid = repo_sidedata_create(repo, sizeof(Id));
1780
1781       for (i = 0, rp = entries; i < nentries; i++, rp++, s++)
1782         {
1783           Id dbid = rp->rpmdbid;
1784           repo->rpmdbid[(s - pool->solvables) - repo->start] = rp->rpmdbid;
1785           if (refhash)
1786             {
1787               h = dbid & refmask;
1788               while ((id = refhash[h]))
1789                 {
1790                   if (ref->rpmdbid[id - 1] == dbid)
1791                     break;
1792                   h = (h + 317) & refmask;
1793                 }
1794               if (id)
1795                 {
1796                   Solvable *r = ref->pool->solvables + ref->start + (id - 1);
1797                   if (r->repo == ref)
1798                     {
1799                       solvable_copy(s, r, data, dircache);
1800                       continue;
1801                     }
1802                 }
1803             }
1804           res = getrpmdbid(&state, dbid);
1805           if (res <= 0)
1806             {
1807               if (!res)
1808                 return pool_error(pool, -1, "inconsistent rpm database, key %d not found. run 'rpm --rebuilddb' to fix.", dbid);
1809               freestate(&state);
1810               solv_free(entries);
1811               solv_free(namedata);
1812               solv_free(refhash);
1813               return -1;
1814             }
1815           rpm2solv(pool, repo, data, s, state.rpmhead, flags | RPM_ADD_TRIGGERS);
1816           if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1817             {
1818               if (done < count)
1819                 done++;
1820               if (done < count && (done - 1) * 100 / count != done * 100 / count)
1821                 pool_debug(pool, SOLV_ERROR, "%%%% %d\n", done * 100 / count);
1822             }
1823         }
1824
1825       solv_free(entries);
1826       solv_free(namedata);
1827       solv_free(refhash);
1828       if (ref && (flags & RPMDB_EMPTY_REFREPO) != 0)
1829         repo_empty(ref, 1);
1830     }
1831
1832   freestate(&state);
1833   if (!(flags & REPO_NO_INTERNALIZE))
1834     repodata_internalize(data);
1835   if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1836     pool_debug(pool, SOLV_ERROR, "%%%% 100\n");
1837   POOL_DEBUG(SOLV_DEBUG_STATS, "repo_add_rpmdb took %d ms\n", solv_timems(now));
1838   POOL_DEBUG(SOLV_DEBUG_STATS, "repo size: %d solvables\n", repo->nsolvables);
1839   POOL_DEBUG(SOLV_DEBUG_STATS, "repo memory used: %d K incore, %d K idarray\n", repodata_memused(data)/1024, repo->idarraysize / (int)(1024/sizeof(Id)));
1840   return 0;
1841 }
1842
1843 int
1844 repo_add_rpmdb_reffp(Repo *repo, FILE *fp, int flags)
1845 {
1846   int res;
1847   Repo *ref = 0;
1848
1849   if (!fp)
1850     return repo_add_rpmdb(repo, 0, flags);
1851   ref = repo_create(repo->pool, "add_rpmdb_reffp");
1852   if (repo_add_solv(ref, fp, 0) != 0)
1853     {
1854       repo_free(ref, 1);
1855       ref = 0;
1856     }
1857   if (ref && ref->start == ref->end)
1858     {
1859       repo_free(ref, 1);
1860       ref = 0;
1861     }
1862   if (ref)
1863     repo_disable_paging(ref);
1864   res = repo_add_rpmdb(repo, ref, flags | RPMDB_EMPTY_REFREPO);
1865   if (ref)
1866     repo_free(ref, 1);
1867   return res;
1868 }
1869
1870 static inline unsigned int
1871 getu32(const unsigned char *dp)
1872 {
1873   return dp[0] << 24 | dp[1] << 16 | dp[2] << 8 | dp[3];
1874 }
1875
1876
1877 Id
1878 repo_add_rpm(Repo *repo, const char *rpm, int flags)
1879 {
1880   unsigned int sigdsize, sigcnt, l;
1881   Pool *pool = repo->pool;
1882   Solvable *s;
1883   RpmHead *rpmhead = 0;
1884   int rpmheadsize = 0;
1885   char *payloadformat;
1886   FILE *fp;
1887   unsigned char lead[4096];
1888   int headerstart, headerend;
1889   struct stat stb;
1890   Repodata *data;
1891   unsigned char pkgid[16];
1892   unsigned char leadsigid[16];
1893   unsigned char hdrid[32];
1894   int pkgidtype, leadsigidtype, hdridtype;
1895   Id chksumtype = 0;
1896   void *chksumh = 0;
1897   void *leadsigchksumh = 0;
1898   int forcebinary = 0;
1899
1900   data = repo_add_repodata(repo, flags);
1901
1902   if ((flags & RPM_ADD_WITH_SHA256SUM) != 0)
1903     chksumtype = REPOKEY_TYPE_SHA256;
1904   else if ((flags & RPM_ADD_WITH_SHA1SUM) != 0)
1905     chksumtype = REPOKEY_TYPE_SHA1;
1906
1907   if ((fp = fopen(flags & REPO_USE_ROOTDIR ? pool_prepend_rootdir_tmp(pool, rpm) : rpm, "r")) == 0)
1908     {
1909       pool_error(pool, -1, "%s: %s", rpm, strerror(errno));
1910       return 0;
1911     }
1912   if (fstat(fileno(fp), &stb))
1913     {
1914       pool_error(pool, -1, "fstat: %s", strerror(errno));
1915       fclose(fp);
1916       return 0;
1917     }
1918   if (chksumtype)
1919     chksumh = solv_chksum_create(chksumtype);
1920   if ((flags & RPM_ADD_WITH_LEADSIGID) != 0)
1921     leadsigchksumh = solv_chksum_create(REPOKEY_TYPE_MD5);
1922   if (fread(lead, 96 + 16, 1, fp) != 1 || getu32(lead) != 0xedabeedb)
1923     {
1924       pool_error(pool, -1, "%s: not a rpm", rpm);
1925       fclose(fp);
1926       return 0;
1927     }
1928   forcebinary = lead[6] != 0 || lead[7] != 1;
1929   if (chksumh)
1930     solv_chksum_add(chksumh, lead, 96 + 16);
1931   if (leadsigchksumh)
1932     solv_chksum_add(leadsigchksumh, lead, 96 + 16);
1933   if (lead[78] != 0 || lead[79] != 5)
1934     {
1935       pool_error(pool, -1, "%s: not a rpm v5 header", rpm);
1936       fclose(fp);
1937       return 0;
1938     }
1939   if (getu32(lead + 96) != 0x8eade801)
1940     {
1941       pool_error(pool, -1, "%s: bad signature header", rpm);
1942       fclose(fp);
1943       return 0;
1944     }
1945   sigcnt = getu32(lead + 96 + 8);
1946   sigdsize = getu32(lead + 96 + 12);
1947   if (sigcnt >= 0x100000 || sigdsize >= 0x100000)
1948     {
1949       pool_error(pool, -1, "%s: bad signature header", rpm);
1950       fclose(fp);
1951       return 0;
1952     }
1953   sigdsize += sigcnt * 16;
1954   sigdsize = (sigdsize + 7) & ~7;
1955   headerstart = 96 + 16 + sigdsize;
1956   pkgidtype = leadsigidtype = hdridtype = 0;
1957   if ((flags & (RPM_ADD_WITH_PKGID | RPM_ADD_WITH_HDRID)) != 0)
1958     {
1959       /* extract pkgid or hdrid from the signature header */
1960       if (sigdsize > rpmheadsize)
1961         {
1962           rpmheadsize = sigdsize + 128;
1963           rpmhead = solv_realloc(rpmhead, sizeof(*rpmhead) + rpmheadsize);
1964         }
1965       if (fread(rpmhead->data, sigdsize, 1, fp) != 1)
1966         {
1967           pool_error(pool, -1, "%s: unexpected EOF", rpm);
1968           fclose(fp);
1969           return 0;
1970         }
1971       if (chksumh)
1972         solv_chksum_add(chksumh, rpmhead->data, sigdsize);
1973       if (leadsigchksumh)
1974         solv_chksum_add(leadsigchksumh, rpmhead->data, sigdsize);
1975       rpmhead->forcebinary = 0;
1976       rpmhead->cnt = sigcnt;
1977       rpmhead->dcnt = sigdsize - sigcnt * 16;
1978       rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
1979       if ((flags & RPM_ADD_WITH_PKGID) != 0)
1980         {
1981           unsigned char *chksum;
1982           unsigned int chksumsize;
1983           chksum = headbinary(rpmhead, SIGTAG_MD5, &chksumsize);
1984           if (chksum && chksumsize == 16)
1985             {
1986               pkgidtype = REPOKEY_TYPE_MD5;
1987               memcpy(pkgid, chksum, 16);
1988             }
1989         }
1990       if ((flags & RPM_ADD_WITH_HDRID) != 0)
1991         {
1992           const char *str = headstring(rpmhead, TAG_SHA1HEADER);
1993           if (str && strlen(str) == 40)
1994             {
1995               if (solv_hex2bin(&str, hdrid, 20) == 20)
1996                 hdridtype = REPOKEY_TYPE_SHA1;
1997             }
1998           else if (str && strlen(str) == 64)
1999             {
2000               if (solv_hex2bin(&str, hdrid, 32) == 32)
2001                 hdridtype = REPOKEY_TYPE_SHA256;
2002             }
2003         }
2004     }
2005   else
2006     {
2007       /* just skip the signature header */
2008       while (sigdsize)
2009         {
2010           l = sigdsize > 4096 ? 4096 : sigdsize;
2011           if (fread(lead, l, 1, fp) != 1)
2012             {
2013               pool_error(pool, -1, "%s: unexpected EOF", rpm);
2014               fclose(fp);
2015               return 0;
2016             }
2017           if (chksumh)
2018             solv_chksum_add(chksumh, lead, l);
2019           if (leadsigchksumh)
2020             solv_chksum_add(leadsigchksumh, lead, l);
2021           sigdsize -= l;
2022         }
2023     }
2024   if (leadsigchksumh)
2025     {
2026       leadsigchksumh = solv_chksum_free(leadsigchksumh, leadsigid);
2027       leadsigidtype = REPOKEY_TYPE_MD5;
2028     }
2029   if (fread(lead, 16, 1, fp) != 1)
2030     {
2031       pool_error(pool, -1, "%s: unexpected EOF", rpm);
2032       fclose(fp);
2033       return 0;
2034     }
2035   if (chksumh)
2036     solv_chksum_add(chksumh, lead, 16);
2037   if (getu32(lead) != 0x8eade801)
2038     {
2039       pool_error(pool, -1, "%s: bad header", rpm);
2040       fclose(fp);
2041       return 0;
2042     }
2043   sigcnt = getu32(lead + 8);
2044   sigdsize = getu32(lead + 12);
2045   if (sigcnt >= 0x100000 || sigdsize >= 0x2000000)
2046     {
2047       pool_error(pool, -1, "%s: bad header", rpm);
2048       fclose(fp);
2049       return 0;
2050     }
2051   l = sigdsize + sigcnt * 16;
2052   headerend = headerstart + 16 + l;
2053   if (l > rpmheadsize)
2054     {
2055       rpmheadsize = l + 128;
2056       rpmhead = solv_realloc(rpmhead, sizeof(*rpmhead) + rpmheadsize);
2057     }
2058   if (fread(rpmhead->data, l, 1, fp) != 1)
2059     {
2060       pool_error(pool, -1, "%s: unexpected EOF", rpm);
2061       fclose(fp);
2062       return 0;
2063     }
2064   if (chksumh)
2065     solv_chksum_add(chksumh, rpmhead->data, l);
2066   rpmhead->forcebinary = forcebinary;
2067   rpmhead->cnt = sigcnt;
2068   rpmhead->dcnt = sigdsize;
2069   rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
2070   if (headexists(rpmhead, TAG_PATCHESNAME))
2071     {
2072       /* this is a patch rpm, ignore */
2073       pool_error(pool, -1, "%s: is patch rpm", rpm);
2074       fclose(fp);
2075       solv_chksum_free(chksumh, 0);
2076       solv_free(rpmhead);
2077       return 0;
2078     }
2079   payloadformat = headstring(rpmhead, TAG_PAYLOADFORMAT);
2080   if (payloadformat && !strcmp(payloadformat, "drpm"))
2081     {
2082       /* this is a delta rpm */
2083       pool_error(pool, -1, "%s: is delta rpm", rpm);
2084       fclose(fp);
2085       solv_chksum_free(chksumh, 0);
2086       solv_free(rpmhead);
2087       return 0;
2088     }
2089   if (chksumh)
2090     while ((l = fread(lead, 1, sizeof(lead), fp)) > 0)
2091       solv_chksum_add(chksumh, lead, l);
2092   fclose(fp);
2093   s = pool_id2solvable(pool, repo_add_solvable(repo));
2094   if (!rpm2solv(pool, repo, data, s, rpmhead, flags & ~(RPM_ADD_WITH_HDRID | RPM_ADD_WITH_PKGID)))
2095     {
2096       repo_free_solvable(repo, s - pool->solvables, 1);
2097       solv_chksum_free(chksumh, 0);
2098       solv_free(rpmhead);
2099       return 0;
2100     }
2101   if (!(flags & REPO_NO_LOCATION))
2102     repodata_set_location(data, s - pool->solvables, 0, 0, rpm);
2103   if (S_ISREG(stb.st_mode))
2104     repodata_set_num(data, s - pool->solvables, SOLVABLE_DOWNLOADSIZE, (unsigned long long)stb.st_size);
2105   repodata_set_num(data, s - pool->solvables, SOLVABLE_HEADEREND, headerend);
2106   if (pkgidtype)
2107     repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_PKGID, pkgidtype, pkgid);
2108   if (hdridtype)
2109     repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_HDRID, hdridtype, hdrid);
2110   if (leadsigidtype)
2111     repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_LEADSIGID, leadsigidtype, leadsigid);
2112   if (chksumh)
2113     {
2114       repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_CHECKSUM, chksumtype, solv_chksum_get(chksumh, 0));
2115       chksumh = solv_chksum_free(chksumh, 0);
2116     }
2117   if (rpmhead)
2118     solv_free(rpmhead);
2119   if (!(flags & REPO_NO_INTERNALIZE))
2120     repodata_internalize(data);
2121   return s - pool->solvables;
2122 }
2123
2124 Id
2125 repo_add_rpm_handle(Repo *repo, void *rpmhandle, int flags)
2126 {
2127   Pool *pool = repo->pool;
2128   Repodata *data;
2129   RpmHead *rpmhead = rpmhandle;
2130   Solvable *s;
2131   char *payloadformat;
2132
2133   data = repo_add_repodata(repo, flags);
2134   if (headexists(rpmhead, TAG_PATCHESNAME))
2135     {
2136       pool_error(pool, -1, "is a patch rpm");
2137       return 0;
2138     }
2139   payloadformat = headstring(rpmhead, TAG_PAYLOADFORMAT);
2140   if (payloadformat && !strcmp(payloadformat, "drpm"))
2141     {
2142       /* this is a delta rpm */
2143       pool_error(pool, -1, "is a delta rpm");
2144       return 0;
2145     }
2146   s = pool_id2solvable(pool, repo_add_solvable(repo));
2147   if (!rpm2solv(pool, repo, data, s, rpmhead, flags))
2148     {
2149       repo_free_solvable(repo, s - pool->solvables, 1);
2150       return 0;
2151     }
2152   if (!(flags & REPO_NO_INTERNALIZE))
2153     repodata_internalize(data);
2154   return s - pool->solvables;
2155 }
2156
2157 static inline void
2158 linkhash(const char *lt, char *hash)
2159 {
2160   unsigned int r = 0;
2161   const unsigned char *str = (const unsigned char *)lt;
2162   int l, c;
2163
2164   l = strlen(lt);
2165   while ((c = *str++) != 0)
2166     r += (r << 3) + c;
2167   sprintf(hash, "%08x%08x%08x%08x", r, l, 0, 0);
2168 }
2169
2170 void
2171 rpm_iterate_filelist(void *rpmhandle, int flags, void (*cb)(void *, const char *, struct filelistinfo *), void *cbdata)
2172 {
2173   RpmHead *rpmhead = rpmhandle;
2174   char **bn;
2175   char **dn;
2176   char **md = 0;
2177   char **lt = 0;
2178   unsigned int *di, diidx;
2179   unsigned int *co = 0;
2180   unsigned int *ff = 0;
2181   unsigned int lastdir;
2182   int lastdirl;
2183   unsigned int *fm;
2184   int cnt, dcnt, cnt2;
2185   int i, l1, l;
2186   char *space = 0;
2187   int spacen = 0;
2188   char md5[33];
2189   struct filelistinfo info;
2190
2191   dn = headstringarray(rpmhead, TAG_DIRNAMES, &dcnt);
2192   if (!dn)
2193     return;
2194   if ((flags & RPM_ITERATE_FILELIST_ONLYDIRS) != 0)
2195     {
2196       for (i = 0; i < dcnt; i++)
2197         (*cb)(cbdata, dn[i], 0);
2198       solv_free(dn);
2199       return;
2200     }
2201   bn = headstringarray(rpmhead, TAG_BASENAMES, &cnt);
2202   if (!bn)
2203     {
2204       solv_free(dn);
2205       return;
2206     }
2207   di = headint32array(rpmhead, TAG_DIRINDEXES, &cnt2);
2208   if (!di || cnt != cnt2)
2209     {
2210       solv_free(di);
2211       solv_free(bn);
2212       solv_free(dn);
2213       return;
2214     }
2215   fm = headint16array(rpmhead, TAG_FILEMODES, &cnt2);
2216   if (!fm || cnt != cnt2)
2217     {
2218       solv_free(fm);
2219       solv_free(di);
2220       solv_free(bn);
2221       solv_free(dn);
2222       return;
2223     }
2224   if ((flags & RPM_ITERATE_FILELIST_WITHMD5) != 0)
2225     {
2226       md = headstringarray(rpmhead, TAG_FILEMD5S, &cnt2);
2227       if (!md || cnt != cnt2)
2228         {
2229           solv_free(md);
2230           solv_free(fm);
2231           solv_free(di);
2232           solv_free(bn);
2233           solv_free(dn);
2234           return;
2235         }
2236     }
2237   if ((flags & RPM_ITERATE_FILELIST_WITHCOL) != 0)
2238     {
2239       co = headint32array(rpmhead, TAG_FILECOLORS, &cnt2);
2240       if (!co || cnt != cnt2)
2241         {
2242           solv_free(co);
2243           solv_free(md);
2244           solv_free(fm);
2245           solv_free(di);
2246           solv_free(bn);
2247           solv_free(dn);
2248           return;
2249         }
2250     }
2251   if ((flags & RPM_ITERATE_FILELIST_NOGHOSTS) != 0)
2252     {
2253       ff = headint32array(rpmhead, TAG_FILEFLAGS, &cnt2);
2254       if (!ff || cnt != cnt2)
2255         {
2256           solv_free(ff);
2257           solv_free(co);
2258           solv_free(md);
2259           solv_free(fm);
2260           solv_free(di);
2261           solv_free(bn);
2262           solv_free(dn);
2263           return;
2264         }
2265     }
2266   lastdir = dcnt;
2267   lastdirl = 0;
2268   memset(&info, 0, sizeof(info));
2269   for (i = 0; i < cnt; i++)
2270     {
2271       if (ff && (ff[i] & FILEFLAG_GHOST) != 0)
2272         continue;
2273       diidx = di[i];
2274       if (diidx >= dcnt)
2275         continue;
2276       l1 = lastdir == diidx ? lastdirl : strlen(dn[diidx]);
2277       l = l1 + strlen(bn[i]) + 1;
2278       if (l > spacen)
2279         {
2280           spacen = l + 16;
2281           space = solv_realloc(space, spacen);
2282         }
2283       if (lastdir != diidx)
2284         {
2285           strcpy(space, dn[diidx]);
2286           lastdir = diidx;
2287           lastdirl = l1;
2288         }
2289       strcpy(space + l1, bn[i]);
2290       info.diridx = diidx;
2291       info.dirlen = l1;
2292       if (fm)
2293         info.mode = fm[i];
2294       if (md)
2295         {
2296           info.digest = md[i];
2297           if (fm && S_ISLNK(fm[i]))
2298             {
2299               info.digest = 0;
2300               if (!lt)
2301                 {
2302                   lt = headstringarray(rpmhead, TAG_FILELINKTOS, &cnt2);
2303                   if (cnt != cnt2)
2304                     lt = solv_free(lt);
2305                 }
2306               if (lt)
2307                 {
2308                   linkhash(lt[i], md5);
2309                   info.digest = md5;
2310                 }
2311             }
2312           if (!info.digest)
2313             {
2314               sprintf(md5, "%08x%08x%08x%08x", (fm[i] >> 12) & 65535, 0, 0, 0);
2315               info.digest = md5;
2316             }
2317         }
2318       if (co)
2319         info.color = co[i];
2320       (*cb)(cbdata, space, &info);
2321     }
2322   solv_free(space);
2323   solv_free(lt);
2324   solv_free(md);
2325   solv_free(fm);
2326   solv_free(di);
2327   solv_free(bn);
2328   solv_free(dn);
2329   solv_free(co);
2330   solv_free(ff);
2331 }
2332
2333 char *
2334 rpm_query(void *rpmhandle, Id what)
2335 {
2336   const char *name, *arch, *sourcerpm;
2337   char *evr, *r;
2338   int l;
2339
2340   RpmHead *rpmhead = rpmhandle;
2341   r = 0;
2342   switch (what)
2343     {
2344     case 0:
2345       name = headstring(rpmhead, TAG_NAME);
2346       if (!name)
2347         name = "";
2348       sourcerpm = headstring(rpmhead, TAG_SOURCERPM);
2349       if (sourcerpm || (rpmhead->forcebinary && !headexists(rpmhead, TAG_SOURCEPACKAGE)))
2350         arch = headstring(rpmhead, TAG_ARCH);
2351       else
2352         {
2353           if (headexists(rpmhead, TAG_NOSOURCE) || headexists(rpmhead, TAG_NOPATCH))
2354             arch = "nosrc";
2355           else
2356             arch = "src";
2357         }
2358       if (!arch)
2359         arch = "noarch";
2360       evr = headtoevr(rpmhead);
2361       l = strlen(name) + 1 + strlen(evr ? evr : "") + 1 + strlen(arch) + 1;
2362       r = solv_malloc(l);
2363       sprintf(r, "%s-%s.%s", name, evr ? evr : "", arch);
2364       solv_free(evr);
2365       break;
2366     case SOLVABLE_NAME:
2367       name = headstring(rpmhead, TAG_NAME);
2368       r = solv_strdup(name);
2369       break;
2370     case SOLVABLE_SUMMARY:
2371       name = headstring(rpmhead, TAG_SUMMARY);
2372       r = solv_strdup(name);
2373       break;
2374     case SOLVABLE_DESCRIPTION:
2375       name = headstring(rpmhead, TAG_DESCRIPTION);
2376       r = solv_strdup(name);
2377       break;
2378     case SOLVABLE_EVR:
2379       r = headtoevr(rpmhead);
2380       break;
2381     }
2382   return r;
2383 }
2384
2385 unsigned long long
2386 rpm_query_num(void *rpmhandle, Id what, unsigned long long notfound)
2387 {
2388   RpmHead *rpmhead = rpmhandle;
2389   unsigned int u32;
2390
2391   switch (what)
2392     {
2393     case SOLVABLE_INSTALLTIME:
2394       u32 = headint32(rpmhead, TAG_INSTALLTIME);
2395       return u32 ? u32 : notfound;
2396     }
2397   return notfound;
2398 }
2399
2400 int
2401 rpm_installedrpmdbids(void *rpmstate, const char *index, const char *match, Queue *rpmdbidq)
2402 {
2403   struct rpmdbentry *entries;
2404   int nentries, i;
2405
2406   entries = getinstalledrpmdbids(rpmstate, index ? index : "Name", match, &nentries, 0);
2407   if (rpmdbidq)
2408     {
2409       queue_empty(rpmdbidq);
2410       for (i = 0; i < nentries; i++)
2411         queue_push(rpmdbidq, entries[i].rpmdbid);
2412     }
2413   solv_free(entries);
2414   return nentries;
2415 }
2416
2417 void *
2418 rpm_byrpmdbid(void *rpmstate, Id rpmdbid)
2419 {
2420   struct rpmdbstate *state = rpmstate;
2421   int r;
2422
2423   r = getrpmdbid(state, rpmdbid);
2424   if (!r)
2425     pool_error(state->pool, 0, "header #%d not in database", rpmdbid);
2426   return r <= 0 ? 0 : state->rpmhead;
2427 }
2428
2429 void *
2430 rpm_byfp(void *rpmstate, FILE *fp, const char *name)
2431 {
2432   struct rpmdbstate *state = rpmstate;
2433   /* int headerstart, headerend; */
2434   RpmHead *rpmhead;
2435   unsigned int sigdsize, sigcnt, l;
2436   unsigned char lead[4096];
2437   int forcebinary = 0;
2438
2439   if (fread(lead, 96 + 16, 1, fp) != 1 || getu32(lead) != 0xedabeedb)
2440     {
2441       pool_error(state->pool, 0, "%s: not a rpm", name);
2442       return 0;
2443     }
2444   forcebinary = lead[6] != 0 || lead[7] != 1;
2445   if (lead[78] != 0 || lead[79] != 5)
2446     {
2447       pool_error(state->pool, 0, "%s: not a V5 header", name);
2448       return 0;
2449     }
2450   if (getu32(lead + 96) != 0x8eade801)
2451     {
2452       pool_error(state->pool, 0, "%s: bad signature header", name);
2453       return 0;
2454     }
2455   sigcnt = getu32(lead + 96 + 8);
2456   sigdsize = getu32(lead + 96 + 12);
2457   if (sigcnt >= 0x100000 || sigdsize >= 0x100000)
2458     {
2459       pool_error(state->pool, 0, "%s: bad signature header", name);
2460       return 0;
2461     }
2462   sigdsize += sigcnt * 16;
2463   sigdsize = (sigdsize + 7) & ~7;
2464   /* headerstart = 96 + 16 + sigdsize; */
2465   while (sigdsize)
2466     {
2467       l = sigdsize > 4096 ? 4096 : sigdsize;
2468       if (fread(lead, l, 1, fp) != 1)
2469         {
2470           pool_error(state->pool, 0, "%s: unexpected EOF", name);
2471           return 0;
2472         }
2473       sigdsize -= l;
2474     }
2475   if (fread(lead, 16, 1, fp) != 1)
2476     {
2477       pool_error(state->pool, 0, "%s: unexpected EOF", name);
2478       return 0;
2479     }
2480   if (getu32(lead) != 0x8eade801)
2481     {
2482       pool_error(state->pool, 0, "%s: bad header", name);
2483       return 0;
2484     }
2485   sigcnt = getu32(lead + 8);
2486   sigdsize = getu32(lead + 12);
2487   if (sigcnt >= 0x100000 || sigdsize >= 0x2000000)
2488     {
2489       pool_error(state->pool, 0, "%s: bad header", name);
2490       return 0;
2491     }
2492   l = sigdsize + sigcnt * 16;
2493   /* headerend = headerstart + 16 + l; */
2494   if (l > state->rpmheadsize)
2495     {
2496       state->rpmheadsize = l + 128;
2497       state->rpmhead = solv_realloc(state->rpmhead, sizeof(*state->rpmhead) + state->rpmheadsize);
2498     }
2499   rpmhead = state->rpmhead;
2500   if (fread(rpmhead->data, l, 1, fp) != 1)
2501     {
2502       pool_error(state->pool, 0, "%s: unexpected EOF", name);
2503       return 0;
2504     }
2505   rpmhead->forcebinary = forcebinary;
2506   rpmhead->cnt = sigcnt;
2507   rpmhead->dcnt = sigdsize;
2508   rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
2509   return rpmhead;
2510 }
2511
2512 #ifdef ENABLE_RPMDB_BYRPMHEADER
2513
2514 void *
2515 rpm_byrpmh(void *rpmstate, Header h)
2516 {
2517   struct rpmdbstate *state = rpmstate;
2518   const unsigned char *uh;
2519   unsigned int sigdsize, sigcnt, l;
2520   RpmHead *rpmhead;
2521
2522 #ifndef RPM5
2523   uh = headerUnload(h);
2524 #else
2525   uh = headerUnload(h, NULL);
2526 #endif
2527   if (!uh)
2528     return 0;
2529   sigcnt = getu32(uh);
2530   sigdsize = getu32(uh + 4);
2531   l = sigdsize + sigcnt * 16;
2532   if (l > state->rpmheadsize)
2533     {
2534       state->rpmheadsize = l + 128;
2535       state->rpmhead = solv_realloc(state->rpmhead, sizeof(*state->rpmhead) + state->rpmheadsize);
2536     }
2537   rpmhead = state->rpmhead;
2538   memcpy(rpmhead->data, uh + 8, l - 8);
2539   free((void *)uh);
2540   rpmhead->forcebinary = 0;
2541   rpmhead->cnt = sigcnt;
2542   rpmhead->dcnt = sigdsize;
2543   rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
2544   return rpmhead;
2545 }
2546
2547 #endif
2548