ext/repo_rpmdb.c

   1 /*
   2  * Copyright (c) 2007-2012, Novell Inc.
   3  *
   4  * This program is licensed under the BSD license, read LICENSE.BSD
   5  * for further information
   6  */
   7
   8 /*
   9  * repo_rpmdb
  10  *
  11  * convert rpm db to repo
  12  *
  13  */
  14
  15 #include <sys/types.h>
  16 #include <sys/stat.h>
  17 #include <limits.h>
  18 #include <fcntl.h>
  19 #include <stdio.h>
  20 #include <stdlib.h>
  21 #include <string.h>
  22 #include <unistd.h>
  23 #include <assert.h>
  24 #include <stdint.h>
  25 #include <errno.h>
  26
  27 #include <rpm/rpmio.h>
  28 #include <rpm/rpmpgp.h>
  29 #ifndef RPM5
  30 #include <rpm/header.h>
  31 #endif
  32 #include <rpm/rpmdb.h>
  33
  34 #ifndef DB_CREATE
  35 # ifdef FEDORA
  36 #  include <db.h>
  37 # else
  38 #  include <rpm/db.h>
  39 # endif
  40 #endif
  41
  42 #include "pool.h"
  43 #include "repo.h"
  44 #include "hash.h"
  45 #include "util.h"
  46 #include "queue.h"
  47 #include "chksum.h"
  48 #include "repo_rpmdb.h"
  49
  50 /* 3: added triggers */
  51 /* 4: fixed triggers */
  52 #define RPMDB_COOKIE_VERSION 4
  53
  54 #define TAG_SIGBASE             256
  55 #define TAG_SHA1HEADER          TAG_SIGBASE+13
  56 #define TAG_NAME                1000
  57 #define TAG_VERSION             1001
  58 #define TAG_RELEASE             1002
  59 #define TAG_EPOCH               1003
  60 #define TAG_SUMMARY             1004
  61 #define TAG_DESCRIPTION         1005
  62 #define TAG_BUILDTIME           1006
  63 #define TAG_BUILDHOST           1007
  64 #define TAG_INSTALLTIME         1008
  65 #define TAG_SIZE                1009
  66 #define TAG_DISTRIBUTION        1010
  67 #define TAG_VENDOR              1011
  68 #define TAG_LICENSE             1014
  69 #define TAG_PACKAGER            1015
  70 #define TAG_GROUP               1016
  71 #define TAG_URL                 1020
  72 #define TAG_ARCH                1022
  73 #define TAG_FILESIZES           1028
  74 #define TAG_FILEMODES           1030
  75 #define TAG_FILEMD5S            1035
  76 #define TAG_FILELINKTOS         1036
  77 #define TAG_FILEFLAGS           1037
  78 #define TAG_SOURCERPM           1044
  79 #define TAG_PROVIDENAME         1047
  80 #define TAG_REQUIREFLAGS        1048
  81 #define TAG_REQUIRENAME         1049
  82 #define TAG_REQUIREVERSION      1050
  83 #define TAG_NOSOURCE            1051
  84 #define TAG_NOPATCH             1052
  85 #define TAG_CONFLICTFLAGS       1053
  86 #define TAG_CONFLICTNAME        1054
  87 #define TAG_CONFLICTVERSION     1055
  88 #define TAG_TRIGGERNAME         1066
  89 #define TAG_TRIGGERVERSION      1067
  90 #define TAG_TRIGGERFLAGS        1068
  91 #define TAG_OBSOLETENAME        1090
  92 #define TAG_FILEDEVICES         1095
  93 #define TAG_FILEINODES          1096
  94 #define TAG_PROVIDEFLAGS        1112
  95 #define TAG_PROVIDEVERSION      1113
  96 #define TAG_OBSOLETEFLAGS       1114
  97 #define TAG_OBSOLETEVERSION     1115
  98 #define TAG_DIRINDEXES          1116
  99 #define TAG_BASENAMES           1117
 100 #define TAG_DIRNAMES            1118
 101 #define TAG_PAYLOADFORMAT       1124
 102 #define TAG_PATCHESNAME         1133
 103 #define TAG_FILECOLORS          1140
 104 #define TAG_SUGGESTSNAME        1156
 105 #define TAG_SUGGESTSVERSION     1157
 106 #define TAG_SUGGESTSFLAGS       1158
 107 #define TAG_ENHANCESNAME        1159
 108 #define TAG_ENHANCESVERSION     1160
 109 #define TAG_ENHANCESFLAGS       1161
 110
 111 /* rpm5 tags */
 112 #define TAG_DISTEPOCH           1218
 113
 114 /* rpm4 tags */
 115 #define TAG_LONGFILESIZES       5008
 116 #define TAG_LONGSIZE            5009
 117
 118 #define SIGTAG_SIZE             1000
 119 #define SIGTAG_PGP              1002    /* RSA signature */
 120 #define SIGTAG_MD5              1004    /* header+payload md5 checksum */
 121 #define SIGTAG_GPG              1005    /* DSA signature */
 122
 123 #define DEP_LESS                (1 << 1)
 124 #define DEP_GREATER             (1 << 2)
 125 #define DEP_EQUAL               (1 << 3)
 126 #define DEP_STRONG              (1 << 27)
 127 #define DEP_PRE                 ((1 << 6) | (1 << 9) | (1 << 10) | (1 << 11) | (1 << 12))
 128
 129 #define FILEFLAG_GHOST          (1 <<  6)
 130
 131
 132 #ifdef RPM5
 133 # define RPM_INDEX_SIZE 4
 134 #else
 135 # define RPM_INDEX_SIZE 8
 136 #endif
 137
 138 struct rpmid {
 139   unsigned int dbid;
 140   char *name;
 141 };
 142
 143 typedef struct rpmhead {
 144   int cnt;
 145   int dcnt;
 146   unsigned char *dp;
 147   unsigned char data[1];
 148 } RpmHead;
 149
 150
 151 static inline unsigned char *
 152 headfindtag(RpmHead *h, int tag)
 153 {
 154   unsigned int i;
 155   unsigned char *d, taga[4];
 156   d = h->dp - 16;
 157   taga[0] = tag >> 24;
 158   taga[1] = tag >> 16;
 159   taga[2] = tag >> 8;
 160   taga[3] = tag;
 161   for (i = 0; i < h->cnt; i++, d -= 16)
 162     if (d[3] == taga[3] && d[2] == taga[2] && d[1] == taga[1] && d[0] == taga[0])
 163       return d;
 164   return 0;
 165 }
 166
 167 static int
 168 headexists(RpmHead *h, int tag)
 169 {
 170   return headfindtag(h, tag) ? 1 : 0;
 171 }
 172
 173 static unsigned int *
 174 headint32array(RpmHead *h, int tag, int *cnt)
 175 {
 176   unsigned int i, o, *r;
 177   unsigned char *d = headfindtag(h, tag);
 178
 179   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 4)
 180     return 0;
 181   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 182   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 183   if (o + 4 * i > h->dcnt)
 184     return 0;
 185   d = h->dp + o;
 186   r = solv_calloc(i ? i : 1, sizeof(unsigned int));
 187   if (cnt)
 188     *cnt = i;
 189   for (o = 0; o < i; o++, d += 4)
 190     r[o] = d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
 191   return r;
 192 }
 193
 194 /* returns the first entry of an integer array */
 195 static unsigned int
 196 headint32(RpmHead *h, int tag)
 197 {
 198   unsigned int i, o;
 199   unsigned char *d = headfindtag(h, tag);
 200
 201   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 4)
 202     return 0;
 203   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 204   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 205   if (i == 0 || o + 4 * i > h->dcnt)
 206     return 0;
 207   d = h->dp + o;
 208   return d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
 209 }
 210
 211 /* returns the first entry of an 64bit integer array */
 212 static unsigned long long
 213 headint64(RpmHead *h, int tag)
 214 {
 215   unsigned int i, o;
 216   unsigned char *d = headfindtag(h, tag);
 217   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 5)
 218     return 0;
 219   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 220   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 221   if (i == 0 || o + 8 * i > h->dcnt)
 222     return 0;
 223   d = h->dp + o;
 224   i = d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
 225   return (unsigned long long)i << 32 | (d[4] << 24 | d[5] << 16 | d[6] << 8 | d[7]);
 226 }
 227
 228 static unsigned int *
 229 headint16array(RpmHead *h, int tag, int *cnt)
 230 {
 231   unsigned int i, o, *r;
 232   unsigned char *d = headfindtag(h, tag);
 233
 234   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 3)
 235     return 0;
 236   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 237   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 238   if (o + 4 * i > h->dcnt)
 239     return 0;
 240   d = h->dp + o;
 241   r = solv_calloc(i ? i : 1, sizeof(unsigned int));
 242   if (cnt)
 243     *cnt = i;
 244   for (o = 0; o < i; o++, d += 2)
 245     r[o] = d[0] << 8 | d[1];
 246   return r;
 247 }
 248
 249 static char *
 250 headstring(RpmHead *h, int tag)
 251 {
 252   unsigned int o;
 253   unsigned char *d = headfindtag(h, tag);
 254   /* 6: STRING, 9: I18NSTRING */
 255   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || (d[7] != 6 && d[7] != 9))
 256     return 0;
 257   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 258   if (o >= h->dcnt)
 259     return 0;
 260   return (char *)h->dp + o;
 261 }
 262
 263 static char **
 264 headstringarray(RpmHead *h, int tag, int *cnt)
 265 {
 266   unsigned int i, o;
 267   unsigned char *d = headfindtag(h, tag);
 268   char **r;
 269
 270   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 8)
 271     return 0;
 272   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 273   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 274   r = solv_calloc(i ? i : 1, sizeof(char *));
 275   if (cnt)
 276     *cnt = i;
 277   d = h->dp + o;
 278   for (o = 0; o < i; o++)
 279     {
 280       r[o] = (char *)d;
 281       if (o + 1 < i)
 282         d += strlen((char *)d) + 1;
 283       if (d >= h->dp + h->dcnt)
 284         {
 285           solv_free(r);
 286           return 0;
 287         }
 288     }
 289   return r;
 290 }
 291
 292 static unsigned char *
 293 headbinary(RpmHead *h, int tag, unsigned int *sizep)
 294 {
 295   unsigned int i, o;
 296   unsigned char *d = headfindtag(h, tag);
 297   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 7)
 298     return 0;
 299   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 300   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 301   if (o > h->dcnt || o + i < o || o + i > h->dcnt)
 302     return 0;
 303   if (sizep)
 304     *sizep = i;
 305   return h->dp + o;
 306 }
 307
 308 static char *headtoevr(RpmHead *h)
 309 {
 310   unsigned int epoch;
 311   char *version, *v;
 312   char *release;
 313   char *evr;
 314   char *distepoch;
 315
 316   version  = headstring(h, TAG_VERSION);
 317   release  = headstring(h, TAG_RELEASE);
 318   epoch = headint32(h, TAG_EPOCH);
 319   if (!version || !release)
 320     {
 321       fprintf(stderr, "headtoevr: bad rpm header\n");
 322       return 0;
 323     }
 324   for (v = version; *v >= '0' && *v <= '9'; v++)
 325     ;
 326   if (epoch || (v != version && *v == ':'))
 327     {
 328       char epochbuf[11];        /* 32bit decimal will fit in */
 329       sprintf(epochbuf, "%u", epoch);
 330       evr = solv_malloc(strlen(epochbuf) + 1 + strlen(version) + 1 + strlen(release) + 1);
 331       sprintf(evr, "%s:%s-%s", epochbuf, version, release);
 332     }
 333   else
 334     {
 335       evr = solv_malloc(strlen(version) + 1 + strlen(release) + 1);
 336       sprintf(evr, "%s-%s", version, release);
 337     }
 338   distepoch = headstring(h, TAG_DISTEPOCH);
 339   if (distepoch && *distepoch)
 340     {
 341       int l = strlen(evr);
 342       evr = solv_realloc(evr, l + strlen(distepoch) + 2);
 343       evr[l++] = ':';
 344       strcpy(evr + l, distepoch);
 345     }
 346   return evr;
 347 }
 348
 349
 350 static void
 351 setutf8string(Repodata *repodata, Id handle, Id tag, const char *str)
 352 {
 353   const unsigned char *cp;
 354   int state = 0;
 355   int c;
 356   unsigned char *buf = 0, *bp;
 357
 358   /* check if it's already utf8, code taken from screen ;-) */
 359   cp = (const unsigned char *)str;
 360   while ((c = *cp++) != 0)
 361     {
 362       if (state)
 363         {
 364           if ((c & 0xc0) != 0x80)
 365             break; /* encoding error */
 366           c = (c & 0x3f) | (state << 6);
 367           if (!(state & 0x40000000))
 368             {
 369               /* check for overlong sequences */
 370               if ((c & 0x820823e0) == 0x80000000)
 371                 c = 0xfdffffff;
 372               else if ((c & 0x020821f0) == 0x02000000)
 373                 c = 0xfff7ffff;
 374               else if ((c & 0x000820f8) == 0x00080000)
 375                 c = 0xffffd000;
 376               else if ((c & 0x0000207c) == 0x00002000)
 377                 c = 0xffffff70;
 378             }
 379         }
 380       else
 381         {
 382           /* new sequence */
 383           if (c >= 0xfe)
 384             break;
 385           else if (c >= 0xfc)
 386             c = (c & 0x01) | 0xbffffffc;    /* 5 bytes to follow */
 387           else if (c >= 0xf8)
 388             c = (c & 0x03) | 0xbfffff00;    /* 4 */
 389           else if (c >= 0xf0)
 390             c = (c & 0x07) | 0xbfffc000;    /* 3 */
 391           else if (c >= 0xe0)
 392             c = (c & 0x0f) | 0xbff00000;    /* 2 */
 393           else if (c >= 0xc2)
 394             c = (c & 0x1f) | 0xfc000000;    /* 1 */
 395           else if (c >= 0x80)
 396             break;
 397         }
 398       state = (c & 0x80000000) ? c : 0;
 399     }
 400   if (c)
 401     {
 402       /* not utf8, assume latin1 */
 403       buf = solv_malloc(2 * strlen(str) + 1);
 404       cp = (const unsigned char *)str;
 405       str = (char *)buf;
 406       bp = buf;
 407       while ((c = *cp++) != 0)
 408         {
 409           if (c >= 0xc0)
 410             {
 411               *bp++ = 0xc3;
 412               c ^= 0x80;
 413             }
 414           else if (c >= 0x80)
 415             *bp++ = 0xc2;
 416           *bp++ = c;
 417         }
 418       *bp++ = 0;
 419     }
 420   repodata_set_str(repodata, handle, tag, str);
 421   if (buf)
 422     solv_free(buf);
 423 }
 424
 425
 426 #define MAKEDEPS_FILTER_WEAK    (1 << 0)
 427 #define MAKEDEPS_FILTER_STRONG  (1 << 1)
 428 #define MAKEDEPS_NO_RPMLIB      (1 << 2)
 429
 430 /*
 431  * strong: 0: ignore strongness
 432  *         1: filter to strong
 433  *         2: filter to weak
 434  */
 435 static unsigned int
 436 makedeps(Pool *pool, Repo *repo, RpmHead *rpmhead, int tagn, int tagv, int tagf, int flags)
 437 {
 438   char **n, **v;
 439   unsigned int *f;
 440   int i, cc, nc, vc, fc;
 441   int haspre;
 442   unsigned int olddeps;
 443   Id *ida;
 444   int strong;
 445
 446   strong = flags & (MAKEDEPS_FILTER_STRONG|MAKEDEPS_FILTER_WEAK);
 447   n = headstringarray(rpmhead, tagn, &nc);
 448   if (!n)
 449     return 0;
 450   v = headstringarray(rpmhead, tagv, &vc);
 451   if (!v)
 452     {
 453       solv_free(n);
 454       return 0;
 455     }
 456   f = headint32array(rpmhead, tagf, &fc);
 457   if (!f)
 458     {
 459       solv_free(n);
 460       free(v);
 461       return 0;
 462     }
 463   if (nc != vc || nc != fc)
 464     {
 465       fprintf(stderr, "bad dependency entries\n");
 466       return 0;
 467     }
 468
 469   cc = nc;
 470   haspre = 0;   /* add no prereq marker */
 471   if (flags)
 472     {
 473       /* we do filtering */
 474       cc = 0;
 475       for (i = 0; i < nc; i++)
 476         {
 477           if (strong && (f[i] & DEP_STRONG) != (strong == MAKEDEPS_FILTER_WEAK ? 0 : DEP_STRONG))
 478             continue;
 479           if ((flags & MAKEDEPS_NO_RPMLIB) != 0)
 480             if (!strncmp(n[i], "rpmlib(", 7))
 481               continue;
 482           if ((f[i] & DEP_PRE) != 0)
 483             haspre = 1;
 484           cc++;
 485         }
 486     }
 487   else if (tagn == TAG_REQUIRENAME)
 488     {
 489       /* no filtering, just look for the first prereq */
 490       for (i = 0; i < nc; i++)
 491         if ((f[i] & DEP_PRE) != 0)
 492           {
 493             haspre = 1;
 494             break;
 495           }
 496     }
 497   if (cc == 0)
 498     {
 499       solv_free(n);
 500       solv_free(v);
 501       solv_free(f);
 502       return 0;
 503     }
 504   cc += haspre;
 505   olddeps = repo_reserve_ids(repo, 0, cc);
 506   ida = repo->idarraydata + olddeps;
 507   for (i = 0; ; i++)
 508     {
 509       if (i == nc)
 510         {
 511           if (haspre != 1)
 512             break;
 513           haspre = 2;   /* pass two: prereqs */
 514           i = 0;
 515           *ida++ = SOLVABLE_PREREQMARKER;
 516         }
 517       if (strong && (f[i] & DEP_STRONG) != (strong == MAKEDEPS_FILTER_WEAK ? 0 : DEP_STRONG))
 518         continue;
 519       if (haspre == 1 && (f[i] & DEP_PRE) != 0)
 520         continue;
 521       if (haspre == 2 && (f[i] & DEP_PRE) == 0)
 522         continue;
 523       if ((flags & MAKEDEPS_NO_RPMLIB) != 0)
 524         if (!strncmp(n[i], "rpmlib(", 7))
 525           continue;
 526       if (f[i] & (DEP_LESS|DEP_GREATER|DEP_EQUAL))
 527         {
 528           Id name, evr;
 529           int flags = 0;
 530           if ((f[i] & DEP_LESS) != 0)
 531             flags |= 4;
 532           if ((f[i] & DEP_EQUAL) != 0)
 533             flags |= 2;
 534           if ((f[i] & DEP_GREATER) != 0)
 535             flags |= 1;
 536           name = pool_str2id(pool, n[i], 1);
 537           if (v[i][0] == '0' && v[i][1] == ':' && v[i][2])
 538             evr = pool_str2id(pool, v[i] + 2, 1);
 539           else
 540             evr = pool_str2id(pool, v[i], 1);
 541           *ida++ = pool_rel2id(pool, name, evr, flags, 1);
 542         }
 543       else
 544         *ida++ = pool_str2id(pool, n[i], 1);
 545     }
 546   *ida++ = 0;
 547   repo->idarraysize += cc + 1;
 548   solv_free(n);
 549   solv_free(v);
 550   solv_free(f);
 551   return olddeps;
 552 }
 553
 554
 555 #ifdef USE_FILEFILTER
 556
 557 #define FILEFILTER_EXACT    0
 558 #define FILEFILTER_STARTS   1
 559 #define FILEFILTER_CONTAINS 2
 560
 561 struct filefilter {
 562   int dirmatch;
 563   char *dir;
 564   char *base;
 565 };
 566
 567 static struct filefilter filefilters[] = {
 568   { FILEFILTER_CONTAINS, "/bin/", 0},
 569   { FILEFILTER_CONTAINS, "/sbin/", 0},
 570   { FILEFILTER_CONTAINS, "/lib/", 0},
 571   { FILEFILTER_CONTAINS, "/lib64/", 0},
 572   { FILEFILTER_CONTAINS, "/etc/", 0},
 573   { FILEFILTER_STARTS, "/usr/games/", 0},
 574   { FILEFILTER_EXACT, "/usr/share/dict/", "words"},
 575   { FILEFILTER_STARTS, "/usr/share/", "magic.mime"},
 576   { FILEFILTER_STARTS, "/opt/gnome/games/", 0},
 577 };
 578
 579 #endif
 580
 581 static void
 582 adddudata(Pool *pool, Repo *repo, Repodata *data, Solvable *s, RpmHead *rpmhead, char **dn, unsigned int *di, int fc, int dc)
 583 {
 584   Id handle, did;
 585   int i, fszc;
 586   unsigned int *fkb, *fn, *fsz, *fm, *fino;
 587   unsigned int inotest[256], inotestok;
 588
 589   if (!fc)
 590     return;
 591   /* XXX: use TAG_LONGFILESIZES if available */
 592   fsz = headint32array(rpmhead, TAG_FILESIZES, &fszc);
 593   if (!fsz || fc != fszc)
 594     {
 595       solv_free(fsz);
 596       return;
 597     }
 598   /* stupid rpm records sizes of directories, so we have to check the mode */
 599   fm = headint16array(rpmhead, TAG_FILEMODES, &fszc);
 600   if (!fm || fc != fszc)
 601     {
 602       solv_free(fsz);
 603       solv_free(fm);
 604       return;
 605     }
 606   fino = headint32array(rpmhead, TAG_FILEINODES, &fszc);
 607   if (!fino || fc != fszc)
 608     {
 609       solv_free(fsz);
 610       solv_free(fm);
 611       solv_free(fino);
 612       return;
 613     }
 614   inotestok = 0;
 615   if (fc < sizeof(inotest))
 616     {
 617       memset(inotest, 0, sizeof(inotest));
 618       for (i = 0; i < fc; i++)
 619         {
 620           int off, bit;
 621           if (fsz[i] == 0 || !S_ISREG(fm[i]))
 622             continue;
 623           off = (fino[i] >> 5) & (sizeof(inotest)/sizeof(*inotest) - 1);
 624           bit = 1 << (fino[i] & 31);
 625           if ((inotest[off] & bit) != 0)
 626             break;
 627           inotest[off] |= bit;
 628         }
 629       if (i == fc)
 630         inotestok = 1;
 631     }
 632   if (!inotestok)
 633     {
 634       unsigned int *fdev = headint32array(rpmhead, TAG_FILEDEVICES, &fszc);
 635       unsigned int *fx, j;
 636       unsigned int mask, hash, hh;
 637       if (!fdev || fc != fszc)
 638         {
 639           solv_free(fsz);
 640           solv_free(fm);
 641           solv_free(fdev);
 642           solv_free(fino);
 643           return;
 644         }
 645       mask = fc;
 646       while ((mask & (mask - 1)) != 0)
 647         mask = mask & (mask - 1);
 648       mask <<= 2;
 649       if (mask > sizeof(inotest)/sizeof(*inotest))
 650         fx = solv_calloc(mask, sizeof(unsigned int));
 651       else
 652         {
 653           fx = inotest;
 654           memset(fx, 0, mask * sizeof(unsigned int));
 655         }
 656       mask--;
 657       for (i = 0; i < fc; i++)
 658         {
 659           if (fsz[i] == 0 || !S_ISREG(fm[i]))
 660             continue;
 661           hash = (fino[i] + fdev[i] * 31) & mask;
 662           hh = 7;
 663           while ((j = fx[hash]) != 0)
 664             {
 665               if (fino[j - 1] == fino[i] && fdev[j - 1] == fdev[i])
 666                 {
 667                   fsz[i] = 0;   /* kill entry */
 668                   break;
 669                 }
 670               hash = (hash + hh++) & mask;
 671             }
 672           if (!j)
 673             fx[hash] = i + 1;
 674         }
 675       if (fx != inotest)
 676         solv_free(fx);
 677       solv_free(fdev);
 678     }
 679   solv_free(fino);
 680   fn = solv_calloc(dc, sizeof(unsigned int));
 681   fkb = solv_calloc(dc, sizeof(unsigned int));
 682   for (i = 0; i < fc; i++)
 683     {
 684       if (di[i] >= dc)
 685         continue;
 686       fn[di[i]]++;
 687       if (fsz[i] == 0 || !S_ISREG(fm[i]))
 688         continue;
 689       fkb[di[i]] += fsz[i] / 1024 + 1;
 690     }
 691   solv_free(fsz);
 692   solv_free(fm);
 693   /* commit */
 694   handle = s - pool->solvables;
 695   for (i = 0; i < dc; i++)
 696     {
 697       if (!fn[i])
 698         continue;
 699       if (!*dn[i])
 700         {
 701           if (s->arch == ARCH_SRC || s->arch == ARCH_NOSRC)
 702             did = repodata_str2dir(data, "/usr/src", 1);
 703           else
 704             continue;   /* work around rpm bug */
 705         }
 706       else
 707         did = repodata_str2dir(data, dn[i], 1);
 708       repodata_add_dirnumnum(data, handle, SOLVABLE_DISKUSAGE, did, fkb[i], fn[i]);
 709     }
 710   solv_free(fn);
 711   solv_free(fkb);
 712 }
 713
 714 /* assumes last processed array is provides! */
 715 static unsigned int
 716 addfileprovides(Pool *pool, Repo *repo, Repodata *data, Solvable *s, RpmHead *rpmhead, unsigned int olddeps)
 717 {
 718   char **bn;
 719   char **dn;
 720   unsigned int *di;
 721   int bnc, dnc, dic;
 722   int i;
 723 #ifdef USE_FILEFILTER
 724   int j;
 725   struct filefilter *ff;
 726 #endif
 727 #if 0
 728   char *fn = 0;
 729   int fna = 0;
 730 #endif
 731
 732   if (!data)
 733     return olddeps;
 734   bn = headstringarray(rpmhead, TAG_BASENAMES, &bnc);
 735   if (!bn)
 736     return olddeps;
 737   dn = headstringarray(rpmhead, TAG_DIRNAMES, &dnc);
 738   if (!dn)
 739     {
 740       solv_free(bn);
 741       return olddeps;
 742     }
 743   di = headint32array(rpmhead, TAG_DIRINDEXES, &dic);
 744   if (!di)
 745     {
 746       solv_free(bn);
 747       solv_free(dn);
 748       return olddeps;
 749     }
 750   if (bnc != dic)
 751     {
 752       fprintf(stderr, "bad filelist\n");
 753       return olddeps;
 754     }
 755
 756   if (data)
 757     adddudata(pool, repo, data, s, rpmhead, dn, di, bnc, dnc);
 758
 759   for (i = 0; i < bnc; i++)
 760     {
 761 #ifdef USE_FILEFILTER
 762       ff = filefilters;
 763       for (j = 0; j < sizeof(filefilters)/sizeof(*filefilters); j++, ff++)
 764         {
 765           if (ff->dir)
 766             {
 767               switch (ff->dirmatch)
 768                 {
 769                 case FILEFILTER_STARTS:
 770                   if (strncmp(dn[di[i]], ff->dir, strlen(ff->dir)))
 771                     continue;
 772                   break;
 773                 case FILEFILTER_CONTAINS:
 774                   if (!strstr(dn[di[i]], ff->dir))
 775                     continue;
 776                   break;
 777                 case FILEFILTER_EXACT:
 778                 default:
 779                   if (strcmp(dn[di[i]], ff->dir))
 780                     continue;
 781                   break;
 782                 }
 783             }
 784           if (ff->base)
 785             {
 786               if (strcmp(bn[i], ff->base))
 787                 continue;
 788             }
 789           break;
 790         }
 791       if (j == sizeof(filefilters)/sizeof(*filefilters))
 792         continue;
 793 #endif
 794 #if 0
 795       j = strlen(bn[i]) + strlen(dn[di[i]]) + 1;
 796       if (j > fna)
 797         {
 798           fna = j + 256;
 799           fn = solv_realloc(fn, fna);
 800         }
 801       strcpy(fn, dn[di[i]]);
 802       strcat(fn, bn[i]);
 803       olddeps = repo_addid_dep(repo, olddeps, pool_str2id(pool, fn, 1), SOLVABLE_FILEMARKER);
 804 #endif
 805       if (data)
 806         {
 807           Id handle, did;
 808           char *b = bn[i];
 809
 810           handle = s - pool->solvables;
 811           did = repodata_str2dir(data, dn[di[i]], 1);
 812           if (!did)
 813             {
 814               did = repodata_str2dir(data, "/", 1);
 815               if (b && b[0] == '/')
 816                 b++;    /* work around rpm bug */
 817             }
 818           repodata_add_dirstr(data, handle, SOLVABLE_FILELIST, did, b);
 819         }
 820     }
 821 #if 0
 822   if (fn)
 823     solv_free(fn);
 824 #endif
 825   solv_free(bn);
 826   solv_free(dn);
 827   solv_free(di);
 828   return olddeps;
 829 }
 830
 831 static void
 832 addsourcerpm(Pool *pool, Repodata *data, Id handle, char *sourcerpm, char *name, char *evr)
 833 {
 834   const char *p, *sevr, *sarch;
 835
 836   p = strrchr(sourcerpm, '.');
 837   if (!p || strcmp(p, ".rpm") != 0)
 838     return;
 839   p--;
 840   while (p > sourcerpm && *p != '.')
 841     p--;
 842   if (*p != '.' || p == sourcerpm)
 843     return;
 844   sarch = p-- + 1;
 845   while (p > sourcerpm && *p != '-')
 846     p--;
 847   if (*p != '-' || p == sourcerpm)
 848     return;
 849   p--;
 850   while (p > sourcerpm && *p != '-')
 851     p--;
 852   if (*p != '-' || p == sourcerpm)
 853     return;
 854   sevr = p + 1;
 855   if (!strcmp(sarch, "src.rpm"))
 856     repodata_set_constantid(data, handle, SOLVABLE_SOURCEARCH, ARCH_SRC);
 857   else if (!strcmp(sarch, "nosrc.rpm"))
 858     repodata_set_constantid(data, handle, SOLVABLE_SOURCEARCH, ARCH_NOSRC);
 859   else
 860     repodata_set_constantid(data, handle, SOLVABLE_SOURCEARCH, pool_strn2id(pool, sarch, strlen(sarch) - 4, 1));
 861   if (evr && !strncmp(sevr, evr, sarch - sevr - 1) && evr[sarch - sevr - 1] == 0)
 862     repodata_set_void(data, handle, SOLVABLE_SOURCEEVR);
 863   else
 864     repodata_set_id(data, handle, SOLVABLE_SOURCEEVR, pool_strn2id(pool, sevr, sarch - sevr - 1, 1));
 865   if (name && !strncmp(sourcerpm, name, sevr - sourcerpm - 1) && name[sevr - sourcerpm - 1] == 0)
 866     repodata_set_void(data, handle, SOLVABLE_SOURCENAME);
 867   else
 868     repodata_set_id(data, handle, SOLVABLE_SOURCENAME, pool_strn2id(pool, sourcerpm, sevr - sourcerpm - 1, 1));
 869 }
 870
 871 static int
 872 rpm2solv(Pool *pool, Repo *repo, Repodata *data, Solvable *s, RpmHead *rpmhead, int flags)
 873 {
 874   char *name;
 875   char *evr;
 876   char *sourcerpm;
 877
 878   name = headstring(rpmhead, TAG_NAME);
 879   if (!strcmp(name, "gpg-pubkey"))
 880     return 0;
 881   s->name = pool_str2id(pool, name, 1);
 882   if (!s->name)
 883     {
 884       fprintf(stderr, "package has no name\n");
 885       return 0;
 886     }
 887   sourcerpm = headstring(rpmhead, TAG_SOURCERPM);
 888   if (sourcerpm)
 889     s->arch = pool_str2id(pool, headstring(rpmhead, TAG_ARCH), 1);
 890   else
 891     {
 892       if (headexists(rpmhead, TAG_NOSOURCE) || headexists(rpmhead, TAG_NOPATCH))
 893         s->arch = ARCH_NOSRC;
 894       else
 895         s->arch = ARCH_SRC;
 896     }
 897   if (!s->arch)
 898     s->arch = ARCH_NOARCH;
 899   evr = headtoevr(rpmhead);
 900   s->evr = pool_str2id(pool, evr, 1);
 901   s->vendor = pool_str2id(pool, headstring(rpmhead, TAG_VENDOR), 1);
 902
 903   s->provides = makedeps(pool, repo, rpmhead, TAG_PROVIDENAME, TAG_PROVIDEVERSION, TAG_PROVIDEFLAGS, 0);
 904   if ((flags & RPM_ADD_NO_FILELIST) == 0)
 905     s->provides = addfileprovides(pool, repo, data, s, rpmhead, s->provides);
 906   if (s->arch != ARCH_SRC && s->arch != ARCH_NOSRC)
 907     s->provides = repo_addid_dep(repo, s->provides, pool_rel2id(pool, s->name, s->evr, REL_EQ, 1), 0);
 908   s->requires = makedeps(pool, repo, rpmhead, TAG_REQUIRENAME, TAG_REQUIREVERSION, TAG_REQUIREFLAGS, (flags & RPM_ADD_NO_RPMLIBREQS) ? MAKEDEPS_NO_RPMLIB : 0);
 909   s->conflicts = makedeps(pool, repo, rpmhead, TAG_CONFLICTNAME, TAG_CONFLICTVERSION, TAG_CONFLICTFLAGS, 0);
 910   s->obsoletes = makedeps(pool, repo, rpmhead, TAG_OBSOLETENAME, TAG_OBSOLETEVERSION, TAG_OBSOLETEFLAGS, 0);
 911
 912   s->recommends = makedeps(pool, repo, rpmhead, TAG_SUGGESTSNAME, TAG_SUGGESTSVERSION, TAG_SUGGESTSFLAGS, MAKEDEPS_FILTER_STRONG);
 913   s->suggests = makedeps(pool, repo, rpmhead, TAG_SUGGESTSNAME, TAG_SUGGESTSVERSION, TAG_SUGGESTSFLAGS, MAKEDEPS_FILTER_WEAK);
 914   s->supplements = makedeps(pool, repo, rpmhead, TAG_ENHANCESNAME, TAG_ENHANCESVERSION, TAG_ENHANCESFLAGS, MAKEDEPS_FILTER_STRONG);
 915   s->enhances  = makedeps(pool, repo, rpmhead, TAG_ENHANCESNAME, TAG_ENHANCESVERSION, TAG_ENHANCESFLAGS, MAKEDEPS_FILTER_WEAK);
 916   s->supplements = repo_fix_supplements(repo, s->provides, s->supplements, 0);
 917   s->conflicts = repo_fix_conflicts(repo, s->conflicts);
 918
 919   if (data)
 920     {
 921       Id handle;
 922       char *str;
 923       unsigned int u32;
 924       unsigned long long u64;
 925
 926       handle = s - pool->solvables;
 927       str = headstring(rpmhead, TAG_SUMMARY);
 928       if (str)
 929         setutf8string(data, handle, SOLVABLE_SUMMARY, str);
 930       str = headstring(rpmhead, TAG_DESCRIPTION);
 931       if (str)
 932         {
 933           char *aut, *p;
 934           for (aut = str; (aut = strchr(aut, '\n')) != 0; aut++)
 935             if (!strncmp(aut, "\nAuthors:\n--------\n", 19))
 936               break;
 937           if (aut)
 938             {
 939               /* oh my, found SUSE special author section */
 940               int l = aut - str;
 941               str = solv_strdup(str);
 942               aut = str + l;
 943               str[l] = 0;
 944               while (l > 0 && str[l - 1] == '\n')
 945                 str[--l] = 0;
 946               if (l)
 947                 setutf8string(data, handle, SOLVABLE_DESCRIPTION, str);
 948               p = aut + 19;
 949               aut = str;        /* copy over */
 950               while (*p == ' ' || *p == '\n')
 951                 p++;
 952               while (*p)
 953                 {
 954                   if (*p == '\n')
 955                     {
 956                       *aut++ = *p++;
 957                       while (*p == ' ')
 958                         p++;
 959                       continue;
 960                     }
 961                   *aut++ = *p++;
 962                 }
 963               while (aut != str && aut[-1] == '\n')
 964                 aut--;
 965               *aut = 0;
 966               if (*str)
 967                 setutf8string(data, handle, SOLVABLE_AUTHORS, str);
 968               free(str);
 969             }
 970           else if (*str)
 971             setutf8string(data, handle, SOLVABLE_DESCRIPTION, str);
 972         }
 973       str = headstring(rpmhead, TAG_GROUP);
 974       if (str)
 975         repodata_set_poolstr(data, handle, SOLVABLE_GROUP, str);
 976       str = headstring(rpmhead, TAG_LICENSE);
 977       if (str)
 978         repodata_set_poolstr(data, handle, SOLVABLE_LICENSE, str);
 979       str = headstring(rpmhead, TAG_URL);
 980       if (str)
 981         repodata_set_str(data, handle, SOLVABLE_URL, str);
 982       str = headstring(rpmhead, TAG_DISTRIBUTION);
 983       if (str)
 984         repodata_set_poolstr(data, handle, SOLVABLE_DISTRIBUTION, str);
 985       str = headstring(rpmhead, TAG_PACKAGER);
 986       if (str)
 987         repodata_set_poolstr(data, handle, SOLVABLE_PACKAGER, str);
 988       if ((flags & RPM_ADD_WITH_HDRID) != 0)
 989         {
 990           str = headstring(rpmhead, TAG_SHA1HEADER);
 991           if (str && strlen(str) == 40)
 992             repodata_set_checksum(data, handle, SOLVABLE_HDRID, REPOKEY_TYPE_SHA1, str);
 993           else if (str && strlen(str) == 64)
 994             repodata_set_checksum(data, handle, SOLVABLE_HDRID, REPOKEY_TYPE_SHA256, str);
 995         }
 996       u32 = headint32(rpmhead, TAG_BUILDTIME);
 997       if (u32)
 998         repodata_set_num(data, handle, SOLVABLE_BUILDTIME, u32);
 999       u32 = headint32(rpmhead, TAG_INSTALLTIME);
1000       if (u32)
1001         repodata_set_num(data, handle, SOLVABLE_INSTALLTIME, u32);
1002       u64 = headint64(rpmhead, TAG_LONGSIZE);
1003       if (u64)
1004         repodata_set_num(data, handle, SOLVABLE_INSTALLSIZE, u64);
1005       else
1006         {
1007           u32 = headint32(rpmhead, TAG_SIZE);
1008           if (u32)
1009             repodata_set_num(data, handle, SOLVABLE_INSTALLSIZE, u32);
1010         }
1011       if (sourcerpm)
1012         addsourcerpm(pool, data, handle, sourcerpm, name, evr);
1013       if ((flags & RPM_ADD_TRIGGERS) != 0)
1014         {
1015           Id id, lastid;
1016           unsigned int ida = makedeps(pool, repo, rpmhead, TAG_TRIGGERNAME, TAG_TRIGGERVERSION, TAG_TRIGGERFLAGS, 0);
1017
1018           lastid = 0;
1019           for (; (id = repo->idarraydata[ida]) != 0; ida++)
1020             {
1021               /* we currently do not support rel ids in incore data, so
1022                * strip off versioning information */
1023               while (ISRELDEP(id))
1024                 {
1025                   Reldep *rd = GETRELDEP(pool, id);
1026                   id = rd->name;
1027                 }
1028               if (id == lastid)
1029                 continue;
1030               repodata_add_idarray(data, handle, SOLVABLE_TRIGGERS, id);
1031               lastid = id;
1032             }
1033         }
1034     }
1035   solv_free(evr);
1036   return 1;
1037 }
1038
1039 static Id
1040 copyreldep(Pool *pool, Pool *frompool, Id id)
1041 {
1042   Reldep *rd = GETRELDEP(frompool, id);
1043   Id name = rd->name, evr = rd->evr;
1044   if (ISRELDEP(name))
1045     name = copyreldep(pool, frompool, name);
1046   else
1047     name = pool_str2id(pool, pool_id2str(frompool, name), 1);
1048   if (ISRELDEP(evr))
1049     evr = copyreldep(pool, frompool, evr);
1050   else
1051     evr = pool_str2id(pool, pool_id2str(frompool, evr), 1);
1052   return pool_rel2id(pool, name, evr, rd->flags, 1);
1053 }
1054
1055 static Offset
1056 copydeps(Pool *pool, Repo *repo, Offset fromoff, Repo *fromrepo)
1057 {
1058   int cc;
1059   Id id, *ida, *from;
1060   Offset ido;
1061   Pool *frompool = fromrepo->pool;
1062
1063   if (!fromoff)
1064     return 0;
1065   from = fromrepo->idarraydata + fromoff;
1066   for (ida = from, cc = 0; *ida; ida++, cc++)
1067     ;
1068   if (cc == 0)
1069     return 0;
1070   ido = repo_reserve_ids(repo, 0, cc);
1071   ida = repo->idarraydata + ido;
1072   if (frompool && pool != frompool)
1073     {
1074       while (*from)
1075         {
1076           id = *from++;
1077           if (ISRELDEP(id))
1078             id = copyreldep(pool, frompool, id);
1079           else
1080             id = pool_str2id(pool, pool_id2str(frompool, id), 1);
1081           *ida++ = id;
1082         }
1083       *ida = 0;
1084     }
1085   else
1086     memcpy(ida, from, (cc + 1) * sizeof(Id));
1087   repo->idarraysize += cc + 1;
1088   return ido;
1089 }
1090
1091 #define COPYDIR_DIRCACHE_SIZE 512
1092
1093 static Id copydir_complex(Pool *pool, Repodata *data, Stringpool *fromspool, Repodata *fromdata, Id did, Id *cache);
1094
1095 static inline Id
1096 copydir(Pool *pool, Repodata *data, Stringpool *fromspool, Repodata *fromdata, Id did, Id *cache)
1097 {
1098   if (cache && cache[did & 255] == did)
1099     return cache[(did & 255) + 256];
1100   return copydir_complex(pool, data, fromspool, fromdata, did, cache);
1101 }
1102
1103 static Id
1104 copydir_complex(Pool *pool, Repodata *data, Stringpool *fromspool, Repodata *fromdata, Id did, Id *cache)
1105 {
1106   Id parent = dirpool_parent(&fromdata->dirpool, did);
1107   Id compid = dirpool_compid(&fromdata->dirpool, did);
1108   if (parent)
1109     parent = copydir(pool, data, fromspool, fromdata, parent, cache);
1110   if (fromspool != &pool->ss)
1111     compid = pool_str2id(pool, stringpool_id2str(fromspool, compid), 1);
1112   compid = dirpool_add_dir(&data->dirpool, parent, compid, 1);
1113   if (cache)
1114     {
1115       cache[did & 255] = did;
1116       cache[(did & 255) + 256] = compid;
1117     }
1118   return compid;
1119 }
1120
1121 struct solvable_copy_cbdata {
1122   Repodata *data;
1123   Id handle;
1124   Id *dircache;
1125 };
1126
1127 static int
1128 solvable_copy_cb(void *vcbdata, Solvable *r, Repodata *fromdata, Repokey *key, KeyValue *kv)
1129 {
1130   struct solvable_copy_cbdata *cbdata = vcbdata;
1131   Id id, keyname;
1132   Repodata *data = cbdata->data;
1133   Id handle = cbdata->handle;
1134   Pool *pool = data->repo->pool, *frompool = fromdata->repo->pool;
1135   Stringpool *fromspool = fromdata->localpool ? &fromdata->spool : &frompool->ss;
1136
1137   keyname = key->name;
1138   if (keyname >= ID_NUM_INTERNAL && pool != frompool)
1139     keyname = pool_str2id(pool, pool_id2str(frompool, keyname), 1);
1140   switch(key->type)
1141     {
1142     case REPOKEY_TYPE_ID:
1143     case REPOKEY_TYPE_CONSTANTID:
1144     case REPOKEY_TYPE_IDARRAY:  /* used for triggers */
1145       id = kv->id;
1146       assert(!data->localpool); /* implement me! */
1147       if (pool != frompool || fromdata->localpool)
1148         {
1149           if (ISRELDEP(id))
1150             id = copyreldep(pool, frompool, id);
1151           else
1152             id = pool_str2id(pool, stringpool_id2str(fromspool, id), 1);
1153         }
1154       if (key->type == REPOKEY_TYPE_ID)
1155         repodata_set_id(data, handle, keyname, id);
1156       else if (key->type == REPOKEY_TYPE_CONSTANTID)
1157         repodata_set_constantid(data, handle, keyname, id);
1158       else
1159         repodata_add_idarray(data, handle, keyname, id);
1160       break;
1161     case REPOKEY_TYPE_STR:
1162       repodata_set_str(data, handle, keyname, kv->str);
1163       break;
1164     case REPOKEY_TYPE_VOID:
1165       repodata_set_void(data, handle, keyname);
1166       break;
1167     case REPOKEY_TYPE_NUM:
1168       repodata_set_num(data, handle, keyname, SOLV_KV_NUM64(kv));
1169       break;
1170     case REPOKEY_TYPE_CONSTANT:
1171       repodata_set_constant(data, handle, keyname, kv->num);
1172       break;
1173     case REPOKEY_TYPE_DIRNUMNUMARRAY:
1174       id = kv->id;
1175       assert(!data->localpool); /* implement me! */
1176       id = copydir(pool, data, fromspool, fromdata, id, cbdata->dircache);
1177       repodata_add_dirnumnum(data, handle, keyname, id, kv->num, kv->num2);
1178       break;
1179     case REPOKEY_TYPE_DIRSTRARRAY:
1180       id = kv->id;
1181       assert(!data->localpool); /* implement me! */
1182       id = copydir(pool, data, fromspool, fromdata, id, cbdata->dircache);
1183       repodata_add_dirstr(data, handle, keyname, id, kv->str);
1184       break;
1185     default:
1186       break;
1187     }
1188   return 0;
1189 }
1190
1191 static void
1192 solvable_copy(Solvable *s, Solvable *r, Repodata *data, Id *dircache)
1193 {
1194   Repo *repo = s->repo;
1195   Repo *fromrepo = r->repo;
1196   Pool *pool = repo->pool;
1197   struct solvable_copy_cbdata cbdata;
1198
1199   /* copy solvable data */
1200   if (pool == fromrepo->pool)
1201     {
1202       s->name = r->name;
1203       s->evr = r->evr;
1204       s->arch = r->arch;
1205       s->vendor = r->vendor;
1206     }
1207   else
1208     {
1209       if (r->name)
1210         s->name = pool_str2id(pool, pool_id2str(fromrepo->pool, r->name), 1);
1211       if (r->evr)
1212         s->evr = pool_str2id(pool, pool_id2str(fromrepo->pool, r->evr), 1);
1213       if (r->arch)
1214         s->arch = pool_str2id(pool, pool_id2str(fromrepo->pool, r->arch), 1);
1215       if (r->vendor)
1216         s->vendor = pool_str2id(pool, pool_id2str(fromrepo->pool, r->vendor), 1);
1217     }
1218   s->provides = copydeps(pool, repo, r->provides, fromrepo);
1219   s->requires = copydeps(pool, repo, r->requires, fromrepo);
1220   s->conflicts = copydeps(pool, repo, r->conflicts, fromrepo);
1221   s->obsoletes = copydeps(pool, repo, r->obsoletes, fromrepo);
1222   s->recommends = copydeps(pool, repo, r->recommends, fromrepo);
1223   s->suggests = copydeps(pool, repo, r->suggests, fromrepo);
1224   s->supplements = copydeps(pool, repo, r->supplements, fromrepo);
1225   s->enhances  = copydeps(pool, repo, r->enhances, fromrepo);
1226
1227   /* copy all attributes */
1228   if (!data)
1229     return;
1230   cbdata.data = data;
1231   cbdata.handle = s - pool->solvables;
1232   cbdata.dircache = dircache;
1233   repo_search(fromrepo, (r - fromrepo->pool->solvables), 0, 0, SEARCH_NO_STORAGE_SOLVABLE, solvable_copy_cb, &cbdata);
1234 }
1235
1236 /* used to sort entries returned in some database order */
1237 static int
1238 rpmids_sort_cmp(const void *va, const void *vb, void *dp)
1239 {
1240   struct rpmid const *a = va, *b = vb;
1241   int r;
1242   r = strcmp(a->name, b->name);
1243   if (r)
1244     return r;
1245   return a->dbid - b->dbid;
1246 }
1247
1248 static int
1249 pkgids_sort_cmp(const void *va, const void *vb, void *dp)
1250 {
1251   Repo *repo = dp;
1252   Pool *pool = repo->pool;
1253   Solvable *a = pool->solvables + *(Id *)va;
1254   Solvable *b = pool->solvables + *(Id *)vb;
1255   Id *rpmdbid;
1256
1257   if (a->name != b->name)
1258     return strcmp(pool_id2str(pool, a->name), pool_id2str(pool, b->name));
1259   rpmdbid = repo->rpmdbid;
1260   return rpmdbid[(a - pool->solvables) - repo->start] - rpmdbid[(b - pool->solvables) - repo->start];
1261 }
1262
1263 static void
1264 swap_solvables(Repo *repo, Repodata *data, Id pa, Id pb)
1265 {
1266   Pool *pool = repo->pool;
1267   Solvable tmp;
1268
1269   tmp = pool->solvables[pa];
1270   pool->solvables[pa] = pool->solvables[pb];
1271   pool->solvables[pb] = tmp;
1272   if (repo->rpmdbid)
1273     {
1274       Id tmpid = repo->rpmdbid[pa - repo->start];
1275       repo->rpmdbid[pa - repo->start] = repo->rpmdbid[pb - repo->start];
1276       repo->rpmdbid[pb - repo->start] = tmpid;
1277     }
1278   /* only works if nothing is already internalized! */
1279   if (data)
1280     repodata_swap_attrs(data, pa, pb);
1281 }
1282
1283
1284 static inline Id db2rpmdbid(unsigned char *db, int byteswapped)
1285 {
1286 #ifdef RPM5
1287   return db[0] << 24 | db[1] << 16 | db[2] << 8 | db[3];
1288 #else
1289 # if defined(WORDS_BIGENDIAN)
1290   if (!byteswapped)
1291 # else
1292   if (byteswapped)
1293 # endif
1294     return db[0] << 24 | db[1] << 16 | db[2] << 8 | db[3];
1295   else
1296     return db[3] << 24 | db[2] << 16 | db[1] << 8 | db[0];
1297 #endif
1298 }
1299
1300 static inline void rpmdbid2db(unsigned char *db, Id id, int byteswapped)
1301 {
1302 #ifdef RPM5
1303   db[0] = id >> 24, db[1] = id >> 16, db[2] = id >> 8, db[3] = id;
1304 #else
1305 # if defined(WORDS_BIGENDIAN)
1306   if (!byteswapped)
1307 # else
1308   if (byteswapped)
1309 # endif
1310     db[0] = id >> 24, db[1] = id >> 16, db[2] = id >> 8, db[3] = id;
1311   else
1312     db[3] = id >> 24, db[2] = id >> 16, db[1] = id >> 8, db[0] = id;
1313 #endif
1314 }
1315
1316 static void
1317 mkrpmdbcookie(struct stat *st, unsigned char *cookie)
1318 {
1319   memset(cookie, 0, 32);
1320   cookie[3] = RPMDB_COOKIE_VERSION;
1321   memcpy(cookie + 16, &st->st_ino, sizeof(st->st_ino));
1322   memcpy(cookie + 24, &st->st_dev, sizeof(st->st_dev));
1323 }
1324
1325 /* should look in /usr/lib/rpm/macros instead, but we want speed... */
1326 static DB_ENV *
1327 opendbenv(const char *rootdir)
1328 {
1329   char dbpath[PATH_MAX];
1330   DB_ENV *dbenv = 0;
1331   int r;
1332
1333   if (db_env_create(&dbenv, 0))
1334     {
1335       perror("db_env_create");
1336       return 0;
1337     }
1338 #if defined(FEDORA) && (DB_VERSION_MAJOR >= 5 || (DB_VERSION_MAJOR == 4 && DB_VERSION_MINOR >= 5))
1339   dbenv->set_thread_count(dbenv, 8);
1340 #endif
1341   snprintf(dbpath, PATH_MAX, "%s/var/lib/rpm", rootdir ? rootdir : "");
1342   if (access(dbpath, W_OK) == -1)
1343     {
1344       r = dbenv->open(dbenv, dbpath, DB_CREATE|DB_PRIVATE|DB_INIT_MPOOL, 0);
1345     }
1346   else
1347     {
1348 #ifdef FEDORA
1349       r = dbenv->open(dbenv, dbpath, DB_CREATE|DB_INIT_CDB|DB_INIT_MPOOL, 0644);
1350 #else
1351       r = dbenv->open(dbenv, dbpath, DB_CREATE|DB_PRIVATE|DB_INIT_MPOOL, 0);
1352 #endif
1353     }
1354   if (r)
1355     {
1356       perror("dbenv open");
1357       dbenv->close(dbenv, 0);
1358       return 0;
1359     }
1360   return dbenv;
1361 }
1362
1363
1364 static int
1365 count_headers(const char *rootdir, DB_ENV *dbenv)
1366 {
1367   char dbpath[PATH_MAX];
1368   struct stat statbuf;
1369   DB *db = 0;
1370   DBC *dbc = 0;
1371   int count = 0;
1372   DBT dbkey;
1373   DBT dbdata;
1374
1375   snprintf(dbpath, PATH_MAX, "%s/var/lib/rpm/Name", rootdir);
1376   if (stat(dbpath, &statbuf))
1377     return 0;
1378   memset(&dbkey, 0, sizeof(dbkey));
1379   memset(&dbdata, 0, sizeof(dbdata));
1380   if (db_create(&db, dbenv, 0))
1381     {
1382       perror("db_create");
1383       return 0;
1384     }
1385   if (db->open(db, 0, "Name", 0, DB_UNKNOWN, DB_RDONLY, 0664))
1386     {
1387       perror("db->open Name index");
1388       return 0;
1389     }
1390   if (db->cursor(db, NULL, &dbc, 0))
1391     {
1392       perror("db->cursor");
1393       return 0;
1394     }
1395   while (dbc->c_get(dbc, &dbkey, &dbdata, DB_NEXT) == 0)
1396     count += dbdata.size / RPM_INDEX_SIZE;
1397   dbc->c_close(dbc);
1398   db->close(db, 0);
1399   return count;
1400 }
1401
1402 /*
1403  * read rpm db as repo
1404  *
1405  */
1406
1407 int
1408 repo_add_rpmdb(Repo *repo, Repo *ref, const char *rootdir, int flags)
1409 {
1410   Pool *pool = repo->pool;
1411   unsigned char buf[16];
1412   DB *db = 0;
1413   DBC *dbc = 0;
1414   int byteswapped;
1415   unsigned int dbid;
1416   unsigned char *dp;
1417   int dl, nrpmids;
1418   struct rpmid *rpmids, *rp;
1419   int i;
1420   int rpmheadsize;
1421   RpmHead *rpmhead;
1422   Solvable *s;
1423   Id id, *refhash;
1424   unsigned int refmask, h;
1425   char dbpath[PATH_MAX];
1426   DB_ENV *dbenv = 0;
1427   DBT dbkey;
1428   DBT dbdata;
1429   struct stat packagesstat;
1430   unsigned char newcookie[32];
1431   const unsigned char *oldcookie = 0;
1432   Id oldcookietype = 0;
1433   Repodata *data;
1434   int count = 0, done = 0;
1435   unsigned int now;
1436
1437   now = solv_timems(0);
1438   memset(&dbkey, 0, sizeof(dbkey));
1439   memset(&dbdata, 0, sizeof(dbdata));
1440
1441   if (!rootdir)
1442     rootdir = "";
1443
1444   data = repo_add_repodata(repo, flags);
1445
1446   if (ref && !(ref->nsolvables && ref->rpmdbid))
1447     ref = 0;
1448
1449   if (!(dbenv = opendbenv(rootdir)))
1450     {
1451       return pool_error(pool, -1, "repo_add_rpmdb: opendbenv failed");
1452     }
1453
1454   /* XXX: should get ro lock of Packages database! */
1455   snprintf(dbpath, PATH_MAX, "%s/var/lib/rpm/Packages", rootdir);
1456   if (stat(dbpath, &packagesstat))
1457     {
1458       return pool_error(pool, -1, "repo_add_rpmdb: %s: %s", dbpath, strerror(errno));
1459     }
1460   mkrpmdbcookie(&packagesstat, newcookie);
1461   repodata_set_bin_checksum(data, SOLVID_META, REPOSITORY_RPMDBCOOKIE, REPOKEY_TYPE_SHA256, newcookie);
1462
1463   if (ref)
1464     oldcookie = repo_lookup_bin_checksum(ref, SOLVID_META, REPOSITORY_RPMDBCOOKIE, &oldcookietype);
1465   if (!ref || !oldcookie || oldcookietype != REPOKEY_TYPE_SHA256 || memcmp(oldcookie, newcookie, 32) != 0)
1466     {
1467       Id *pkgids;
1468       int solvstart = 0, solvend = 0;
1469
1470       if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1471         count = count_headers(rootdir, dbenv);
1472       if (db_create(&db, dbenv, 0))
1473         {
1474           pool_error(pool, -1, "repo_add_rpmdb: db_create: %s", strerror(errno));
1475           dbenv->close(dbenv, 0);
1476           return -1;
1477         }
1478       if (db->open(db, 0, "Packages", 0, DB_UNKNOWN, DB_RDONLY, 0664))
1479         {
1480           pool_error(pool, -1, "repo_add_rpmdb: db->open Packages index failed: %s", strerror(errno));
1481           db->close(db, 0);
1482           dbenv->close(dbenv, 0);
1483           return -1;
1484         }
1485       if (db->get_byteswapped(db, &byteswapped))
1486         {
1487           db->close(db, 0);
1488           dbenv->close(dbenv, 0);
1489           return pool_error(pool, -1, "repo_add_rpmdb: db->get_byteswapped failed");
1490         }
1491       if (db->cursor(db, NULL, &dbc, 0))
1492         {
1493           db->close(db, 0);
1494           dbenv->close(dbenv, 0);
1495           return pool_error(pool, -1, "repo_add_rpmdb: db->cursor failed");
1496         }
1497       rpmheadsize = 0;
1498       rpmhead = 0;
1499       i = 0;
1500       s = 0;
1501       while (dbc->c_get(dbc, &dbkey, &dbdata, DB_NEXT) == 0)
1502         {
1503           if (!s)
1504             {
1505               s = pool_id2solvable(pool, repo_add_solvable(repo));
1506               if (!solvstart)
1507                 solvstart = s - pool->solvables;
1508               solvend = s - pool->solvables + 1;
1509             }
1510           if (!repo->rpmdbid)
1511             repo->rpmdbid = repo_sidedata_create(repo, sizeof(Id));
1512           if (dbkey.size != 4)
1513             {
1514               dbc->c_close(dbc);
1515               db->close(db, 0);
1516               dbenv->close(dbenv, 0);
1517               return pool_error(pool, -1, "corrupt Packages database (key size)");
1518             }
1519           dbid = db2rpmdbid(dbkey.data, byteswapped);
1520           if (dbid == 0)                /* the join key */
1521             continue;
1522           if (dbdata.size < 8)
1523             {
1524               dbc->c_close(dbc);
1525               db->close(db, 0);
1526               dbenv->close(dbenv, 0);
1527               return pool_error(pool, -1, "corrupt rpm database (size %u)\n", dbdata.size);
1528             }
1529           if (dbdata.size > rpmheadsize)
1530             {
1531               rpmheadsize = dbdata.size + 128;
1532               rpmhead = solv_realloc(rpmhead, sizeof(*rpmhead) + rpmheadsize);
1533             }
1534           memcpy(buf, dbdata.data, 8);
1535           rpmhead->cnt = buf[0] << 24  | buf[1] << 16  | buf[2] << 8 | buf[3];
1536           rpmhead->dcnt = buf[4] << 24  | buf[5] << 16  | buf[6] << 8 | buf[7];
1537           if (8 + rpmhead->cnt * 16 + rpmhead->dcnt > dbdata.size)
1538             {
1539               dbc->c_close(dbc);
1540               db->close(db, 0);
1541               dbenv->close(dbenv, 0);
1542               return pool_error(pool, -1, "corrupt rpm database (data size)\n");
1543             }
1544           memcpy(rpmhead->data, (unsigned char *)dbdata.data + 8, rpmhead->cnt * 16 + rpmhead->dcnt);
1545           rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
1546           repo->rpmdbid[(s - pool->solvables) - repo->start] = dbid;
1547           if (rpm2solv(pool, repo, data, s, rpmhead, flags | RPM_ADD_TRIGGERS))
1548             {
1549               i++;
1550               s = 0;
1551             }
1552           else
1553             {
1554               /* We can reuse this solvable, but make sure it's still
1555                  associated with this repo.  */
1556               memset(s, 0, sizeof(*s));
1557               s->repo = repo;
1558             }
1559           if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1560             {
1561               if (done < count)
1562                 done++;
1563               if (done < count && (done - 1) * 100 / count != done * 100 / count)
1564                 pool_debug(pool, SOLV_ERROR, "%%%% %d\n", done * 100 / count);
1565             }
1566         }
1567       if (s)
1568         {
1569           /* oops, could not reuse. free it instead */
1570           repo_free_solvable(repo, s - pool->solvables, 1);
1571           solvend--;
1572           s = 0;
1573         }
1574       dbc->c_close(dbc);
1575       db->close(db, 0);
1576       db = 0;
1577       /* now sort all solvables in the new solvstart..solvend block */
1578       if (solvend - solvstart > 1)
1579         {
1580           pkgids = solv_malloc2(solvend - solvstart, sizeof(Id));
1581           for (i = solvstart; i < solvend; i++)
1582             pkgids[i - solvstart] = i;
1583           solv_sort(pkgids, solvend - solvstart, sizeof(Id), pkgids_sort_cmp, repo);
1584           /* adapt order */
1585           for (i = solvstart; i < solvend; i++)
1586             {
1587               int j = pkgids[i - solvstart];
1588               while (j < i)
1589                 j = pkgids[i - solvstart] = pkgids[j - solvstart];
1590               if (j != i)
1591                 swap_solvables(repo, data, i, j);
1592             }
1593           solv_free(pkgids);
1594         }
1595     }
1596   else
1597     {
1598       Id dircache[COPYDIR_DIRCACHE_SIZE];               /* see copydir */
1599
1600       memset(dircache, 0, sizeof(dircache));
1601       if (db_create(&db, dbenv, 0))
1602         {
1603           pool_error(pool, -1, "repo_add_rpmdb: db_create: %s", strerror(errno));
1604           dbenv->close(dbenv, 0);
1605           return -1;
1606         }
1607       if (db->open(db, 0, "Name", 0, DB_UNKNOWN, DB_RDONLY, 0664))
1608         {
1609           pool_error(pool, -1, "repo_add_rpmdb: db->open Name index failed: %s", strerror(errno));
1610           db->close(db, 0);
1611           dbenv->close(dbenv, 0);
1612           return -1;
1613         }
1614       if (db->get_byteswapped(db, &byteswapped))
1615         {
1616           db->close(db, 0);
1617           dbenv->close(dbenv, 0);
1618           return pool_error(pool, -1, "repo_add_rpmdb: db->get_byteswapped failed");
1619         }
1620       if (db->cursor(db, NULL, &dbc, 0))
1621         {
1622           db->close(db, 0);
1623           dbenv->close(dbenv, 0);
1624           return pool_error(pool, -1, "repo_add_rpmdb: db->cursor failed");
1625         }
1626       nrpmids = 0;
1627       rpmids = 0;
1628       while (dbc->c_get(dbc, &dbkey, &dbdata, DB_NEXT) == 0)
1629         {
1630           if (dbkey.size == 10 && !memcmp(dbkey.data, "gpg-pubkey", 10))
1631             continue;
1632           dl = dbdata.size;
1633           dp = dbdata.data;
1634           while(dl >= RPM_INDEX_SIZE)
1635             {
1636               rpmids = solv_extend(rpmids, nrpmids, 1, sizeof(*rpmids), 255);
1637               rpmids[nrpmids].dbid = db2rpmdbid(dp, byteswapped);
1638               rpmids[nrpmids].name = solv_malloc((int)dbkey.size + 1);
1639               memcpy(rpmids[nrpmids].name, dbkey.data, (int)dbkey.size);
1640               rpmids[nrpmids].name[(int)dbkey.size] = 0;
1641               nrpmids++;
1642               dp += RPM_INDEX_SIZE;
1643               dl -= RPM_INDEX_SIZE;
1644             }
1645         }
1646       dbc->c_close(dbc);
1647       db->close(db, 0);
1648       db = 0;
1649
1650       /* sort rpmids */
1651       solv_sort(rpmids, nrpmids, sizeof(*rpmids), rpmids_sort_cmp, 0);
1652
1653       rpmheadsize = 0;
1654       rpmhead = 0;
1655
1656       /* create hash from dbid to ref */
1657       refmask = mkmask(ref->nsolvables);
1658       refhash = solv_calloc(refmask + 1, sizeof(Id));
1659       for (i = 0; i < ref->end - ref->start; i++)
1660         {
1661           if (!ref->rpmdbid[i])
1662             continue;
1663           h = ref->rpmdbid[i] & refmask;
1664           while (refhash[h])
1665             h = (h + 317) & refmask;
1666           refhash[h] = i + 1;   /* make it non-zero */
1667         }
1668
1669       /* count the misses, they will cost us time */
1670       if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1671         {
1672           for (i = 0, rp = rpmids; i < nrpmids; i++, rp++)
1673             {
1674               dbid = rp->dbid;
1675               if (refhash)
1676                 {
1677                   h = dbid & refmask;
1678                   while ((id = refhash[h]))
1679                     {
1680                       if (ref->rpmdbid[id - 1] == dbid)
1681                         break;
1682                       h = (h + 317) & refmask;
1683                     }
1684                   if (id)
1685                     continue;
1686                 }
1687               count++;
1688             }
1689         }
1690
1691       s = pool_id2solvable(pool, repo_add_solvable_block(repo, nrpmids));
1692       if (!repo->rpmdbid)
1693         repo->rpmdbid = repo_sidedata_create(repo, sizeof(Id));
1694
1695       for (i = 0, rp = rpmids; i < nrpmids; i++, rp++, s++)
1696         {
1697           dbid = rp->dbid;
1698           repo->rpmdbid[(s - pool->solvables) - repo->start] = rp->dbid;
1699           if (refhash)
1700             {
1701               h = dbid & refmask;
1702               while ((id = refhash[h]))
1703                 {
1704                   if (ref->rpmdbid[id - 1] == dbid)
1705                     break;
1706                   h = (h + 317) & refmask;
1707                 }
1708               if (id)
1709                 {
1710                   Solvable *r = ref->pool->solvables + ref->start + (id - 1);
1711                   if (r->repo == ref)
1712                     {
1713                       solvable_copy(s, r, data, dircache);
1714                       continue;
1715                     }
1716                 }
1717             }
1718           if (!db)
1719             {
1720               if (db_create(&db, dbenv, 0))
1721                 {
1722                   pool_error(pool, -1, "repo_add_rpmdb: db_create: %s", strerror(errno));
1723                   dbenv->close(dbenv, 0);
1724                   return -1;
1725                 }
1726               if (db->open(db, 0, "Packages", 0, DB_UNKNOWN, DB_RDONLY, 0664))
1727                 {
1728                   pool_error(pool, -1, "repo_add_rpmdb: db->open Packages index failed: %s", strerror(errno));
1729                   db->close(db, 0);
1730                   dbenv->close(dbenv, 0);
1731                   return -1;
1732                 }
1733               if (db->get_byteswapped(db, &byteswapped))
1734                 {
1735                   db->close(db, 0);
1736                   dbenv->close(dbenv, 0);
1737                   return pool_error(pool, -1, "repo_add_rpmdb: db->get_byteswapped failed");
1738                 }
1739             }
1740           rpmdbid2db(buf, rp->dbid, byteswapped);
1741           dbkey.data = buf;
1742           dbkey.size = 4;
1743           dbdata.data = 0;
1744           dbdata.size = 0;
1745           if (db->get(db, NULL, &dbkey, &dbdata, 0))
1746             {
1747               db->close(db, 0);
1748               dbenv->close(dbenv, 0);
1749               return pool_error(pool, -1, "inconsistent rpm database, key %d not found. run 'rpm --rebuilddb' to fix.", dbid);
1750             }
1751           if (dbdata.size < 8)
1752             {
1753               db->close(db, 0);
1754               dbenv->close(dbenv, 0);
1755               return pool_error(pool, -1, "corrupt Packages database (size)");
1756             }
1757           if (dbdata.size > rpmheadsize)
1758             {
1759               rpmheadsize = dbdata.size + 128;
1760               rpmhead = solv_realloc(rpmhead, sizeof(*rpmhead) + rpmheadsize);
1761             }
1762           memcpy(buf, dbdata.data, 8);
1763           rpmhead->cnt = buf[0] << 24  | buf[1] << 16  | buf[2] << 8 | buf[3];
1764           rpmhead->dcnt = buf[4] << 24  | buf[5] << 16  | buf[6] << 8 | buf[7];
1765           if (8 + rpmhead->cnt * 16 + rpmhead->dcnt > dbdata.size)
1766             {
1767               db->close(db, 0);
1768               dbenv->close(dbenv, 0);
1769               return pool_error(pool, -1, "corrupt Packages database (data size)");
1770             }
1771           memcpy(rpmhead->data, (unsigned char *)dbdata.data + 8, rpmhead->cnt * 16 + rpmhead->dcnt);
1772           rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
1773
1774           rpm2solv(pool, repo, data, s, rpmhead, flags | RPM_ADD_TRIGGERS);
1775           if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1776             {
1777               if (done < count)
1778                 done++;
1779               if (done < count && (done - 1) * 100 / count != done * 100 / count)
1780                 pool_debug(pool, SOLV_ERROR, "%%%% %d\n", done * 100 / count);
1781             }
1782         }
1783
1784       if (refhash)
1785         solv_free(refhash);
1786       if (rpmids)
1787         {
1788           for (i = 0; i < nrpmids; i++)
1789             solv_free(rpmids[i].name);
1790           solv_free(rpmids);
1791         }
1792     }
1793   if (db)
1794     db->close(db, 0);
1795   dbenv->close(dbenv, 0);
1796   if (rpmhead)
1797     solv_free(rpmhead);
1798   if (!(flags & REPO_NO_INTERNALIZE))
1799     repodata_internalize(data);
1800   if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1801     pool_debug(pool, SOLV_ERROR, "%%%% 100\n");
1802   POOL_DEBUG(SOLV_DEBUG_STATS, "repo_add_rpmdb took %d ms\n", solv_timems(now));
1803   POOL_DEBUG(SOLV_DEBUG_STATS, "repo size: %d solvables\n", repo->nsolvables);
1804   POOL_DEBUG(SOLV_DEBUG_STATS, "repo memory used: %d K incore, %d K idarray\n", repodata_memused(data)/1024, repo->idarraysize / (int)(1024/sizeof(Id)));
1805   return 0;
1806 }
1807
1808
1809 static inline unsigned int
1810 getu32(const unsigned char *dp)
1811 {
1812   return dp[0] << 24 | dp[1] << 16 | dp[2] << 8 | dp[3];
1813 }
1814
1815
1816 Id
1817 repo_add_rpm(Repo *repo, const char *rpm, int flags)
1818 {
1819   int sigdsize, sigcnt, l;
1820   Pool *pool = repo->pool;
1821   Solvable *s;
1822   RpmHead *rpmhead = 0;
1823   int rpmheadsize = 0;
1824   char *payloadformat;
1825   FILE *fp;
1826   unsigned char lead[4096];
1827   int headerstart, headerend;
1828   struct stat stb;
1829   Repodata *data;
1830   unsigned char pkgid[16];
1831   int gotpkgid;
1832   Id chksumtype = 0;
1833   void *chksumh = 0;
1834
1835   data = repo_add_repodata(repo, flags);
1836
1837   if ((flags & RPM_ADD_WITH_SHA256SUM) != 0)
1838     chksumtype = REPOKEY_TYPE_SHA256;
1839   else if ((flags & RPM_ADD_WITH_SHA1SUM) != 0)
1840     chksumtype = REPOKEY_TYPE_SHA1;
1841
1842   if ((fp = fopen(rpm, "r")) == 0)
1843     {
1844       pool_error(pool, -1, "%s: %s", rpm, strerror(errno));
1845       return 0;
1846     }
1847   if (fstat(fileno(fp), &stb))
1848     {
1849       pool_error(pool, -1, "fstat: %s", strerror(errno));
1850       fclose(fp);
1851       return 0;
1852     }
1853   if (chksumtype)
1854     chksumh = solv_chksum_create(chksumtype);
1855   if (fread(lead, 96 + 16, 1, fp) != 1 || getu32(lead) != 0xedabeedb)
1856     {
1857       pool_error(pool, -1, "%s: not a rpm", rpm);
1858       fclose(fp);
1859       return 0;
1860     }
1861   if (chksumh)
1862     solv_chksum_add(chksumh, lead, 96 + 16);
1863   if (lead[78] != 0 || lead[79] != 5)
1864     {
1865       pool_error(pool, -1, "%s: not a rpm v5 header", rpm);
1866       fclose(fp);
1867       return 0;
1868     }
1869   if (getu32(lead + 96) != 0x8eade801)
1870     {
1871       pool_error(pool, -1, "%s: bad signature header", rpm);
1872       fclose(fp);
1873       return 0;
1874     }
1875   sigcnt = getu32(lead + 96 + 8);
1876   sigdsize = getu32(lead + 96 + 12);
1877   if (sigcnt >= 0x100000 || sigdsize >= 0x100000)
1878     {
1879       pool_error(pool, -1, "%s: bad signature header", rpm);
1880       fclose(fp);
1881       return 0;
1882     }
1883   sigdsize += sigcnt * 16;
1884   sigdsize = (sigdsize + 7) & ~7;
1885   headerstart = 96 + 16 + sigdsize;
1886   gotpkgid = 0;
1887   if ((flags & RPM_ADD_WITH_PKGID) != 0)
1888     {
1889       unsigned char *chksum;
1890       unsigned int chksumsize;
1891       /* extract pkgid from the signature header */
1892       if (sigdsize > rpmheadsize)
1893         {
1894           rpmheadsize = sigdsize + 128;
1895           rpmhead = solv_realloc(rpmhead, sizeof(*rpmhead) + rpmheadsize);
1896         }
1897       if (fread(rpmhead->data, sigdsize, 1, fp) != 1)
1898         {
1899           pool_error(pool, -1, "%s: unexpected EOF", rpm);
1900           fclose(fp);
1901           return 0;
1902         }
1903       if (chksumh)
1904         solv_chksum_add(chksumh, rpmhead->data, sigdsize);
1905       rpmhead->cnt = sigcnt;
1906       rpmhead->dcnt = sigdsize - sigcnt * 16;
1907       rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
1908       chksum = headbinary(rpmhead, SIGTAG_MD5, &chksumsize);
1909       if (chksum && chksumsize == 16)
1910         {
1911           gotpkgid = 1;
1912           memcpy(pkgid, chksum, 16);
1913         }
1914     }
1915   else
1916     {
1917       /* just skip the signature header */
1918       while (sigdsize)
1919         {
1920           l = sigdsize > 4096 ? 4096 : sigdsize;
1921           if (fread(lead, l, 1, fp) != 1)
1922             {
1923               pool_error(pool, -1, "%s: unexpected EOF", rpm);
1924               fclose(fp);
1925               return 0;
1926             }
1927           if (chksumh)
1928             solv_chksum_add(chksumh, lead, l);
1929           sigdsize -= l;
1930         }
1931     }
1932   if (fread(lead, 16, 1, fp) != 1)
1933     {
1934       pool_error(pool, -1, "%s: unexpected EOF", rpm);
1935       fclose(fp);
1936       return 0;
1937     }
1938   if (chksumh)
1939     solv_chksum_add(chksumh, lead, 16);
1940   if (getu32(lead) != 0x8eade801)
1941     {
1942       pool_error(pool, -1, "%s: bad header", rpm);
1943       fclose(fp);
1944       return 0;
1945     }
1946   sigcnt = getu32(lead + 8);
1947   sigdsize = getu32(lead + 12);
1948   if (sigcnt >= 0x100000 || sigdsize >= 0x800000)
1949     {
1950       pool_error(pool, -1, "%s: bad header", rpm);
1951       fclose(fp);
1952       return 0;
1953     }
1954   l = sigdsize + sigcnt * 16;
1955   headerend = headerstart + 16 + l;
1956   if (l > rpmheadsize)
1957     {
1958       rpmheadsize = l + 128;
1959       rpmhead = solv_realloc(rpmhead, sizeof(*rpmhead) + rpmheadsize);
1960     }
1961   if (fread(rpmhead->data, l, 1, fp) != 1)
1962     {
1963       pool_error(pool, -1, "%s: unexpected EOF", rpm);
1964       fclose(fp);
1965       return 0;
1966     }
1967   if (chksumh)
1968     solv_chksum_add(chksumh, rpmhead->data, l);
1969   rpmhead->cnt = sigcnt;
1970   rpmhead->dcnt = sigdsize;
1971   rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
1972   if (headexists(rpmhead, TAG_PATCHESNAME))
1973     {
1974       /* this is a patch rpm, ignore */
1975       pool_error(pool, -1, "%s: is patch rpm", rpm);
1976       fclose(fp);
1977       return 0;
1978     }
1979   payloadformat = headstring(rpmhead, TAG_PAYLOADFORMAT);
1980   if (payloadformat && !strcmp(payloadformat, "drpm"))
1981     {
1982       /* this is a delta rpm */
1983       pool_error(pool, -1, "%s: is delta rpm", rpm);
1984       fclose(fp);
1985       return 0;
1986     }
1987   if (chksumh)
1988     while ((l = fread(lead, 1, sizeof(lead), fp)) > 0)
1989       solv_chksum_add(chksumh, lead, l);
1990   fclose(fp);
1991   s = pool_id2solvable(pool, repo_add_solvable(repo));
1992   if (!rpm2solv(pool, repo, data, s, rpmhead, flags))
1993     {
1994       repo_free_solvable(repo, s - pool->solvables, 1);
1995       return 0;
1996     }
1997   repodata_set_location(data, s - pool->solvables, 0, 0, rpm);
1998   if (S_ISREG(stb.st_mode))
1999     repodata_set_num(data, s - pool->solvables, SOLVABLE_DOWNLOADSIZE, (unsigned long long)stb.st_size);
2000   repodata_set_num(data, s - pool->solvables, SOLVABLE_HEADEREND, headerend);
2001   if (gotpkgid)
2002     repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_PKGID, REPOKEY_TYPE_MD5, pkgid);
2003   if (chksumh)
2004     {
2005       repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_CHECKSUM, chksumtype, solv_chksum_get(chksumh, 0));
2006       chksumh = solv_chksum_free(chksumh, 0);
2007     }
2008   if (rpmhead)
2009     solv_free(rpmhead);
2010   if (!(flags & REPO_NO_INTERNALIZE))
2011     repodata_internalize(data);
2012   return s - pool->solvables;
2013 }
2014
2015 static inline void
2016 linkhash(const char *lt, char *hash)
2017 {
2018   unsigned int r = 0;
2019   const unsigned char *str = (const unsigned char *)lt;
2020   int l, c;
2021
2022   l = strlen(lt);
2023   while ((c = *str++) != 0)
2024     r += (r << 3) + c;
2025   sprintf(hash, "%08x", r);
2026   sprintf(hash + 8, "%08x", l);
2027   sprintf(hash + 16, "%08x", 0);
2028   sprintf(hash + 24, "%08x", 0);
2029 }
2030
2031 void
2032 rpm_iterate_filelist(void *rpmhandle, int flags, void (*cb)(void *, const char *, int, const char *), void *cbdata)
2033 {
2034   RpmHead *rpmhead = rpmhandle;
2035   char **bn;
2036   char **dn;
2037   char **md = 0;
2038   char **lt = 0;
2039   unsigned int *di, diidx;
2040   unsigned int *co = 0;
2041   unsigned int *ff = 0;
2042   unsigned int lastdir;
2043   int lastdirl;
2044   unsigned int *fm;
2045   int cnt, dcnt, cnt2;
2046   int i, l1, l;
2047   char *space = 0;
2048   int spacen = 0;
2049   char md5[33], *md5p = 0;
2050
2051   dn = headstringarray(rpmhead, TAG_DIRNAMES, &dcnt);
2052   if (!dn)
2053     return;
2054   if ((flags & RPM_ITERATE_FILELIST_ONLYDIRS) != 0)
2055     {
2056       for (i = 0; i < dcnt; i++)
2057         (*cb)(cbdata, dn[i], 0, (char *)0);
2058       solv_free(dn);
2059       return;
2060     }
2061   bn = headstringarray(rpmhead, TAG_BASENAMES, &cnt);
2062   if (!bn)
2063     {
2064       solv_free(dn);
2065       return;
2066     }
2067   di = headint32array(rpmhead, TAG_DIRINDEXES, &cnt2);
2068   if (!di || cnt != cnt2)
2069     {
2070       solv_free(di);
2071       solv_free(bn);
2072       solv_free(dn);
2073       return;
2074     }
2075   fm = headint16array(rpmhead, TAG_FILEMODES, &cnt2);
2076   if (!fm || cnt != cnt2)
2077     {
2078       solv_free(fm);
2079       solv_free(di);
2080       solv_free(bn);
2081       solv_free(dn);
2082       return;
2083     }
2084   if ((flags & RPM_ITERATE_FILELIST_WITHMD5) != 0)
2085     {
2086       md = headstringarray(rpmhead, TAG_FILEMD5S, &cnt2);
2087       if (!md || cnt != cnt2)
2088         {
2089           solv_free(md);
2090           solv_free(fm);
2091           solv_free(di);
2092           solv_free(bn);
2093           solv_free(dn);
2094           return;
2095         }
2096     }
2097   if ((flags & RPM_ITERATE_FILELIST_WITHCOL) != 0)
2098     {
2099       co = headint32array(rpmhead, TAG_FILECOLORS, &cnt2);
2100       if (!co || cnt != cnt2)
2101         {
2102           solv_free(co);
2103           solv_free(md);
2104           solv_free(fm);
2105           solv_free(di);
2106           solv_free(bn);
2107           solv_free(dn);
2108           return;
2109         }
2110     }
2111   if ((flags & RPM_ITERATE_FILELIST_NOGHOSTS) != 0)
2112     {
2113       ff = headint32array(rpmhead, TAG_FILEFLAGS, &cnt2);
2114       if (!ff || cnt != cnt2)
2115         {
2116           solv_free(ff);
2117           solv_free(co);
2118           solv_free(md);
2119           solv_free(fm);
2120           solv_free(di);
2121           solv_free(bn);
2122           solv_free(dn);
2123           return;
2124         }
2125     }
2126   lastdir = dcnt;
2127   lastdirl = 0;
2128   for (i = 0; i < cnt; i++)
2129     {
2130       if (ff && (ff[i] & FILEFLAG_GHOST) != 0)
2131         continue;
2132       diidx = di[i];
2133       if (diidx >= dcnt)
2134         continue;
2135       l1 = lastdir == diidx ? lastdirl : strlen(dn[diidx]);
2136       if (l1 == 0)
2137         continue;
2138       l = l1 + strlen(bn[i]) + 1;
2139       if (l > spacen)
2140         {
2141           spacen = l + 16;
2142           space = solv_realloc(space, spacen);
2143         }
2144       if (lastdir != diidx)
2145         {
2146           strcpy(space, dn[diidx]);
2147           lastdir = diidx;
2148           lastdirl = l1;
2149         }
2150       strcpy(space + l1, bn[i]);
2151       if (md)
2152         {
2153           md5p = md[i];
2154           if (S_ISLNK(fm[i]))
2155             {
2156               md5p = 0;
2157               if (!lt)
2158                 {
2159                   lt = headstringarray(rpmhead, TAG_FILELINKTOS, &cnt2);
2160                   if (cnt != cnt2)
2161                     lt = solv_free(lt);
2162                 }
2163               if (lt)
2164                 {
2165                   linkhash(lt[i], md5);
2166                   md5p = md5;
2167                 }
2168             }
2169           if (!md5p)
2170             {
2171               sprintf(md5, "%08x%08x%08x%08x", (fm[i] >> 12) & 65535, 0, 0, 0);
2172               md5p = md5;
2173             }
2174         }
2175       (*cb)(cbdata, space, co ? (fm[i] | co[i] << 24) : fm[i], md5p);
2176     }
2177   solv_free(space);
2178   solv_free(lt);
2179   solv_free(md);
2180   solv_free(fm);
2181   solv_free(di);
2182   solv_free(bn);
2183   solv_free(dn);
2184   solv_free(co);
2185   solv_free(ff);
2186 }
2187
2188 char *
2189 rpm_query(void *rpmhandle, Id what)
2190 {
2191   const char *name, *arch, *sourcerpm;
2192   char *evr, *r;
2193   int l;
2194
2195   RpmHead *rpmhead = rpmhandle;
2196   r = 0;
2197   switch (what)
2198     {
2199     case 0:
2200       name = headstring(rpmhead, TAG_NAME);
2201       if (!name)
2202         name = "";
2203       sourcerpm = headstring(rpmhead, TAG_SOURCERPM);
2204       if (sourcerpm)
2205         arch = headstring(rpmhead, TAG_ARCH);
2206       else
2207         {
2208           if (headexists(rpmhead, TAG_NOSOURCE) || headexists(rpmhead, TAG_NOPATCH))
2209             arch = "nosrc";
2210           else
2211             arch = "src";
2212         }
2213       if (!arch)
2214         arch = "noarch";
2215       evr = headtoevr(rpmhead);
2216       if (!evr)
2217         break;
2218       l = strlen(name) + 1 + strlen(evr) + 1 + strlen(arch) + 1;
2219       r = solv_malloc(l);
2220       sprintf(r, "%s-%s.%s", name, evr, arch);
2221       free(evr);
2222       break;
2223     case SOLVABLE_NAME:
2224       name = headstring(rpmhead, TAG_NAME);
2225       r = solv_strdup(name);
2226       break;
2227     case SOLVABLE_EVR:
2228       r = headtoevr(rpmhead);
2229       break;
2230     }
2231   return r;
2232 }
2233
2234
2235 struct rpm_by_state {
2236   RpmHead *rpmhead;
2237   int rpmheadsize;
2238
2239   int dbopened;
2240   DB_ENV *dbenv;
2241   DB *db;
2242   int byteswapped;
2243 };
2244
2245 struct rpmdbentry {
2246   Id rpmdbid;
2247   Id nameoff;
2248 };
2249
2250 #define ENTRIES_BLOCK 255
2251 #define NAMEDATA_BLOCK 1023
2252
2253 static struct rpmdbentry *
2254 getinstalledrpmdbids(struct rpm_by_state *state, const char *index, const char *match, int *nentriesp, char **namedatap)
2255 {
2256   DB_ENV *dbenv = 0;
2257   DB *db = 0;
2258   DBC *dbc = 0;
2259   int byteswapped;
2260   DBT dbkey;
2261   DBT dbdata;
2262   unsigned char *dp;
2263   int dl;
2264
2265   char *namedata = 0;
2266   int namedatal = 0;
2267   struct rpmdbentry *entries = 0;
2268   int nentries = 0;
2269
2270   *nentriesp = 0;
2271   *namedatap = 0;
2272
2273   dbenv = state->dbenv;
2274   if (db_create(&db, dbenv, 0))
2275     {
2276       perror("db_create");
2277       return 0;
2278     }
2279   if (db->open(db, 0, index, 0, DB_UNKNOWN, DB_RDONLY, 0664))
2280     {
2281       perror("db->open index");
2282       db->close(db, 0);
2283       return 0;
2284     }
2285   if (db->get_byteswapped(db, &byteswapped))
2286     {
2287       perror("db->get_byteswapped");
2288       db->close(db, 0);
2289       return 0;
2290     }
2291   if (db->cursor(db, NULL, &dbc, 0))
2292     {
2293       perror("db->cursor");
2294       db->close(db, 0);
2295       return 0;
2296     }
2297   memset(&dbkey, 0, sizeof(dbkey));
2298   memset(&dbdata, 0, sizeof(dbdata));
2299   if (match)
2300     {
2301       dbkey.data = (void *)match;
2302       dbkey.size = strlen(match);
2303     }
2304   while (dbc->c_get(dbc, &dbkey, &dbdata, match ? DB_SET : DB_NEXT) == 0)
2305     {
2306       if (!match && dbkey.size == 10 && !memcmp(dbkey.data, "gpg-pubkey", 10))
2307         continue;
2308       dl = dbdata.size;
2309       dp = dbdata.data;
2310       while(dl >= RPM_INDEX_SIZE)
2311         {
2312           entries = solv_extend(entries, nentries, 1, sizeof(*entries), ENTRIES_BLOCK);
2313           entries[nentries].rpmdbid = db2rpmdbid(dp, byteswapped);
2314           entries[nentries].nameoff = namedatal;
2315           nentries++;
2316           namedata = solv_extend(namedata, namedatal, dbkey.size + 1, 1, NAMEDATA_BLOCK);
2317           memcpy(namedata + namedatal, dbkey.data, dbkey.size);
2318           namedata[namedatal + dbkey.size] = 0;
2319           namedatal += dbkey.size + 1;
2320           dp += RPM_INDEX_SIZE;
2321           dl -= RPM_INDEX_SIZE;
2322         }
2323       if (match)
2324         break;
2325     }
2326   dbc->c_close(dbc);
2327   db->close(db, 0);
2328   *nentriesp = nentries;
2329   *namedatap = namedata;
2330   return entries;
2331 }
2332
2333 static void
2334 freestate(struct rpm_by_state *state)
2335 {
2336   /* close down */
2337   if (!state)
2338     return;
2339   if (state->db)
2340     state->db->close(state->db, 0);
2341   if (state->dbenv)
2342     state->dbenv->close(state->dbenv, 0);
2343   solv_free(state->rpmhead);
2344 }
2345
2346 int
2347 rpm_installedrpmdbids(const char *rootdir, const char *index, const char *match, Queue *rpmdbidq)
2348 {
2349   struct rpm_by_state state;
2350   struct rpmdbentry *entries;
2351   int nentries, i;
2352   char *namedata;
2353
2354   if (!index)
2355     index = "Name";
2356   if (rpmdbidq)
2357     queue_empty(rpmdbidq);
2358   memset(&state, 0, sizeof(state));
2359   if (!(state.dbenv = opendbenv(rootdir)))
2360     return 0;
2361   entries = getinstalledrpmdbids(&state, index, match, &nentries, &namedata);
2362   if (rpmdbidq)
2363     for (i = 0; i < nentries; i++)
2364       queue_push(rpmdbidq, entries[i].rpmdbid);
2365   solv_free(entries);
2366   solv_free(namedata);
2367   freestate(&state);
2368   return nentries;
2369 }
2370
2371 void *
2372 rpm_byrpmdbid(Id rpmdbid, const char *rootdir, void **statep)
2373 {
2374   struct rpm_by_state *state = *statep;
2375   unsigned char buf[16];
2376   DBT dbkey;
2377   DBT dbdata;
2378   RpmHead *rpmhead;
2379
2380   if (!rpmdbid)
2381     {
2382       /* close down */
2383       freestate(state);
2384       solv_free(state);
2385       *statep = (void *)0;
2386       return 0;
2387     }
2388
2389   if (!state)
2390     {
2391       state = solv_calloc(1, sizeof(*state));
2392       *statep = state;
2393     }
2394   if (!state->dbopened)
2395     {
2396       state->dbopened = 1;
2397       if (!state->dbenv && !(state->dbenv = opendbenv(rootdir)))
2398         return 0;
2399       if (db_create(&state->db, state->dbenv, 0))
2400         {
2401           perror("db_create");
2402           state->db = 0;
2403           state->dbenv->close(state->dbenv, 0);
2404           state->dbenv = 0;
2405           return 0;
2406         }
2407       if (state->db->open(state->db, 0, "Packages", 0, DB_UNKNOWN, DB_RDONLY, 0664))
2408         {
2409           perror("db->open var/lib/rpm/Packages");
2410           state->db->close(state->db, 0);
2411           state->db = 0;
2412           state->dbenv->close(state->dbenv, 0);
2413           state->dbenv = 0;
2414           return 0;
2415         }
2416       if (state->db->get_byteswapped(state->db, &state->byteswapped))
2417         {
2418           perror("db->get_byteswapped");
2419           state->db->close(state->db, 0);
2420           state->db = 0;
2421           state->dbenv->close(state->dbenv, 0);
2422           state->dbenv = 0;
2423           return 0;
2424         }
2425     }
2426   rpmdbid2db(buf, rpmdbid, state->byteswapped);
2427   memset(&dbkey, 0, sizeof(dbkey));
2428   memset(&dbdata, 0, sizeof(dbdata));
2429   dbkey.data = buf;
2430   dbkey.size = 4;
2431   dbdata.data = 0;
2432   dbdata.size = 0;
2433   if (state->db->get(state->db, NULL, &dbkey, &dbdata, 0))
2434     {
2435       perror("db->get");
2436       return 0;
2437     }
2438   if (dbdata.size < 8)
2439     {
2440       fprintf(stderr, "corrupt rpm database (size)\n");
2441       return 0;
2442     }
2443   if (dbdata.size > state->rpmheadsize)
2444     {
2445       state->rpmheadsize = dbdata.size + 128;
2446       state->rpmhead = solv_realloc(state->rpmhead, sizeof(*rpmhead) + state->rpmheadsize);
2447     }
2448   rpmhead = state->rpmhead;
2449   memcpy(buf, dbdata.data, 8);
2450   rpmhead->cnt = buf[0] << 24  | buf[1] << 16  | buf[2] << 8 | buf[3];
2451   rpmhead->dcnt = buf[4] << 24  | buf[5] << 16  | buf[6] << 8 | buf[7];
2452   if (8 + rpmhead->cnt * 16 + rpmhead->dcnt > dbdata.size)
2453     {
2454       fprintf(stderr, "corrupt rpm database (data size)\n");
2455       return 0;
2456     }
2457   memcpy(rpmhead->data, (unsigned char *)dbdata.data + 8, rpmhead->cnt * 16 + rpmhead->dcnt);
2458   rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
2459   return rpmhead;
2460 }
2461
2462 void *
2463 rpm_byfp(FILE *fp, const char *name, void **statep)
2464 {
2465   struct rpm_by_state *state = *statep;
2466   /* int headerstart, headerend; */
2467   RpmHead *rpmhead;
2468   int sigdsize, sigcnt, l;
2469   unsigned char lead[4096];
2470
2471   if (!fp)
2472     return rpm_byrpmdbid(0, 0, statep);
2473   if (!state)
2474     {
2475       state = solv_calloc(1, sizeof(*state));
2476       *statep = state;
2477     }
2478   if (fread(lead, 96 + 16, 1, fp) != 1 || getu32(lead) != 0xedabeedb)
2479     {
2480       fprintf(stderr, "%s: not a rpm\n", name);
2481       return 0;
2482     }
2483   if (lead[78] != 0 || lead[79] != 5)
2484     {
2485       fprintf(stderr, "%s: not a V5 header\n", name);
2486       return 0;
2487     }
2488   if (getu32(lead + 96) != 0x8eade801)
2489     {
2490       fprintf(stderr, "%s: bad signature header\n", name);
2491       return 0;
2492     }
2493   sigcnt = getu32(lead + 96 + 8);
2494   sigdsize = getu32(lead + 96 + 12);
2495   if (sigcnt >= 0x100000 || sigdsize >= 0x100000)
2496     {
2497       fprintf(stderr, "%s: bad signature header\n", name);
2498       return 0;
2499     }
2500   sigdsize += sigcnt * 16;
2501   sigdsize = (sigdsize + 7) & ~7;
2502   /* headerstart = 96 + 16 + sigdsize; */
2503   while (sigdsize)
2504     {
2505       l = sigdsize > 4096 ? 4096 : sigdsize;
2506       if (fread(lead, l, 1, fp) != 1)
2507         {
2508           fprintf(stderr, "%s: unexpected EOF\n", name);
2509           return 0;
2510         }
2511       sigdsize -= l;
2512     }
2513   if (fread(lead, 16, 1, fp) != 1)
2514     {
2515       fprintf(stderr, "%s: unexpected EOF\n", name);
2516       return 0;
2517     }
2518   if (getu32(lead) != 0x8eade801)
2519     {
2520       fprintf(stderr, "%s: bad header\n", name);
2521       fclose(fp);
2522       return 0;
2523     }
2524   sigcnt = getu32(lead + 8);
2525   sigdsize = getu32(lead + 12);
2526   if (sigcnt >= 0x100000 || sigdsize >= 0x800000)
2527     {
2528       fprintf(stderr, "%s: bad header\n", name);
2529       fclose(fp);
2530       return 0;
2531     }
2532   l = sigdsize + sigcnt * 16;
2533   /* headerend = headerstart + 16 + l; */
2534   if (l > state->rpmheadsize)
2535     {
2536       state->rpmheadsize = l + 128;
2537       state->rpmhead = solv_realloc(state->rpmhead, sizeof(*state->rpmhead) + state->rpmheadsize);
2538     }
2539   rpmhead = state->rpmhead;
2540   if (fread(rpmhead->data, l, 1, fp) != 1)
2541     {
2542       fprintf(stderr, "%s: unexpected EOF\n", name);
2543       fclose(fp);
2544       return 0;
2545     }
2546   rpmhead->cnt = sigcnt;
2547   rpmhead->dcnt = sigdsize;
2548   rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
2549   return rpmhead;
2550 }
2551
2552 void *
2553 rpm_byrpmh(Header h, void **statep)
2554 {
2555   struct rpm_by_state *state = *statep;
2556   const unsigned char *uh;
2557   int sigdsize, sigcnt, l;
2558   RpmHead *rpmhead;
2559
2560 #ifndef RPM5
2561   uh = headerUnload(h);
2562 #else
2563   uh = headerUnload(h, NULL);
2564 #endif
2565   if (!uh)
2566     return 0;
2567   sigcnt = getu32(uh);
2568   sigdsize = getu32(uh + 4);
2569   l = sigdsize + sigcnt * 16;
2570   if (!state)
2571     {
2572       state = solv_calloc(1, sizeof(*state));
2573       *statep = state;
2574     }
2575   if (l > state->rpmheadsize)
2576     {
2577       state->rpmheadsize = l + 128;
2578       state->rpmhead = solv_realloc(state->rpmhead, sizeof(*state->rpmhead) + state->rpmheadsize);
2579     }
2580   rpmhead = state->rpmhead;
2581   memcpy(rpmhead->data, uh + 8, l - 8);
2582   free((void *)uh);
2583   rpmhead->cnt = sigcnt;
2584   rpmhead->dcnt = sigdsize;
2585   rpmhead->dp = rpmhead->data + rpmhead->cnt * 16;
2586   return rpmhead;
2587 }
2588
2589
2590 #ifdef ENABLE_RPMDB_PUBKEY
2591
2592 static char *
2593 r64dec1(char *p, unsigned int *vp, int *eofp)
2594 {
2595   int i, x;
2596   unsigned int v = 0;
2597
2598   for (i = 0; i < 4; )
2599     {
2600       x = *p++;
2601       if (!x)
2602         return 0;
2603       if (x >= 'A' && x <= 'Z')
2604         x -= 'A';
2605       else if (x >= 'a' && x <= 'z')
2606         x -= 'a' - 26;
2607       else if (x >= '0' && x <= '9')
2608         x -= '0' - 52;
2609       else if (x == '+')
2610         x = 62;
2611       else if (x == '/')
2612         x = 63;
2613       else if (x == '=')
2614         {
2615           x = 0;
2616           if (i == 0)
2617             {
2618               *eofp = 3;
2619               *vp = 0;
2620               return p - 1;
2621             }
2622           *eofp += 1;
2623         }
2624       else
2625         continue;
2626       v = v << 6 | x;
2627       i++;
2628     }
2629   *vp = v;
2630   return p;
2631 }
2632
2633 static unsigned int
2634 crc24(unsigned char *p, int len)
2635 {
2636   unsigned int crc = 0xb704ceL;
2637   int i;
2638
2639   while (len--)
2640     {
2641       crc ^= (*p++) << 16;
2642       for (i = 0; i < 8; i++)
2643         if ((crc <<= 1) & 0x1000000)
2644           crc ^= 0x1864cfbL;
2645     }
2646   return crc & 0xffffffL;
2647 }
2648
2649 static unsigned char *
2650 unarmor(char *pubkey, int *pktlp)
2651 {
2652   char *p;
2653   int l, eof;
2654   unsigned char *buf, *bp;
2655   unsigned int v;
2656
2657   *pktlp = 0;
2658   while (strncmp(pubkey, "-----BEGIN PGP PUBLIC KEY BLOCK-----", 36) != 0)
2659     {
2660       pubkey = strchr(pubkey, '\n');
2661       if (!pubkey)
2662         return 0;
2663       pubkey++;
2664     }
2665   pubkey = strchr(pubkey, '\n');
2666   if (!pubkey++)
2667     return 0;
2668   /* skip header lines */
2669   for (;;)
2670     {
2671       while (*pubkey == ' ' || *pubkey == '\t')
2672         pubkey++;
2673       if (*pubkey == '\n')
2674         break;
2675       pubkey = strchr(pubkey, '\n');
2676       if (!pubkey++)
2677         return 0;
2678     }
2679   pubkey++;
2680   p = strchr(pubkey, '=');
2681   if (!p)
2682     return 0;
2683   l = p - pubkey;
2684   bp = buf = solv_malloc(l * 3 / 4 + 4);
2685   eof = 0;
2686   while (!eof)
2687     {
2688       pubkey = r64dec1(pubkey, &v, &eof);
2689       if (!pubkey)
2690         {
2691           solv_free(buf);
2692           return 0;
2693         }
2694       *bp++ = v >> 16;
2695       *bp++ = v >> 8;
2696       *bp++ = v;
2697     }
2698   while (*pubkey == ' ' || *pubkey == '\t' || *pubkey == '\n' || *pubkey == '\r')
2699     pubkey++;
2700   bp -= eof;
2701   if (*pubkey != '=' || (pubkey = r64dec1(pubkey + 1, &v, &eof)) == 0)
2702     {
2703       solv_free(buf);
2704       return 0;
2705     }
2706   if (v != crc24(buf, bp - buf))
2707     {
2708       solv_free(buf);
2709       return 0;
2710     }
2711   while (*pubkey == ' ' || *pubkey == '\t' || *pubkey == '\n' || *pubkey == '\r')
2712     pubkey++;
2713   if (strncmp(pubkey, "-----END PGP PUBLIC KEY BLOCK-----", 34) != 0)
2714     {
2715       solv_free(buf);
2716       return 0;
2717     }
2718   *pktlp = bp - buf;
2719   return buf;
2720 }
2721
2722 static void
2723 parsekeydata(Solvable *s, Repodata *data, unsigned char *p, int pl)
2724 {
2725   int x, tag, l;
2726   unsigned char keyid[8];
2727   unsigned int kcr = 0, maxex = 0;
2728   unsigned char *pubkey = 0;
2729   unsigned char *userid = 0;
2730 #if 0
2731   int pubkeyl = 0;
2732   int useridl = 0;
2733 #endif
2734
2735   for (; pl; p += l, pl -= l)
2736     {
2737       x = *p++;
2738       pl--;
2739       if (!(x & 128) || pl <= 0)
2740         return;
2741       if ((x & 64) == 0)
2742         {
2743           /* old format */
2744           tag = (x & 0x3c) >> 2;
2745           x &= 3;
2746           if (x == 3)
2747             return;
2748           l = 1 << x;
2749           if (pl < l)
2750             return;
2751           x = 0;
2752           while (l--)
2753             {
2754               x = x << 8 | *p++;
2755               pl--;
2756             }
2757           l = x;
2758         }
2759       else
2760         {
2761           tag = (x & 0x3f);
2762           x = *p++;
2763           pl--;
2764           if (x < 192)
2765             l = x;
2766           else if (x >= 192 && x < 224)
2767             {
2768               if (pl <= 0)
2769                 return;
2770               l = ((x - 192) << 8) + *p++ + 192;
2771               pl--;
2772             }
2773           else if (x == 255)
2774             {
2775               if (pl <= 4)
2776                 return;
2777               l = p[0] << 24 | p[1] << 16 | p[2] << 8 | p[3];
2778               p += 4;
2779               pl -= 4;
2780             }
2781           else
2782             return;
2783         }
2784       if (pl < l)
2785         return;
2786       if (tag == 6)
2787         {
2788           pubkey = solv_realloc(pubkey, l);
2789           if (l)
2790             memcpy(pubkey, p, l);
2791 #if 0
2792           pubkeyl = l;
2793 #endif
2794           kcr = 0;
2795           if (p[0] == 3)
2796             {
2797               unsigned int ex;
2798               void *h;
2799               kcr = p[1] << 24 | p[2] << 16 | p[3] << 8 | p[4];
2800               ex = 0;
2801               if (p[5] || p[6])
2802                 {
2803                   ex = kcr + 24*3600 * (p[5] << 8 | p[6]);
2804                   if (ex > maxex)
2805                     maxex = ex;
2806                 }
2807               memset(keyid, 0, 8);
2808               if (p[7] == 1)    /* RSA */
2809                 {
2810                   int i, ql;
2811                   unsigned char fp[16];
2812                   char fpx[32 + 1];
2813                   unsigned char *q;
2814
2815                   ql = ((p[8] << 8 | p[9]) + 7) / 8;
2816                   memcpy(keyid, p + 10 + ql - 8, 8);
2817                   h = solv_chksum_create(REPOKEY_TYPE_MD5);
2818                   solv_chksum_add(h, p + 10, ql);
2819                   q = p + 10 + ql;
2820                   ql = ((q[0] << 8 | q[1]) + 7) / 8;
2821                   solv_chksum_add(h, q + 2, ql);
2822                   solv_chksum_free(h, fp);
2823                   for (i = 0; i < 16; i++)
2824                     sprintf(fpx + i * 2, "%02x", fp[i]);
2825                   setutf8string(data, s - s->repo->pool->solvables, PUBKEY_FINGERPRINT, fpx);
2826                 }
2827             }
2828           else if (p[0] == 4)
2829             {
2830               int i;
2831               void *h;
2832               unsigned char hdr[3];
2833               unsigned char fp[20];
2834               char fpx[40 + 1];
2835
2836               kcr = p[1] << 24 | p[2] << 16 | p[3] << 8 | p[4];
2837               hdr[0] = 0x99;
2838               hdr[1] = l >> 8;
2839               hdr[2] = l;
2840               h = solv_chksum_create(REPOKEY_TYPE_SHA1);
2841               solv_chksum_add(h, hdr, 3);
2842               solv_chksum_add(h, p, l);
2843               solv_chksum_free(h, fp);
2844               for (i = 0; i < 20; i++)
2845                 sprintf(fpx + i * 2, "%02x", fp[i]);
2846               setutf8string(data, s - s->repo->pool->solvables, PUBKEY_FINGERPRINT, fpx);
2847               memcpy(keyid, fp + 12, 8);
2848             }
2849         }
2850       if (tag == 2)
2851         {
2852           if (p[0] == 3 && p[1] == 5)
2853             {
2854 #if 0
2855               Id htype = 0;
2856 #endif
2857               /* printf("V3 signature packet\n"); */
2858               if (l < 17)
2859                 continue;
2860               if (p[2] != 0x10 && p[2] != 0x11 && p[2] != 0x12 && p[2] != 0x13 && p[2] != 0x1f)
2861                 continue;
2862               if (!memcmp(keyid, p + 6, 8))
2863                 {
2864                   /* printf("SELF SIG\n"); */
2865                 }
2866               else
2867                 {
2868                   /* printf("OTHER SIG\n"); */
2869                 }
2870 #if 0
2871               if (p[16] == 1)
2872                 htype = REPOKEY_TYPE_MD5;
2873               else if (p[16] == 2)
2874                 htype = REPOKEY_TYPE_SHA1;
2875               else if (p[16] == 8)
2876                 htype = REPOKEY_TYPE_SHA256;
2877               if (htype)
2878                 {
2879                   void *h = solv_chksum_create(htype);
2880                   unsigned char b[3], *cs;
2881
2882                   b[0] = 0x99;
2883                   b[1] = pubkeyl >> 8;
2884                   b[2] = pubkeyl;
2885                   solv_chksum_add(h, b, 3);
2886                   solv_chksum_add(h, pubkey, pubkeyl);
2887                   if (p[2] >= 0x10 && p[2] <= 0x13)
2888                     solv_chksum_add(h, userid, useridl);
2889                   solv_chksum_add(h, p + 2, 5);
2890                   cs = solv_chksum_get(h, 0);
2891                   solv_chksum_free(h, 0);
2892                 }
2893 #endif
2894             }
2895           if (p[0] == 4)
2896             {
2897               int j, ql, haveissuer;
2898               unsigned char *q;
2899               unsigned int ex = 0;
2900 #if 0
2901               unsigned int scr = 0;
2902 #endif
2903               unsigned char issuer[8];
2904
2905               /* printf("V4 signature packet\n"); */
2906               if (l < 6)
2907                 continue;
2908               if (p[1] != 0x10 && p[1] != 0x11 && p[1] != 0x12 && p[1] != 0x13 && p[1] != 0x1f)
2909                 continue;
2910               haveissuer = 0;
2911               ex = 0;
2912               q = p + 4;
2913               for (j = 0; q && j < 2; j++)
2914                 {
2915                   if (q + 2 > p + l)
2916                     {
2917                       q = 0;
2918                       break;
2919                     }
2920                   ql = q[0] << 8 | q[1];
2921                   q += 2;
2922                   if (q + ql > p + l)
2923                     {
2924                       q = 0;
2925                       break;
2926                     }
2927                   while (ql)
2928                     {
2929                       int sl;
2930                       x = *q++;
2931                       ql--;
2932                       if (x < 192)
2933                         sl = x;
2934                       else if (x == 255)
2935                         {
2936                           if (ql < 4)
2937                             {
2938                               q = 0;
2939                               break;
2940                             }
2941                           sl = q[0] << 24 | q[1] << 16 | q[2] << 8 | q[3];
2942                           q += 4;
2943                           ql -= 4;
2944                         }
2945                       else
2946                         {
2947                           if (ql < 1)
2948                             {
2949                               q = 0;
2950                               break;
2951                             }
2952                           sl = ((x - 192) << 8) + *q++ + 192;
2953                           ql--;
2954                         }
2955                       if (ql < sl)
2956                         {
2957                           q = 0;
2958                           break;
2959                         }
2960                       x = q[0] & 127;
2961                       /* printf("%d SIGSUB %d %d\n", j, x, sl); */
2962                       if (x == 16 && sl == 9 && !haveissuer)
2963                         {
2964                           memcpy(issuer, q + 1, 8);
2965                           haveissuer = 1;
2966                         }
2967 #if 0
2968                       if (x == 2 && j == 0)
2969                         scr = q[1] << 24 | q[2] << 16 | q[3] << 8 | q[4];
2970 #endif
2971                       if (x == 9 && j == 0)
2972                         ex = q[1] << 24 | q[2] << 16 | q[3] << 8 | q[4];
2973                       q += sl;
2974                       ql -= sl;
2975                     }
2976                 }
2977               if (ex)
2978                 ex += kcr;
2979               if (haveissuer)
2980                 {
2981 #if 0
2982                   Id htype = 0;
2983                   if (p[3] == 1)
2984                     htype = REPOKEY_TYPE_MD5;
2985                   else if (p[3] == 2)
2986                     htype = REPOKEY_TYPE_SHA1;
2987                   else if (p[3] == 8)
2988                     htype = REPOKEY_TYPE_SHA256;
2989                   if (htype && pubkeyl)
2990                     {
2991                       void *h = solv_chksum_create(htype);
2992                       unsigned char b[6], *cs;
2993                       unsigned int hl;
2994
2995                       b[0] = 0x99;
2996                       b[1] = pubkeyl >> 8;
2997                       b[2] = pubkeyl;
2998                       solv_chksum_add(h, b, 3);
2999                       solv_chksum_add(h, pubkey, pubkeyl);
3000                       if (p[1] >= 0x10 && p[1] <= 0x13)
3001                         {
3002                           b[0] = 0xb4;
3003                           b[1] = useridl >> 24;
3004                           b[2] = useridl >> 16;
3005                           b[3] = useridl >> 8;
3006                           b[4] = useridl;
3007                           solv_chksum_add(h, b, 5);
3008                           solv_chksum_add(h, userid, useridl);
3009                         }
3010                       hl = 6 + (p[4] << 8 | p[5]);
3011                       solv_chksum_add(h, p, hl);
3012                       b[0] = 4;
3013                       b[1] = 0xff;
3014                       b[2] = hl >> 24;
3015                       b[3] = hl >> 16;
3016                       b[4] = hl >> 8;
3017                       b[5] = hl;
3018                       solv_chksum_add(h, b, 6);
3019                       cs = solv_chksum_get(h, 0);
3020                       solv_chksum_free(h, 0);
3021                     }
3022 #endif
3023                   if (!memcmp(keyid, issuer, 8))
3024                     {
3025                       /* printf("SELF SIG cr %d ex %d\n", cr, ex); */
3026                       if (ex > maxex)
3027                         maxex = ex;
3028                     }
3029                   else
3030                     {
3031                       /* printf("OTHER SIG cr %d ex %d\n", cr, ex); */
3032                     }
3033                 }
3034             }
3035         }
3036       if (tag == 13)
3037         {
3038           userid = solv_realloc(userid, l);
3039           if (l)
3040             memcpy(userid, p, l);
3041 #if 0
3042           useridl = l;
3043 #endif
3044         }
3045     }
3046   if (maxex)
3047     repodata_set_num(data, s - s->repo->pool->solvables, PUBKEY_EXPIRES, maxex);
3048   solv_free(pubkey);
3049   solv_free(userid);
3050 }
3051
3052 /* this is private to rpm, but rpm lacks an interface to retrieve
3053  * the values. Sigh. */
3054 struct pgpDigParams_s {
3055     const char * userid;
3056     const unsigned char * hash;
3057     const char * params[4];
3058     unsigned char tag;
3059     unsigned char version;               /*!< version number. */
3060     unsigned char time[4];               /*!< time that the key was created. */
3061     unsigned char pubkey_algo;           /*!< public key algorithm. */
3062     unsigned char hash_algo;
3063     unsigned char sigtype;
3064     unsigned char hashlen;
3065     unsigned char signhash16[2];
3066     unsigned char signid[8];
3067     unsigned char saved;
3068 };
3069
3070 struct pgpDig_s {
3071     struct pgpDigParams_s signature;
3072     struct pgpDigParams_s pubkey;
3073 };
3074
3075 static int
3076 pubkey2solvable(Solvable *s, Repodata *data, char *pubkey)
3077 {
3078   Pool *pool = s->repo->pool;
3079   unsigned char *pkts;
3080   unsigned int btime;
3081   int pktsl, i;
3082   pgpDig dig = 0;
3083   char keyid[16 + 1];
3084   char evrbuf[8 + 1 + 8 + 1];
3085
3086   pkts = unarmor(pubkey, &pktsl);
3087   if (!pkts)
3088     return 0;
3089   setutf8string(data, s - s->repo->pool->solvables, SOLVABLE_DESCRIPTION, pubkey);
3090   parsekeydata(s, data, pkts, pktsl);
3091   /* only rpm knows how to do the release calculation, we don't dare
3092    * to recreate all the bugs */
3093 #ifndef RPM5
3094   dig = pgpNewDig();
3095 #else
3096   dig = pgpDigNew(RPMVSF_DEFAULT, 0);
3097 #endif
3098   (void) pgpPrtPkts(pkts, pktsl, dig, 0);
3099   btime = dig->pubkey.time[0] << 24 | dig->pubkey.time[1] << 16 | dig->pubkey.time[2] << 8 | dig->pubkey.signid[3];
3100   sprintf(evrbuf, "%02x%02x%02x%02x-%02x%02x%02x%02x", dig->pubkey.signid[4], dig->pubkey.signid[5], dig->pubkey.signid[6], dig->pubkey.signid[7], dig->pubkey.time[0], dig->pubkey.time[1], dig->pubkey.time[2], dig->pubkey.time[3]);
3101   repodata_set_num(data, s - s->repo->pool->solvables, SOLVABLE_BUILDTIME, btime);
3102
3103   s->name = pool_str2id(pool, "gpg-pubkey", 1);
3104   s->evr = pool_str2id(pool, evrbuf, 1);
3105   s->arch = 1;
3106   for (i = 0; i < 8; i++)
3107     sprintf(keyid + 2 * i, "%02x", dig->pubkey.signid[i]);
3108   repodata_set_str(data, s - s->repo->pool->solvables, PUBKEY_KEYID, keyid);
3109   if (dig->pubkey.userid)
3110     setutf8string(data, s - s->repo->pool->solvables, SOLVABLE_SUMMARY, dig->pubkey.userid);
3111 #ifndef RPM5
3112   (void)pgpFreeDig(dig);
3113 #else
3114   (void)pgpDigFree(dig);
3115 #endif
3116   solv_free((void *)pkts);
3117   return 1;
3118 }
3119
3120 int
3121 repo_add_rpmdb_pubkeys(Repo *repo, const char *rootdir, int flags)
3122 {
3123   Pool *pool = repo->pool;
3124   struct rpm_by_state state;
3125   struct rpmdbentry *entries;
3126   int nentries, i;
3127   char *namedata, *str;
3128   unsigned int u32;
3129   Repodata *data;
3130   Solvable *s;
3131
3132   data = repo_add_repodata(repo, flags);
3133
3134   memset(&state, 0, sizeof(state));
3135   if (!(state.dbenv = opendbenv(rootdir)))
3136     return 0;
3137   entries = getinstalledrpmdbids(&state, "Name", "gpg-pubkey", &nentries, &namedata);
3138   for (i = 0 ; i < nentries; i++)
3139     {
3140       void *statep = &state;
3141       RpmHead *rpmhead = rpm_byrpmdbid(entries[i].rpmdbid, rootdir, &statep);
3142       if (!rpmhead)
3143         continue;
3144       str = headstring(rpmhead, TAG_DESCRIPTION);
3145       if (!str)
3146         continue;
3147       s = pool_id2solvable(pool, repo_add_solvable(repo));
3148       pubkey2solvable(s, data, str);
3149       u32 = headint32(rpmhead, TAG_INSTALLTIME);
3150       if (u32)
3151         repodata_set_num(data, s - pool->solvables, SOLVABLE_INSTALLTIME, u32);
3152       if (!repo->rpmdbid)
3153         repo->rpmdbid = repo_sidedata_create(repo, sizeof(Id));
3154       repo->rpmdbid[s - pool->solvables - repo->start] = entries[i].rpmdbid;
3155     }
3156   solv_free(entries);
3157   solv_free(namedata);
3158   freestate(&state);
3159   if (!(flags & REPO_NO_INTERNALIZE))
3160     repodata_internalize(data);
3161   return 0;
3162 }
3163
3164 Id
3165 repo_add_pubkey(Repo *repo, const char *key, int flags)
3166 {
3167   Pool *pool = repo->pool;
3168   Repodata *data;
3169   Solvable *s;
3170   char *buf;
3171   int bufl, l, ll;
3172   FILE *fp;
3173
3174   data = repo_add_repodata(repo, flags);
3175   buf = 0;
3176   bufl = 0;
3177   if ((fp = fopen(key, "r")) == 0)
3178     {
3179       pool_error(pool, -1, "%s: %s", key, strerror(errno));
3180       return 0;
3181     }
3182   for (l = 0; ;)
3183     {
3184       if (bufl - l < 4096)
3185         {
3186           bufl += 4096;
3187           buf = solv_realloc(buf, bufl);
3188         }
3189       ll = fread(buf, 1, bufl - l, fp);
3190       if (ll < 0)
3191         {
3192           fclose(fp);
3193           pool_error(pool, -1, "%s: %s", key, strerror(errno));
3194           return 0;
3195         }
3196       if (ll == 0)
3197         break;
3198       l += ll;
3199     }
3200   buf[l] = 0;
3201   fclose(fp);
3202   s = pool_id2solvable(pool, repo_add_solvable(repo));
3203   if (!pubkey2solvable(s, data, buf))
3204     {
3205       repo_free_solvable(repo, s - pool->solvables, 1);
3206       solv_free(buf);
3207       return 0;
3208     }
3209   solv_free(buf);
3210   if (!(flags & REPO_NO_INTERNALIZE))
3211     repodata_internalize(data);
3212   return s - pool->solvables;
3213 }
3214
3215 #endif /* ENABLE_RPMDB_PUBKEY */