ext/repo_rpmdb.c

   1 /*
   2  * Copyright (c) 2007-2018, SUSE Inc.
   3  *
   4  * This program is licensed under the BSD license, read LICENSE.BSD
   5  * for further information
   6  */
   7
   8 /*
   9  * repo_rpmdb
  10  *
  11  * convert rpm db to repo
  12  *
  13  */
  14
  15 #include <sys/types.h>
  16 #include <sys/stat.h>
  17 #include <limits.h>
  18 #include <fcntl.h>
  19 #include <stdio.h>
  20 #include <stdlib.h>
  21 #include <string.h>
  22 #include <unistd.h>
  23 #include <assert.h>
  24 #include <stdint.h>
  25 #include <errno.h>
  26
  27 #ifdef ENABLE_RPMDB
  28
  29 #include <rpm/rpmio.h>
  30 #include <rpm/rpmpgp.h>
  31 #ifndef RPM5
  32 #include <rpm/header.h>
  33 #endif
  34 #include <rpm/rpmdb.h>
  35
  36 #endif
  37
  38 #include "pool.h"
  39 #include "repo.h"
  40 #include "hash.h"
  41 #include "util.h"
  42 #include "queue.h"
  43 #include "chksum.h"
  44 #include "repo_rpmdb.h"
  45 #include "repo_solv.h"
  46 #ifdef ENABLE_COMPLEX_DEPS
  47 #include "pool_parserpmrichdep.h"
  48 #endif
  49
  50 /* 3: added triggers */
  51 /* 4: fixed triggers */
  52 /* 5: fixed checksum copying */
  53 /* 6: add SOLVABLE_PREREQ_IGNOREINST support */
  54 /* 7: fix bug in ignoreinst logic */
  55 #define RPMDB_COOKIE_VERSION 7
  56
  57 #define TAG_NAME                1000
  58 #define TAG_VERSION             1001
  59 #define TAG_RELEASE             1002
  60 #define TAG_EPOCH               1003
  61 #define TAG_SUMMARY             1004
  62 #define TAG_DESCRIPTION         1005
  63 #define TAG_BUILDTIME           1006
  64 #define TAG_BUILDHOST           1007
  65 #define TAG_INSTALLTIME         1008
  66 #define TAG_SIZE                1009
  67 #define TAG_DISTRIBUTION        1010
  68 #define TAG_VENDOR              1011
  69 #define TAG_LICENSE             1014
  70 #define TAG_PACKAGER            1015
  71 #define TAG_GROUP               1016
  72 #define TAG_URL                 1020
  73 #define TAG_ARCH                1022
  74 #define TAG_FILESIZES           1028
  75 #define TAG_FILEMODES           1030
  76 #define TAG_FILEMD5S            1035
  77 #define TAG_FILELINKTOS         1036
  78 #define TAG_FILEFLAGS           1037
  79 #define TAG_SOURCERPM           1044
  80 #define TAG_PROVIDENAME         1047
  81 #define TAG_REQUIREFLAGS        1048
  82 #define TAG_REQUIRENAME         1049
  83 #define TAG_REQUIREVERSION      1050
  84 #define TAG_NOSOURCE            1051
  85 #define TAG_NOPATCH             1052
  86 #define TAG_CONFLICTFLAGS       1053
  87 #define TAG_CONFLICTNAME        1054
  88 #define TAG_CONFLICTVERSION     1055
  89 #define TAG_TRIGGERNAME         1066
  90 #define TAG_TRIGGERVERSION      1067
  91 #define TAG_TRIGGERFLAGS        1068
  92 #define TAG_CHANGELOGTIME       1080
  93 #define TAG_CHANGELOGNAME       1081
  94 #define TAG_CHANGELOGTEXT       1082
  95 #define TAG_OBSOLETENAME        1090
  96 #define TAG_FILEDEVICES         1095
  97 #define TAG_FILEINODES          1096
  98 #define TAG_SOURCEPACKAGE       1106
  99 #define TAG_PROVIDEFLAGS        1112
 100 #define TAG_PROVIDEVERSION      1113
 101 #define TAG_OBSOLETEFLAGS       1114
 102 #define TAG_OBSOLETEVERSION     1115
 103 #define TAG_DIRINDEXES          1116
 104 #define TAG_BASENAMES           1117
 105 #define TAG_DIRNAMES            1118
 106 #define TAG_PAYLOADFORMAT       1124
 107 #define TAG_PATCHESNAME         1133
 108 #define TAG_FILECOLORS          1140
 109 #define TAG_OLDSUGGESTSNAME     1156
 110 #define TAG_OLDSUGGESTSVERSION  1157
 111 #define TAG_OLDSUGGESTSFLAGS    1158
 112 #define TAG_OLDENHANCESNAME     1159
 113 #define TAG_OLDENHANCESVERSION  1160
 114 #define TAG_OLDENHANCESFLAGS    1161
 115
 116 /* rpm5 tags */
 117 #define TAG_DISTEPOCH           1218
 118
 119 /* rpm4 tags */
 120 #define TAG_LONGFILESIZES       5008
 121 #define TAG_LONGSIZE            5009
 122 #define TAG_RECOMMENDNAME       5046
 123 #define TAG_RECOMMENDVERSION    5047
 124 #define TAG_RECOMMENDFLAGS      5048
 125 #define TAG_SUGGESTNAME         5049
 126 #define TAG_SUGGESTVERSION      5050
 127 #define TAG_SUGGESTFLAGS        5051
 128 #define TAG_SUPPLEMENTNAME      5052
 129 #define TAG_SUPPLEMENTVERSION   5053
 130 #define TAG_SUPPLEMENTFLAGS     5054
 131 #define TAG_ENHANCENAME         5055
 132 #define TAG_ENHANCEVERSION      5056
 133 #define TAG_ENHANCEFLAGS        5057
 134
 135 /* signature tags */
 136 #define TAG_SIGBASE             256
 137 #define TAG_SIGMD5              (TAG_SIGBASE + 5)
 138 #define TAG_SHA1HEADER          (TAG_SIGBASE + 13)
 139 #define TAG_SHA256HEADER        (TAG_SIGBASE + 17)
 140
 141 #define SIGTAG_SIZE             1000
 142 #define SIGTAG_PGP              1002    /* RSA signature */
 143 #define SIGTAG_MD5              1004    /* header+payload md5 checksum */
 144 #define SIGTAG_GPG              1005    /* DSA signature */
 145
 146 #define DEP_LESS                (1 << 1)
 147 #define DEP_GREATER             (1 << 2)
 148 #define DEP_EQUAL               (1 << 3)
 149 #define DEP_STRONG              (1 << 27)
 150 #define DEP_PRE_IN              ((1 << 6) | (1 << 9) | (1 << 10))
 151 #define DEP_PRE_UN              ((1 << 6) | (1 << 11) | (1 << 12))
 152
 153 #define FILEFLAG_GHOST          (1 << 6)
 154
 155
 156 /* some limits to guard against corrupt rpms */
 157 /* dsize limits taken from rpm's lib/header.c */
 158 #define MAX_SIG_CNT             0x10000
 159 #define MAX_SIG_DSIZE           0x4000000
 160
 161 #define MAX_HDR_CNT             0x10000
 162 #define MAX_HDR_DSIZE           0x10000000
 163
 164
 165 #ifndef ENABLE_RPMPKG_LIBRPM
 166
 167 typedef struct rpmhead {
 168   int cnt;
 169   unsigned int dcnt;
 170   unsigned char *dp;
 171   unsigned char data[1];
 172 } RpmHead;
 173
 174
 175 static inline unsigned char *
 176 headfindtag(RpmHead *h, int tag)
 177 {
 178   unsigned int i;
 179   unsigned char *d, taga[4];
 180   d = h->dp - 16;
 181   taga[0] = tag >> 24;
 182   taga[1] = tag >> 16;
 183   taga[2] = tag >> 8;
 184   taga[3] = tag;
 185   for (i = 0; i < h->cnt; i++, d -= 16)
 186     if (d[3] == taga[3] && d[2] == taga[2] && d[1] == taga[1] && d[0] == taga[0])
 187       return d;
 188   return 0;
 189 }
 190
 191 static int
 192 headexists(RpmHead *h, int tag)
 193 {
 194   return headfindtag(h, tag) ? 1 : 0;
 195 }
 196
 197 static uint32_t *
 198 headint32array(RpmHead *h, int tag, int *cnt)
 199 {
 200   uint32_t *r;
 201   unsigned int i, o;
 202   unsigned char *d = headfindtag(h, tag);
 203
 204   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 4)
 205     return 0;
 206   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 207   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 208   if (o > h->dcnt || i > h->dcnt || o + 4 * i > h->dcnt)
 209     return 0;
 210   d = h->dp + o;
 211   r = solv_calloc(i ? i : 1, sizeof(uint32_t));
 212   if (cnt)
 213     *cnt = i;
 214   for (o = 0; o < i; o++, d += 4)
 215     r[o] = d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
 216   return r;
 217 }
 218
 219 /* returns the first entry of an integer array */
 220 static uint32_t
 221 headint32(RpmHead *h, int tag)
 222 {
 223   unsigned int i, o;
 224   unsigned char *d = headfindtag(h, tag);
 225
 226   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 4)
 227     return 0;
 228   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 229   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 230   if (i == 0 || o > h->dcnt || i > h->dcnt || o + 4 * i > h->dcnt)
 231     return 0;
 232   d = h->dp + o;
 233   return d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
 234 }
 235
 236 static uint64_t *
 237 headint64array(RpmHead *h, int tag, int *cnt)
 238 {
 239   uint64_t *r;
 240   unsigned int i, o;
 241   unsigned char *d = headfindtag(h, tag);
 242
 243   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 5)
 244     return 0;
 245   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 246   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 247   if (o > h->dcnt || i > h->dcnt || o + 8 * i > h->dcnt)
 248     return 0;
 249   d = h->dp + o;
 250   r = solv_calloc(i ? i : 1, sizeof(uint64_t));
 251   if (cnt)
 252     *cnt = i;
 253   for (o = 0; o < i; o++, d += 8)
 254     {
 255       uint32_t x = d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
 256       r[o] = (uint64_t)x << 32 | (uint32_t)(d[4] << 24 | d[5] << 16 | d[6] << 8 | d[7]);
 257     }
 258   return r;
 259 }
 260
 261 /* returns the first entry of an 64bit integer array */
 262 static uint64_t
 263 headint64(RpmHead *h, int tag)
 264 {
 265   uint32_t x;
 266   unsigned int i, o;
 267   unsigned char *d = headfindtag(h, tag);
 268
 269   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 5)
 270     return 0;
 271   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 272   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 273   if (i == 0 || o > h->dcnt || i > h->dcnt || o + 8 * i > h->dcnt)
 274     return 0;
 275   d = h->dp + o;
 276   x = d[0] << 24 | d[1] << 16 | d[2] << 8 | d[3];
 277   return (uint64_t)x << 32 | (uint32_t)(d[4] << 24 | d[5] << 16 | d[6] << 8 | d[7]);
 278 }
 279
 280 static uint16_t *
 281 headint16array(RpmHead *h, int tag, int *cnt)
 282 {
 283   uint16_t *r;
 284   unsigned int i, o;
 285   unsigned char *d = headfindtag(h, tag);
 286
 287   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 3)
 288     return 0;
 289   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 290   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 291   if (o > h->dcnt || i > h->dcnt || o + 2 * i > h->dcnt)
 292     return 0;
 293   d = h->dp + o;
 294   r = solv_calloc(i ? i : 1, sizeof(uint16_t));
 295   if (cnt)
 296     *cnt = i;
 297   for (o = 0; o < i; o++, d += 2)
 298     r[o] = d[0] << 8 | d[1];
 299   return r;
 300 }
 301
 302 static char *
 303 headstring(RpmHead *h, int tag)
 304 {
 305   unsigned int o;
 306   unsigned char *d = headfindtag(h, tag);
 307   /* 6: STRING, 9: I18NSTRING */
 308   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || (d[7] != 6 && d[7] != 9))
 309     return 0;
 310   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 311   if (o >= h->dcnt)
 312     return 0;
 313   return (char *)h->dp + o;
 314 }
 315
 316 static char **
 317 headstringarray(RpmHead *h, int tag, int *cnt)
 318 {
 319   unsigned int i, o;
 320   unsigned char *d = headfindtag(h, tag);
 321   char **r;
 322
 323   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 8)
 324     return 0;
 325   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 326   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 327   if (o > h->dcnt || i > h->dcnt)
 328     return 0;
 329   r = solv_calloc(i ? i : 1, sizeof(char *));
 330   if (cnt)
 331     *cnt = i;
 332   d = h->dp + o;
 333   for (o = 0; o < i; o++)
 334     {
 335       r[o] = (char *)d;
 336       if (o + 1 < i)
 337         d += strlen((char *)d) + 1;
 338       if (d >= h->dp + h->dcnt)
 339         {
 340           solv_free(r);
 341           return 0;
 342         }
 343     }
 344   return r;
 345 }
 346
 347 static unsigned char *
 348 headbinary(RpmHead *h, int tag, unsigned int *sizep)
 349 {
 350   unsigned int i, o;
 351   unsigned char *d = headfindtag(h, tag);
 352   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 7)
 353     return 0;
 354   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 355   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 356   if (o > h->dcnt || i > h->dcnt || o + i > h->dcnt)
 357     return 0;
 358   if (sizep)
 359     *sizep = i;
 360   return h->dp + o;
 361 }
 362
 363 static int
 364 headissourceheuristic(RpmHead *h)
 365 {
 366   unsigned int i, o;
 367   unsigned char *d = headfindtag(h, TAG_DIRNAMES);
 368   if (!d || d[4] != 0 || d[5] != 0 || d[6] != 0 || d[7] != 8)
 369     return 0;
 370   o = d[8] << 24 | d[9] << 16 | d[10] << 8 | d[11];
 371   i = d[12] << 24 | d[13] << 16 | d[14] << 8 | d[15];
 372   return i == 1 && o < h->dcnt && !h->dp[o] ? 1 : 0;
 373 }
 374
 375 static inline void
 376 headfree(RpmHead *h)
 377 {
 378   solv_free(h);
 379 }
 380
 381 #else
 382
 383 typedef struct headerToken_s RpmHead;
 384
 385 static int
 386 headexists(RpmHead *h, int tag)
 387 {
 388   return headerIsEntry(h, tag);
 389 }
 390
 391 static void *headget(RpmHead *h, int tag, int *cnt, int alloc)
 392 {
 393   struct rpmtd_s td;
 394   if (!headerGet(h, tag, &td, alloc ? HEADERGET_ALLOC : HEADERGET_MINMEM))
 395     return 0;
 396   if (cnt)
 397     *cnt = td.count;
 398   return td.data;
 399 }
 400
 401 static uint32_t *
 402 headint32array(RpmHead *h, int tag, int *cnt)
 403 {
 404   return headget(h, tag, cnt, 1);
 405 }
 406
 407 static uint32_t
 408 headint32(RpmHead *h, int tag)
 409 {
 410   uint32_t *arr = headget(h, tag, 0, 0);
 411   return arr ? arr[0] : 0;
 412 }
 413
 414 static uint64_t *
 415 headint64array(RpmHead *h, int tag, int *cnt)
 416 {
 417   return headget(h, tag, cnt, 1);
 418 }
 419
 420 /* returns the first entry of an 64bit integer array */
 421 static uint64_t
 422 headint64(RpmHead *h, int tag)
 423 {
 424   uint64_t *arr = headget(h, tag, 0, 0);
 425   return arr ? arr[0] : 0;
 426 }
 427
 428 static uint16_t *
 429 headint16array(RpmHead *h, int tag, int *cnt)
 430 {
 431   return headget(h, tag, cnt, 1);
 432 }
 433
 434 static char *
 435 headstring(RpmHead *h, int tag)
 436 {
 437   return headget(h, tag, 0, 0);
 438 }
 439
 440 static char **
 441 headstringarray(RpmHead *h, int tag, int *cnt)
 442 {
 443   return headget(h, tag, cnt, 1);
 444 }
 445
 446 static unsigned char *
 447 headbinary(RpmHead *h, int tag, unsigned int *sizep)
 448 {
 449   unsigned char *b = headget(h, tag, (int *)sizep, 0);
 450   if (b && sizep && (tag == TAG_SIGMD5 || tag == SIGTAG_MD5) && *sizep > 16) {
 451     /* due to a bug in rpm the count may be bigger if HEADERIMPORT_FAST is used */
 452     *sizep = 16;
 453   }
 454   return b;
 455 }
 456
 457 static int
 458 headissourceheuristic(RpmHead *h)
 459 {
 460   struct rpmtd_s td;
 461   int issource;
 462   if (!headerGet(h, TAG_DIRNAMES, &td, HEADERGET_MINMEM))
 463     return 0;
 464   issource = td.count == 1 && td.data && ((char **)td.data)[0] && !((char **)td.data)[0][0];
 465   rpmtdFreeData(&td);
 466   return issource;
 467 }
 468
 469 static inline void
 470 headfree(RpmHead *h)
 471 {
 472   headerFree(h);
 473 }
 474
 475 #endif
 476
 477 static char *headtoevr(RpmHead *h)
 478 {
 479   unsigned int epoch;
 480   char *version, *v;
 481   char *release;
 482   char *evr;
 483   char *distepoch;
 484
 485   version  = headstring(h, TAG_VERSION);
 486   release  = headstring(h, TAG_RELEASE);
 487   epoch = headint32(h, TAG_EPOCH);
 488   if (!version || !release)
 489     return 0;
 490   for (v = version; *v >= '0' && *v <= '9'; v++)
 491     ;
 492   if (epoch || (v != version && *v == ':'))
 493     {
 494       char epochbuf[11];        /* 32bit decimal will fit in */
 495       sprintf(epochbuf, "%u", epoch);
 496       evr = solv_malloc(strlen(epochbuf) + 1 + strlen(version) + 1 + strlen(release) + 1);
 497       sprintf(evr, "%s:%s-%s", epochbuf, version, release);
 498     }
 499   else
 500     {
 501       evr = solv_malloc(strlen(version) + 1 + strlen(release) + 1);
 502       sprintf(evr, "%s-%s", version, release);
 503     }
 504   distepoch = headstring(h, TAG_DISTEPOCH);
 505   if (distepoch && *distepoch)
 506     {
 507       int l = strlen(evr);
 508       evr = solv_realloc(evr, l + strlen(distepoch) + 2);
 509       evr[l++] = ':';
 510       strcpy(evr + l, distepoch);
 511     }
 512   return evr;
 513 }
 514
 515
 516 static void
 517 setutf8string(Repodata *repodata, Id handle, Id tag, const char *str)
 518 {
 519   if (str[solv_validutf8(str)])
 520     {
 521       char *ustr = solv_latin1toutf8(str);      /* not utf8, assume latin1 */
 522       repodata_set_str(repodata, handle, tag, ustr);
 523       solv_free(ustr);
 524     }
 525   else
 526     repodata_set_str(repodata, handle, tag, str);
 527 }
 528
 529 static int
 530 ignq_sortcmp(const void *va, const void *vb, void *dp)
 531 {
 532   int r = *(Id *)va - *(Id *)vb;
 533   if (!r)
 534     r = ((Id *)va)[1] - ((Id *)vb)[1];
 535   return r;
 536 }
 537
 538 /*
 539  * strong: 0: ignore strongness
 540  *         1: filter to strong
 541  *         2: filter to weak
 542  */
 543 static unsigned int
 544 makedeps(Pool *pool, Repo *repo, RpmHead *rpmhead, int tagn, int tagv, int tagf, int flags, Queue *ignq)
 545 {
 546   char **n, **v;
 547   uint32_t *f;
 548   int i, cc, nc, vc, fc;
 549   int haspre, premask, has_ign;
 550   unsigned int olddeps;
 551   Id *ida;
 552   int strong = 0;
 553
 554   n = headstringarray(rpmhead, tagn, &nc);
 555   if (!n)
 556     {
 557       switch (tagn)
 558         {
 559         case TAG_SUGGESTNAME:
 560           tagn = TAG_OLDSUGGESTSNAME;
 561           tagv = TAG_OLDSUGGESTSVERSION;
 562           tagf = TAG_OLDSUGGESTSFLAGS;
 563           strong = -1;
 564           break;
 565         case TAG_ENHANCENAME:
 566           tagn = TAG_OLDENHANCESNAME;
 567           tagv = TAG_OLDENHANCESVERSION;
 568           tagf = TAG_OLDENHANCESFLAGS;
 569           strong = -1;
 570           break;
 571         case TAG_RECOMMENDNAME:
 572           tagn = TAG_OLDSUGGESTSNAME;
 573           tagv = TAG_OLDSUGGESTSVERSION;
 574           tagf = TAG_OLDSUGGESTSFLAGS;
 575           strong = 1;
 576           break;
 577         case TAG_SUPPLEMENTNAME:
 578           tagn = TAG_OLDENHANCESNAME;
 579           tagv = TAG_OLDENHANCESVERSION;
 580           tagf = TAG_OLDENHANCESFLAGS;
 581           strong = 1;
 582           break;
 583         default:
 584           return 0;
 585         }
 586       n = headstringarray(rpmhead, tagn, &nc);
 587     }
 588   if (!n || !nc)
 589     return 0;
 590   vc = fc = 0;
 591   v = headstringarray(rpmhead, tagv, &vc);
 592   f = headint32array(rpmhead, tagf, &fc);
 593   if (!v || !f || nc != vc || nc != fc)
 594     {
 595       char *pkgname = rpm_query(rpmhead, 0);
 596       pool_error(pool, 0, "bad dependency entries for %s: %d %d %d", pkgname ? pkgname : "<NULL>", nc, vc, fc);
 597       solv_free(pkgname);
 598       solv_free(n);
 599       solv_free(v);
 600       solv_free(f);
 601       return 0;
 602     }
 603
 604   cc = nc;
 605   haspre = 0;   /* add no prereq marker */
 606   premask = tagn == TAG_REQUIRENAME ? DEP_PRE_IN | DEP_PRE_UN : 0;
 607   if ((flags & RPM_ADD_NO_RPMLIBREQS) || strong)
 608     {
 609       /* we do filtering */
 610       cc = 0;
 611       for (i = 0; i < nc; i++)
 612         {
 613           if (strong && (f[i] & DEP_STRONG) != (strong < 0 ? 0 : DEP_STRONG))
 614             continue;
 615           if ((flags & RPM_ADD_NO_RPMLIBREQS) != 0)
 616             if (!strncmp(n[i], "rpmlib(", 7))
 617               continue;
 618           if ((f[i] & premask) != 0)
 619             haspre = 1;
 620           cc++;
 621         }
 622     }
 623   else if (premask)
 624     {
 625       /* no filtering, just look for the first prereq */
 626       for (i = 0; i < nc; i++)
 627         if ((f[i] & premask) != 0)
 628           {
 629             haspre = 1;
 630             break;
 631           }
 632     }
 633   if (cc == 0)
 634     {
 635       solv_free(n);
 636       solv_free(v);
 637       solv_free(f);
 638       return 0;
 639     }
 640   cc += haspre;         /* add slot for the prereq marker */
 641   olddeps = repo_reserve_ids(repo, 0, cc);
 642   ida = repo->idarraydata + olddeps;
 643
 644   has_ign = 0;
 645   for (i = 0; ; i++)
 646     {
 647       Id id;
 648       if (i == nc)
 649         {
 650           if (haspre != 1)
 651             break;
 652           haspre = 2;   /* pass two: prereqs */
 653           i = 0;
 654           *ida++ = SOLVABLE_PREREQMARKER;
 655         }
 656       if (strong && (f[i] & DEP_STRONG) != (strong < 0 ? 0 : DEP_STRONG))
 657         continue;
 658       if (haspre)
 659         {
 660           if (haspre == 1 && (f[i] & premask) != 0)
 661             continue;
 662           if (haspre == 2 && (f[i] & premask) == 0)
 663             continue;
 664         }
 665       if ((flags & RPM_ADD_NO_RPMLIBREQS) != 0)
 666         if (!strncmp(n[i], "rpmlib(", 7))
 667           continue;
 668 #ifdef ENABLE_COMPLEX_DEPS
 669       if ((f[i] & (DEP_LESS|DEP_EQUAL|DEP_GREATER)) == 0 && n[i][0] == '(')
 670         {
 671           id = pool_parserpmrichdep(pool, n[i]);
 672           if (id)
 673             *ida++ = id;
 674           else
 675             cc--;
 676           continue;
 677         }
 678 #endif
 679       id = pool_str2id(pool, n[i], 1);
 680       if (f[i] & (DEP_LESS|DEP_GREATER|DEP_EQUAL))
 681         {
 682           Id evr;
 683           int fl = 0;
 684           if ((f[i] & DEP_LESS) != 0)
 685             fl |= REL_LT;
 686           if ((f[i] & DEP_EQUAL) != 0)
 687             fl |= REL_EQ;
 688           if ((f[i] & DEP_GREATER) != 0)
 689             fl |= REL_GT;
 690           if (v[i][0] == '0' && v[i][1] == ':' && v[i][2])
 691             evr = pool_str2id(pool, v[i] + 2, 1);
 692           else
 693             evr = pool_str2id(pool, v[i], 1);
 694           id = pool_rel2id(pool, id, evr, fl, 1);
 695         }
 696       *ida++ = id;
 697       if (haspre == 2 && ignq)
 698         {
 699           int is_ign = (f[i] & DEP_PRE_IN) != 0 && (f[i] & DEP_PRE_UN) == 0 ? 1 : 0;
 700           has_ign |= is_ign;
 701           queue_push2(ignq, id, is_ign);
 702         }
 703     }
 704   *ida++ = 0;
 705   repo->idarraysize += cc + 1;
 706   solv_free(n);
 707   solv_free(v);
 708   solv_free(f);
 709   if (ignq && ignq->count)
 710     {
 711       int j = 0;
 712       if (has_ign && ignq->count == 2)
 713         j = 1;
 714       else if (has_ign)
 715         {
 716           Id id, lastid = 0;
 717
 718           solv_sort(ignq->elements, ignq->count / 2, sizeof(Id) * 2, ignq_sortcmp, 0);
 719           for (i = j = 0; i < ignq->count; i += 2)
 720             {
 721               id = ignq->elements[i];
 722               if (id != lastid && ignq->elements[i + 1] > 0)
 723                 ignq->elements[j++] = id;
 724               lastid = id;
 725             }
 726         }
 727       queue_truncate(ignq, j);
 728     }
 729   return olddeps;
 730 }
 731
 732 static Id
 733 repodata_str2dir_rooted(Repodata *data, char *str, int create)
 734 {
 735   char buf[256], *bp;
 736   int l = strlen(str);
 737   Id id;
 738
 739   if (l + 2 <= sizeof(buf))
 740     bp = buf;
 741   else
 742     bp = solv_malloc(l + 2);
 743   bp[0] = '/';
 744   strcpy(bp + 1, str);
 745   id = repodata_str2dir(data, bp, create);
 746   if (bp != buf)
 747     solv_free(bp);
 748   return id;
 749 }
 750
 751 static void
 752 adddudata(Repodata *data, Id handle, RpmHead *rpmhead, char **dn, uint32_t *di, int fc, int dc)
 753 {
 754   Id did;
 755   int i, fszc;
 756   unsigned int *fkb, *fn;
 757   uint64_t *fsz64;
 758   uint32_t *fsz, *fino;
 759   uint16_t *fm;
 760   unsigned int inotest[256], inotestok;
 761
 762   if (!fc)
 763     return;
 764   if ((fsz64 = headint64array(rpmhead, TAG_LONGFILESIZES, &fszc)) != 0)
 765     {
 766       /* convert to kbyte */
 767       fsz = solv_malloc2(fszc, sizeof(*fsz));
 768       for (i = 0; i < fszc; i++)
 769         fsz[i] = fsz64[i] ? fsz64[i] / 1024 + 1 : 0;
 770       solv_free(fsz64);
 771     }
 772   else if ((fsz = headint32array(rpmhead, TAG_FILESIZES, &fszc)) != 0)
 773     {
 774       /* convert to kbyte */
 775       for (i = 0; i < fszc; i++)
 776         if (fsz[i])
 777           fsz[i] = fsz[i] / 1024 + 1;
 778     }
 779   else
 780     return;
 781   if (fc != fszc)
 782     {
 783       solv_free(fsz);
 784       return;
 785     }
 786
 787   /* stupid rpm records sizes of directories, so we have to check the mode */
 788   fm = headint16array(rpmhead, TAG_FILEMODES, &fszc);
 789   if (!fm || fc != fszc)
 790     {
 791       solv_free(fsz);
 792       solv_free(fm);
 793       return;
 794     }
 795   fino = headint32array(rpmhead, TAG_FILEINODES, &fszc);
 796   if (!fino || fc != fszc)
 797     {
 798       solv_free(fsz);
 799       solv_free(fm);
 800       solv_free(fino);
 801       return;
 802     }
 803
 804   /* kill hardlinked entries */
 805   inotestok = 0;
 806   if (fc < sizeof(inotest))
 807     {
 808       /* quick test just hashing the inode numbers */
 809       memset(inotest, 0, sizeof(inotest));
 810       for (i = 0; i < fc; i++)
 811         {
 812           int off, bit;
 813           if (fsz[i] == 0 || !S_ISREG(fm[i]))
 814             continue;   /* does not matter */
 815           off = (fino[i] >> 5) & (sizeof(inotest)/sizeof(*inotest) - 1);
 816           bit = 1 << (fino[i] & 31);
 817           if ((inotest[off] & bit) != 0)
 818             break;
 819           inotest[off] |= bit;
 820         }
 821       if (i == fc)
 822         inotestok = 1;  /* no conflict found */
 823     }
 824   if (!inotestok)
 825     {
 826       /* hardlinked files are possible, check ino/dev pairs */
 827       unsigned int *fdev = headint32array(rpmhead, TAG_FILEDEVICES, &fszc);
 828       unsigned int *fx, j;
 829       unsigned int mask, hash, hh;
 830       if (!fdev || fc != fszc)
 831         {
 832           solv_free(fsz);
 833           solv_free(fm);
 834           solv_free(fdev);
 835           solv_free(fino);
 836           return;
 837         }
 838       mask = fc;
 839       while ((mask & (mask - 1)) != 0)
 840         mask = mask & (mask - 1);
 841       mask <<= 2;
 842       if (mask > sizeof(inotest)/sizeof(*inotest))
 843         fx = solv_calloc(mask, sizeof(unsigned int));
 844       else
 845         {
 846           fx = inotest;
 847           memset(fx, 0, mask * sizeof(unsigned int));
 848         }
 849       mask--;
 850       for (i = 0; i < fc; i++)
 851         {
 852           if (fsz[i] == 0 || !S_ISREG(fm[i]))
 853             continue;
 854           hash = (fino[i] + fdev[i] * 31) & mask;
 855           hh = 7;
 856           while ((j = fx[hash]) != 0)
 857             {
 858               if (fino[j - 1] == fino[i] && fdev[j - 1] == fdev[i])
 859                 {
 860                   fsz[i] = 0;   /* kill entry */
 861                   break;
 862                 }
 863               hash = (hash + hh++) & mask;
 864             }
 865           if (!j)
 866             fx[hash] = i + 1;
 867         }
 868       if (fx != inotest)
 869         solv_free(fx);
 870       solv_free(fdev);
 871     }
 872   solv_free(fino);
 873
 874   /* sum up inode count and kbytes for each directory */
 875   fn = solv_calloc(dc, sizeof(unsigned int));
 876   fkb = solv_calloc(dc, sizeof(unsigned int));
 877   for (i = 0; i < fc; i++)
 878     {
 879       if (di[i] >= dc)
 880         continue;       /* corrupt entry */
 881       fn[di[i]]++;
 882       if (fsz[i] == 0 || !S_ISREG(fm[i]))
 883         continue;
 884       fkb[di[i]] += fsz[i];
 885     }
 886   solv_free(fsz);
 887   solv_free(fm);
 888   /* commit */
 889   for (i = 0; i < dc; i++)
 890     {
 891       if (!fn[i])
 892         continue;
 893       if (dn[i][0] != '/')
 894         {
 895           Solvable *s = data->repo->pool->solvables + handle;
 896           if (s->arch == ARCH_SRC || s->arch == ARCH_NOSRC)
 897             did = repodata_str2dir(data, "/usr/src", 1);
 898           else
 899             did = repodata_str2dir_rooted(data, dn[i], 1);
 900         }
 901       else
 902         did = repodata_str2dir(data, dn[i], 1);
 903       repodata_add_dirnumnum(data, handle, SOLVABLE_DISKUSAGE, did, fkb[i], fn[i]);
 904     }
 905   solv_free(fn);
 906   solv_free(fkb);
 907 }
 908
 909 static int
 910 is_filtered(const char *dir)
 911 {
 912   if (!dir)
 913     return 1;
 914   /* the dirs always have a trailing / in rpm */
 915   if (strstr(dir, "bin/"))
 916     return 0;
 917   if (!strncmp(dir, "/etc/", 5))
 918     return 0;
 919   if (!strcmp(dir, "/usr/lib/"))
 920     return 2;
 921   return 1;
 922 }
 923
 924 static void
 925 addfilelist(Repodata *data, Id handle, RpmHead *rpmhead, int flags)
 926 {
 927   char **bn;
 928   char **dn;
 929   uint32_t *di;
 930   int bnc, dnc, dic;
 931   int i;
 932   Id did;
 933   uint32_t lastdii = -1;
 934   int lastfiltered = 0;
 935
 936   if (!data)
 937     return;
 938   bn = headstringarray(rpmhead, TAG_BASENAMES, &bnc);
 939   if (!bn)
 940     return;
 941   dn = headstringarray(rpmhead, TAG_DIRNAMES, &dnc);
 942   if (!dn)
 943     {
 944       solv_free(bn);
 945       return;
 946     }
 947   di = headint32array(rpmhead, TAG_DIRINDEXES, &dic);
 948   if (!di)
 949     {
 950       solv_free(bn);
 951       solv_free(dn);
 952       return;
 953     }
 954   if (bnc != dic)
 955     {
 956       pool_error(data->repo->pool, 0, "bad filelist");
 957       return;
 958     }
 959
 960   adddudata(data, handle, rpmhead, dn, di, bnc, dnc);
 961
 962   did = -1;
 963   for (i = 0; i < bnc; i++)
 964     {
 965       char *b = bn[i];
 966
 967       if (did < 0 || di[i] != lastdii)
 968         {
 969           if (di[i] >= dnc)
 970             continue;   /* corrupt entry */
 971           did = 0;
 972           lastdii = di[i];
 973           if ((flags & RPM_ADD_FILTERED_FILELIST) != 0)
 974             {
 975               lastfiltered = is_filtered(dn[di[i]]);
 976               if (lastfiltered == 1)
 977                 continue;
 978             }
 979           if (dn[lastdii][0] != '/')
 980             did = repodata_str2dir_rooted(data, dn[lastdii], 1);
 981           else
 982             did = repodata_str2dir(data, dn[lastdii], 1);
 983         }
 984       if (!b)
 985         continue;
 986       if (*b == '/')    /* work around rpm bug */
 987         b++;
 988       if (lastfiltered && (lastfiltered != 2 || strcmp(b, "sendmail")))
 989         continue;
 990       repodata_add_dirstr(data, handle, SOLVABLE_FILELIST, did, b);
 991     }
 992   solv_free(bn);
 993   solv_free(dn);
 994   solv_free(di);
 995 }
 996
 997 static void
 998 addchangelog(Repodata *data, Id handle, RpmHead *rpmhead)
 999 {
1000   char **cn;
1001   char **cx;
1002   uint32_t *ct;
1003   int i, cnc, cxc, ctc = 0;
1004   Queue hq;
1005
1006   ct = headint32array(rpmhead, TAG_CHANGELOGTIME, &ctc);
1007   cx = headstringarray(rpmhead, TAG_CHANGELOGTEXT, &cxc);
1008   cn = headstringarray(rpmhead, TAG_CHANGELOGNAME, &cnc);
1009   if (!ct || !cx || !cn || !ctc || ctc != cxc || ctc != cnc)
1010     {
1011       solv_free(ct);
1012       solv_free(cx);
1013       solv_free(cn);
1014       return;
1015     }
1016   queue_init(&hq);
1017   for (i = 0; i < ctc; i++)
1018     {
1019       Id h = repodata_new_handle(data);
1020       if (ct[i])
1021         repodata_set_num(data, h, SOLVABLE_CHANGELOG_TIME, ct[i]);
1022       if (cn[i])
1023         setutf8string(data, h, SOLVABLE_CHANGELOG_AUTHOR, cn[i]);
1024       if (cx[i])
1025         setutf8string(data, h, SOLVABLE_CHANGELOG_TEXT, cx[i]);
1026       queue_push(&hq, h);
1027     }
1028   for (i = 0; i < hq.count; i++)
1029     repodata_add_flexarray(data, handle, SOLVABLE_CHANGELOG, hq.elements[i]);
1030   queue_free(&hq);
1031   solv_free(ct);
1032   solv_free(cx);
1033   solv_free(cn);
1034 }
1035
1036 static void
1037 set_description_author(Repodata *data, Id handle, char *str)
1038 {
1039   char *aut, *p;
1040   for (aut = str; (aut = strchr(aut, '\n')) != 0; aut++)
1041     if (!strncmp(aut, "\nAuthors:\n--------\n", 19))
1042       break;
1043   if (aut)
1044     {
1045       /* oh my, found SUSE special author section */
1046       int l = aut - str;
1047       str = solv_strdup(str);
1048       aut = str + l;
1049       str[l] = 0;
1050       while (l > 0 && str[l - 1] == '\n')
1051         str[--l] = 0;
1052       if (l)
1053         setutf8string(data, handle, SOLVABLE_DESCRIPTION, str);
1054       p = aut + 19;
1055       aut = str;        /* copy over */
1056       while (*p == ' ' || *p == '\n')
1057         p++;
1058       while (*p)
1059         {
1060           if (*p == '\n')
1061             {
1062               *aut++ = *p++;
1063               while (*p == ' ')
1064                 p++;
1065               continue;
1066             }
1067           *aut++ = *p++;
1068         }
1069       while (aut != str && aut[-1] == '\n')
1070         aut--;
1071       *aut = 0;
1072       if (*str)
1073         setutf8string(data, handle, SOLVABLE_AUTHORS, str);
1074       free(str);
1075     }
1076   else if (*str)
1077     setutf8string(data, handle, SOLVABLE_DESCRIPTION, str);
1078 }
1079
1080 static int
1081 rpmhead2solv(Pool *pool, Repo *repo, Repodata *data, Solvable *s, RpmHead *rpmhead, int flags)
1082 {
1083   char *name;
1084   char *evr;
1085   char *sourcerpm;
1086   Queue ignq;
1087   Id ignqbuf[64];
1088
1089   name = headstring(rpmhead, TAG_NAME);
1090   if (!name)
1091     {
1092       pool_error(pool, 0, "package has no name");
1093       return 0;
1094     }
1095   if (!(flags & RPMDB_KEEP_GPG_PUBKEY) && !strcmp(name, "gpg-pubkey"))
1096     return 0;
1097   s->name = pool_str2id(pool, name, 1);
1098   sourcerpm = headstring(rpmhead, TAG_SOURCERPM);
1099   if (sourcerpm || !(headexists(rpmhead, TAG_SOURCEPACKAGE) || headissourceheuristic(rpmhead)))
1100     s->arch = pool_str2id(pool, headstring(rpmhead, TAG_ARCH), 1);
1101   else
1102     {
1103       if (headexists(rpmhead, TAG_NOSOURCE) || headexists(rpmhead, TAG_NOPATCH))
1104         s->arch = ARCH_NOSRC;
1105       else
1106         s->arch = ARCH_SRC;
1107     }
1108   if (!s->arch)
1109     s->arch = ARCH_NOARCH;
1110   evr = headtoevr(rpmhead);
1111   s->evr = pool_str2id(pool, evr, 1);
1112   solv_free(evr);
1113   s->vendor = pool_str2id(pool, headstring(rpmhead, TAG_VENDOR), 1);
1114
1115   queue_init_buffer(&ignq, ignqbuf, sizeof(ignqbuf)/sizeof(*ignqbuf));
1116
1117   s->provides = makedeps(pool, repo, rpmhead, TAG_PROVIDENAME, TAG_PROVIDEVERSION, TAG_PROVIDEFLAGS, 0, 0);
1118   if (s->arch != ARCH_SRC && s->arch != ARCH_NOSRC)
1119     s->provides = repo_addid_dep(repo, s->provides, pool_rel2id(pool, s->name, s->evr, REL_EQ, 1), 0);
1120   s->requires = makedeps(pool, repo, rpmhead, TAG_REQUIRENAME, TAG_REQUIREVERSION, TAG_REQUIREFLAGS, flags, &ignq);
1121   s->conflicts = makedeps(pool, repo, rpmhead, TAG_CONFLICTNAME, TAG_CONFLICTVERSION, TAG_CONFLICTFLAGS, 0, 0);
1122   s->obsoletes = makedeps(pool, repo, rpmhead, TAG_OBSOLETENAME, TAG_OBSOLETEVERSION, TAG_OBSOLETEFLAGS, 0, 0);
1123
1124   s->recommends = makedeps(pool, repo, rpmhead, TAG_RECOMMENDNAME, TAG_RECOMMENDVERSION, TAG_RECOMMENDFLAGS, 0, 0);
1125   s->suggests = makedeps(pool, repo, rpmhead, TAG_SUGGESTNAME, TAG_SUGGESTVERSION, TAG_SUGGESTFLAGS, 0, 0);
1126   s->supplements = makedeps(pool, repo, rpmhead, TAG_SUPPLEMENTNAME, TAG_SUPPLEMENTVERSION, TAG_SUPPLEMENTFLAGS, 0, 0);
1127   s->enhances  = makedeps(pool, repo, rpmhead, TAG_ENHANCENAME, TAG_ENHANCEVERSION, TAG_ENHANCEFLAGS, 0, 0);
1128
1129   repo_rewrite_suse_deps(s, 0);
1130
1131   if (data && ignq.count)
1132     repodata_set_idarray(data, s - pool->solvables, SOLVABLE_PREREQ_IGNOREINST, &ignq);
1133   queue_free(&ignq);
1134
1135   if (data)
1136     {
1137       Id handle;
1138       char *str;
1139       unsigned int u32;
1140       unsigned long long u64;
1141
1142       handle = s - pool->solvables;
1143       str = headstring(rpmhead, TAG_SUMMARY);
1144       if (str)
1145         setutf8string(data, handle, SOLVABLE_SUMMARY, str);
1146       str = headstring(rpmhead, TAG_DESCRIPTION);
1147       if (str)
1148         set_description_author(data, handle, str);
1149       str = headstring(rpmhead, TAG_GROUP);
1150       if (str)
1151         repodata_set_poolstr(data, handle, SOLVABLE_GROUP, str);
1152       str = headstring(rpmhead, TAG_LICENSE);
1153       if (str)
1154         repodata_set_poolstr(data, handle, SOLVABLE_LICENSE, str);
1155       str = headstring(rpmhead, TAG_URL);
1156       if (str)
1157         repodata_set_str(data, handle, SOLVABLE_URL, str);
1158       str = headstring(rpmhead, TAG_DISTRIBUTION);
1159       if (str)
1160         repodata_set_poolstr(data, handle, SOLVABLE_DISTRIBUTION, str);
1161       str = headstring(rpmhead, TAG_PACKAGER);
1162       if (str)
1163         repodata_set_poolstr(data, handle, SOLVABLE_PACKAGER, str);
1164       if ((flags & RPM_ADD_WITH_PKGID) != 0)
1165         {
1166           unsigned char *chksum;
1167           unsigned int chksumsize;
1168           chksum = headbinary(rpmhead, TAG_SIGMD5, &chksumsize);
1169           if (chksum && chksumsize == 16)
1170             repodata_set_bin_checksum(data, handle, SOLVABLE_PKGID, REPOKEY_TYPE_MD5, chksum);
1171         }
1172       if ((flags & RPM_ADD_WITH_HDRID) != 0)
1173         {
1174           str = headstring(rpmhead, TAG_SHA1HEADER);
1175           if (str && strlen(str) == 40)
1176             repodata_set_checksum(data, handle, SOLVABLE_HDRID, REPOKEY_TYPE_SHA1, str);
1177           else if (str && strlen(str) == 64)
1178             repodata_set_checksum(data, handle, SOLVABLE_HDRID, REPOKEY_TYPE_SHA256, str);
1179         }
1180       u32 = headint32(rpmhead, TAG_BUILDTIME);
1181       if (u32)
1182         repodata_set_num(data, handle, SOLVABLE_BUILDTIME, u32);
1183       u32 = headint32(rpmhead, TAG_INSTALLTIME);
1184       if (u32)
1185         repodata_set_num(data, handle, SOLVABLE_INSTALLTIME, u32);
1186       u64 = headint64(rpmhead, TAG_LONGSIZE);
1187       if (u64)
1188         repodata_set_num(data, handle, SOLVABLE_INSTALLSIZE, u64);
1189       else
1190         {
1191           u32 = headint32(rpmhead, TAG_SIZE);
1192           if (u32)
1193             repodata_set_num(data, handle, SOLVABLE_INSTALLSIZE, u32);
1194         }
1195       if (sourcerpm)
1196         repodata_set_sourcepkg(data, handle, sourcerpm);
1197       if ((flags & RPM_ADD_TRIGGERS) != 0)
1198         {
1199           unsigned int ida = makedeps(pool, repo, rpmhead, TAG_TRIGGERNAME, TAG_TRIGGERVERSION, TAG_TRIGGERFLAGS, 0, 0);
1200           Id id, lastid = 0;
1201           for (lastid = 0; (id = repo->idarraydata[ida]) != 0; ida++, lastid = id)
1202             if (id != lastid)
1203               repodata_add_idarray(data, handle, SOLVABLE_TRIGGERS, id);
1204         }
1205       if ((flags & RPM_ADD_NO_FILELIST) == 0)
1206         addfilelist(data, handle, rpmhead, flags);
1207       if ((flags & RPM_ADD_WITH_CHANGELOG) != 0)
1208         addchangelog(data, handle, rpmhead);
1209     }
1210   return 1;
1211 }
1212
1213 static inline unsigned int
1214 getu32(const unsigned char *dp)
1215 {
1216   return dp[0] << 24 | dp[1] << 16 | dp[2] << 8 | dp[3];
1217 }
1218
1219 #ifdef ENABLE_RPMDB
1220
1221 struct rpmdbentry {
1222   Id rpmdbid;
1223   Id nameoff;
1224 };
1225
1226 #define ENTRIES_BLOCK 255
1227 #define NAMEDATA_BLOCK 1023
1228
1229 # ifdef ENABLE_RPMDB_LIBRPM
1230 #  include "repo_rpmdb_librpm.h"
1231 # else
1232 #  include "repo_rpmdb_bdb.h"
1233 # endif
1234
1235 #else
1236
1237 /* dummy state just to store pool/rootdir and header data */
1238 struct rpmdbstate {
1239   Pool *pool;
1240   char *rootdir;
1241
1242   RpmHead *rpmhead;     /* header storage space */
1243   int rpmheadsize;
1244 };
1245
1246 #endif
1247
1248
1249 #ifndef ENABLE_RPMPKG_LIBRPM
1250
1251 static int
1252 headfromfp(struct rpmdbstate *state, const char *name, FILE *fp, unsigned char *lead, unsigned int cnt, unsigned int dsize, unsigned int pad, Chksum *chk1, Chksum *chk2)
1253 {
1254   RpmHead *rpmhead;
1255   unsigned int len = 16 * cnt + dsize + pad;
1256   if (len + 1 > state->rpmheadsize)
1257     {
1258       state->rpmheadsize = len + 128;
1259       state->rpmhead = solv_realloc(state->rpmhead, sizeof(*state->rpmhead) + state->rpmheadsize);
1260     }
1261   rpmhead = state->rpmhead;
1262   if (fread(rpmhead->data, len, 1, fp) != 1)
1263     return pool_error(state->pool, 0, "%s: unexpected EOF", name);
1264   if (chk1)
1265     solv_chksum_add(chk1, rpmhead->data, len);
1266   if (chk2)
1267     solv_chksum_add(chk2, rpmhead->data, len);
1268   rpmhead->data[len] = 0;
1269   rpmhead->cnt = cnt;
1270   rpmhead->dcnt = dsize;
1271   rpmhead->dp = rpmhead->data + cnt * 16;
1272   return 1;
1273 }
1274
1275 #if defined(ENABLE_RPMDB_BYRPMHEADER)
1276 static void
1277 headfromblob(struct rpmdbstate *state, const unsigned char *blob, unsigned int cnt, unsigned int dsize)
1278 {
1279   RpmHead *rpmhead;
1280   unsigned int len = 16 * cnt + dsize;
1281   if (len + 1 > state->rpmheadsize)
1282     {
1283       state->rpmheadsize = len + 128;
1284       state->rpmhead = solv_realloc(state->rpmhead, sizeof(*state->rpmhead) + state->rpmheadsize);
1285     }
1286   rpmhead = state->rpmhead;
1287   memcpy(rpmhead->data, blob, len);
1288   rpmhead->data[len] = 0;
1289   rpmhead->cnt = cnt;
1290   rpmhead->dcnt = dsize;
1291   rpmhead->dp = rpmhead->data + cnt * 16;
1292 }
1293 #endif
1294
1295 #else
1296
1297 static int
1298 headfromfp(struct rpmdbstate *state, const char *name, FILE *fp, unsigned char *lead, unsigned int cnt, unsigned int dsize, unsigned int pad, Chksum *chk1, Chksum *chk2)
1299 {
1300   unsigned int len = 16 * cnt + dsize + pad;
1301   char *buf = solv_malloc(8 + len);
1302   Header h;
1303   memcpy(buf, lead + 8, 8);
1304   if (fread(buf + 8, len, 1, fp) != 1)
1305     {
1306       solv_free(buf);
1307       return pool_error(state->pool, 0, "%s: unexpected EOF", name);
1308     }
1309   if (chk1)
1310     solv_chksum_add(chk1, buf + 8, len);
1311   if (chk2)
1312     solv_chksum_add(chk2, buf + 8, len);
1313   h = headerImport(buf, 8 + len - pad, HEADERIMPORT_FAST);
1314   if (!h)
1315     {
1316       solv_free(buf);
1317       return pool_error(state->pool, 0, "%s: headerImport error", name);
1318     }
1319   if (state->rpmhead)
1320     headfree(state->rpmhead);
1321   state->rpmhead = h;
1322   return 1;
1323 }
1324
1325 #endif
1326
1327 static void
1328 freestate(struct rpmdbstate *state)
1329 {
1330   /* close down */
1331 #ifdef ENABLE_RPMDB
1332   if (state->pkgdbopened)
1333     closepkgdb(state);
1334   if (state->dbenvopened)
1335     closedbenv(state);
1336 #endif
1337   if (state->rootdir)
1338     solv_free(state->rootdir);
1339   headfree(state->rpmhead);
1340 }
1341
1342 void *
1343 rpm_state_create(Pool *pool, const char *rootdir)
1344 {
1345   struct rpmdbstate *state;
1346   state = solv_calloc(1, sizeof(*state));
1347   state->pool = pool;
1348   if (rootdir)
1349     state->rootdir = solv_strdup(rootdir);
1350   return state;
1351 }
1352
1353 void *
1354 rpm_state_free(void *state)
1355 {
1356   if (state)
1357     freestate(state);
1358   return solv_free(state);
1359 }
1360
1361
1362 #ifdef ENABLE_RPMDB
1363
1364
1365 /******************************************************************/
1366
1367 static Offset
1368 copydeps(Pool *pool, Repo *repo, Offset fromoff, Repo *fromrepo)
1369 {
1370   int cc;
1371   Id *ida, *from;
1372   Offset ido;
1373
1374   if (!fromoff)
1375     return 0;
1376   from = fromrepo->idarraydata + fromoff;
1377   for (ida = from, cc = 0; *ida; ida++, cc++)
1378     ;
1379   if (cc == 0)
1380     return 0;
1381   ido = repo_reserve_ids(repo, 0, cc);
1382   ida = repo->idarraydata + ido;
1383   memcpy(ida, from, (cc + 1) * sizeof(Id));
1384   repo->idarraysize += cc + 1;
1385   return ido;
1386 }
1387
1388 struct solvable_copy_cbdata {
1389   Repodata *data;
1390   Id handle;
1391   Id subhandle;
1392   Id *dircache;
1393 };
1394
1395 static int
1396 solvable_copy_cb(void *vcbdata, Solvable *r, Repodata *fromdata, Repokey *key, KeyValue *kv)
1397 {
1398   struct solvable_copy_cbdata *cbdata = vcbdata;
1399   Repodata *data = cbdata->data;
1400   Id handle = cbdata->handle;
1401
1402   switch (key->type)
1403     {
1404     case REPOKEY_TYPE_ID:
1405     case REPOKEY_TYPE_CONSTANTID:
1406     case REPOKEY_TYPE_IDARRAY:  /* used for triggers */
1407       if (data->localpool || fromdata->localpool)
1408         kv->id = repodata_translate_id(data, fromdata, kv->id, 1);
1409       break;
1410     case REPOKEY_TYPE_DIRNUMNUMARRAY:
1411     case REPOKEY_TYPE_DIRSTRARRAY:
1412       kv->id = repodata_translate_dir(data, fromdata, kv->id, 1, fromdata->repodataid == 1 ? cbdata->dircache : 0);
1413       break;
1414     case REPOKEY_TYPE_FIXARRAY:
1415       cbdata->handle = repodata_new_handle(data);
1416       repodata_add_fixarray(data, handle, key->name, cbdata->handle);
1417       repodata_search_arrayelement(fromdata, 0, 0, 0, kv, &solvable_copy_cb, cbdata);
1418       cbdata->handle = handle;
1419       return 0;
1420     case REPOKEY_TYPE_FLEXARRAY:
1421       cbdata->handle = repodata_new_handle(data);
1422       repodata_add_flexarray(data, handle, key->name, cbdata->handle);
1423       repodata_search_arrayelement(fromdata, 0, 0, 0, kv, &solvable_copy_cb, cbdata);
1424       cbdata->handle = handle;
1425       return 0;
1426     default:
1427       break;
1428     }
1429   repodata_set_kv(data, handle, key->name, key->type, kv);
1430   return 0;
1431 }
1432
1433 static void
1434 solvable_copy(Solvable *s, Solvable *r, Repodata *data, Id *dircache, Id **oldkeyskip)
1435 {
1436   int p, i;
1437   Repo *repo = s->repo;
1438   Pool *pool = repo->pool;
1439   Repo *fromrepo = r->repo;
1440   struct solvable_copy_cbdata cbdata;
1441   Id *keyskip;
1442
1443   /* copy solvable data */
1444   s->name = r->name;
1445   s->evr = r->evr;
1446   s->arch = r->arch;
1447   s->vendor = r->vendor;
1448   s->provides = copydeps(pool, repo, r->provides, fromrepo);
1449   s->requires = copydeps(pool, repo, r->requires, fromrepo);
1450   s->conflicts = copydeps(pool, repo, r->conflicts, fromrepo);
1451   s->obsoletes = copydeps(pool, repo, r->obsoletes, fromrepo);
1452   s->recommends = copydeps(pool, repo, r->recommends, fromrepo);
1453   s->suggests = copydeps(pool, repo, r->suggests, fromrepo);
1454   s->supplements = copydeps(pool, repo, r->supplements, fromrepo);
1455   s->enhances  = copydeps(pool, repo, r->enhances, fromrepo);
1456
1457   /* copy all attributes */
1458   if (!data || fromrepo->nrepodata < 2)
1459     return;
1460   cbdata.data = data;
1461   cbdata.handle = s - pool->solvables;
1462   cbdata.subhandle = 0;
1463   cbdata.dircache = dircache;
1464   p = r - fromrepo->pool->solvables;
1465   if (fromrepo->nrepodata == 2)
1466     {
1467       Repodata *fromdata = repo_id2repodata(fromrepo, 1);
1468       if (p >= fromdata->start && p < fromdata->end)
1469         repodata_search(fromdata, p, 0, 0, solvable_copy_cb, &cbdata);
1470       return;
1471     }
1472   keyskip = repo_create_keyskip(repo, p, oldkeyskip);
1473   FOR_REPODATAS(fromrepo, i, data)
1474     {
1475       if (p >= data->start && p < data->end)
1476         repodata_search_keyskip(data, p, 0, 0, keyskip, solvable_copy_cb, &cbdata);
1477     }
1478 }
1479
1480 /* used to sort entries by package name that got returned in some database order */
1481 static int
1482 rpmids_sort_cmp(const void *va, const void *vb, void *dp)
1483 {
1484   struct rpmdbentry const *a = va, *b = vb;
1485   char *namedata = dp;
1486   int r;
1487   r = strcmp(namedata + a->nameoff, namedata + b->nameoff);
1488   if (r)
1489     return r;
1490   return a->rpmdbid - b->rpmdbid;
1491 }
1492
1493 static int
1494 pkgids_sort_cmp(const void *va, const void *vb, void *dp)
1495 {
1496   Repo *repo = dp;
1497   Pool *pool = repo->pool;
1498   Solvable *a = pool->solvables + *(Id *)va;
1499   Solvable *b = pool->solvables + *(Id *)vb;
1500   Id *rpmdbid;
1501
1502   if (a->name != b->name)
1503     return strcmp(pool_id2str(pool, a->name), pool_id2str(pool, b->name));
1504   rpmdbid = repo->rpmdbid;
1505   return rpmdbid[(a - pool->solvables) - repo->start] - rpmdbid[(b - pool->solvables) - repo->start];
1506 }
1507
1508 static void
1509 swap_solvables(Repo *repo, Repodata *data, Id pa, Id pb)
1510 {
1511   Pool *pool = repo->pool;
1512   Solvable tmp;
1513
1514   tmp = pool->solvables[pa];
1515   pool->solvables[pa] = pool->solvables[pb];
1516   pool->solvables[pb] = tmp;
1517   if (repo->rpmdbid)
1518     {
1519       Id tmpid = repo->rpmdbid[pa - repo->start];
1520       repo->rpmdbid[pa - repo->start] = repo->rpmdbid[pb - repo->start];
1521       repo->rpmdbid[pb - repo->start] = tmpid;
1522     }
1523   /* only works if nothing is already internalized! */
1524   if (data)
1525     repodata_swap_attrs(data, pa, pb);
1526 }
1527
1528 static void
1529 mkrpmdbcookie(struct stat *st, unsigned char *cookie, int flags)
1530 {
1531   int f = 0;
1532   memset(cookie, 0, 32);
1533   cookie[3] = RPMDB_COOKIE_VERSION;
1534   memcpy(cookie + 16, &st->st_ino, sizeof(st->st_ino));
1535   memcpy(cookie + 24, &st->st_dev, sizeof(st->st_dev));
1536   if ((flags & RPM_ADD_WITH_PKGID) != 0)
1537     f |= 1;
1538   if ((flags & RPM_ADD_WITH_HDRID) != 0)
1539     f |= 2;
1540   if ((flags & RPM_ADD_WITH_CHANGELOG) != 0)
1541     f |= 4;
1542   if ((flags & RPM_ADD_NO_FILELIST) == 0)
1543     f |= 8;
1544   if ((flags & RPM_ADD_NO_RPMLIBREQS) != 0)
1545     cookie[1] = 1;
1546   cookie[0] = f;
1547 }
1548
1549 /*
1550  * read rpm db as repo
1551  *
1552  */
1553
1554 int
1555 repo_add_rpmdb(Repo *repo, Repo *ref, int flags)
1556 {
1557   Pool *pool = repo->pool;
1558   struct stat packagesstat;
1559   unsigned char newcookie[32];
1560   const unsigned char *oldcookie = 0;
1561   Id oldcookietype = 0;
1562   Repodata *data;
1563   int count = 0, done = 0;
1564   struct rpmdbstate state;
1565   int i;
1566   Solvable *s;
1567   unsigned int now;
1568
1569   now = solv_timems(0);
1570   memset(&state, 0, sizeof(state));
1571   state.pool = pool;
1572   if (flags & REPO_USE_ROOTDIR)
1573     state.rootdir = solv_strdup(pool_get_rootdir(pool));
1574
1575   data = repo_add_repodata(repo, flags);
1576
1577   if (ref && !(ref->nsolvables && ref->rpmdbid && ref->pool == repo->pool))
1578     {
1579       if ((flags & RPMDB_EMPTY_REFREPO) != 0)
1580         repo_empty(ref, 1);
1581       ref = 0;
1582     }
1583
1584   if (!opendbenv(&state))
1585     {
1586       solv_free(state.rootdir);
1587       return -1;
1588     }
1589
1590   /* XXX: should get ro lock of Packages database! */
1591   if (stat_database(&state, "Packages", &packagesstat, 1))
1592     {
1593       freestate(&state);
1594       return -1;
1595     }
1596   mkrpmdbcookie(&packagesstat, newcookie, flags);
1597   repodata_set_bin_checksum(data, SOLVID_META, REPOSITORY_RPMDBCOOKIE, REPOKEY_TYPE_SHA256, newcookie);
1598
1599   if (ref)
1600     oldcookie = repo_lookup_bin_checksum(ref, SOLVID_META, REPOSITORY_RPMDBCOOKIE, &oldcookietype);
1601   if (!ref || !oldcookie || oldcookietype != REPOKEY_TYPE_SHA256 || memcmp(oldcookie, newcookie, 32) != 0)
1602     {
1603       int solvstart = 0, solvend = 0;
1604       Id dbid;
1605
1606       if (ref && (flags & RPMDB_EMPTY_REFREPO) != 0)
1607         repo_empty(ref, 1);     /* get it out of the way */
1608       if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1609         count = count_headers(&state);
1610       if (!openpkgdb(&state))
1611         {
1612           freestate(&state);
1613           return -1;
1614         }
1615       if (pkgdb_cursor_open(&state))
1616         {
1617           freestate(&state);
1618           return -1;
1619         }
1620       i = 0;
1621       s = 0;
1622       while ((dbid = pkgdb_cursor_getrpm(&state)) != 0)
1623         {
1624           if (dbid == -1)
1625             {
1626               pkgdb_cursor_close(&state);
1627               freestate(&state);
1628               return -1;
1629             }
1630           if (!s)
1631             {
1632               s = pool_id2solvable(pool, repo_add_solvable(repo));
1633               if (!solvstart)
1634                 solvstart = s - pool->solvables;
1635               solvend = s - pool->solvables + 1;
1636             }
1637           if (!repo->rpmdbid)
1638             repo->rpmdbid = repo_sidedata_create(repo, sizeof(Id));
1639           repo->rpmdbid[(s - pool->solvables) - repo->start] = dbid;
1640           if (rpmhead2solv(pool, repo, data, s, state.rpmhead, flags | RPM_ADD_TRIGGERS))
1641             {
1642               i++;
1643               s = 0;
1644             }
1645           else
1646             {
1647               /* We can reuse this solvable, but make sure it's still
1648                  associated with this repo.  */
1649               memset(s, 0, sizeof(*s));
1650               s->repo = repo;
1651             }
1652           if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1653             {
1654               if (done < count)
1655                 done++;
1656               if (done < count && (done - 1) * 100 / count != done * 100 / count)
1657                 pool_debug(pool, SOLV_ERROR, "%%%% %d\n", done * 100 / count);
1658             }
1659         }
1660       pkgdb_cursor_close(&state);
1661       if (s)
1662         {
1663           /* oops, could not reuse. free it instead */
1664           repo_free_solvable(repo, s - pool->solvables, 1);
1665           solvend--;
1666           s = 0;
1667         }
1668       /* now sort all solvables in the new solvstart..solvend block */
1669       if (solvend - solvstart > 1)
1670         {
1671           Id *pkgids = solv_malloc2(solvend - solvstart, sizeof(Id));
1672           for (i = solvstart; i < solvend; i++)
1673             pkgids[i - solvstart] = i;
1674           solv_sort(pkgids, solvend - solvstart, sizeof(Id), pkgids_sort_cmp, repo);
1675           /* adapt order */
1676           for (i = solvstart; i < solvend; i++)
1677             {
1678               int j = pkgids[i - solvstart];
1679               while (j < i)
1680                 j = pkgids[i - solvstart] = pkgids[j - solvstart];
1681               if (j != i)
1682                 swap_solvables(repo, data, i, j);
1683             }
1684           solv_free(pkgids);
1685         }
1686     }
1687   else
1688     {
1689       Id *dircache;
1690       Id *oldkeyskip = 0;
1691       struct rpmdbentry *entries = 0, *rp;
1692       int nentries = 0;
1693       char *namedata = 0;
1694       unsigned int refmask, h;
1695       Id id, *refhash;
1696       int res;
1697
1698       /* get ids of installed rpms */
1699       entries = getinstalledrpmdbids(&state, "Name", 0, &nentries, &namedata, flags & RPMDB_KEEP_GPG_PUBKEY);
1700       if (!entries)
1701         {
1702           freestate(&state);
1703           return -1;
1704         }
1705
1706       /* sort by name */
1707       if (nentries > 1)
1708         solv_sort(entries, nentries, sizeof(*entries), rpmids_sort_cmp, namedata);
1709
1710       /* create hash from dbid to ref */
1711       refmask = mkmask(ref->nsolvables);
1712       refhash = solv_calloc(refmask + 1, sizeof(Id));
1713       for (i = 0; i < ref->end - ref->start; i++)
1714         {
1715           if (!ref->rpmdbid[i])
1716             continue;
1717           h = ref->rpmdbid[i] & refmask;
1718           while (refhash[h])
1719             h = (h + 317) & refmask;
1720           refhash[h] = i + 1;   /* make it non-zero */
1721         }
1722
1723       /* count the misses, they will cost us time */
1724       if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1725         {
1726           for (i = 0, rp = entries; i < nentries; i++, rp++)
1727             {
1728               if (refhash)
1729                 {
1730                   Id dbid = rp->rpmdbid;
1731                   h = dbid & refmask;
1732                   while ((id = refhash[h]))
1733                     {
1734                       if (ref->rpmdbid[id - 1] == dbid)
1735                         break;
1736                       h = (h + 317) & refmask;
1737                     }
1738                   if (id)
1739                     continue;
1740                 }
1741               count++;
1742             }
1743         }
1744
1745       if (ref && (flags & RPMDB_EMPTY_REFREPO) != 0)
1746         s = pool_id2solvable(pool, repo_add_solvable_block_before(repo, nentries, ref));
1747       else
1748         s = pool_id2solvable(pool, repo_add_solvable_block(repo, nentries));
1749       if (!repo->rpmdbid)
1750         repo->rpmdbid = repo_sidedata_create(repo, sizeof(Id));
1751
1752       dircache = repodata_create_dirtranscache(data);
1753       for (i = 0, rp = entries; i < nentries; i++, rp++, s++)
1754         {
1755           Id dbid = rp->rpmdbid;
1756           repo->rpmdbid[(s - pool->solvables) - repo->start] = dbid;
1757           if (refhash)
1758             {
1759               h = dbid & refmask;
1760               while ((id = refhash[h]))
1761                 {
1762                   if (ref->rpmdbid[id - 1] == dbid)
1763                     break;
1764                   h = (h + 317) & refmask;
1765                 }
1766               if (id)
1767                 {
1768                   Solvable *r = ref->pool->solvables + ref->start + (id - 1);
1769                   if (r->repo == ref)
1770                     {
1771                       solvable_copy(s, r, data, dircache, &oldkeyskip);
1772                       continue;
1773                     }
1774                 }
1775             }
1776           res = getrpm_dbid(&state, dbid);
1777           if (res <= 0)
1778             {
1779               if (!res)
1780                 pool_error(pool, -1, "inconsistent rpm database, key %d not found. run 'rpm --rebuilddb' to fix.", dbid);
1781               freestate(&state);
1782               solv_free(entries);
1783               solv_free(namedata);
1784               solv_free(refhash);
1785               dircache = repodata_free_dirtranscache(dircache);
1786               return -1;
1787             }
1788           rpmhead2solv(pool, repo, data, s, state.rpmhead, flags | RPM_ADD_TRIGGERS);
1789           if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1790             {
1791               if (done < count)
1792                 done++;
1793               if (done < count && (done - 1) * 100 / count != done * 100 / count)
1794                 pool_debug(pool, SOLV_ERROR, "%%%% %d\n", done * 100 / count);
1795             }
1796         }
1797       dircache = repodata_free_dirtranscache(dircache);
1798
1799       solv_free(oldkeyskip);
1800       solv_free(entries);
1801       solv_free(namedata);
1802       solv_free(refhash);
1803       if (ref && (flags & RPMDB_EMPTY_REFREPO) != 0)
1804         repo_empty(ref, 1);
1805     }
1806
1807   freestate(&state);
1808   if (!(flags & REPO_NO_INTERNALIZE))
1809     repodata_internalize(data);
1810   if ((flags & RPMDB_REPORT_PROGRESS) != 0)
1811     pool_debug(pool, SOLV_ERROR, "%%%% 100\n");
1812   POOL_DEBUG(SOLV_DEBUG_STATS, "repo_add_rpmdb took %d ms\n", solv_timems(now));
1813   POOL_DEBUG(SOLV_DEBUG_STATS, "repo size: %d solvables\n", repo->nsolvables);
1814   POOL_DEBUG(SOLV_DEBUG_STATS, "repo memory used: %d K incore, %d K idarray\n", repodata_memused(data)/1024, repo->idarraysize / (int)(1024/sizeof(Id)));
1815   return 0;
1816 }
1817
1818 int
1819 repo_add_rpmdb_reffp(Repo *repo, FILE *fp, int flags)
1820 {
1821   int res;
1822   Repo *ref = 0;
1823
1824   if (!fp)
1825     return repo_add_rpmdb(repo, 0, flags);
1826   ref = repo_create(repo->pool, "add_rpmdb_reffp");
1827   if (repo_add_solv(ref, fp, 0) != 0)
1828     {
1829       repo_free(ref, 1);
1830       ref = 0;
1831     }
1832   if (ref && ref->start == ref->end)
1833     {
1834       repo_free(ref, 1);
1835       ref = 0;
1836     }
1837   if (ref)
1838     repo_disable_paging(ref);
1839   res = repo_add_rpmdb(repo, ref, flags | RPMDB_EMPTY_REFREPO);
1840   if (ref)
1841     repo_free(ref, 1);
1842   return res;
1843 }
1844
1845 #endif  /* ENABLE_RPMDB */
1846
1847 Id
1848 repo_add_rpm(Repo *repo, const char *rpm, int flags)
1849 {
1850   unsigned int sigdsize, sigcnt, sigpad, l;
1851   Pool *pool = repo->pool;
1852   Solvable *s;
1853   struct rpmdbstate state;
1854   char *payloadformat;
1855   FILE *fp;
1856   unsigned char lead[4096];
1857   int headerstart, headerend;
1858   struct stat stb;
1859   Repodata *data;
1860   unsigned char pkgid[16];
1861   unsigned char leadsigid[16];
1862   unsigned char hdrid[32];
1863   int pkgidtype, leadsigidtype, hdridtype;
1864   Id chksumtype = 0;
1865   Chksum *chksumh = 0;
1866   Chksum *leadsigchksumh = 0;
1867
1868   data = repo_add_repodata(repo, flags);
1869
1870   if ((flags & RPM_ADD_WITH_SHA256SUM) != 0)
1871     chksumtype = REPOKEY_TYPE_SHA256;
1872   else if ((flags & RPM_ADD_WITH_SHA1SUM) != 0)
1873     chksumtype = REPOKEY_TYPE_SHA1;
1874
1875   /* open rpm */
1876   if ((fp = fopen(flags & REPO_USE_ROOTDIR ? pool_prepend_rootdir_tmp(pool, rpm) : rpm, "r")) == 0)
1877     {
1878       pool_error(pool, -1, "%s: %s", rpm, strerror(errno));
1879       return 0;
1880     }
1881   if (fstat(fileno(fp), &stb))
1882     {
1883       pool_error(pool, -1, "fstat: %s", strerror(errno));
1884       fclose(fp);
1885       return 0;
1886     }
1887
1888   /* setup state */
1889   memset(&state, 0, sizeof(state));
1890   state.pool = pool;
1891
1892   /* process lead */
1893   if (chksumtype)
1894     chksumh = solv_chksum_create(chksumtype);
1895   if ((flags & RPM_ADD_WITH_LEADSIGID) != 0)
1896     leadsigchksumh = solv_chksum_create(REPOKEY_TYPE_MD5);
1897   if (fread(lead, 96 + 16, 1, fp) != 1 || getu32(lead) != 0xedabeedb)
1898     {
1899       pool_error(pool, -1, "%s: not a rpm", rpm);
1900       fclose(fp);
1901       return 0;
1902     }
1903   if (chksumh)
1904     solv_chksum_add(chksumh, lead, 96 + 16);
1905   if (leadsigchksumh)
1906     solv_chksum_add(leadsigchksumh, lead, 96 + 16);
1907
1908   /* process signature header */
1909   if (lead[78] != 0 || lead[79] != 5)
1910     {
1911       pool_error(pool, -1, "%s: not a rpm v5 header", rpm);
1912       fclose(fp);
1913       return 0;
1914     }
1915   if (getu32(lead + 96) != 0x8eade801)
1916     {
1917       pool_error(pool, -1, "%s: bad signature header", rpm);
1918       fclose(fp);
1919       return 0;
1920     }
1921   sigcnt = getu32(lead + 96 + 8);
1922   sigdsize = getu32(lead + 96 + 12);
1923   if (sigcnt >= MAX_SIG_CNT || sigdsize >= MAX_SIG_DSIZE)
1924     {
1925       pool_error(pool, -1, "%s: bad signature header", rpm);
1926       fclose(fp);
1927       return 0;
1928     }
1929   sigpad = sigdsize & 7 ? 8 - (sigdsize & 7) : 0;
1930   headerstart = 96 + 16 + sigcnt * 16 + sigdsize + sigpad;
1931   pkgidtype = leadsigidtype = hdridtype = 0;
1932   if ((flags & (RPM_ADD_WITH_PKGID | RPM_ADD_WITH_HDRID)) != 0)
1933     {
1934       if (!headfromfp(&state, rpm, fp, lead + 96, sigcnt, sigdsize, sigpad, chksumh, leadsigchksumh))
1935         {
1936           fclose(fp);
1937           return 0;
1938         }
1939       if ((flags & RPM_ADD_WITH_PKGID) != 0)
1940         {
1941           unsigned char *chksum;
1942           unsigned int chksumsize;
1943           chksum = headbinary(state.rpmhead, SIGTAG_MD5, &chksumsize);
1944           if (chksum && chksumsize == 16)
1945             {
1946               pkgidtype = REPOKEY_TYPE_MD5;
1947               memcpy(pkgid, chksum, 16);
1948             }
1949         }
1950       if ((flags & RPM_ADD_WITH_HDRID) != 0)
1951         {
1952           const char *str = headstring(state.rpmhead, TAG_SHA1HEADER);
1953           if (str && strlen(str) == 40)
1954             {
1955               if (solv_hex2bin(&str, hdrid, 20) == 20)
1956                 hdridtype = REPOKEY_TYPE_SHA1;
1957             }
1958           else if (str && strlen(str) == 64)
1959             {
1960               if (solv_hex2bin(&str, hdrid, 32) == 32)
1961                 hdridtype = REPOKEY_TYPE_SHA256;
1962             }
1963         }
1964     }
1965   else
1966     {
1967       /* just skip the signature header */
1968       unsigned int len = sigcnt * 16 + sigdsize + sigpad;
1969       while (len)
1970         {
1971           l = len > 4096 ? 4096 : len;
1972           if (fread(lead, l, 1, fp) != 1)
1973             {
1974               pool_error(pool, -1, "%s: unexpected EOF", rpm);
1975               fclose(fp);
1976               return 0;
1977             }
1978           if (chksumh)
1979             solv_chksum_add(chksumh, lead, l);
1980           if (leadsigchksumh)
1981             solv_chksum_add(leadsigchksumh, lead, l);
1982           len -= l;
1983         }
1984     }
1985   if (leadsigchksumh)
1986     {
1987       leadsigchksumh = solv_chksum_free(leadsigchksumh, leadsigid);
1988       leadsigidtype = REPOKEY_TYPE_MD5;
1989     }
1990
1991   /* process main header */
1992   if (fread(lead, 16, 1, fp) != 1)
1993     {
1994       pool_error(pool, -1, "%s: unexpected EOF", rpm);
1995       fclose(fp);
1996       return 0;
1997     }
1998   if (chksumh)
1999     solv_chksum_add(chksumh, lead, 16);
2000   if (getu32(lead) != 0x8eade801)
2001     {
2002       pool_error(pool, -1, "%s: bad header", rpm);
2003       fclose(fp);
2004       return 0;
2005     }
2006   sigcnt = getu32(lead + 8);
2007   sigdsize = getu32(lead + 12);
2008   if (sigcnt >= MAX_HDR_CNT || sigdsize >= MAX_HDR_DSIZE)
2009     {
2010       pool_error(pool, -1, "%s: bad header", rpm);
2011       fclose(fp);
2012       return 0;
2013     }
2014   headerend = headerstart + 16 + sigdsize + sigcnt * 16;
2015
2016   if (!headfromfp(&state, rpm, fp, lead, sigcnt, sigdsize, 0, chksumh, 0))
2017     {
2018       fclose(fp);
2019       return 0;
2020     }
2021   if (headexists(state.rpmhead, TAG_PATCHESNAME))
2022     {
2023       /* this is a patch rpm, ignore */
2024       pool_error(pool, -1, "%s: is patch rpm", rpm);
2025       fclose(fp);
2026       solv_chksum_free(chksumh, 0);
2027       headfree(state.rpmhead);
2028       return 0;
2029     }
2030   payloadformat = headstring(state.rpmhead, TAG_PAYLOADFORMAT);
2031   if (payloadformat && !strcmp(payloadformat, "drpm"))
2032     {
2033       /* this is a delta rpm */
2034       pool_error(pool, -1, "%s: is delta rpm", rpm);
2035       fclose(fp);
2036       solv_chksum_free(chksumh, 0);
2037       headfree(state.rpmhead);
2038       return 0;
2039     }
2040   if (chksumh)
2041     while ((l = fread(lead, 1, sizeof(lead), fp)) > 0)
2042       solv_chksum_add(chksumh, lead, l);
2043   fclose(fp);
2044   s = pool_id2solvable(pool, repo_add_solvable(repo));
2045   if (!rpmhead2solv(pool, repo, data, s, state.rpmhead, flags & ~(RPM_ADD_WITH_HDRID | RPM_ADD_WITH_PKGID)))
2046     {
2047       repo_free_solvable(repo, s - pool->solvables, 1);
2048       solv_chksum_free(chksumh, 0);
2049       headfree(state.rpmhead);
2050       return 0;
2051     }
2052   if (!(flags & REPO_NO_LOCATION))
2053     repodata_set_location(data, s - pool->solvables, 0, 0, rpm);
2054   if (S_ISREG(stb.st_mode))
2055     repodata_set_num(data, s - pool->solvables, SOLVABLE_DOWNLOADSIZE, (unsigned long long)stb.st_size);
2056   repodata_set_num(data, s - pool->solvables, SOLVABLE_HEADEREND, headerend);
2057   if (pkgidtype)
2058     repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_PKGID, pkgidtype, pkgid);
2059   if (hdridtype)
2060     repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_HDRID, hdridtype, hdrid);
2061   if (leadsigidtype)
2062     repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_LEADSIGID, leadsigidtype, leadsigid);
2063   if (chksumh)
2064     {
2065       repodata_set_bin_checksum(data, s - pool->solvables, SOLVABLE_CHECKSUM, chksumtype, solv_chksum_get(chksumh, 0));
2066       chksumh = solv_chksum_free(chksumh, 0);
2067     }
2068   headfree(state.rpmhead);
2069   if (!(flags & REPO_NO_INTERNALIZE))
2070     repodata_internalize(data);
2071   return s - pool->solvables;
2072 }
2073
2074 Id
2075 repo_add_rpm_handle(Repo *repo, void *rpmhandle, int flags)
2076 {
2077   Pool *pool = repo->pool;
2078   Repodata *data;
2079   RpmHead *rpmhead = rpmhandle;
2080   Solvable *s;
2081   char *payloadformat;
2082
2083   data = repo_add_repodata(repo, flags);
2084   if (headexists(rpmhead, TAG_PATCHESNAME))
2085     {
2086       pool_error(pool, -1, "is a patch rpm");
2087       return 0;
2088     }
2089   payloadformat = headstring(rpmhead, TAG_PAYLOADFORMAT);
2090   if (payloadformat && !strcmp(payloadformat, "drpm"))
2091     {
2092       /* this is a delta rpm */
2093       pool_error(pool, -1, "is a delta rpm");
2094       return 0;
2095     }
2096   s = pool_id2solvable(pool, repo_add_solvable(repo));
2097   if (!rpmhead2solv(pool, repo, data, s, rpmhead, flags))
2098     {
2099       repo_free_solvable(repo, s - pool->solvables, 1);
2100       return 0;
2101     }
2102   if (!(flags & REPO_NO_INTERNALIZE))
2103     repodata_internalize(data);
2104   return s - pool->solvables;
2105 }
2106
2107 static inline void
2108 linkhash(const char *lt, char *hash)
2109 {
2110   unsigned int r = 0;
2111   const unsigned char *str = (const unsigned char *)lt;
2112   int l, c;
2113
2114   l = strlen(lt);
2115   while ((c = *str++) != 0)
2116     r += (r << 3) + c;
2117   sprintf(hash, "%08x%08x%08x%08x", r, l, 0, 0);
2118 }
2119
2120 void
2121 rpm_iterate_filelist(void *rpmhandle, int flags, void (*cb)(void *, const char *, struct filelistinfo *), void *cbdata)
2122 {
2123   RpmHead *rpmhead = rpmhandle;
2124   char **bn;
2125   char **dn;
2126   char **md = 0;
2127   char **lt = 0;
2128   uint32_t *di, diidx;
2129   uint32_t *co = 0;
2130   uint32_t *ff = 0;
2131   uint16_t *fm;
2132   unsigned int lastdir;
2133   int lastdirl;
2134   int cnt, dcnt, cnt2;
2135   int i, l1, l;
2136   char *space = 0;
2137   int spacen = 0;
2138   char md5[33];
2139   struct filelistinfo info;
2140
2141   dn = headstringarray(rpmhead, TAG_DIRNAMES, &dcnt);
2142   if (!dn)
2143     return;
2144   if ((flags & RPM_ITERATE_FILELIST_ONLYDIRS) != 0)
2145     {
2146       for (i = 0; i < dcnt; i++)
2147         (*cb)(cbdata, dn[i], 0);
2148       solv_free(dn);
2149       return;
2150     }
2151   bn = headstringarray(rpmhead, TAG_BASENAMES, &cnt);
2152   if (!bn)
2153     {
2154       solv_free(dn);
2155       return;
2156     }
2157   di = headint32array(rpmhead, TAG_DIRINDEXES, &cnt2);
2158   if (!di || cnt != cnt2)
2159     {
2160       solv_free(di);
2161       solv_free(bn);
2162       solv_free(dn);
2163       return;
2164     }
2165   fm = headint16array(rpmhead, TAG_FILEMODES, &cnt2);
2166   if (!fm || cnt != cnt2)
2167     {
2168       solv_free(fm);
2169       solv_free(di);
2170       solv_free(bn);
2171       solv_free(dn);
2172       return;
2173     }
2174   if ((flags & RPM_ITERATE_FILELIST_WITHMD5) != 0)
2175     {
2176       md = headstringarray(rpmhead, TAG_FILEMD5S, &cnt2);
2177       if (!md || cnt != cnt2)
2178         {
2179           solv_free(md);
2180           solv_free(fm);
2181           solv_free(di);
2182           solv_free(bn);
2183           solv_free(dn);
2184           return;
2185         }
2186     }
2187   if ((flags & RPM_ITERATE_FILELIST_WITHCOL) != 0)
2188     {
2189       co = headint32array(rpmhead, TAG_FILECOLORS, &cnt2);
2190       if (co && cnt != cnt2)
2191         {
2192           solv_free(co);
2193           solv_free(md);
2194           solv_free(fm);
2195           solv_free(di);
2196           solv_free(bn);
2197           solv_free(dn);
2198           return;
2199         }
2200     }
2201   if ((flags & RPM_ITERATE_FILELIST_NOGHOSTS) != 0)
2202     {
2203       ff = headint32array(rpmhead, TAG_FILEFLAGS, &cnt2);
2204       if (!ff || cnt != cnt2)
2205         {
2206           solv_free(ff);
2207           solv_free(co);
2208           solv_free(md);
2209           solv_free(fm);
2210           solv_free(di);
2211           solv_free(bn);
2212           solv_free(dn);
2213           return;
2214         }
2215     }
2216   lastdir = dcnt;
2217   lastdirl = 0;
2218   memset(&info, 0, sizeof(info));
2219   for (i = 0; i < cnt; i++)
2220     {
2221       if (ff && (ff[i] & FILEFLAG_GHOST) != 0)
2222         continue;
2223       diidx = di[i];
2224       if (diidx >= dcnt)
2225         continue;
2226       l1 = lastdir == diidx ? lastdirl : strlen(dn[diidx]);
2227       l = l1 + strlen(bn[i]) + 1;
2228       if (l > spacen)
2229         {
2230           spacen = l + 16;
2231           space = solv_realloc(space, spacen);
2232         }
2233       if (lastdir != diidx)
2234         {
2235           strcpy(space, dn[diidx]);
2236           lastdir = diidx;
2237           lastdirl = l1;
2238         }
2239       strcpy(space + l1, bn[i]);
2240       info.diridx = diidx;
2241       info.dirlen = l1;
2242       if (fm)
2243         info.mode = fm[i];
2244       if (md)
2245         {
2246           info.digest = md[i];
2247           if (fm && S_ISLNK(fm[i]))
2248             {
2249               info.digest = 0;
2250               if (!lt)
2251                 {
2252                   lt = headstringarray(rpmhead, TAG_FILELINKTOS, &cnt2);
2253                   if (cnt != cnt2)
2254                     lt = solv_free(lt);
2255                 }
2256               if (lt)
2257                 {
2258                   linkhash(lt[i], md5);
2259                   info.digest = md5;
2260                 }
2261             }
2262           if (!info.digest)
2263             {
2264               sprintf(md5, "%08x%08x%08x%08x", (fm[i] >> 12) & 65535, 0, 0, 0);
2265               info.digest = md5;
2266             }
2267         }
2268       info.color = co ? co[i] : 0;
2269       (*cb)(cbdata, space, &info);
2270     }
2271   solv_free(space);
2272   solv_free(lt);
2273   solv_free(md);
2274   solv_free(fm);
2275   solv_free(di);
2276   solv_free(bn);
2277   solv_free(dn);
2278   solv_free(co);
2279   solv_free(ff);
2280 }
2281
2282 char *
2283 rpm_query(void *rpmhandle, Id what)
2284 {
2285   const char *name, *arch, *sourcerpm;
2286   char *evr, *r;
2287   int l;
2288
2289   RpmHead *rpmhead = rpmhandle;
2290   r = 0;
2291   switch (what)
2292     {
2293     case 0:     /* return canonical name of rpm */
2294       name = headstring(rpmhead, TAG_NAME);
2295       if (!name)
2296         name = "";
2297       sourcerpm = headstring(rpmhead, TAG_SOURCERPM);
2298       if (sourcerpm || !(headexists(rpmhead, TAG_SOURCEPACKAGE) || headissourceheuristic(rpmhead)))
2299         arch = headstring(rpmhead, TAG_ARCH);
2300       else
2301         {
2302           if (headexists(rpmhead, TAG_NOSOURCE) || headexists(rpmhead, TAG_NOPATCH))
2303             arch = "nosrc";
2304           else
2305             arch = "src";
2306         }
2307       if (!arch)
2308         arch = "noarch";
2309       evr = headtoevr(rpmhead);
2310       l = strlen(name) + 1 + strlen(evr ? evr : "") + 1 + strlen(arch) + 1;
2311       r = solv_malloc(l);
2312       sprintf(r, "%s-%s.%s", name, evr ? evr : "", arch);
2313       solv_free(evr);
2314       break;
2315     case SOLVABLE_NAME:
2316       name = headstring(rpmhead, TAG_NAME);
2317       r = solv_strdup(name);
2318       break;
2319     case SOLVABLE_SUMMARY:
2320       name = headstring(rpmhead, TAG_SUMMARY);
2321       r = solv_strdup(name);
2322       break;
2323     case SOLVABLE_DESCRIPTION:
2324       name = headstring(rpmhead, TAG_DESCRIPTION);
2325       r = solv_strdup(name);
2326       break;
2327     case SOLVABLE_EVR:
2328       r = headtoevr(rpmhead);
2329       break;
2330     }
2331   return r;
2332 }
2333
2334 unsigned long long
2335 rpm_query_num(void *rpmhandle, Id what, unsigned long long notfound)
2336 {
2337   RpmHead *rpmhead = rpmhandle;
2338   unsigned int u32;
2339
2340   switch (what)
2341     {
2342     case SOLVABLE_INSTALLTIME:
2343       u32 = headint32(rpmhead, TAG_INSTALLTIME);
2344       return u32 ? u32 : notfound;
2345     }
2346   return notfound;
2347 }
2348
2349 #ifdef ENABLE_RPMDB
2350
2351 int
2352 rpm_installedrpmdbids(void *rpmstate, const char *index, const char *match, Queue *rpmdbidq)
2353 {
2354   struct rpmdbentry *entries;
2355   int nentries, i;
2356
2357   entries = getinstalledrpmdbids(rpmstate, index ? index : "Name", match, &nentries, 0, 0);
2358   if (rpmdbidq)
2359     {
2360       queue_empty(rpmdbidq);
2361       for (i = 0; i < nentries; i++)
2362         queue_push(rpmdbidq, entries[i].rpmdbid);
2363     }
2364   solv_free(entries);
2365   return nentries;
2366 }
2367
2368 void *
2369 rpm_byrpmdbid(void *rpmstate, Id rpmdbid)
2370 {
2371   struct rpmdbstate *state = rpmstate;
2372   int r;
2373
2374   r = getrpm_dbid(state, rpmdbid);
2375   if (!r)
2376     pool_error(state->pool, 0, "header #%d not in database", rpmdbid);
2377   return r <= 0 ? 0 : state->rpmhead;
2378 }
2379
2380 #endif  /* ENABLE_RPMDB */
2381
2382 void *
2383 rpm_byfp(void *rpmstate, FILE *fp, const char *name)
2384 {
2385   struct rpmdbstate *state = rpmstate;
2386   unsigned int sigdsize, sigcnt, l;
2387   unsigned char lead[4096];
2388
2389   if (fread(lead, 96 + 16, 1, fp) != 1 || getu32(lead) != 0xedabeedb)
2390     {
2391       pool_error(state->pool, 0, "%s: not a rpm", name);
2392       return 0;
2393     }
2394   if (lead[78] != 0 || lead[79] != 5)
2395     {
2396       pool_error(state->pool, 0, "%s: not a V5 header", name);
2397       return 0;
2398     }
2399
2400   /* skip signature header */
2401   if (getu32(lead + 96) != 0x8eade801)
2402     {
2403       pool_error(state->pool, 0, "%s: bad signature header", name);
2404       return 0;
2405     }
2406   sigcnt = getu32(lead + 96 + 8);
2407   sigdsize = getu32(lead + 96 + 12);
2408   if (sigcnt >= MAX_SIG_CNT || sigdsize >= MAX_SIG_DSIZE)
2409     {
2410       pool_error(state->pool, 0, "%s: bad signature header", name);
2411       return 0;
2412     }
2413   sigdsize += sigcnt * 16;
2414   sigdsize = (sigdsize + 7) & ~7;
2415   while (sigdsize)
2416     {
2417       l = sigdsize > 4096 ? 4096 : sigdsize;
2418       if (fread(lead, l, 1, fp) != 1)
2419         {
2420           pool_error(state->pool, 0, "%s: unexpected EOF", name);
2421           return 0;
2422         }
2423       sigdsize -= l;
2424     }
2425
2426   if (fread(lead, 16, 1, fp) != 1)
2427     {
2428       pool_error(state->pool, 0, "%s: unexpected EOF", name);
2429       return 0;
2430     }
2431   if (getu32(lead) != 0x8eade801)
2432     {
2433       pool_error(state->pool, 0, "%s: bad header", name);
2434       return 0;
2435     }
2436   sigcnt = getu32(lead + 8);
2437   sigdsize = getu32(lead + 12);
2438   if (sigcnt >= MAX_HDR_CNT || sigdsize >= MAX_HDR_DSIZE)
2439     {
2440       pool_error(state->pool, 0, "%s: bad header", name);
2441       return 0;
2442     }
2443   if (!headfromfp(state, name, fp, lead, sigcnt, sigdsize, 0, 0, 0))
2444     return 0;
2445   return state->rpmhead;
2446 }
2447
2448 #if defined(ENABLE_RPMDB_BYRPMHEADER) || defined(ENABLE_RPMDB_LIBRPM)
2449
2450 void *
2451 rpm_byrpmh(void *rpmstate, Header h)
2452 {
2453   struct rpmdbstate *state = rpmstate;
2454 #ifndef ENABLE_RPMPKG_LIBRPM
2455   const unsigned char *uh;
2456   unsigned int dsize, cnt;
2457
2458   if (!h)
2459     return 0;
2460 #ifndef RPM5
2461   uh = headerUnload(h);
2462 #else
2463   uh = headerUnload(h, NULL);
2464 #endif
2465   if (!uh)
2466     return 0;
2467   cnt = getu32(uh);
2468   dsize = getu32(uh + 4);
2469   if (cnt >= MAX_HDR_CNT || dsize >= MAX_HDR_DSIZE)
2470     {
2471       free((void *)uh);
2472       return 0;
2473     }
2474   headfromblob(state, uh + 8, cnt, dsize);
2475   free((void *)uh);
2476 #else
2477   if (!h)
2478     return 0;
2479   if (state->rpmhead)
2480     headfree(state->rpmhead);
2481   state->rpmhead = headerLink(h);
2482 #endif
2483   return state->rpmhead;
2484 }
2485
2486 #endif  /* defined(ENABLE_RPMDB_BYRPMHEADER) || defined(ENABLE_RPMDB_LIBRPM) */
2487