src/repo_solv.c

   1 /*
   2  * Copyright (c) 2007, Novell Inc.
   3  *
   4  * This program is licensed under the BSD license, read LICENSE.BSD
   5  * for further information
   6  */
   7
   8 /*
   9  * repo_solv.c
  10  *
  11  * Read the binary dump of a Repo and create a Repo * from it
  12  *
  13  *  See
  14  *   Repo *pool_addrepo_solv(Pool *pool, FILE *fp)
  15  * below
  16  *
  17  */
  18
  19
  20
  21 #include <stdio.h>
  22 #include <stdlib.h>
  23 #include <unistd.h>
  24 #include <string.h>
  25
  26 #include "repo_solv.h"
  27 #include "util.h"
  28 #include "attr_store_p.h"
  29
  30 #define INTERESTED_START        SOLVABLE_NAME
  31 #define INTERESTED_END          SOLVABLE_FRESHENS
  32
  33 #define SOLV_ERROR_NOT_SOLV     1
  34 #define SOLV_ERROR_UNSUPPORTED  2
  35 #define SOLV_ERROR_EOF          3
  36 #define SOLV_ERROR_ID_RANGE     4
  37 #define SOLV_ERROR_OVERFLOW     5
  38 #define SOLV_ERROR_CORRUPT      6
  39
  40 static Pool *mypool;            /* for pool_debug... */
  41
  42 /*-----------------------------------------------------------------*/
  43 /* .solv read functions */
  44
  45 /*
  46  * read u32
  47  */
  48
  49 static unsigned int
  50 read_u32(Repodata *data)
  51 {
  52   int c, i;
  53   unsigned int x = 0;
  54
  55   if (data->error)
  56     return 0;
  57   for (i = 0; i < 4; i++)
  58     {
  59       c = getc(data->fp);
  60       if (c == EOF)
  61         {
  62           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
  63           data->error = SOLV_ERROR_EOF;
  64           return 0;
  65         }
  66       x = (x << 8) | c;
  67     }
  68   return x;
  69 }
  70
  71
  72 /*
  73  * read u8
  74  */
  75
  76 static unsigned int
  77 read_u8(Repodata *data)
  78 {
  79   int c;
  80
  81   if (data->error)
  82     return 0;
  83   c = getc(data->fp);
  84   if (c == EOF)
  85     {
  86       pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
  87       data->error = SOLV_ERROR_EOF;
  88       return 0;
  89     }
  90   return c;
  91 }
  92
  93
  94 /*
  95  * read Id
  96  */
  97
  98 static Id
  99 read_id(Repodata *data, Id max)
 100 {
 101   unsigned int x = 0;
 102   int c, i;
 103
 104   if (data->error)
 105     return 0;
 106   for (i = 0; i < 5; i++)
 107     {
 108       c = getc(data->fp);
 109       if (c == EOF)
 110         {
 111           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
 112           data->error = SOLV_ERROR_EOF;
 113           return 0;
 114         }
 115       if (!(c & 128))
 116         {
 117           x = (x << 7) | c;
 118           if (max && x >= max)
 119             {
 120               pool_debug(mypool, SAT_ERROR, "read_id: id too large (%u/%u)\n", x, max);
 121               data->error = SOLV_ERROR_ID_RANGE;
 122               return 0;
 123             }
 124           return x;
 125         }
 126       x = (x << 7) ^ c ^ 128;
 127     }
 128   pool_debug(mypool, SAT_ERROR, "read_id: id too long\n");
 129   data->error = SOLV_ERROR_CORRUPT;
 130   return 0;
 131 }
 132
 133
 134 /*
 135  * read array of Ids
 136  */
 137
 138 static Id *
 139 read_idarray(Repodata *data, Id max, Id *map, Id *store, Id *end, int relative)
 140 {
 141   unsigned int x = 0;
 142   int c;
 143   Id old = 0;
 144
 145   if (data->error)
 146     return 0;
 147   for (;;)
 148     {
 149       c = getc(data->fp);
 150       if (c == EOF)
 151         {
 152           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
 153           data->error = SOLV_ERROR_EOF;
 154           return 0;
 155         }
 156       if ((c & 128) == 0)
 157         {
 158           x = (x << 6) | (c & 63);
 159           if (relative)
 160             {
 161               if (x == 0 && c == 0x40)
 162                 {
 163                   /* prereq hack */
 164                   if (store == end)
 165                     {
 166                       pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 167                       data->error = SOLV_ERROR_OVERFLOW;
 168                       return 0;
 169                     }
 170                   *store++ = SOLVABLE_PREREQMARKER;
 171                   old = 0;
 172                   x = 0;
 173                   continue;
 174                 }
 175               x = (x - 1) + old;
 176               old = x;
 177             }
 178           if (max && x >= max)
 179             {
 180               pool_debug(mypool, SAT_ERROR, "read_idarray: id too large (%u/%u)\n", x, max);
 181               data->error = SOLV_ERROR_ID_RANGE;
 182               return 0;
 183             }
 184           if (map)
 185             x = map[x];
 186           if (store == end)
 187             {
 188               pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 189               return 0;
 190             }
 191           *store++ = x;
 192           if ((c & 64) == 0)
 193             {
 194               if (x == 0)       /* already have trailing zero? */
 195                 return store;
 196               if (store == end)
 197                 {
 198                   pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 199                   data->error = SOLV_ERROR_OVERFLOW;
 200                   return 0;
 201                 }
 202               *store++ = 0;
 203               return store;
 204             }
 205           x = 0;
 206           continue;
 207         }
 208       x = (x << 7) ^ c ^ 128;
 209     }
 210 }
 211
 212 static void
 213 read_str(Repodata *data, char **inbuf, unsigned *len)
 214 {
 215   unsigned char *buf = (unsigned char*)*inbuf;
 216   if (!buf)
 217     {
 218       buf = sat_malloc(1024);
 219       *len = 1024;
 220     }
 221   int c;
 222   unsigned ofs = 0;
 223   while((c = getc(data->fp)) != 0)
 224     {
 225       if (c == EOF)
 226         {
 227           pool_debug (mypool, SAT_ERROR, "unexpected EOF\n");
 228           data->error = SOLV_ERROR_EOF;
 229           return;
 230         }
 231       /* Plus 1 as we also want to add the 0.  */
 232       if (ofs + 1 >= *len)
 233         {
 234           *len += 256;
 235           /* Don't realloc on the inbuf, it might be on the stack.  */
 236           if (buf == (unsigned char*)*inbuf)
 237             {
 238               buf = sat_malloc(*len);
 239               memcpy(buf, *inbuf, *len - 256);
 240             }
 241           else
 242             buf = sat_realloc(buf, *len);
 243         }
 244       buf[ofs++] = c;
 245     }
 246   buf[ofs++] = 0;
 247   *inbuf = (char*)buf;
 248 }
 249
 250 static void
 251 skip_item (Repodata *data, unsigned type, unsigned numid, unsigned numrel)
 252 {
 253   switch (type)
 254     {
 255       case TYPE_VOID:
 256         break;
 257       case TYPE_ID:
 258         read_id(data, numid + numrel);          /* just check Id */
 259         break;
 260       case TYPE_DIR:
 261         read_id(data, numid + data->ndirs);     /* just check Id */
 262         break;
 263       case TYPE_U32:
 264         read_u32(data);
 265         break;
 266       case TYPE_ATTR_STRING:
 267       case TYPE_STR:
 268         while(read_u8(data) != 0)
 269           ;
 270         break;
 271       case TYPE_IDARRAY:
 272       case TYPE_IDVALUEARRAY:
 273       case TYPE_DIRVALUEVALUEARRAY:
 274       case TYPE_REL_IDARRAY:
 275       case TYPE_ATTR_INTLIST:
 276         while ((read_u8(data) & 0xc0) != 0)
 277           ;
 278         break;
 279       case TYPE_COUNT_NAMED:
 280         {
 281           unsigned count = read_id(data, 0);
 282           while (count--)
 283             {
 284               read_id(data, numid);    /* Name */
 285               unsigned t = read_id(data, TYPE_ATTR_TYPE_MAX + 1);
 286               skip_item(data, t, numid, numrel);
 287             }
 288         }
 289         break;
 290       case TYPE_COUNTED:
 291         {
 292           unsigned count = read_id(data, 0);
 293           unsigned t = read_id(data, TYPE_ATTR_TYPE_MAX + 1);
 294           while (count--)
 295             skip_item(data, t, numid, numrel);
 296         }
 297         break;
 298       case TYPE_ATTR_CHUNK:
 299         read_id(data, 0);
 300         /* Fallthrough.  */
 301       case TYPE_ATTR_INT:
 302         read_id(data, 0);
 303         break;
 304       case TYPE_ATTR_LOCALIDS:
 305         while (read_id(data, 0) != 0)
 306           ;
 307         break;
 308       default:
 309         pool_debug(mypool, SAT_ERROR, "unknown type %d\n", type);
 310         data->error = SOLV_ERROR_CORRUPT;
 311         break;
 312     }
 313 }
 314
 315 static int
 316 key_cmp (const void *pa, const void *pb)
 317 {
 318   Repokey *a = (Repokey *)pa;
 319   Repokey *b = (Repokey *)pb;
 320   return a->name - b->name;
 321 }
 322
 323 static void
 324 parse_repodata(Repodata *maindata, Id *keyp, Repokey *keys, Id *idmap, unsigned numid, unsigned numrel, Repo *repo)
 325 {
 326   Id key, id;
 327   Id *ida, *ide;
 328   Repodata *data;
 329   int i, n;
 330
 331   repo->repodata = sat_realloc2(repo->repodata, repo->nrepodata + 1, sizeof (*data));
 332   data = repo->repodata + repo->nrepodata++;
 333   data->repo = repo;
 334   memset(data, 0, sizeof(*data));
 335
 336   while ((key = *keyp++) != 0)
 337     {
 338       id = keys[key].name;
 339       switch (keys[key].type)
 340         {
 341         case TYPE_IDVALUEARRAY:
 342           if (id != REPODATA_KEYS)
 343             {
 344               skip_item(maindata, TYPE_IDVALUEARRAY, numid, numrel);
 345               break;
 346             }
 347           ida = sat_calloc(keys[key].size, sizeof(Id));
 348           ide = read_idarray(maindata, 0, 0, ida, ida + keys[key].size, 0);
 349           n = ide - ida - 1;
 350           if (n & 1)
 351             {
 352               data->error = SOLV_ERROR_CORRUPT;
 353               return;
 354             }
 355           data->nkeys = 1 + (n >> 1);
 356           data->keys = sat_malloc2(data->nkeys, sizeof(data->keys[0]));
 357           memset(data->keys, 0, sizeof(Repokey));
 358           for (i = 1, ide = ida; i < data->nkeys; i++)
 359             {
 360               if (*ide >= numid)
 361                 {
 362                   data->error = SOLV_ERROR_CORRUPT;
 363                   pool_debug (mypool, SAT_ERROR, "invalid attribute data\n");
 364                   return;
 365                 }
 366               data->keys[i].name = idmap ? idmap[*ide++] : *ide++;
 367               data->keys[i].type = *ide++;
 368               data->keys[i].size = 0;
 369               data->keys[i].storage = 0;
 370             }
 371           sat_free(ida);
 372           if (data->nkeys > 2)
 373             qsort(data->keys + 1, data->nkeys - 1, sizeof(data->keys[0]), key_cmp);
 374           break;
 375         case TYPE_STR:
 376           if (id != REPODATA_LOCATION)
 377             skip_item(maindata, TYPE_STR, numid, numrel);
 378           else
 379             {
 380               char buf[1024];
 381               unsigned len = sizeof (buf);
 382               char *filename = buf;
 383               read_str(maindata, &filename, &len);
 384               data->location = strdup(filename);
 385               if (filename != buf)
 386                 free(filename);
 387             }
 388           break;
 389         default:
 390           skip_item(maindata, keys[key].type, numid, numrel);
 391           break;
 392         }
 393     }
 394 }
 395
 396 /*-----------------------------------------------------------------*/
 397
 398
 399 static void
 400 skip_schema(Repodata *data, Id *keyp, Repokey *keys, unsigned int numid, unsigned int numrel)
 401 {
 402   Id key;
 403   while ((key = *keyp++) != 0)
 404     skip_item(data, keys[key].type, numid, numrel);
 405 }
 406
 407 /*-----------------------------------------------------------------*/
 408
 409 static void
 410 incore_add_id(Repodata *data, Id x)
 411 {
 412   unsigned char *dp;
 413   /* make sure we have at least 5 bytes free */
 414   if (data->incoredatafree < 5)
 415     {
 416       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 417       data->incoredatafree = 1024;
 418     }
 419   dp = data->incoredata + data->incoredatalen;
 420   if (x < 0)
 421     abort();
 422   if (x >= (1 << 14))
 423     {
 424       if (x >= (1 << 28))
 425         *dp++ = (x >> 28) | 128;
 426       if (x >= (1 << 21))
 427         *dp++ = (x >> 21) | 128;
 428       *dp++ = (x >> 14) | 128;
 429     }
 430   if (x >= (1 << 7))
 431     *dp++ = (x >> 7) | 128;
 432   *dp++ = x & 127;
 433   data->incoredatafree -= dp - (data->incoredata + data->incoredatalen);
 434   data->incoredatalen = dp - data->incoredata;
 435 }
 436
 437 static void
 438 incore_add_u32(Repodata *data, unsigned int x)
 439 {
 440   unsigned char *dp;
 441   /* make sure we have at least 4 bytes free */
 442   if (data->incoredatafree < 4)
 443     {
 444       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 445       data->incoredatafree = 1024;
 446     }
 447   dp = data->incoredata + data->incoredatalen;
 448   *dp++ = x >> 24;
 449   *dp++ = x >> 16;
 450   *dp++ = x >> 8;
 451   *dp++ = x;
 452   data->incoredatafree -= 4;
 453   data->incoredatalen += 4;
 454 }
 455
 456 static void
 457 incore_add_u8(Repodata *data, unsigned int x)
 458 {
 459   unsigned char *dp;
 460   /* make sure we have at least 1 byte free */
 461   if (data->incoredatafree < 1)
 462     {
 463       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 464       data->incoredatafree = 1024;
 465     }
 466   dp = data->incoredata + data->incoredatalen;
 467   *dp++ = x;
 468   data->incoredatafree--;
 469   data->incoredatalen++;
 470 }
 471
 472 // ----------------------------------------------
 473
 474 /*
 475  * read repo from .solv file
 476  *  and add it to pool
 477  */
 478
 479 int
 480 repo_add_solv(Repo *repo, FILE *fp)
 481 {
 482   Pool *pool = repo->pool;
 483   int i, l;
 484   unsigned int numid, numrel, numdir, numsolv;
 485   unsigned int numkeys, numschemata, numinfo;
 486 #if 0
 487   Attrstore *embedded_store = 0;
 488 #endif
 489
 490   Offset sizeid;
 491   Offset *str;                         /* map Id -> Offset into string space */
 492   char *strsp;                         /* repo string space */
 493   char *sp;                            /* pointer into string space */
 494   Id *idmap;                           /* map of repo Ids to pool Ids */
 495   Id id;
 496   unsigned int hashmask, h;
 497   int hh;
 498   Id *hashtbl;
 499   Id name, evr, did;
 500   int flags;
 501   Reldep *ran;
 502   unsigned int size_idarray;
 503   Id *idarraydatap, *idarraydataend;
 504   Offset ido;
 505   Solvable *s;
 506   unsigned int solvflags;
 507   unsigned int solvversion;
 508   Repokey *keys;
 509   Id *schemadata, *schemadatap, *schemadataend;
 510   Id *schemata, key;
 511
 512   Repodata data;
 513
 514   memset(&data, 0, sizeof(data));
 515   data.repo = repo;
 516   data.fp = fp;
 517
 518   mypool = pool;
 519
 520   if (read_u32(&data) != ('S' << 24 | 'O' << 16 | 'L' << 8 | 'V'))
 521     {
 522       pool_debug(pool, SAT_ERROR, "not a SOLV file\n");
 523       return SOLV_ERROR_NOT_SOLV;
 524     }
 525   solvversion = read_u32(&data);
 526   switch (solvversion)
 527     {
 528       case SOLV_VERSION_1:
 529       case SOLV_VERSION_2:
 530       case SOLV_VERSION_3:
 531       case SOLV_VERSION_4:
 532         break;
 533       default:
 534         pool_debug(pool, SAT_ERROR, "unsupported SOLV version\n");
 535         return SOLV_ERROR_UNSUPPORTED;
 536     }
 537
 538   pool_freeidhashes(pool);
 539
 540   numid = read_u32(&data);
 541   numrel = read_u32(&data);
 542   if (solvversion >= SOLV_VERSION_4)
 543     numdir = read_u32(&data);
 544   else
 545     numdir = 0;
 546   numsolv = read_u32(&data);
 547   numkeys = read_u32(&data);
 548   numschemata = read_u32(&data);
 549   numinfo = read_u32(&data);
 550   solvflags = read_u32(&data);
 551
 552   if (numdir && numdir < 2)
 553     {
 554       pool_debug(pool, SAT_ERROR, "bad number of dirs\n");
 555       return SOLV_ERROR_CORRUPT;
 556     }
 557   if (numinfo && solvversion < SOLV_VERSION_3)
 558     {
 559       pool_debug(pool, SAT_ERROR, "unsupported SOLV format (has info)\n");
 560       return SOLV_ERROR_UNSUPPORTED;
 561     }
 562
 563   /*******  Part 1: string IDs  *****************************************/
 564
 565   sizeid = read_u32(&data);            /* size of string+Id space */
 566
 567   /*
 568    * read strings and Ids
 569    *
 570    */
 571
 572
 573   /*
 574    * alloc buffers
 575    */
 576
 577   /* alloc string buffer */
 578   pool->ss.stringspace = sat_realloc(pool->ss.stringspace, pool->ss.sstrings + sizeid + 1);
 579   /* alloc string offsets (Id -> Offset into string space) */
 580   pool->ss.strings = sat_realloc2(pool->ss.strings, pool->ss.nstrings + numid, sizeof(Offset));
 581
 582   strsp = pool->ss.stringspace;
 583   str = pool->ss.strings;                      /* array of offsets into strsp, indexed by Id */
 584
 585   /* point to _BEHIND_ already allocated string/Id space */
 586   strsp += pool->ss.sstrings;
 587
 588
 589   /*
 590    * read new repo at end of pool
 591    */
 592
 593   if ((solvflags & SOLV_FLAG_PREFIX_POOL) == 0)
 594     {
 595       if (fread(strsp, sizeid, 1, fp) != 1)
 596         {
 597           pool_debug(pool, SAT_ERROR, "read error while reading strings\n");
 598           return SOLV_ERROR_EOF;
 599         }
 600     }
 601   else
 602     {
 603       unsigned int pfsize = read_u32(&data);
 604       char *prefix = sat_malloc(pfsize);
 605       char *pp = prefix;
 606       char *old_str = "";
 607       char *dest = strsp;
 608       if (fread(prefix, pfsize, 1, fp) != 1)
 609         {
 610           pool_debug(pool, SAT_ERROR, "read error while reading strings\n");
 611           sat_free(prefix);
 612           return SOLV_ERROR_EOF;
 613         }
 614       for (i = 1; i < numid; i++)
 615         {
 616           int same = (unsigned char)*pp++;
 617           size_t len = strlen (pp) + 1;
 618           if (same)
 619             memcpy(dest, old_str, same);
 620           memcpy(dest + same, pp, len);
 621           pp += len;
 622           old_str = dest;
 623           dest += same + len;
 624         }
 625       sat_free(prefix);
 626     }
 627   strsp[sizeid] = 0;                   /* make string space \0 terminated */
 628   sp = strsp;
 629
 630
 631   /* alloc id map for name and rel Ids. this maps ids in the solv files
 632    * to the ids in our pool */
 633   idmap = sat_calloc(numid + numrel, sizeof(Id));
 634
 635   /*
 636    * build hashes for all read strings
 637    *
 638    */
 639
 640   hashmask = mkmask(pool->ss.nstrings + numid);
 641
 642 #if 0
 643   POOL_DEBUG(SAT_DEBUG_STATS, "read %d strings\n", numid);
 644   POOL_DEBUG(SAT_DEBUG_STATS, "string hash buckets: %d\n", hashmask + 1);
 645 #endif
 646
 647   /*
 648    * create hashtable with strings already in pool
 649    */
 650
 651   hashtbl = sat_calloc(hashmask + 1, sizeof(Id));
 652   for (i = 1; i < pool->ss.nstrings; i++)  /* leave out our dummy zero id */
 653     {
 654       h = strhash(pool->ss.stringspace + pool->ss.strings[i]) & hashmask;
 655       hh = HASHCHAIN_START;
 656       while (hashtbl[h])
 657         h = HASHCHAIN_NEXT(h, hh, hashmask);
 658       hashtbl[h] = i;
 659     }
 660
 661   /*
 662    * run over string space, calculate offsets
 663    *
 664    * build id map (maps solv Id -> pool Id)
 665    */
 666
 667   for (i = 1; i < numid; i++)
 668     {
 669       if (sp >= strsp + sizeid)
 670         {
 671           sat_free(hashtbl);
 672           sat_free(idmap);
 673           pool_debug(pool, SAT_ERROR, "not enough strings\n");
 674           return SOLV_ERROR_OVERFLOW;
 675         }
 676       if (!*sp)                        /* empty string */
 677         {
 678           idmap[i] = ID_EMPTY;
 679           sp++;
 680           continue;
 681         }
 682
 683       /* find hash slot */
 684       h = strhash(sp) & hashmask;
 685       hh = HASHCHAIN_START;
 686       for (;;)
 687         {
 688           id = hashtbl[h];
 689           if (id == 0)
 690             break;
 691           if (!strcmp(pool->ss.stringspace + pool->ss.strings[id], sp))
 692             break;                     /* existing string */
 693           h = HASHCHAIN_NEXT(h, hh, hashmask);
 694         }
 695
 696       /* length == offset to next string */
 697       l = strlen(sp) + 1;
 698       if (id == ID_NULL)               /* end of hash chain -> new string */
 699         {
 700           id = pool->ss.nstrings++;
 701           hashtbl[h] = id;
 702           str[id] = pool->ss.sstrings;    /* save Offset */
 703           if (sp != pool->ss.stringspace + pool->ss.sstrings)   /* not at end-of-buffer */
 704             memmove(pool->ss.stringspace + pool->ss.sstrings, sp, l);   /* append to pool buffer */
 705           pool->ss.sstrings += l;
 706         }
 707       idmap[i] = id;                   /* repo relative -> pool relative */
 708       sp += l;                         /* next string */
 709     }
 710   sat_free(hashtbl);
 711   pool_shrink_strings(pool);           /* vacuum */
 712
 713
 714   /*******  Part 2: Relation IDs  ***************************************/
 715
 716   /*
 717    * read RelDeps
 718    *
 719    */
 720
 721   if (numrel)
 722     {
 723       /* extend rels */
 724       pool->rels = sat_realloc2(pool->rels, pool->nrels + numrel, sizeof(Reldep));
 725       ran = pool->rels;
 726
 727       hashmask = mkmask(pool->nrels + numrel);
 728 #if 0
 729       POOL_DEBUG(SAT_DEBUG_STATS, "read %d rels\n", numrel);
 730       POOL_DEBUG(SAT_DEBUG_STATS, "rel hash buckets: %d\n", hashmask + 1);
 731 #endif
 732       /*
 733        * prep hash table with already existing RelDeps
 734        */
 735
 736       hashtbl = sat_calloc(hashmask + 1, sizeof(Id));
 737       for (i = 1; i < pool->nrels; i++)
 738         {
 739           h = relhash(ran[i].name, ran[i].evr, ran[i].flags) & hashmask;
 740           hh = HASHCHAIN_START;
 741           while (hashtbl[h])
 742             h = HASHCHAIN_NEXT(h, hh, hashmask);
 743           hashtbl[h] = i;
 744         }
 745
 746       /*
 747        * read RelDeps from repo
 748        */
 749
 750       for (i = 0; i < numrel; i++)
 751         {
 752           name = read_id(&data, i + numid);     /* read (repo relative) Ids */
 753           evr = read_id(&data, i + numid);
 754           flags = read_u8(&data);
 755           name = idmap[name];           /* map to (pool relative) Ids */
 756           evr = idmap[evr];
 757           h = relhash(name, evr, flags) & hashmask;
 758           hh = HASHCHAIN_START;
 759           for (;;)
 760             {
 761               id = hashtbl[h];
 762               if (id == ID_NULL)        /* end of hash chain */
 763                 break;
 764               if (ran[id].name == name && ran[id].evr == evr && ran[id].flags == flags)
 765                 break;
 766               h = HASHCHAIN_NEXT(h, hh, hashmask);
 767             }
 768           if (id == ID_NULL)            /* new RelDep */
 769             {
 770               id = pool->nrels++;
 771               hashtbl[h] = id;
 772               ran[id].name = name;
 773               ran[id].evr = evr;
 774               ran[id].flags = flags;
 775             }
 776           idmap[i + numid] = MAKERELDEP(id);   /* fill Id map */
 777         }
 778       sat_free(hashtbl);
 779       pool_shrink_rels(pool);           /* vacuum */
 780     }
 781
 782
 783   /*******  Part 3: Dirs  ***********************************************/
 784   if (numdir)
 785     {
 786       data.dirs = sat_calloc(numdir, sizeof(Id));
 787       data.ndirs = numdir;
 788       /* dir 0: no directory
 789        * dir 1: /
 790        */
 791       for (i = 2; i < numdir; i++)
 792         {
 793           id = read_id(&data, i + numid);
 794           if (i > numid)
 795             data.dirs[i] = -(id - numid);
 796           else
 797             data.dirs[i] = idmap[id];
 798         }
 799     }
 800
 801   /*******  Part 4: Keys  ***********************************************/
 802
 803   keys = sat_calloc(numkeys, sizeof(*keys));
 804   /* keys start at 1 */
 805   for (i = 1; i < numkeys; i++)
 806     {
 807       id = read_id(&data, numid);
 808       if (idmap)
 809         id = idmap[id];
 810       keys[i].name = id;
 811       keys[i].type = read_id(&data, 0);
 812       keys[i].size = read_id(&data, 0);
 813       keys[i].storage = KEY_STORAGE_DROPPED;
 814       switch (keys[i].type)
 815         {
 816         case TYPE_ID:
 817           switch(id)
 818             {
 819             case SOLVABLE_NAME:
 820             case SOLVABLE_ARCH:
 821             case SOLVABLE_EVR:
 822             case SOLVABLE_VENDOR:
 823               keys[i].storage = KEY_STORAGE_SOLVABLE;
 824               break;
 825             default:
 826               keys[i].storage = KEY_STORAGE_INCORE;
 827               break;
 828             }
 829           break;
 830         case TYPE_IDARRAY:
 831         case TYPE_REL_IDARRAY:
 832           if (id >= INTERESTED_START && id <= INTERESTED_END)
 833             keys[i].storage = KEY_STORAGE_SOLVABLE;
 834           else
 835             keys[i].storage = KEY_STORAGE_INCORE;
 836           break;
 837         case TYPE_STR:
 838           keys[i].storage = KEY_STORAGE_INCORE;
 839           break;
 840         case TYPE_U32:
 841           if (id == RPM_RPMDBID)
 842             keys[i].storage = KEY_STORAGE_SOLVABLE;
 843           else
 844             keys[i].storage = KEY_STORAGE_INCORE;
 845           break;
 846         default:
 847           break;
 848         }
 849     }
 850
 851   data.keys = keys;
 852   data.nkeys = numkeys;
 853
 854   /*******  Part 5: Schemata ********************************************/
 855
 856   id = read_id(&data, 0);
 857   schemadata = sat_calloc(id, sizeof(Id));
 858   schemadatap = schemadata;
 859   schemadataend = schemadata + id;
 860   schemata = sat_calloc(numschemata, sizeof(Id));
 861   for (i = 0; i < numschemata; i++)
 862     {
 863       schemata[i] = schemadatap - schemadata;
 864       schemadatap = read_idarray(&data, numid, 0, schemadatap, schemadataend, 0);
 865     }
 866   data.schemata = schemata;
 867   data.nschemata = numschemata;
 868   data.schemadata = schemadata;
 869
 870   /*******  Part 6: Info  ***********************************************/
 871   for (i = 0; i < numinfo; i++)
 872     {
 873       /* for now we're just interested in data that starts with
 874        * the repodata_external id
 875        */
 876       Id *keyp = schemadata + schemata[read_id(&data, numschemata)];
 877       key = *keyp;
 878       if (keys[key].name == REPODATA_EXTERNAL && keys[key].type == TYPE_VOID)
 879         {
 880           /* external data for some ids */
 881           parse_repodata(&data, keyp, keys, idmap, numid, numrel, repo);
 882         }
 883       else
 884         skip_schema(&data, keyp, keys, numid, numrel);
 885     }
 886
 887   /*******  Part 7: packed sizes (optional)  ****************************/
 888   char *exists = 0;
 889   if ((solvflags & SOLV_FLAG_PACKEDSIZES) != 0)
 890     {
 891       exists = sat_malloc (numsolv);
 892       for (i = 0; i < numsolv; i++)
 893         exists[i] = read_id(&data, 0) != 0;
 894     }
 895
 896   /*******  Part 8: item data *******************************************/
 897
 898   /* calculate idarray size */
 899   size_idarray = 0;
 900   for (i = 1; i < numkeys; i++)
 901     {
 902       id = keys[i].name;
 903       if ((keys[i].type == TYPE_IDARRAY || keys[i].type == TYPE_REL_IDARRAY)
 904           && id >= INTERESTED_START && id <= INTERESTED_END)
 905         size_idarray += keys[i].size;
 906     }
 907
 908   /* allocate needed space in repo */
 909   if (size_idarray)
 910     {
 911       repo_reserve_ids(repo, 0, size_idarray);
 912       idarraydatap = repo->idarraydata + repo->idarraysize;
 913       repo->idarraysize += size_idarray;
 914       idarraydataend = idarraydatap + size_idarray;
 915       repo->lastoff = 0;
 916     }
 917   else
 918     {
 919       idarraydatap = 0;
 920       idarraydataend = 0;
 921     }
 922
 923   /* read solvables */
 924   s = pool_id2solvable(pool, repo_add_solvable_block(repo, numsolv));
 925
 926   /* store start and end of our id block */
 927   data.start = s - pool->solvables;
 928   data.end = data.start + numsolv;
 929
 930   for (i = 0; i < numsolv; i++, s++)
 931     {
 932       if (data.error)
 933         break;
 934       if (exists && !exists[i])
 935         continue;
 936       Id *keyp = schemadata + schemata[read_id(&data, numschemata)];
 937       while ((key = *keyp++) != 0)
 938         {
 939           id = keys[key].name;
 940           switch (keys[key].type)
 941             {
 942             case TYPE_ID:
 943               did = read_id(&data, numid + numrel);
 944               if (idmap)
 945                 did = idmap[did];
 946               if (id == SOLVABLE_NAME)
 947                 s->name = did;
 948               else if (id == SOLVABLE_ARCH)
 949                 s->arch = did;
 950               else if (id == SOLVABLE_EVR)
 951                 s->evr = did;
 952               else if (id == SOLVABLE_VENDOR)
 953                 s->vendor = did;
 954               else if (keys[key].storage == KEY_STORAGE_INCORE)
 955                 incore_add_id(&data, did);
 956 #if 0
 957               POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %s\n", id2str(pool, id), id2str(pool, did));
 958 #endif
 959               break;
 960             case TYPE_U32:
 961               h = read_u32(&data);
 962 #if 0
 963               POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %u\n", id2str(pool, id), h);
 964 #endif
 965               if (id == RPM_RPMDBID)
 966                 {
 967                   if (!repo->rpmdbid)
 968                     repo->rpmdbid = sat_calloc(numsolv, sizeof(Id));
 969                   repo->rpmdbid[i] = h;
 970                 }
 971               else if (keys[key].storage == KEY_STORAGE_INCORE)
 972                 incore_add_u32(&data, h);
 973               break;
 974             case TYPE_STR:
 975               if (keys[key].storage == KEY_STORAGE_INCORE)
 976                 {
 977                   while ((h = read_u8(&data)) != 0)
 978                     incore_add_u8(&data, h);
 979                   incore_add_u8(&data, 0);
 980                 }
 981               else
 982                 {
 983                   while (read_u8(&data) != 0)
 984                     ;
 985                 }
 986               break;
 987             case TYPE_IDARRAY:
 988             case TYPE_REL_IDARRAY:
 989               if (id < INTERESTED_START || id > INTERESTED_END)
 990                 {
 991                   if (keys[key].storage == KEY_STORAGE_INCORE)
 992                     {
 993                       if (idmap)
 994                         {
 995                           Id old = 0, rel = keys[key].type == TYPE_REL_IDARRAY ? SOLVABLE_PREREQMARKER : 0;
 996                           do
 997                             {
 998                               did = read_id(&data, 0);
 999                               h = did & 0x40;
1000                               did = (did & 0x3f) | ((did >> 1) & ~0x3f);
1001                               if (rel)
1002                                 {
1003                                   if (did == 0)
1004                                     {
1005                                       did = rel;
1006                                       old = 0;
1007                                     }
1008                                   else
1009                                     {
1010                                       did += old;
1011                                       old = did;
1012                                     }
1013                                 }
1014                               if (did >= numid + numrel)
1015                                 abort();
1016                               did = idmap[did];
1017                               did = ((did & ~0x3f) << 1) | h;
1018                               incore_add_id(&data, did);
1019                             }
1020                           while (h);
1021                         }
1022                       else
1023                         {
1024                           while (((h = read_u8(&data)) & 0xc0) != 0)
1025                             incore_add_u8(&data, h);
1026                           break;
1027                         }
1028                     }
1029                   else
1030                     {
1031                       while ((read_u8(&data) & 0xc0) != 0)
1032                         ;
1033                       break;
1034                     }
1035                   break;
1036                 }
1037               ido = idarraydatap - repo->idarraydata;
1038               idarraydatap = read_idarray(&data, numid + numrel, idmap, idarraydatap, idarraydataend, keys[key].type == TYPE_REL_IDARRAY);
1039               if (id == SOLVABLE_PROVIDES)
1040                 s->provides = ido;
1041               else if (id == SOLVABLE_OBSOLETES)
1042                 s->obsoletes = ido;
1043               else if (id == SOLVABLE_CONFLICTS)
1044                 s->conflicts = ido;
1045               else if (id == SOLVABLE_REQUIRES)
1046                 s->requires = ido;
1047               else if (id == SOLVABLE_RECOMMENDS)
1048                 s->recommends= ido;
1049               else if (id == SOLVABLE_SUPPLEMENTS)
1050                 s->supplements = ido;
1051               else if (id == SOLVABLE_SUGGESTS)
1052                 s->suggests = ido;
1053               else if (id == SOLVABLE_ENHANCES)
1054                 s->enhances = ido;
1055               else if (id == SOLVABLE_FRESHENS)
1056                 s->freshens = ido;
1057 #if 0
1058               POOL_DEBUG(SAT_DEBUG_STATS, "%s ->\n", id2str(pool, id));
1059               for (; repo->idarraydata[ido]; ido++)
1060                 POOL_DEBUG(SAT_DEBUG_STATS,"  %s\n", dep2str(pool, repo->idarraydata[ido]));
1061 #endif
1062               break;
1063 #if 0
1064             case TYPE_VOID:
1065
1066             case TYPE_ATTR_INT:
1067             case TYPE_ATTR_CHUNK:
1068             case TYPE_ATTR_STRING:
1069             case TYPE_ATTR_INTLIST:
1070             case TYPE_ATTR_LOCALIDS:
1071               if (!embedded_store)
1072                 embedded_store = new_store (pool);
1073               add_attr_from_file (embedded_store, i, id, keys[key].type, idmap, numid, &data, keys[key].size);
1074               break;
1075 #endif
1076             default:
1077               skip_item(&data, keys[key].type, numid, numrel);
1078             }
1079         }
1080     }
1081
1082   if (data.error)
1083     {
1084       /* free solvables */
1085       repo_free_solvable_block(repo, data.start, data.end - data.start, 1);
1086       /* free id array */
1087       repo->idarraysize -= size_idarray;
1088       /* free incore data */
1089       data.incoredata = sat_free(data.incoredata);
1090       data.incoredatalen = data.incoredatafree = 0;
1091     }
1092
1093   if (data.incoredatafree)
1094     {
1095       /* shrink excess size */
1096       data.incoredata = sat_realloc(data.incoredata, data.incoredatalen);
1097       data.incoredatafree = 0;
1098     }
1099
1100   for (i = 1; i < numkeys; i++)
1101     if (keys[i].storage == KEY_STORAGE_VERTICAL_OFFSET)
1102       break;
1103   if (i < numkeys && !data.error)
1104     {
1105       /* we have vertical data, make it available */
1106       data.verticaloffset = ftell(fp);
1107     }
1108   else
1109     {
1110       /* no longer needed */
1111       data.fp = 0;
1112     }
1113
1114   if (data.incoredatalen || data.fp)
1115     {
1116       /* we got some data, make it available */
1117       repo->repodata = sat_realloc2(repo->repodata, repo->nrepodata + 1, sizeof(data));
1118       repo->repodata[repo->nrepodata++] = data;
1119     }
1120   else
1121     {
1122       /* discard data */
1123       sat_free(data.dirs);
1124       sat_free(schemata);
1125       sat_free(schemadata);
1126       sat_free(keys);
1127     }
1128
1129   sat_free(exists);
1130 #if 0
1131   if (embedded_store)
1132     {
1133       attr_store_pack (embedded_store);
1134       /* If we have any attributes we also have pages.  */
1135       read_or_setup_pages (fp, embedded_store);
1136       /* The NULL name here means embedded attributes.  */
1137       repo_add_attrstore (repo, embedded_store, NULL);
1138     }
1139 #endif
1140   sat_free(idmap);
1141   mypool = 0;
1142   return data.error;
1143 }
1144
1145 // EOF