src/repo_solv.c

   1 /*
   2  * Copyright (c) 2007, Novell Inc.
   3  *
   4  * This program is licensed under the BSD license, read LICENSE.BSD
   5  * for further information
   6  */
   7
   8 /*
   9  * repo_solv.c
  10  *
  11  * Read the binary dump of a Repo and create a Repo * from it
  12  *
  13  *  See
  14  *   Repo *pool_addrepo_solv(Pool *pool, FILE *fp)
  15  * below
  16  *
  17  */
  18
  19
  20
  21 #include <stdio.h>
  22 #include <stdlib.h>
  23 #include <unistd.h>
  24 #include <string.h>
  25
  26 #include "repo_solv.h"
  27 #include "util.h"
  28 #if 0
  29 #include "attr_store_p.h"
  30 #endif
  31
  32 #define INTERESTED_START        SOLVABLE_NAME
  33 #define INTERESTED_END          SOLVABLE_FRESHENS
  34
  35 #define SOLV_ERROR_NOT_SOLV     1
  36 #define SOLV_ERROR_UNSUPPORTED  2
  37 #define SOLV_ERROR_EOF          3
  38 #define SOLV_ERROR_ID_RANGE     4
  39 #define SOLV_ERROR_OVERFLOW     5
  40 #define SOLV_ERROR_CORRUPT      6
  41
  42 static Pool *mypool;            /* for pool_debug... */
  43
  44 /*-----------------------------------------------------------------*/
  45 /* .solv read functions */
  46
  47 /*
  48  * read u32
  49  */
  50
  51 static unsigned int
  52 read_u32(Repodata *data)
  53 {
  54   int c, i;
  55   unsigned int x = 0;
  56
  57   if (data->error)
  58     return 0;
  59   for (i = 0; i < 4; i++)
  60     {
  61       c = getc(data->fp);
  62       if (c == EOF)
  63         {
  64           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
  65           data->error = SOLV_ERROR_EOF;
  66           return 0;
  67         }
  68       x = (x << 8) | c;
  69     }
  70   return x;
  71 }
  72
  73
  74 /*
  75  * read u8
  76  */
  77
  78 static unsigned int
  79 read_u8(Repodata *data)
  80 {
  81   int c;
  82
  83   if (data->error)
  84     return 0;
  85   c = getc(data->fp);
  86   if (c == EOF)
  87     {
  88       pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
  89       data->error = SOLV_ERROR_EOF;
  90       return 0;
  91     }
  92   return c;
  93 }
  94
  95
  96 /*
  97  * read Id
  98  */
  99
 100 static Id
 101 read_id(Repodata *data, Id max)
 102 {
 103   unsigned int x = 0;
 104   int c, i;
 105
 106   if (data->error)
 107     return 0;
 108   for (i = 0; i < 5; i++)
 109     {
 110       c = getc(data->fp);
 111       if (c == EOF)
 112         {
 113           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
 114           data->error = SOLV_ERROR_EOF;
 115           return 0;
 116         }
 117       if (!(c & 128))
 118         {
 119           x = (x << 7) | c;
 120           if (max && x >= max)
 121             {
 122               pool_debug(mypool, SAT_ERROR, "read_id: id too large (%u/%u)\n", x, max);
 123               data->error = SOLV_ERROR_ID_RANGE;
 124               return 0;
 125             }
 126           return x;
 127         }
 128       x = (x << 7) ^ c ^ 128;
 129     }
 130   pool_debug(mypool, SAT_ERROR, "read_id: id too long\n");
 131   data->error = SOLV_ERROR_CORRUPT;
 132   return 0;
 133 }
 134
 135
 136 /*
 137  * read array of Ids
 138  */
 139
 140 static Id *
 141 read_idarray(Repodata *data, Id max, Id *map, Id *store, Id *end, int relative)
 142 {
 143   unsigned int x = 0;
 144   int c;
 145   Id old = 0;
 146
 147   if (data->error)
 148     return 0;
 149   for (;;)
 150     {
 151       c = getc(data->fp);
 152       if (c == EOF)
 153         {
 154           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
 155           data->error = SOLV_ERROR_EOF;
 156           return 0;
 157         }
 158       if ((c & 128) == 0)
 159         {
 160           x = (x << 6) | (c & 63);
 161           if (relative)
 162             {
 163               if (x == 0 && c == 0x40)
 164                 {
 165                   /* prereq hack */
 166                   if (store == end)
 167                     {
 168                       pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 169                       data->error = SOLV_ERROR_OVERFLOW;
 170                       return 0;
 171                     }
 172                   *store++ = SOLVABLE_PREREQMARKER;
 173                   old = 0;
 174                   x = 0;
 175                   continue;
 176                 }
 177               x = (x - 1) + old;
 178               old = x;
 179             }
 180           if (max && x >= max)
 181             {
 182               pool_debug(mypool, SAT_ERROR, "read_idarray: id too large (%u/%u)\n", x, max);
 183               data->error = SOLV_ERROR_ID_RANGE;
 184               return 0;
 185             }
 186           if (map)
 187             x = map[x];
 188           if (store == end)
 189             {
 190               pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 191               return 0;
 192             }
 193           *store++ = x;
 194           if ((c & 64) == 0)
 195             {
 196               if (x == 0)       /* already have trailing zero? */
 197                 return store;
 198               if (store == end)
 199                 {
 200                   pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 201                   data->error = SOLV_ERROR_OVERFLOW;
 202                   return 0;
 203                 }
 204               *store++ = 0;
 205               return store;
 206             }
 207           x = 0;
 208           continue;
 209         }
 210       x = (x << 7) ^ c ^ 128;
 211     }
 212 }
 213
 214 static void
 215 read_str(Repodata *data, char **inbuf, unsigned *len)
 216 {
 217   unsigned char *buf = (unsigned char*)*inbuf;
 218   if (!buf)
 219     {
 220       buf = sat_malloc(1024);
 221       *len = 1024;
 222     }
 223   int c;
 224   unsigned ofs = 0;
 225   while((c = getc(data->fp)) != 0)
 226     {
 227       if (c == EOF)
 228         {
 229           pool_debug (mypool, SAT_ERROR, "unexpected EOF\n");
 230           data->error = SOLV_ERROR_EOF;
 231           return;
 232         }
 233       /* Plus 1 as we also want to add the 0.  */
 234       if (ofs + 1 >= *len)
 235         {
 236           *len += 256;
 237           /* Don't realloc on the inbuf, it might be on the stack.  */
 238           if (buf == (unsigned char*)*inbuf)
 239             {
 240               buf = sat_malloc(*len);
 241               memcpy(buf, *inbuf, *len - 256);
 242             }
 243           else
 244             buf = sat_realloc(buf, *len);
 245         }
 246       buf[ofs++] = c;
 247     }
 248   buf[ofs++] = 0;
 249   *inbuf = (char*)buf;
 250 }
 251
 252 static void
 253 skip_item (Repodata *data, unsigned type, unsigned numid, unsigned numrel)
 254 {
 255   switch (type)
 256     {
 257       case TYPE_VOID:
 258       case TYPE_CONSTANT:
 259         break;
 260       case TYPE_ID:
 261         read_id(data, numid + numrel);          /* just check Id */
 262         break;
 263       case TYPE_DIR:
 264         read_id(data, numid + data->dirpool.ndirs);     /* just check Id */
 265         break;
 266       case TYPE_NUM:
 267         read_id(data, 0);
 268         break;
 269       case TYPE_U32:
 270         read_u32(data);
 271         break;
 272       case TYPE_ATTR_STRING:
 273       case TYPE_STR:
 274         while (read_u8(data) != 0)
 275           ;
 276         break;
 277       case TYPE_IDARRAY:
 278       case TYPE_REL_IDARRAY:
 279       case TYPE_ATTR_INTLIST:
 280         while ((read_u8(data) & 0xc0) != 0)
 281           ;
 282         break;
 283       case TYPE_DIRNUMNUMARRAY:
 284         for (;;)
 285           {
 286             read_id(data, numid + data->dirpool.ndirs); /* just check Id */
 287             read_id(data, 0);
 288             if (!(read_id(data, 0) & 0x40))
 289               break;
 290           }
 291         break;
 292       case TYPE_DIRSTRARRAY:
 293         for (;;)
 294           {
 295             Id id = read_id(data, 0);
 296             while (read_u8(data) != 0)
 297               ;
 298             if (!(id & 0x40))
 299               break;
 300           }
 301         break;
 302       case TYPE_COUNT_NAMED:
 303         {
 304           unsigned count = read_id(data, 0);
 305           while (count--)
 306             {
 307               read_id(data, numid);    /* Name */
 308               unsigned t = read_id(data, TYPE_ATTR_TYPE_MAX + 1);
 309               skip_item(data, t, numid, numrel);
 310             }
 311         }
 312         break;
 313       case TYPE_COUNTED:
 314         {
 315           unsigned count = read_id(data, 0);
 316           unsigned t = read_id(data, TYPE_ATTR_TYPE_MAX + 1);
 317           while (count--)
 318             skip_item(data, t, numid, numrel);
 319         }
 320         break;
 321       case TYPE_ATTR_CHUNK:
 322         read_id(data, 0);
 323         /* Fallthrough.  */
 324       case TYPE_ATTR_INT:
 325         read_id(data, 0);
 326         break;
 327       case TYPE_ATTR_LOCALIDS:
 328         while (read_id(data, 0) != 0)
 329           ;
 330         break;
 331       default:
 332         pool_debug(mypool, SAT_ERROR, "unknown type %d\n", type);
 333         data->error = SOLV_ERROR_CORRUPT;
 334         break;
 335     }
 336 }
 337
 338 static int
 339 key_cmp (const void *pa, const void *pb)
 340 {
 341   Repokey *a = (Repokey *)pa;
 342   Repokey *b = (Repokey *)pb;
 343   return a->name - b->name;
 344 }
 345
 346 static void repodata_load_solv(Repodata *data);
 347
 348 static void
 349 parse_repodata(Repodata *maindata, Id *keyp, Repokey *keys, Id *idmap, unsigned numid, unsigned numrel, Repo *repo)
 350 {
 351   Id key, id;
 352   Id *ida, *ide;
 353   Repodata *data;
 354   int i, n;
 355
 356   repo->repodata = sat_realloc2(repo->repodata, repo->nrepodata + 1, sizeof (*data));
 357   data = repo->repodata + repo->nrepodata++;
 358   memset(data, 0, sizeof(*data));
 359   data->repo = repo;
 360   data->state = REPODATA_STUB;
 361   data->loadcallback = repodata_load_solv;
 362
 363   while ((key = *keyp++) != 0)
 364     {
 365       id = keys[key].name;
 366       switch (keys[key].type)
 367         {
 368         case TYPE_IDVALUEARRAY:
 369           if (id != REPODATA_KEYS)
 370             {
 371               skip_item(maindata, TYPE_IDVALUEARRAY, numid, numrel);
 372               break;
 373             }
 374           ida = sat_calloc(keys[key].size, sizeof(Id));
 375           ide = read_idarray(maindata, 0, 0, ida, ida + keys[key].size, 0);
 376           n = ide - ida - 1;
 377           if (n & 1)
 378             {
 379               pool_debug (mypool, SAT_ERROR, "invalid attribute data\n");
 380               data->error = SOLV_ERROR_CORRUPT;
 381               return;
 382             }
 383           data->nkeys = 1 + (n >> 1);
 384           data->keys = sat_malloc2(data->nkeys, sizeof(data->keys[0]));
 385           memset(data->keys, 0, sizeof(Repokey));
 386           for (i = 1, ide = ida; i < data->nkeys; i++)
 387             {
 388               if (*ide >= numid)
 389                 {
 390                   pool_debug (mypool, SAT_ERROR, "invalid attribute data\n");
 391                   data->error = SOLV_ERROR_CORRUPT;
 392                   return;
 393                 }
 394               data->keys[i].name = idmap ? idmap[*ide++] : *ide++;
 395               data->keys[i].type = *ide++;
 396               data->keys[i].size = 0;
 397               data->keys[i].storage = 0;
 398             }
 399           sat_free(ida);
 400           if (data->nkeys > 2)
 401             qsort(data->keys + 1, data->nkeys - 1, sizeof(data->keys[0]), key_cmp);
 402           break;
 403         case TYPE_STR:
 404           if (id != REPODATA_LOCATION)
 405             skip_item(maindata, TYPE_STR, numid, numrel);
 406           else
 407             {
 408               char buf[1024];
 409               unsigned len = sizeof (buf);
 410               char *filename = buf;
 411               read_str(maindata, &filename, &len);
 412 #if 0
 413               data->location = strdup(filename);
 414 #endif
 415               if (filename != buf)
 416                 free(filename);
 417             }
 418           break;
 419         default:
 420           skip_item(maindata, keys[key].type, numid, numrel);
 421           break;
 422         }
 423     }
 424 }
 425
 426 /*-----------------------------------------------------------------*/
 427
 428
 429 static void
 430 skip_schema(Repodata *data, Id *keyp, Repokey *keys, unsigned int numid, unsigned int numrel)
 431 {
 432   Id key;
 433   while ((key = *keyp++) != 0)
 434     skip_item(data, keys[key].type, numid, numrel);
 435 }
 436
 437 /*-----------------------------------------------------------------*/
 438
 439 static void
 440 incore_add_id(Repodata *data, Id x)
 441 {
 442   unsigned char *dp;
 443   /* make sure we have at least 5 bytes free */
 444   if (data->incoredatafree < 5)
 445     {
 446       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 447       data->incoredatafree = 1024;
 448     }
 449   dp = data->incoredata + data->incoredatalen;
 450   if (x < 0)
 451     abort();
 452   if (x >= (1 << 14))
 453     {
 454       if (x >= (1 << 28))
 455         *dp++ = (x >> 28) | 128;
 456       if (x >= (1 << 21))
 457         *dp++ = (x >> 21) | 128;
 458       *dp++ = (x >> 14) | 128;
 459     }
 460   if (x >= (1 << 7))
 461     *dp++ = (x >> 7) | 128;
 462   *dp++ = x & 127;
 463   data->incoredatafree -= dp - (data->incoredata + data->incoredatalen);
 464   data->incoredatalen = dp - data->incoredata;
 465 }
 466
 467 static void
 468 incore_add_u32(Repodata *data, unsigned int x)
 469 {
 470   unsigned char *dp;
 471   /* make sure we have at least 4 bytes free */
 472   if (data->incoredatafree < 4)
 473     {
 474       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 475       data->incoredatafree = 1024;
 476     }
 477   dp = data->incoredata + data->incoredatalen;
 478   *dp++ = x >> 24;
 479   *dp++ = x >> 16;
 480   *dp++ = x >> 8;
 481   *dp++ = x;
 482   data->incoredatafree -= 4;
 483   data->incoredatalen += 4;
 484 }
 485
 486 static void
 487 incore_add_u8(Repodata *data, unsigned int x)
 488 {
 489   unsigned char *dp;
 490   /* make sure we have at least 1 byte free */
 491   if (data->incoredatafree < 1)
 492     {
 493       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 494       data->incoredatafree = 1024;
 495     }
 496   dp = data->incoredata + data->incoredatalen;
 497   *dp++ = x;
 498   data->incoredatafree--;
 499   data->incoredatalen++;
 500 }
 501
 502
 503
 504 // ----------------------------------------------
 505
 506
 507 /*
 508  * read repo from .solv file
 509  *  and add it to pool
 510  */
 511
 512 static int
 513 repo_add_solv_parent(Repo *repo, FILE *fp, Repodata *parent)
 514 {
 515   Pool *pool = repo->pool;
 516   int i, l;
 517   unsigned int numid, numrel, numdir, numsolv;
 518   unsigned int numkeys, numschemata, numinfo;
 519 #if 0
 520   Attrstore *embedded_store = 0;
 521 #endif
 522
 523   Offset sizeid;
 524   Offset *str;                         /* map Id -> Offset into string space */
 525   char *strsp;                         /* repo string space */
 526   char *sp;                            /* pointer into string space */
 527   Id *idmap;                           /* map of repo Ids to pool Ids */
 528   Id id;
 529   unsigned int hashmask, h;
 530   int hh;
 531   Id *hashtbl;
 532   Id name, evr, did;
 533   int flags;
 534   Reldep *ran;
 535   unsigned int size_idarray;
 536   Id *idarraydatap, *idarraydataend;
 537   Offset ido;
 538   Solvable *s;
 539   unsigned int solvflags;
 540   unsigned int solvversion;
 541   Repokey *keys;
 542   Id *schemadata, *schemadatap, *schemadataend;
 543   Id *schemata, key;
 544   int have_xdata;
 545
 546   struct _Stringpool *spool;
 547
 548   Repodata data;
 549
 550   memset(&data, 0, sizeof(data));
 551   data.repo = repo;
 552   data.fp = fp;
 553
 554   mypool = pool;
 555
 556   if (read_u32(&data) != ('S' << 24 | 'O' << 16 | 'L' << 8 | 'V'))
 557     {
 558       pool_debug(pool, SAT_ERROR, "not a SOLV file\n");
 559       return SOLV_ERROR_NOT_SOLV;
 560     }
 561   solvversion = read_u32(&data);
 562   switch (solvversion)
 563     {
 564       case SOLV_VERSION_1:
 565       case SOLV_VERSION_2:
 566       case SOLV_VERSION_3:
 567       case SOLV_VERSION_4:
 568       case SOLV_VERSION_5:
 569         break;
 570       default:
 571         pool_debug(pool, SAT_ERROR, "unsupported SOLV version\n");
 572         return SOLV_ERROR_UNSUPPORTED;
 573     }
 574
 575   pool_freeidhashes(pool);
 576
 577   numid = read_u32(&data);
 578   numrel = read_u32(&data);
 579   if (solvversion >= SOLV_VERSION_4)
 580     numdir = read_u32(&data);
 581   else
 582     numdir = 0;
 583   numsolv = read_u32(&data);
 584   numkeys = read_u32(&data);
 585   numschemata = read_u32(&data);
 586   numinfo = read_u32(&data);
 587   solvflags = read_u32(&data);
 588
 589   if (solvversion < SOLV_VERSION_5)
 590     numschemata++;
 591
 592   if (numdir && numdir < 2)
 593     {
 594       pool_debug(pool, SAT_ERROR, "bad number of dirs\n");
 595       return SOLV_ERROR_CORRUPT;
 596     }
 597   if (numinfo && solvversion < SOLV_VERSION_3)
 598     {
 599       pool_debug(pool, SAT_ERROR, "unsupported SOLV format (has info)\n");
 600       return SOLV_ERROR_UNSUPPORTED;
 601     }
 602
 603   if (parent)
 604     {
 605       if (numrel)
 606         {
 607           pool_debug(pool, SAT_ERROR, "relations are forbidden in a store\n");
 608           return SOLV_ERROR_CORRUPT;
 609         }
 610       if (numsolv)
 611         {
 612           pool_debug(pool, SAT_ERROR, "solvables are forbidden in a store\n");
 613           return SOLV_ERROR_CORRUPT;
 614         }
 615       if (numinfo)
 616         {
 617           pool_debug(pool, SAT_ERROR, "info blocks are forbidden in a store\n");
 618           return SOLV_ERROR_CORRUPT;
 619         }
 620     }
 621
 622   /*******  Part 1: string IDs  *****************************************/
 623
 624   sizeid = read_u32(&data);            /* size of string+Id space */
 625
 626   /*
 627    * read strings and Ids
 628    *
 629    */
 630
 631
 632   /*
 633    * alloc buffers
 634    */
 635
 636   if (!parent)
 637     spool = &pool->ss;
 638   else
 639     {
 640       spool = &data.spool;
 641       spool->stringspace = sat_malloc(7);
 642       strcpy(spool->stringspace, "<NULL>");
 643       spool->sstrings = 7;
 644       spool->nstrings = 0;
 645     }
 646
 647   /* alloc string buffer */
 648   spool->stringspace = sat_realloc(spool->stringspace, spool->sstrings + sizeid + 1);
 649   /* alloc string offsets (Id -> Offset into string space) */
 650   spool->strings = sat_realloc2(spool->strings, spool->nstrings + numid, sizeof(Offset));
 651
 652   strsp = spool->stringspace;
 653   str = spool->strings;                /* array of offsets into strsp, indexed by Id */
 654
 655   /* point to _BEHIND_ already allocated string/Id space */
 656   strsp += spool->sstrings;
 657
 658
 659   /*
 660    * read new repo at end of pool
 661    */
 662
 663   if ((solvflags & SOLV_FLAG_PREFIX_POOL) == 0)
 664     {
 665       if (sizeid && fread(strsp, sizeid, 1, fp) != 1)
 666         {
 667           pool_debug(pool, SAT_ERROR, "read error while reading strings\n");
 668           return SOLV_ERROR_EOF;
 669         }
 670     }
 671   else
 672     {
 673       unsigned int pfsize = read_u32(&data);
 674       char *prefix = sat_malloc(pfsize);
 675       char *pp = prefix;
 676       char *old_str = 0;
 677       char *dest = strsp;
 678       if (pfsize && fread(prefix, pfsize, 1, fp) != 1)
 679         {
 680           pool_debug(pool, SAT_ERROR, "read error while reading strings\n");
 681           sat_free(prefix);
 682           return SOLV_ERROR_EOF;
 683         }
 684       for (i = 1; i < numid; i++)
 685         {
 686           int same = (unsigned char)*pp++;
 687           size_t len = strlen (pp) + 1;
 688           if (same)
 689             memcpy(dest, old_str, same);
 690           memcpy(dest + same, pp, len);
 691           pp += len;
 692           old_str = dest;
 693           dest += same + len;
 694         }
 695       sat_free(prefix);
 696     }
 697   strsp[sizeid] = 0;                   /* make string space \0 terminated */
 698   sp = strsp;
 699
 700   /* make sure first entry is "" for a store */
 701   if (parent)
 702     {
 703       /* no shared pool, thus no idmap and no unification */
 704       idmap = 0;
 705       sp += 7;
 706       if (*sp)
 707         {
 708           pool_debug(pool, SAT_ERROR, "store strings don't start with ''\n");
 709           return SOLV_ERROR_CORRUPT;
 710         }
 711       str[0] = 0;
 712       for (i = 1; i < spool->nstrings; i++)
 713         {
 714           if (sp >= strsp + sizeid)
 715             {
 716               pool_debug(pool, SAT_ERROR, "not enough strings\n");
 717               return SOLV_ERROR_OVERFLOW;
 718             }
 719           str[i] = sp - strsp;
 720           sp += strlen(sp) + 1;
 721         }
 722     }
 723   else
 724     {
 725
 726       /* alloc id map for name and rel Ids. this maps ids in the solv files
 727        * to the ids in our pool */
 728       idmap = sat_calloc(numid + numrel, sizeof(Id));
 729
 730       /*
 731        * build hashes for all read strings
 732        *
 733        */
 734
 735       hashmask = mkmask(spool->nstrings + numid);
 736
 737 #if 0
 738       POOL_DEBUG(SAT_DEBUG_STATS, "read %d strings\n", numid);
 739       POOL_DEBUG(SAT_DEBUG_STATS, "string hash buckets: %d\n", hashmask + 1);
 740 #endif
 741
 742       /*
 743        * create hashtable with strings already in pool
 744        */
 745
 746       hashtbl = sat_calloc(hashmask + 1, sizeof(Id));
 747       for (i = 1; i < spool->nstrings; i++)  /* leave out our dummy zero id */
 748         {
 749           h = strhash(spool->stringspace + spool->strings[i]) & hashmask;
 750           hh = HASHCHAIN_START;
 751           while (hashtbl[h])
 752             h = HASHCHAIN_NEXT(h, hh, hashmask);
 753           hashtbl[h] = i;
 754         }
 755
 756       /*
 757        * run over string space, calculate offsets
 758        *
 759        * build id map (maps solv Id -> pool Id)
 760        */
 761
 762       for (i = 1; i < numid; i++)
 763         {
 764           if (sp >= strsp + sizeid)
 765             {
 766               sat_free(hashtbl);
 767               sat_free(idmap);
 768               pool_debug(pool, SAT_ERROR, "not enough strings\n");
 769               return SOLV_ERROR_OVERFLOW;
 770             }
 771           if (!*sp)                            /* empty string */
 772             {
 773               idmap[i] = ID_EMPTY;
 774               sp++;
 775               continue;
 776             }
 777
 778           /* find hash slot */
 779           h = strhash(sp) & hashmask;
 780           hh = HASHCHAIN_START;
 781           for (;;)
 782             {
 783               id = hashtbl[h];
 784               if (id == 0)
 785                 break;
 786               if (!strcmp(spool->stringspace + spool->strings[id], sp))
 787                 break;                 /* existing string */
 788               h = HASHCHAIN_NEXT(h, hh, hashmask);
 789             }
 790
 791           /* length == offset to next string */
 792           l = strlen(sp) + 1;
 793           if (id == ID_NULL)           /* end of hash chain -> new string */
 794             {
 795               id = spool->nstrings++;
 796               hashtbl[h] = id;
 797               str[id] = spool->sstrings;    /* save Offset */
 798               if (sp != spool->stringspace + spool->sstrings)   /* not at end-of-buffer */
 799                 memmove(spool->stringspace + spool->sstrings, sp, l);   /* append to pool buffer */
 800               spool->sstrings += l;
 801             }
 802           idmap[i] = id;                       /* repo relative -> pool relative */
 803           sp += l;                             /* next string */
 804         }
 805       sat_free(hashtbl);
 806     }
 807   pool_shrink_strings(pool);           /* vacuum */
 808
 809
 810   /*******  Part 2: Relation IDs  ***************************************/
 811
 812   /*
 813    * read RelDeps
 814    *
 815    */
 816
 817   if (numrel)
 818     {
 819       /* extend rels */
 820       pool->rels = sat_realloc2(pool->rels, pool->nrels + numrel, sizeof(Reldep));
 821       ran = pool->rels;
 822
 823       hashmask = mkmask(pool->nrels + numrel);
 824 #if 0
 825       POOL_DEBUG(SAT_DEBUG_STATS, "read %d rels\n", numrel);
 826       POOL_DEBUG(SAT_DEBUG_STATS, "rel hash buckets: %d\n", hashmask + 1);
 827 #endif
 828       /*
 829        * prep hash table with already existing RelDeps
 830        */
 831
 832       hashtbl = sat_calloc(hashmask + 1, sizeof(Id));
 833       for (i = 1; i < pool->nrels; i++)
 834         {
 835           h = relhash(ran[i].name, ran[i].evr, ran[i].flags) & hashmask;
 836           hh = HASHCHAIN_START;
 837           while (hashtbl[h])
 838             h = HASHCHAIN_NEXT(h, hh, hashmask);
 839           hashtbl[h] = i;
 840         }
 841
 842       /*
 843        * read RelDeps from repo
 844        */
 845
 846       for (i = 0; i < numrel; i++)
 847         {
 848           name = read_id(&data, i + numid);     /* read (repo relative) Ids */
 849           evr = read_id(&data, i + numid);
 850           flags = read_u8(&data);
 851           name = idmap[name];           /* map to (pool relative) Ids */
 852           evr = idmap[evr];
 853           h = relhash(name, evr, flags) & hashmask;
 854           hh = HASHCHAIN_START;
 855           for (;;)
 856             {
 857               id = hashtbl[h];
 858               if (id == ID_NULL)        /* end of hash chain */
 859                 break;
 860               if (ran[id].name == name && ran[id].evr == evr && ran[id].flags == flags)
 861                 break;
 862               h = HASHCHAIN_NEXT(h, hh, hashmask);
 863             }
 864           if (id == ID_NULL)            /* new RelDep */
 865             {
 866               id = pool->nrels++;
 867               hashtbl[h] = id;
 868               ran[id].name = name;
 869               ran[id].evr = evr;
 870               ran[id].flags = flags;
 871             }
 872           idmap[i + numid] = MAKERELDEP(id);   /* fill Id map */
 873         }
 874       sat_free(hashtbl);
 875       pool_shrink_rels(pool);           /* vacuum */
 876     }
 877
 878
 879   /*******  Part 3: Dirs  ***********************************************/
 880   if (numdir)
 881     {
 882       data.dirpool.dirs = sat_malloc2(numdir, sizeof(Id));
 883       data.dirpool.ndirs = numdir;
 884       data.dirpool.dirs[0] = 0;         /* dir 0: virtual root */
 885       data.dirpool.dirs[1] = 1;         /* dir 1: / */
 886       for (i = 2; i < numdir; i++)
 887         {
 888           id = read_id(&data, i + numid);
 889           if (id >= numid)
 890             data.dirpool.dirs[i] = -(id - numid);
 891           else if (idmap)
 892             data.dirpool.dirs[i] = idmap[id];
 893           else
 894             data.dirpool.dirs[i] = id;
 895         }
 896     }
 897
 898   /*******  Part 4: Keys  ***********************************************/
 899
 900   keys = sat_calloc(numkeys, sizeof(*keys));
 901   /* keys start at 1 */
 902   for (i = 1; i < numkeys; i++)
 903     {
 904       id = read_id(&data, numid);
 905       if (idmap)
 906         id = idmap[id];
 907       keys[i].name = id;
 908       keys[i].type = read_id(&data, 0);
 909       keys[i].size = read_id(&data, 0);
 910       if (solvversion >= SOLV_VERSION_5)
 911         {
 912           keys[i].storage = read_id(&data, 0);
 913           continue;
 914         }
 915       keys[i].storage = KEY_STORAGE_DROPPED;
 916       if (parent)
 917         {
 918           keys[i].storage = KEY_STORAGE_INCORE;
 919           continue;
 920         }
 921       switch (keys[i].type)
 922         {
 923         case TYPE_VOID:
 924         case TYPE_CONSTANT:
 925         case TYPE_STR:
 926         case TYPE_NUM:
 927         case TYPE_DIRNUMNUMARRAY:
 928           keys[i].storage = KEY_STORAGE_INCORE;
 929           break;
 930         case TYPE_ID:
 931           switch(id)
 932             {
 933             case SOLVABLE_NAME:
 934             case SOLVABLE_ARCH:
 935             case SOLVABLE_EVR:
 936             case SOLVABLE_VENDOR:
 937               keys[i].storage = KEY_STORAGE_SOLVABLE;
 938               break;
 939             default:
 940               keys[i].storage = KEY_STORAGE_INCORE;
 941               break;
 942             }
 943           break;
 944         case TYPE_IDARRAY:
 945         case TYPE_REL_IDARRAY:
 946           if (id >= INTERESTED_START && id <= INTERESTED_END)
 947             keys[i].storage = KEY_STORAGE_SOLVABLE;
 948           else
 949             keys[i].storage = KEY_STORAGE_INCORE;
 950           break;
 951         case TYPE_U32:
 952           if (id == RPM_RPMDBID)
 953             keys[i].storage = KEY_STORAGE_SOLVABLE;
 954           else
 955             keys[i].storage = KEY_STORAGE_INCORE;
 956           break;
 957         default:
 958           break;
 959         }
 960     }
 961
 962   have_xdata = parent ? 1 : 0;
 963   for (i = 1; i < numkeys; i++)
 964     if (keys[i].storage == KEY_STORAGE_INCORE || keys[i].storage == KEY_STORAGE_VERTICAL_OFFSET)
 965       have_xdata = 1;
 966
 967   data.keys = keys;
 968   data.nkeys = numkeys;
 969
 970   /*******  Part 5: Schemata ********************************************/
 971
 972   id = read_id(&data, 0);
 973   schemadata = sat_calloc(id + 1, sizeof(Id));
 974   schemadatap = schemadata + 1;
 975   schemadataend = schemadatap + id;
 976   schemata = sat_calloc(numschemata, sizeof(Id));
 977   for (i = 1; i < numschemata; i++)
 978     {
 979       schemata[i] = schemadatap - schemadata;
 980       schemadatap = read_idarray(&data, numid, 0, schemadatap, schemadataend, 0);
 981     }
 982   data.schemata = schemata;
 983   data.nschemata = numschemata;
 984   data.schemadata = schemadata;
 985   data.schemadatalen = schemadataend - data.schemadata;
 986
 987
 988   /*******  Part 6: Info  ***********************************************/
 989   for (i = 0; i < numinfo; i++)
 990     {
 991       /* for now we're just interested in data that starts with
 992        * the repodata_external id
 993        */
 994       Id *keyp;
 995       id = read_id(&data, numschemata);
 996       if (solvversion < SOLV_VERSION_5)
 997         id++;
 998       keyp = schemadata + schemata[id];
 999       key = *keyp;
1000       if (keys[key].name == REPODATA_EXTERNAL && keys[key].type == TYPE_VOID)
1001         {
1002           /* external data for some ids */
1003           parse_repodata(&data, keyp, keys, idmap, numid, numrel, repo);
1004         }
1005       else
1006         skip_schema(&data, keyp, keys, numid, numrel);
1007     }
1008
1009
1010   /*******  Part 7: packed sizes (optional)  ****************************/
1011   char *exists = 0;
1012   if ((solvflags & SOLV_FLAG_PACKEDSIZES) != 0)
1013     {
1014       exists = sat_malloc (numsolv);
1015       for (i = 0; i < numsolv; i++)
1016         exists[i] = read_id(&data, 0) != 0;
1017     }
1018
1019
1020   /*******  Part 8: item data *******************************************/
1021
1022   /* calculate idarray size */
1023   size_idarray = 0;
1024   for (i = 1; i < numkeys; i++)
1025     {
1026       id = keys[i].name;
1027       if ((keys[i].type == TYPE_IDARRAY || keys[i].type == TYPE_REL_IDARRAY)
1028           && id >= INTERESTED_START && id <= INTERESTED_END)
1029         size_idarray += keys[i].size;
1030     }
1031
1032   /* allocate needed space in repo */
1033   if (size_idarray)
1034     {
1035       repo_reserve_ids(repo, 0, size_idarray);
1036       idarraydatap = repo->idarraydata + repo->idarraysize;
1037       repo->idarraysize += size_idarray;
1038       idarraydataend = idarraydatap + size_idarray;
1039       repo->lastoff = 0;
1040     }
1041   else
1042     {
1043       idarraydatap = 0;
1044       idarraydataend = 0;
1045     }
1046
1047   /* read solvables */
1048   if (numsolv)
1049     {
1050       s = pool_id2solvable(pool, repo_add_solvable_block(repo, numsolv));
1051       /* store start and end of our id block */
1052       data.start = s - pool->solvables;
1053       data.end = data.start + numsolv;
1054     }
1055   else
1056     s = 0;
1057
1058   if (have_xdata)
1059     data.incoreoffset = sat_calloc(numsolv, sizeof(Id));
1060   for (i = 0; i < numsolv; i++, s++)
1061     {
1062       Id *keyp;
1063       if (data.error)
1064         break;
1065       if (exists && !exists[i])
1066         continue;
1067       id = read_id(&data, numschemata);
1068       if (solvversion < SOLV_VERSION_5)
1069         id++;
1070       if (have_xdata)
1071         {
1072           data.incoreoffset[i] = data.incoredatalen;
1073           incore_add_id(&data, id);
1074         }
1075       keyp = schemadata + schemata[id];
1076       while ((key = *keyp++) != 0)
1077         {
1078           id = keys[key].name;
1079 #if 0
1080 fprintf(stderr, "solv %d name %d type %d class %d\n", i, id, keys[key].type, keys[key].storage);
1081 #endif
1082           if (keys[key].storage == KEY_STORAGE_VERTICAL_OFFSET)
1083             {
1084               /* copy offset/length into incore */
1085               did = read_id(&data, 0);
1086               incore_add_id(&data, did);
1087               did = read_id(&data, 0);
1088               incore_add_id(&data, did);
1089               continue;
1090             }
1091           switch (keys[key].type)
1092             {
1093             case TYPE_VOID:
1094             case TYPE_CONSTANT:
1095               break;
1096             case TYPE_ID:
1097               did = read_id(&data, numid + numrel);
1098               if (idmap)
1099                 did = idmap[did];
1100               if (id == SOLVABLE_NAME)
1101                 s->name = did;
1102               else if (id == SOLVABLE_ARCH)
1103                 s->arch = did;
1104               else if (id == SOLVABLE_EVR)
1105                 s->evr = did;
1106               else if (id == SOLVABLE_VENDOR)
1107                 s->vendor = did;
1108               else if (keys[key].storage == KEY_STORAGE_INCORE)
1109                 incore_add_id(&data, did);
1110 #if 0
1111               POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %s\n", id2str(pool, id), id2str(pool, did));
1112 #endif
1113               break;
1114             case TYPE_NUM:
1115               did = read_id(&data, 0);
1116               if (keys[key].storage == KEY_STORAGE_INCORE)
1117                 incore_add_id(&data, did);
1118 #if 0
1119               POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %d\n", id2str(pool, id), did);
1120 #endif
1121               break;
1122             case TYPE_U32:
1123               h = read_u32(&data);
1124 #if 0
1125               POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %u\n", id2str(pool, id), h);
1126 #endif
1127               if (id == RPM_RPMDBID)
1128                 {
1129                   if (!repo->rpmdbid)
1130                     repo->rpmdbid = sat_calloc(numsolv, sizeof(Id));
1131                   repo->rpmdbid[i] = h;
1132                 }
1133               else if (keys[key].storage == KEY_STORAGE_INCORE)
1134                 incore_add_u32(&data, h);
1135               break;
1136             case TYPE_STR:
1137               if (keys[key].storage == KEY_STORAGE_INCORE)
1138                 {
1139                   while ((h = read_u8(&data)) != 0)
1140                     incore_add_u8(&data, h);
1141                   incore_add_u8(&data, 0);
1142                 }
1143               else
1144                 {
1145                   while (read_u8(&data) != 0)
1146                     ;
1147                 }
1148               break;
1149             case TYPE_IDARRAY:
1150             case TYPE_REL_IDARRAY:
1151               if (id < INTERESTED_START || id > INTERESTED_END)
1152                 {
1153                   if (keys[key].storage == KEY_STORAGE_INCORE)
1154                     {
1155                       if (idmap)
1156                         {
1157                           Id old = 0, rel = keys[key].type == TYPE_REL_IDARRAY ? SOLVABLE_PREREQMARKER : 0;
1158                           do
1159                             {
1160                               did = read_id(&data, 0);
1161                               h = did & 0x40;
1162                               did = (did & 0x3f) | ((did >> 1) & ~0x3f);
1163                               if (rel)
1164                                 {
1165                                   if (did == 0)
1166                                     {
1167                                       did = rel;
1168                                       old = 0;
1169                                     }
1170                                   else
1171                                     {
1172                                       did += old;
1173                                       old = did;
1174                                     }
1175                                 }
1176                               if (did >= numid + numrel)
1177                                 abort();
1178                               did = idmap[did];
1179                               did = ((did & ~0x3f) << 1) | h;
1180                               incore_add_id(&data, did);
1181                             }
1182                           while (h);
1183                         }
1184                       else
1185                         {
1186                           while (((h = read_u8(&data)) & 0xc0) != 0)
1187                             incore_add_u8(&data, h);
1188                           break;
1189                         }
1190                     }
1191                   else
1192                     {
1193                       while ((read_u8(&data) & 0xc0) != 0)
1194                         ;
1195                       break;
1196                     }
1197                   break;
1198                 }
1199               ido = idarraydatap - repo->idarraydata;
1200               idarraydatap = read_idarray(&data, numid + numrel, idmap, idarraydatap, idarraydataend, keys[key].type == TYPE_REL_IDARRAY);
1201               if (id == SOLVABLE_PROVIDES)
1202                 s->provides = ido;
1203               else if (id == SOLVABLE_OBSOLETES)
1204                 s->obsoletes = ido;
1205               else if (id == SOLVABLE_CONFLICTS)
1206                 s->conflicts = ido;
1207               else if (id == SOLVABLE_REQUIRES)
1208                 s->requires = ido;
1209               else if (id == SOLVABLE_RECOMMENDS)
1210                 s->recommends= ido;
1211               else if (id == SOLVABLE_SUPPLEMENTS)
1212                 s->supplements = ido;
1213               else if (id == SOLVABLE_SUGGESTS)
1214                 s->suggests = ido;
1215               else if (id == SOLVABLE_ENHANCES)
1216                 s->enhances = ido;
1217               else if (id == SOLVABLE_FRESHENS)
1218                 s->freshens = ido;
1219 #if 0
1220               POOL_DEBUG(SAT_DEBUG_STATS, "%s ->\n", id2str(pool, id));
1221               for (; repo->idarraydata[ido]; ido++)
1222                 POOL_DEBUG(SAT_DEBUG_STATS,"  %s\n", dep2str(pool, repo->idarraydata[ido]));
1223 #endif
1224               break;
1225 #if 0
1226             case TYPE_VOID:
1227
1228             case TYPE_ATTR_INT:
1229             case TYPE_ATTR_CHUNK:
1230             case TYPE_ATTR_STRING:
1231             case TYPE_ATTR_INTLIST:
1232             case TYPE_ATTR_LOCALIDS:
1233               if (!embedded_store)
1234                 embedded_store = new_store (pool);
1235               add_attr_from_file (embedded_store, i, id, keys[key].type, idmap, numid, &data, keys[key].size);
1236               break;
1237 #endif
1238             case TYPE_DIRNUMNUMARRAY:
1239               for (;;)
1240                 {
1241                   Id num, num2;
1242                   did = read_id(&data, numdir);
1243                   num = read_id(&data, 0);
1244                   num2 = read_id(&data, 0);
1245                   if (keys[key].storage == KEY_STORAGE_INCORE)
1246                     {
1247 #if 0
1248                       POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %d %d %d\n", id2str(pool, id), did, num, num2);
1249 #endif
1250                       incore_add_id(&data, did);
1251                       incore_add_id(&data, num);
1252                       incore_add_id(&data, num2);
1253                     }
1254                   if (!(num2 & 0x40))
1255                     break;
1256                 }
1257               break;
1258
1259             default:
1260               skip_item(&data, keys[key].type, numid, numrel);
1261             }
1262         }
1263     }
1264
1265   if (data.error)
1266     {
1267       /* free solvables */
1268       repo_free_solvable_block(repo, data.start, data.end - data.start, 1);
1269       /* free id array */
1270       repo->idarraysize -= size_idarray;
1271       /* free incore data */
1272       data.incoredata = sat_free(data.incoredata);
1273       data.incoredatalen = data.incoredatafree = 0;
1274     }
1275
1276   if (data.incoredatafree)
1277     {
1278       /* shrink excess size */
1279       data.incoredata = sat_realloc(data.incoredata, data.incoredatalen);
1280       data.incoredatafree = 0;
1281     }
1282
1283   for (i = 1; i < numkeys; i++)
1284     if (keys[i].storage == KEY_STORAGE_VERTICAL_OFFSET)
1285       break;
1286   if (i < numkeys && !data.error)
1287     {
1288       Id fileoffset = 0;
1289       unsigned int pagesize;
1290
1291       /* we have vertical data, make it available */
1292       data.verticaloffset = sat_calloc(numkeys, sizeof(Id));
1293       for (i = 1; i < numkeys; i++)
1294         if (keys[i].storage == KEY_STORAGE_VERTICAL_OFFSET)
1295           {
1296             data.verticaloffset[i] = fileoffset;
1297             fileoffset += keys[i].size;
1298           }
1299       data.lastverticaloffset = fileoffset;
1300       pagesize = read_u32(&data);
1301       repodata_read_or_setup_pages(&data, pagesize, fileoffset);
1302     }
1303   else
1304     {
1305       /* no longer needed */
1306       data.fp = 0;
1307     }
1308
1309   if (parent)
1310     {
1311       /* we're a store */
1312       sat_free(parent->schemata);
1313       sat_free(parent->schemadata);
1314       sat_free(parent->keys);
1315       *parent = data;
1316     }
1317   else if (data.incoredatalen || data.fp)
1318     {
1319       /* we got some data, make it available */
1320       repo->repodata = sat_realloc2(repo->repodata, repo->nrepodata + 1, sizeof(data));
1321       repo->repodata[repo->nrepodata++] = data;
1322     }
1323   else
1324     {
1325       /* discard data */
1326       sat_free(data.dirpool.dirs);
1327       sat_free(data.incoreoffset);
1328       sat_free(schemata);
1329       sat_free(schemadata);
1330       sat_free(keys);
1331     }
1332
1333   sat_free(exists);
1334 #if 0
1335   if (embedded_store)
1336     {
1337       attr_store_pack (embedded_store);
1338       /* If we have any attributes we also have pages.  */
1339       read_or_setup_pages (fp, embedded_store);
1340       /* The NULL name here means embedded attributes.  */
1341       repo_add_attrstore (repo, embedded_store, NULL);
1342     }
1343 #endif
1344   sat_free(idmap);
1345   mypool = 0;
1346   return data.error;
1347 }
1348
1349 int
1350 repo_add_solv(Repo *repo, FILE *fp)
1351 {
1352   return repo_add_solv_parent(repo, fp, 0);
1353 }
1354
1355 static void
1356 repodata_load_solv(Repodata *data)
1357 {
1358   FILE *fp;
1359 #if 0
1360   Pool *pool = data->repo->pool;
1361   if (!pool->loadcallback)
1362     {
1363       data->state = REPODATA_ERROR;
1364       return;
1365     }
1366   fp = pool->loadcallback(pool->loadcallback_data, pool, data);
1367 #else
1368   fp = 0;
1369 #endif
1370
1371   if (!fp)
1372     {
1373       data->state = REPODATA_ERROR;
1374       return;
1375     }
1376   if (repo_add_solv_parent(data->repo, fp, data))
1377     data->state = REPODATA_ERROR;
1378   else
1379     data->state = REPODATA_AVAILABLE;
1380 }