src/repo_solv.c

   1 /*
   2  * Copyright (c) 2007, Novell Inc.
   3  *
   4  * This program is licensed under the BSD license, read LICENSE.BSD
   5  * for further information
   6  */
   7
   8 /*
   9  * repo_solv.c
  10  *
  11  * Read the binary dump of a Repo and create a Repo * from it
  12  *
  13  *  See
  14  *   Repo *pool_addrepo_solv(Pool *pool, FILE *fp)
  15  * below
  16  *
  17  */
  18
  19
  20
  21 #include <stdio.h>
  22 #include <stdlib.h>
  23 #include <unistd.h>
  24 #include <string.h>
  25
  26 #include "repo_solv.h"
  27 #include "util.h"
  28 #if 0
  29 #include "attr_store_p.h"
  30 #endif
  31
  32 #define INTERESTED_START        SOLVABLE_NAME
  33 #define INTERESTED_END          SOLVABLE_FRESHENS
  34
  35 #define SOLV_ERROR_NOT_SOLV     1
  36 #define SOLV_ERROR_UNSUPPORTED  2
  37 #define SOLV_ERROR_EOF          3
  38 #define SOLV_ERROR_ID_RANGE     4
  39 #define SOLV_ERROR_OVERFLOW     5
  40 #define SOLV_ERROR_CORRUPT      6
  41
  42 static Pool *mypool;            /* for pool_debug... */
  43
  44 /*-----------------------------------------------------------------*/
  45 /* .solv read functions */
  46
  47 /*
  48  * read u32
  49  */
  50
  51 static unsigned int
  52 read_u32(Repodata *data)
  53 {
  54   int c, i;
  55   unsigned int x = 0;
  56
  57   if (data->error)
  58     return 0;
  59   for (i = 0; i < 4; i++)
  60     {
  61       c = getc(data->fp);
  62       if (c == EOF)
  63         {
  64           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
  65           data->error = SOLV_ERROR_EOF;
  66           return 0;
  67         }
  68       x = (x << 8) | c;
  69     }
  70   return x;
  71 }
  72
  73
  74 /*
  75  * read u8
  76  */
  77
  78 static unsigned int
  79 read_u8(Repodata *data)
  80 {
  81   int c;
  82
  83   if (data->error)
  84     return 0;
  85   c = getc(data->fp);
  86   if (c == EOF)
  87     {
  88       pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
  89       data->error = SOLV_ERROR_EOF;
  90       return 0;
  91     }
  92   return c;
  93 }
  94
  95
  96 /*
  97  * read Id
  98  */
  99
 100 static Id
 101 read_id(Repodata *data, Id max)
 102 {
 103   unsigned int x = 0;
 104   int c, i;
 105
 106   if (data->error)
 107     return 0;
 108   for (i = 0; i < 5; i++)
 109     {
 110       c = getc(data->fp);
 111       if (c == EOF)
 112         {
 113           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
 114           data->error = SOLV_ERROR_EOF;
 115           return 0;
 116         }
 117       if (!(c & 128))
 118         {
 119           x = (x << 7) | c;
 120           if (max && x >= max)
 121             {
 122               pool_debug(mypool, SAT_ERROR, "read_id: id too large (%u/%u)\n", x, max);
 123               data->error = SOLV_ERROR_ID_RANGE;
 124               return 0;
 125             }
 126           return x;
 127         }
 128       x = (x << 7) ^ c ^ 128;
 129     }
 130   pool_debug(mypool, SAT_ERROR, "read_id: id too long\n");
 131   data->error = SOLV_ERROR_CORRUPT;
 132   return 0;
 133 }
 134
 135
 136 /*
 137  * read array of Ids
 138  */
 139
 140 static Id *
 141 read_idarray(Repodata *data, Id max, Id *map, Id *store, Id *end, int relative)
 142 {
 143   unsigned int x = 0;
 144   int c;
 145   Id old = 0;
 146
 147   if (data->error)
 148     return 0;
 149   for (;;)
 150     {
 151       c = getc(data->fp);
 152       if (c == EOF)
 153         {
 154           pool_debug(mypool, SAT_ERROR, "unexpected EOF\n");
 155           data->error = SOLV_ERROR_EOF;
 156           return 0;
 157         }
 158       if ((c & 128) == 0)
 159         {
 160           x = (x << 6) | (c & 63);
 161           if (relative)
 162             {
 163               if (x == 0 && c == 0x40)
 164                 {
 165                   /* prereq hack */
 166                   if (store == end)
 167                     {
 168                       pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 169                       data->error = SOLV_ERROR_OVERFLOW;
 170                       return 0;
 171                     }
 172                   *store++ = SOLVABLE_PREREQMARKER;
 173                   old = 0;
 174                   x = 0;
 175                   continue;
 176                 }
 177               x = (x - 1) + old;
 178               old = x;
 179             }
 180           if (max && x >= max)
 181             {
 182               pool_debug(mypool, SAT_ERROR, "read_idarray: id too large (%u/%u)\n", x, max);
 183               data->error = SOLV_ERROR_ID_RANGE;
 184               return 0;
 185             }
 186           if (map)
 187             x = map[x];
 188           if (store == end)
 189             {
 190               pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 191               return 0;
 192             }
 193           *store++ = x;
 194           if ((c & 64) == 0)
 195             {
 196               if (x == 0)       /* already have trailing zero? */
 197                 return store;
 198               if (store == end)
 199                 {
 200                   pool_debug(mypool, SAT_ERROR, "read_idarray: array overflow\n");
 201                   data->error = SOLV_ERROR_OVERFLOW;
 202                   return 0;
 203                 }
 204               *store++ = 0;
 205               return store;
 206             }
 207           x = 0;
 208           continue;
 209         }
 210       x = (x << 7) ^ c ^ 128;
 211     }
 212 }
 213
 214 static void
 215 read_str(Repodata *data, char **inbuf, unsigned *len)
 216 {
 217   unsigned char *buf = (unsigned char*)*inbuf;
 218   if (!buf)
 219     {
 220       buf = sat_malloc(1024);
 221       *len = 1024;
 222     }
 223   int c;
 224   unsigned ofs = 0;
 225   while((c = getc(data->fp)) != 0)
 226     {
 227       if (c == EOF)
 228         {
 229           pool_debug (mypool, SAT_ERROR, "unexpected EOF\n");
 230           data->error = SOLV_ERROR_EOF;
 231           return;
 232         }
 233       /* Plus 1 as we also want to add the 0.  */
 234       if (ofs + 1 >= *len)
 235         {
 236           *len += 256;
 237           /* Don't realloc on the inbuf, it might be on the stack.  */
 238           if (buf == (unsigned char*)*inbuf)
 239             {
 240               buf = sat_malloc(*len);
 241               memcpy(buf, *inbuf, *len - 256);
 242             }
 243           else
 244             buf = sat_realloc(buf, *len);
 245         }
 246       buf[ofs++] = c;
 247     }
 248   buf[ofs++] = 0;
 249   *inbuf = (char*)buf;
 250 }
 251
 252 static void
 253 skip_item (Repodata *data, unsigned type, unsigned numid, unsigned numrel)
 254 {
 255   switch (type)
 256     {
 257       case TYPE_VOID:
 258       case TYPE_CONSTANT:
 259         break;
 260       case TYPE_ID:
 261         read_id(data, numid + numrel);          /* just check Id */
 262         break;
 263       case TYPE_DIR:
 264         read_id(data, numid + data->dirpool.ndirs);     /* just check Id */
 265         break;
 266       case TYPE_NUM:
 267         read_id(data, 0);
 268         break;
 269       case TYPE_U32:
 270         read_u32(data);
 271         break;
 272       case TYPE_ATTR_STRING:
 273       case TYPE_STR:
 274         while (read_u8(data) != 0)
 275           ;
 276         break;
 277       case TYPE_IDARRAY:
 278       case TYPE_REL_IDARRAY:
 279       case TYPE_ATTR_INTLIST:
 280         while ((read_u8(data) & 0xc0) != 0)
 281           ;
 282         break;
 283       case TYPE_DIRNUMNUMARRAY:
 284         for (;;)
 285           {
 286             read_id(data, numid + data->dirpool.ndirs); /* just check Id */
 287             read_id(data, 0);
 288             if (!(read_id(data, 0) & 0x40))
 289               break;
 290           }
 291         break;
 292       case TYPE_DIRSTRARRAY:
 293         for (;;)
 294           {
 295             Id id = read_id(data, 0);
 296             while (read_u8(data) != 0)
 297               ;
 298             if (!(id & 0x40))
 299               break;
 300           }
 301         break;
 302       case TYPE_COUNT_NAMED:
 303         {
 304           unsigned count = read_id(data, 0);
 305           while (count--)
 306             {
 307               read_id(data, numid);    /* Name */
 308               unsigned t = read_id(data, TYPE_ATTR_TYPE_MAX + 1);
 309               skip_item(data, t, numid, numrel);
 310             }
 311         }
 312         break;
 313       case TYPE_COUNTED:
 314         {
 315           unsigned count = read_id(data, 0);
 316           unsigned t = read_id(data, TYPE_ATTR_TYPE_MAX + 1);
 317           while (count--)
 318             skip_item(data, t, numid, numrel);
 319         }
 320         break;
 321       case TYPE_ATTR_CHUNK:
 322         read_id(data, 0);
 323         /* Fallthrough.  */
 324       case TYPE_ATTR_INT:
 325         read_id(data, 0);
 326         break;
 327       case TYPE_ATTR_LOCALIDS:
 328         while (read_id(data, 0) != 0)
 329           ;
 330         break;
 331       default:
 332         pool_debug(mypool, SAT_ERROR, "unknown type %d\n", type);
 333         data->error = SOLV_ERROR_CORRUPT;
 334         break;
 335     }
 336 }
 337
 338 static int
 339 key_cmp (const void *pa, const void *pb)
 340 {
 341   Repokey *a = (Repokey *)pa;
 342   Repokey *b = (Repokey *)pb;
 343   return a->name - b->name;
 344 }
 345
 346 static void repodata_load_solv(Repodata *data);
 347
 348 static void
 349 parse_repodata(Repodata *maindata, Id *keyp, Repokey *keys, Id *idmap, unsigned numid, unsigned numrel, Repo *repo)
 350 {
 351   Id key, id;
 352   Id *ida, *ide;
 353   Repodata *data;
 354   int i, n;
 355
 356   repo->repodata = sat_realloc2(repo->repodata, repo->nrepodata + 1, sizeof (*data));
 357   data = repo->repodata + repo->nrepodata++;
 358   memset(data, 0, sizeof(*data));
 359   data->repo = repo;
 360   data->state = REPODATA_STUB;
 361   data->loadcallback = repodata_load_solv;
 362
 363   while ((key = *keyp++) != 0)
 364     {
 365       id = keys[key].name;
 366       switch (keys[key].type)
 367         {
 368         case TYPE_IDVALUEARRAY:
 369           if (id != REPODATA_KEYS)
 370             {
 371               skip_item(maindata, TYPE_IDVALUEARRAY, numid, numrel);
 372               break;
 373             }
 374           /* read_idarray writes a terminating 0, that's why the + 1 */
 375           ida = sat_calloc(keys[key].size + 1, sizeof(Id));
 376           ide = read_idarray(maindata, 0, 0, ida, ida + keys[key].size + 1, 0);
 377           n = ide - ida - 1;
 378           if (n & 1)
 379             {
 380               pool_debug (mypool, SAT_ERROR, "invalid attribute data\n");
 381               data->error = SOLV_ERROR_CORRUPT;
 382               return;
 383             }
 384           data->nkeys = 1 + (n >> 1);
 385           data->keys = sat_malloc2(data->nkeys, sizeof(data->keys[0]));
 386           memset(data->keys, 0, sizeof(Repokey));
 387           for (i = 1, ide = ida; i < data->nkeys; i++)
 388             {
 389               if (*ide >= numid)
 390                 {
 391                   pool_debug (mypool, SAT_ERROR, "invalid attribute data\n");
 392                   data->error = SOLV_ERROR_CORRUPT;
 393                   return;
 394                 }
 395               data->keys[i].name = idmap ? idmap[*ide++] : *ide++;
 396               data->keys[i].type = *ide++;
 397               data->keys[i].size = 0;
 398               data->keys[i].storage = 0;
 399             }
 400           sat_free(ida);
 401           if (data->nkeys > 2)
 402             qsort(data->keys + 1, data->nkeys - 1, sizeof(data->keys[0]), key_cmp);
 403           break;
 404         case TYPE_STR:
 405           if (id != REPODATA_LOCATION)
 406             skip_item(maindata, TYPE_STR, numid, numrel);
 407           else
 408             {
 409               char buf[1024];
 410               unsigned len = sizeof (buf);
 411               char *filename = buf;
 412               read_str(maindata, &filename, &len);
 413               data->location = strdup(filename);
 414               if (filename != buf)
 415                 free(filename);
 416             }
 417           break;
 418         default:
 419           skip_item(maindata, keys[key].type, numid, numrel);
 420           break;
 421         }
 422     }
 423 }
 424
 425 /*-----------------------------------------------------------------*/
 426
 427
 428 static void
 429 skip_schema(Repodata *data, Id *keyp, Repokey *keys, unsigned int numid, unsigned int numrel)
 430 {
 431   Id key;
 432   while ((key = *keyp++) != 0)
 433     skip_item(data, keys[key].type, numid, numrel);
 434 }
 435
 436 /*-----------------------------------------------------------------*/
 437
 438 static void
 439 incore_add_id(Repodata *data, Id x)
 440 {
 441   unsigned char *dp;
 442   /* make sure we have at least 5 bytes free */
 443   if (data->incoredatafree < 5)
 444     {
 445       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 446       data->incoredatafree = 1024;
 447     }
 448   dp = data->incoredata + data->incoredatalen;
 449   if (x < 0)
 450     abort();
 451   if (x >= (1 << 14))
 452     {
 453       if (x >= (1 << 28))
 454         *dp++ = (x >> 28) | 128;
 455       if (x >= (1 << 21))
 456         *dp++ = (x >> 21) | 128;
 457       *dp++ = (x >> 14) | 128;
 458     }
 459   if (x >= (1 << 7))
 460     *dp++ = (x >> 7) | 128;
 461   *dp++ = x & 127;
 462   data->incoredatafree -= dp - (data->incoredata + data->incoredatalen);
 463   data->incoredatalen = dp - data->incoredata;
 464 }
 465
 466 static void
 467 incore_add_u32(Repodata *data, unsigned int x)
 468 {
 469   unsigned char *dp;
 470   /* make sure we have at least 4 bytes free */
 471   if (data->incoredatafree < 4)
 472     {
 473       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 474       data->incoredatafree = 1024;
 475     }
 476   dp = data->incoredata + data->incoredatalen;
 477   *dp++ = x >> 24;
 478   *dp++ = x >> 16;
 479   *dp++ = x >> 8;
 480   *dp++ = x;
 481   data->incoredatafree -= 4;
 482   data->incoredatalen += 4;
 483 }
 484
 485 static void
 486 incore_add_u8(Repodata *data, unsigned int x)
 487 {
 488   unsigned char *dp;
 489   /* make sure we have at least 1 byte free */
 490   if (data->incoredatafree < 1)
 491     {
 492       data->incoredata = sat_realloc(data->incoredata, data->incoredatalen + 1024);
 493       data->incoredatafree = 1024;
 494     }
 495   dp = data->incoredata + data->incoredatalen;
 496   *dp++ = x;
 497   data->incoredatafree--;
 498   data->incoredatalen++;
 499 }
 500
 501
 502
 503 // ----------------------------------------------
 504
 505
 506 /*
 507  * read repo from .solv file
 508  *  and add it to pool
 509  */
 510
 511 static int
 512 repo_add_solv_parent(Repo *repo, FILE *fp, Repodata *parent)
 513 {
 514   Pool *pool = repo->pool;
 515   int i, l;
 516   unsigned int numid, numrel, numdir, numsolv;
 517   unsigned int numkeys, numschemata, numinfo;
 518 #if 0
 519   Attrstore *embedded_store = 0;
 520 #endif
 521
 522   Offset sizeid;
 523   Offset *str;                         /* map Id -> Offset into string space */
 524   char *strsp;                         /* repo string space */
 525   char *sp;                            /* pointer into string space */
 526   Id *idmap;                           /* map of repo Ids to pool Ids */
 527   Id id;
 528   unsigned int hashmask, h;
 529   int hh;
 530   Id *hashtbl;
 531   Id name, evr, did;
 532   int flags;
 533   Reldep *ran;
 534   unsigned int size_idarray;
 535   Id *idarraydatap, *idarraydataend;
 536   Offset ido;
 537   Solvable *s;
 538   unsigned int solvflags;
 539   unsigned int solvversion;
 540   Repokey *keys;
 541   Id *schemadata, *schemadatap, *schemadataend;
 542   Id *schemata, key;
 543   int have_xdata;
 544   unsigned oldnrepodata;
 545
 546   struct _Stringpool *spool;
 547
 548   Repodata data;
 549
 550   memset(&data, 0, sizeof(data));
 551   data.repo = repo;
 552   data.fp = fp;
 553
 554   mypool = pool;
 555
 556   if (read_u32(&data) != ('S' << 24 | 'O' << 16 | 'L' << 8 | 'V'))
 557     {
 558       pool_debug(pool, SAT_ERROR, "not a SOLV file\n");
 559       return SOLV_ERROR_NOT_SOLV;
 560     }
 561   solvversion = read_u32(&data);
 562   switch (solvversion)
 563     {
 564       case SOLV_VERSION_1:
 565       case SOLV_VERSION_2:
 566       case SOLV_VERSION_3:
 567       case SOLV_VERSION_4:
 568       case SOLV_VERSION_5:
 569       case SOLV_VERSION_6:
 570         break;
 571       default:
 572         pool_debug(pool, SAT_ERROR, "unsupported SOLV version\n");
 573         return SOLV_ERROR_UNSUPPORTED;
 574     }
 575
 576   pool_freeidhashes(pool);
 577
 578   numid = read_u32(&data);
 579   numrel = read_u32(&data);
 580   if (solvversion >= SOLV_VERSION_4)
 581     numdir = read_u32(&data);
 582   else
 583     numdir = 0;
 584   numsolv = read_u32(&data);
 585   numkeys = read_u32(&data);
 586   numschemata = read_u32(&data);
 587   numinfo = read_u32(&data);
 588   solvflags = read_u32(&data);
 589
 590   if (solvversion < SOLV_VERSION_5)
 591     numschemata++;
 592
 593   if (numdir && numdir < 2)
 594     {
 595       pool_debug(pool, SAT_ERROR, "bad number of dirs\n");
 596       return SOLV_ERROR_CORRUPT;
 597     }
 598   if (numinfo && solvversion < SOLV_VERSION_3)
 599     {
 600       pool_debug(pool, SAT_ERROR, "unsupported SOLV format (has info)\n");
 601       return SOLV_ERROR_UNSUPPORTED;
 602     }
 603
 604   if (parent)
 605     {
 606       if (numrel)
 607         {
 608           pool_debug(pool, SAT_ERROR, "relations are forbidden in a store\n");
 609           return SOLV_ERROR_CORRUPT;
 610         }
 611       if (parent->end - parent->start != numsolv)
 612         {
 613           pool_debug(pool, SAT_ERROR, "unequal number of solvables in a store\n");
 614           return SOLV_ERROR_CORRUPT;
 615         }
 616       if (numinfo)
 617         {
 618           pool_debug(pool, SAT_ERROR, "info blocks are forbidden in a store\n");
 619           return SOLV_ERROR_CORRUPT;
 620         }
 621     }
 622
 623   /*******  Part 1: string IDs  *****************************************/
 624
 625   sizeid = read_u32(&data);            /* size of string+Id space */
 626
 627   /*
 628    * read strings and Ids
 629    *
 630    */
 631
 632
 633   /*
 634    * alloc buffers
 635    */
 636
 637   if (!parent)
 638     spool = &pool->ss;
 639   else
 640     {
 641       data.localpool = 1;
 642       spool = &data.spool;
 643       spool->stringspace = sat_malloc(7);
 644       strcpy(spool->stringspace, "<NULL>");
 645       spool->sstrings = 7;
 646       spool->nstrings = 0;
 647     }
 648
 649   /* alloc string buffer */
 650   spool->stringspace = sat_realloc(spool->stringspace, spool->sstrings + sizeid + 1);
 651   /* alloc string offsets (Id -> Offset into string space) */
 652   spool->strings = sat_realloc2(spool->strings, spool->nstrings + numid, sizeof(Offset));
 653
 654   strsp = spool->stringspace;
 655   str = spool->strings;                /* array of offsets into strsp, indexed by Id */
 656
 657   /* point to _BEHIND_ already allocated string/Id space */
 658   strsp += spool->sstrings;
 659
 660
 661   /*
 662    * read new repo at end of pool
 663    */
 664
 665   if ((solvflags & SOLV_FLAG_PREFIX_POOL) == 0)
 666     {
 667       if (sizeid && fread(strsp, sizeid, 1, fp) != 1)
 668         {
 669           pool_debug(pool, SAT_ERROR, "read error while reading strings\n");
 670           return SOLV_ERROR_EOF;
 671         }
 672     }
 673   else
 674     {
 675       unsigned int pfsize = read_u32(&data);
 676       char *prefix = sat_malloc(pfsize);
 677       char *pp = prefix;
 678       char *old_str = 0;
 679       char *dest = strsp;
 680       if (pfsize && fread(prefix, pfsize, 1, fp) != 1)
 681         {
 682           pool_debug(pool, SAT_ERROR, "read error while reading strings\n");
 683           sat_free(prefix);
 684           return SOLV_ERROR_EOF;
 685         }
 686       for (i = 1; i < numid; i++)
 687         {
 688           int same = (unsigned char)*pp++;
 689           size_t len = strlen (pp) + 1;
 690           if (same)
 691             memcpy(dest, old_str, same);
 692           memcpy(dest + same, pp, len);
 693           pp += len;
 694           old_str = dest;
 695           dest += same + len;
 696         }
 697       sat_free(prefix);
 698     }
 699   strsp[sizeid] = 0;                   /* make string space \0 terminated */
 700   sp = strsp;
 701
 702   /* make sure first entry is "" for a store */
 703   if (parent)
 704     {
 705       /* no shared pool, thus no idmap and no unification */
 706       idmap = 0;
 707       if (0 && *sp)
 708         {
 709           pool_debug(pool, SAT_ERROR, "store strings don't start with ''\n");
 710           return SOLV_ERROR_CORRUPT;
 711         }
 712       spool->nstrings = numid;
 713       str[0] = 0;
 714       for (i = 1; i < spool->nstrings; i++)
 715         {
 716           if (sp >= strsp + sizeid)
 717             {
 718               pool_debug(pool, SAT_ERROR, "not enough strings\n");
 719               return SOLV_ERROR_OVERFLOW;
 720             }
 721           str[i] = sp - spool->stringspace;
 722           sp += strlen(sp) + 1;
 723         }
 724       spool->sstrings = sp - spool->stringspace;
 725     }
 726   else
 727     {
 728
 729       /* alloc id map for name and rel Ids. this maps ids in the solv files
 730        * to the ids in our pool */
 731       idmap = sat_calloc(numid + numrel, sizeof(Id));
 732
 733       /*
 734        * build hashes for all read strings
 735        *
 736        */
 737
 738       hashmask = mkmask(spool->nstrings + numid);
 739
 740 #if 0
 741       POOL_DEBUG(SAT_DEBUG_STATS, "read %d strings\n", numid);
 742       POOL_DEBUG(SAT_DEBUG_STATS, "string hash buckets: %d\n", hashmask + 1);
 743 #endif
 744
 745       /*
 746        * create hashtable with strings already in pool
 747        */
 748
 749       hashtbl = sat_calloc(hashmask + 1, sizeof(Id));
 750       for (i = 1; i < spool->nstrings; i++)  /* leave out our dummy zero id */
 751         {
 752           h = strhash(spool->stringspace + spool->strings[i]) & hashmask;
 753           hh = HASHCHAIN_START;
 754           while (hashtbl[h])
 755             h = HASHCHAIN_NEXT(h, hh, hashmask);
 756           hashtbl[h] = i;
 757         }
 758
 759       /*
 760        * run over string space, calculate offsets
 761        *
 762        * build id map (maps solv Id -> pool Id)
 763        */
 764
 765       for (i = 1; i < numid; i++)
 766         {
 767           if (sp >= strsp + sizeid)
 768             {
 769               sat_free(hashtbl);
 770               sat_free(idmap);
 771               pool_debug(pool, SAT_ERROR, "not enough strings\n");
 772               return SOLV_ERROR_OVERFLOW;
 773             }
 774           if (!*sp)                            /* empty string */
 775             {
 776               idmap[i] = ID_EMPTY;
 777               sp++;
 778               continue;
 779             }
 780
 781           /* find hash slot */
 782           h = strhash(sp) & hashmask;
 783           hh = HASHCHAIN_START;
 784           for (;;)
 785             {
 786               id = hashtbl[h];
 787               if (id == 0)
 788                 break;
 789               if (!strcmp(spool->stringspace + spool->strings[id], sp))
 790                 break;                 /* existing string */
 791               h = HASHCHAIN_NEXT(h, hh, hashmask);
 792             }
 793
 794           /* length == offset to next string */
 795           l = strlen(sp) + 1;
 796           if (id == ID_NULL)           /* end of hash chain -> new string */
 797             {
 798               id = spool->nstrings++;
 799               hashtbl[h] = id;
 800               str[id] = spool->sstrings;    /* save Offset */
 801               if (sp != spool->stringspace + spool->sstrings)   /* not at end-of-buffer */
 802                 memmove(spool->stringspace + spool->sstrings, sp, l);   /* append to pool buffer */
 803               spool->sstrings += l;
 804             }
 805           idmap[i] = id;                       /* repo relative -> pool relative */
 806           sp += l;                             /* next string */
 807         }
 808       sat_free(hashtbl);
 809     }
 810   pool_shrink_strings(pool);           /* vacuum */
 811
 812
 813   /*******  Part 2: Relation IDs  ***************************************/
 814
 815   /*
 816    * read RelDeps
 817    *
 818    */
 819
 820   if (numrel)
 821     {
 822       /* extend rels */
 823       pool->rels = sat_realloc2(pool->rels, pool->nrels + numrel, sizeof(Reldep));
 824       ran = pool->rels;
 825
 826       hashmask = mkmask(pool->nrels + numrel);
 827 #if 0
 828       POOL_DEBUG(SAT_DEBUG_STATS, "read %d rels\n", numrel);
 829       POOL_DEBUG(SAT_DEBUG_STATS, "rel hash buckets: %d\n", hashmask + 1);
 830 #endif
 831       /*
 832        * prep hash table with already existing RelDeps
 833        */
 834
 835       hashtbl = sat_calloc(hashmask + 1, sizeof(Id));
 836       for (i = 1; i < pool->nrels; i++)
 837         {
 838           h = relhash(ran[i].name, ran[i].evr, ran[i].flags) & hashmask;
 839           hh = HASHCHAIN_START;
 840           while (hashtbl[h])
 841             h = HASHCHAIN_NEXT(h, hh, hashmask);
 842           hashtbl[h] = i;
 843         }
 844
 845       /*
 846        * read RelDeps from repo
 847        */
 848
 849       for (i = 0; i < numrel; i++)
 850         {
 851           name = read_id(&data, i + numid);     /* read (repo relative) Ids */
 852           evr = read_id(&data, i + numid);
 853           flags = read_u8(&data);
 854           name = idmap[name];           /* map to (pool relative) Ids */
 855           evr = idmap[evr];
 856           h = relhash(name, evr, flags) & hashmask;
 857           hh = HASHCHAIN_START;
 858           for (;;)
 859             {
 860               id = hashtbl[h];
 861               if (id == ID_NULL)        /* end of hash chain */
 862                 break;
 863               if (ran[id].name == name && ran[id].evr == evr && ran[id].flags == flags)
 864                 break;
 865               h = HASHCHAIN_NEXT(h, hh, hashmask);
 866             }
 867           if (id == ID_NULL)            /* new RelDep */
 868             {
 869               id = pool->nrels++;
 870               hashtbl[h] = id;
 871               ran[id].name = name;
 872               ran[id].evr = evr;
 873               ran[id].flags = flags;
 874             }
 875           idmap[i + numid] = MAKERELDEP(id);   /* fill Id map */
 876         }
 877       sat_free(hashtbl);
 878       pool_shrink_rels(pool);           /* vacuum */
 879     }
 880
 881
 882   /*******  Part 3: Dirs  ***********************************************/
 883   if (numdir)
 884     {
 885       data.dirpool.dirs = sat_malloc2(numdir, sizeof(Id));
 886       data.dirpool.ndirs = numdir;
 887       data.dirpool.dirs[0] = 0;         /* dir 0: virtual root */
 888       data.dirpool.dirs[1] = 1;         /* dir 1: / */
 889       for (i = 2; i < numdir; i++)
 890         {
 891           id = read_id(&data, i + numid);
 892           if (id >= numid)
 893             data.dirpool.dirs[i] = -(id - numid);
 894           else if (idmap)
 895             data.dirpool.dirs[i] = idmap[id];
 896           else
 897             data.dirpool.dirs[i] = id;
 898         }
 899     }
 900
 901   /*******  Part 4: Keys  ***********************************************/
 902
 903   keys = sat_calloc(numkeys, sizeof(*keys));
 904   /* keys start at 1 */
 905   for (i = 1; i < numkeys; i++)
 906     {
 907       id = read_id(&data, numid);
 908       if (idmap)
 909         id = idmap[id];
 910       else if (parent)
 911         id = str2id(pool, stringpool_id2str(spool, id), 1);
 912       keys[i].name = id;
 913       keys[i].type = read_id(&data, 0);
 914       keys[i].size = read_id(&data, 0);
 915 #if 0
 916       fprintf (stderr, "key %d %s %d %d\n", i, id2str(pool,id), keys[i].type,
 917                keys[i].size);
 918 #endif
 919       if (solvversion >= SOLV_VERSION_5)
 920         {
 921           keys[i].storage = read_id(&data, 0);
 922           continue;
 923         }
 924       keys[i].storage = KEY_STORAGE_DROPPED;
 925       if (parent)
 926         {
 927           keys[i].storage = KEY_STORAGE_INCORE;
 928           continue;
 929         }
 930       switch (keys[i].type)
 931         {
 932         case TYPE_VOID:
 933         case TYPE_CONSTANT:
 934         case TYPE_STR:
 935         case TYPE_NUM:
 936         case TYPE_DIRNUMNUMARRAY:
 937           keys[i].storage = KEY_STORAGE_INCORE;
 938           break;
 939         case TYPE_ID:
 940           switch(id)
 941             {
 942             case SOLVABLE_NAME:
 943             case SOLVABLE_ARCH:
 944             case SOLVABLE_EVR:
 945             case SOLVABLE_VENDOR:
 946               keys[i].storage = KEY_STORAGE_SOLVABLE;
 947               break;
 948             default:
 949               keys[i].storage = KEY_STORAGE_INCORE;
 950               break;
 951             }
 952           break;
 953         case TYPE_IDARRAY:
 954         case TYPE_REL_IDARRAY:
 955           if (id >= INTERESTED_START && id <= INTERESTED_END)
 956             keys[i].storage = KEY_STORAGE_SOLVABLE;
 957           else
 958             keys[i].storage = KEY_STORAGE_INCORE;
 959           break;
 960         case TYPE_U32:
 961           if (id == RPM_RPMDBID)
 962             keys[i].storage = KEY_STORAGE_SOLVABLE;
 963           else
 964             keys[i].storage = KEY_STORAGE_INCORE;
 965           break;
 966         default:
 967           break;
 968         }
 969     }
 970
 971   have_xdata = parent ? 1 : 0;
 972   for (i = 1; i < numkeys; i++)
 973     if (keys[i].storage == KEY_STORAGE_INCORE || keys[i].storage == KEY_STORAGE_VERTICAL_OFFSET)
 974       have_xdata = 1;
 975
 976   data.keys = keys;
 977   data.nkeys = numkeys;
 978
 979   /*******  Part 5: Schemata ********************************************/
 980
 981   id = read_id(&data, 0);
 982   schemadata = sat_calloc(id + 1, sizeof(Id));
 983   schemadatap = schemadata + 1;
 984   schemadataend = schemadatap + id;
 985   schemata = sat_calloc(numschemata, sizeof(Id));
 986   for (i = 1; i < numschemata; i++)
 987     {
 988       schemata[i] = schemadatap - schemadata;
 989       schemadatap = read_idarray(&data, numid, 0, schemadatap, schemadataend, 0);
 990 #if 0
 991       Id *sp = schemadata + schemata[i];
 992       fprintf (stderr, "schema %d:", i);
 993       for (; *sp; sp++)
 994         fprintf (stderr, " %d", *sp);
 995       fprintf (stderr, "\n");
 996 #endif
 997     }
 998   data.schemata = schemata;
 999   data.nschemata = numschemata;
1000   data.schemadata = schemadata;
1001   data.schemadatalen = schemadataend - data.schemadata;
1002
1003
1004   /*******  Part 6: Info  ***********************************************/
1005   oldnrepodata = repo->nrepodata;
1006   for (i = 0; i < numinfo; i++)
1007     {
1008       /* for now we're just interested in data that starts with
1009        * the repodata_external id
1010        */
1011       Id *keyp;
1012       id = read_id(&data, numschemata);
1013       if (solvversion < SOLV_VERSION_5)
1014         id++;
1015       keyp = schemadata + schemata[id];
1016       key = *keyp;
1017       if (keys[key].name == REPODATA_EXTERNAL && keys[key].type == TYPE_VOID)
1018         {
1019           /* external data for some ids */
1020           parse_repodata(&data, keyp, keys, idmap, numid, numrel, repo);
1021         }
1022       else
1023         skip_schema(&data, keyp, keys, numid, numrel);
1024     }
1025
1026
1027   /*******  Part 7: packed sizes (optional)  ****************************/
1028   char *exists = 0;
1029   if ((solvflags & SOLV_FLAG_PACKEDSIZES) != 0)
1030     {
1031       exists = sat_malloc (numsolv);
1032       for (i = 0; i < numsolv; i++)
1033         exists[i] = read_id(&data, 0) != 0;
1034     }
1035
1036
1037   /*******  Part 8: item data *******************************************/
1038
1039   /* calculate idarray size */
1040   size_idarray = 0;
1041   for (i = 1; i < numkeys; i++)
1042     {
1043       id = keys[i].name;
1044       if ((keys[i].type == TYPE_IDARRAY || keys[i].type == TYPE_REL_IDARRAY)
1045           && id >= INTERESTED_START && id <= INTERESTED_END)
1046         size_idarray += keys[i].size;
1047     }
1048
1049   /* allocate needed space in repo */
1050   if (size_idarray)
1051     {
1052       repo_reserve_ids(repo, 0, size_idarray);
1053       idarraydatap = repo->idarraydata + repo->idarraysize;
1054       repo->idarraysize += size_idarray;
1055       idarraydataend = idarraydatap + size_idarray;
1056       repo->lastoff = 0;
1057     }
1058   else
1059     {
1060       idarraydatap = 0;
1061       idarraydataend = 0;
1062     }
1063
1064   /* read solvables */
1065   if (parent)
1066     {
1067       data.start = parent->start;
1068       data.end = parent->end;
1069       s = pool_id2solvable(pool, data.start);
1070     }
1071   else if (numsolv)
1072     {
1073       s = pool_id2solvable(pool, repo_add_solvable_block(repo, numsolv));
1074       /* store start and end of our id block */
1075       data.start = s - pool->solvables;
1076       data.end = data.start + numsolv;
1077       /* In case we have subfiles, make them refer to our part of the
1078          repository now.  */
1079       for (i = oldnrepodata; i < repo->nrepodata; i++)
1080         {
1081           repo->repodata[i].start = data.start;
1082           repo->repodata[i].end = data.end;
1083         }
1084     }
1085   else
1086     s = 0;
1087
1088   if (have_xdata)
1089     data.incoreoffset = sat_calloc(numsolv, sizeof(Id));
1090   for (i = 0; i < numsolv; i++, s++)
1091     {
1092       Id *keyp;
1093       if (data.error)
1094         break;
1095       if (exists && !exists[i])
1096         continue;
1097       id = read_id(&data, numschemata);
1098       if (solvversion < SOLV_VERSION_5)
1099         id++;
1100       if (have_xdata)
1101         {
1102           data.incoreoffset[i] = data.incoredatalen;
1103           incore_add_id(&data, id);
1104         }
1105       keyp = schemadata + schemata[id];
1106       while ((key = *keyp++) != 0)
1107         {
1108           id = keys[key].name;
1109 #if 0
1110 fprintf(stderr, "solv %d name %d type %d class %d\n", i, id, keys[key].type, keys[key].storage);
1111 #endif
1112           if (keys[key].storage == KEY_STORAGE_VERTICAL_OFFSET)
1113             {
1114               /* copy offset/length into incore */
1115               did = read_id(&data, 0);
1116               incore_add_id(&data, did);
1117               did = read_id(&data, 0);
1118               incore_add_id(&data, did);
1119               continue;
1120             }
1121           switch (keys[key].type)
1122             {
1123             case TYPE_VOID:
1124             case TYPE_CONSTANT:
1125               break;
1126             case TYPE_ID:
1127               did = read_id(&data, numid + numrel);
1128               if (idmap)
1129                 did = idmap[did];
1130               if (id == SOLVABLE_NAME) {
1131                 s->name = did;
1132                 if (s->name) {
1133                   /* Yeah, thats ugly. Better store kind as u8 in .solv files */
1134                   const char *name = id2str(pool, s->name);
1135                   const char *colon = strchr(name, ':');
1136                   if (colon)
1137                     s->kind = colon - name + 1;
1138                 }
1139               }
1140               else if (id == SOLVABLE_ARCH)
1141                 s->arch = did;
1142               else if (id == SOLVABLE_EVR)
1143                 s->evr = did;
1144               else if (id == SOLVABLE_VENDOR)
1145                 s->vendor = did;
1146               else if (keys[key].storage == KEY_STORAGE_INCORE)
1147                 incore_add_id(&data, did);
1148 #if 0
1149               POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %s\n", id2str(pool, id), id2str(pool, did));
1150 #endif
1151               break;
1152             case TYPE_NUM:
1153               did = read_id(&data, 0);
1154               if (keys[key].storage == KEY_STORAGE_INCORE)
1155                 incore_add_id(&data, did);
1156 #if 0
1157               POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %d\n", id2str(pool, id), did);
1158 #endif
1159               break;
1160             case TYPE_U32:
1161               h = read_u32(&data);
1162 #if 0
1163               POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %u\n", id2str(pool, id), h);
1164 #endif
1165               if (id == RPM_RPMDBID)
1166                 {
1167                   if (!repo->rpmdbid)
1168                     repo->rpmdbid = sat_calloc(numsolv, sizeof(Id));
1169                   repo->rpmdbid[i] = h;
1170                 }
1171               else if (keys[key].storage == KEY_STORAGE_INCORE)
1172                 incore_add_u32(&data, h);
1173               break;
1174             case TYPE_STR:
1175               if (keys[key].storage == KEY_STORAGE_INCORE)
1176                 {
1177                   while ((h = read_u8(&data)) != 0)
1178                     incore_add_u8(&data, h);
1179                   incore_add_u8(&data, 0);
1180                 }
1181               else
1182                 {
1183                   while (read_u8(&data) != 0)
1184                     ;
1185                 }
1186               break;
1187             case TYPE_IDARRAY:
1188             case TYPE_REL_IDARRAY:
1189               if (id < INTERESTED_START || id > INTERESTED_END)
1190                 {
1191                   if (keys[key].storage == KEY_STORAGE_INCORE)
1192                     {
1193                       if (idmap)
1194                         {
1195                           Id old = 0, rel = keys[key].type == TYPE_REL_IDARRAY ? SOLVABLE_PREREQMARKER : 0;
1196                           do
1197                             {
1198                               did = read_id(&data, 0);
1199                               h = did & 0x40;
1200                               did = (did & 0x3f) | ((did >> 1) & ~0x3f);
1201                               if (rel)
1202                                 {
1203                                   if (did == 0)
1204                                     {
1205                                       did = rel;
1206                                       old = 0;
1207                                     }
1208                                   else
1209                                     {
1210                                       did += old;
1211                                       old = did;
1212                                     }
1213                                 }
1214                               if (did >= numid + numrel)
1215                                 abort();
1216                               did = idmap[did];
1217                               did = ((did & ~0x3f) << 1) | h;
1218                               incore_add_id(&data, did);
1219                             }
1220                           while (h);
1221                         }
1222                       else
1223                         {
1224                           while (((h = read_u8(&data)) & 0xc0) != 0)
1225                             incore_add_u8(&data, h);
1226                           break;
1227                         }
1228                     }
1229                   else
1230                     {
1231                       while ((read_u8(&data) & 0xc0) != 0)
1232                         ;
1233                       break;
1234                     }
1235                   break;
1236                 }
1237               ido = idarraydatap - repo->idarraydata;
1238               idarraydatap = read_idarray(&data, numid + numrel, idmap, idarraydatap, idarraydataend, keys[key].type == TYPE_REL_IDARRAY);
1239               if (id == SOLVABLE_PROVIDES)
1240                 s->provides = ido;
1241               else if (id == SOLVABLE_OBSOLETES)
1242                 s->obsoletes = ido;
1243               else if (id == SOLVABLE_CONFLICTS)
1244                 s->conflicts = ido;
1245               else if (id == SOLVABLE_REQUIRES)
1246                 s->requires = ido;
1247               else if (id == SOLVABLE_RECOMMENDS)
1248                 s->recommends= ido;
1249               else if (id == SOLVABLE_SUPPLEMENTS)
1250                 s->supplements = ido;
1251               else if (id == SOLVABLE_SUGGESTS)
1252                 s->suggests = ido;
1253               else if (id == SOLVABLE_ENHANCES)
1254                 s->enhances = ido;
1255               else if (id == SOLVABLE_FRESHENS)
1256                 s->freshens = ido;
1257 #if 0
1258               POOL_DEBUG(SAT_DEBUG_STATS, "%s ->\n", id2str(pool, id));
1259               for (; repo->idarraydata[ido]; ido++)
1260                 POOL_DEBUG(SAT_DEBUG_STATS,"  %s\n", dep2str(pool, repo->idarraydata[ido]));
1261 #endif
1262               break;
1263 #if 0
1264             case TYPE_VOID:
1265
1266             case TYPE_ATTR_INT:
1267             case TYPE_ATTR_CHUNK:
1268             case TYPE_ATTR_STRING:
1269             case TYPE_ATTR_INTLIST:
1270             case TYPE_ATTR_LOCALIDS:
1271               if (!embedded_store)
1272                 embedded_store = new_store (pool);
1273               add_attr_from_file (embedded_store, i, id, keys[key].type, idmap, numid, &data, keys[key].size);
1274               break;
1275 #endif
1276             case TYPE_DIRNUMNUMARRAY:
1277               for (;;)
1278                 {
1279                   Id num, num2;
1280                   did = read_id(&data, numdir);
1281                   num = read_id(&data, 0);
1282                   num2 = read_id(&data, 0);
1283                   if (keys[key].storage == KEY_STORAGE_INCORE)
1284                     {
1285 #if 0
1286                       POOL_DEBUG(SAT_DEBUG_STATS, "%s -> %d %d %d\n", id2str(pool, id), did, num, num2);
1287 #endif
1288                       incore_add_id(&data, did);
1289                       incore_add_id(&data, num);
1290                       incore_add_id(&data, num2);
1291                     }
1292                   if (!(num2 & 0x40))
1293                     break;
1294                 }
1295               break;
1296
1297             default:
1298               skip_item(&data, keys[key].type, numid, numrel);
1299             }
1300         }
1301     }
1302
1303   if (data.error)
1304     {
1305       /* free solvables */
1306       repo_free_solvable_block(repo, data.start, data.end - data.start, 1);
1307       /* free id array */
1308       repo->idarraysize -= size_idarray;
1309       /* free incore data */
1310       data.incoredata = sat_free(data.incoredata);
1311       data.incoredatalen = data.incoredatafree = 0;
1312     }
1313
1314   if (data.incoredatafree)
1315     {
1316       /* shrink excess size */
1317       data.incoredata = sat_realloc(data.incoredata, data.incoredatalen);
1318       data.incoredatafree = 0;
1319     }
1320
1321   for (i = 1; i < numkeys; i++)
1322     if (keys[i].storage == KEY_STORAGE_VERTICAL_OFFSET)
1323       break;
1324   if (i < numkeys && !data.error)
1325     {
1326       Id fileoffset = 0;
1327       unsigned int pagesize;
1328
1329       /* we have vertical data, make it available */
1330       data.verticaloffset = sat_calloc(numkeys, sizeof(Id));
1331       for (i = 1; i < numkeys; i++)
1332         if (keys[i].storage == KEY_STORAGE_VERTICAL_OFFSET)
1333           {
1334             data.verticaloffset[i] = fileoffset;
1335             fileoffset += keys[i].size;
1336           }
1337       data.lastverticaloffset = fileoffset;
1338       pagesize = read_u32(&data);
1339       repodata_read_or_setup_pages(&data, pagesize, fileoffset);
1340     }
1341   else
1342     {
1343       /* no longer needed */
1344       data.fp = 0;
1345     }
1346
1347   if (parent)
1348     {
1349       /* we're a store */
1350       sat_free(parent->schemata);
1351       sat_free(parent->schemadata);
1352       sat_free(parent->keys);
1353       *parent = data;
1354     }
1355   else if (data.incoredatalen || data.fp)
1356     {
1357       /* we got some data, make it available */
1358       repo->repodata = sat_realloc2(repo->repodata, repo->nrepodata + 1, sizeof(data));
1359       repo->repodata[repo->nrepodata++] = data;
1360     }
1361   else
1362     {
1363       /* discard data */
1364       sat_free(data.dirpool.dirs);
1365       sat_free(data.incoreoffset);
1366       sat_free(schemata);
1367       sat_free(schemadata);
1368       sat_free(keys);
1369     }
1370
1371   sat_free(exists);
1372 #if 0
1373   if (embedded_store)
1374     {
1375       attr_store_pack (embedded_store);
1376       /* If we have any attributes we also have pages.  */
1377       read_or_setup_pages (fp, embedded_store);
1378       /* The NULL name here means embedded attributes.  */
1379       repo_add_attrstore (repo, embedded_store, NULL);
1380     }
1381 #endif
1382   sat_free(idmap);
1383   mypool = 0;
1384   return data.error;
1385 }
1386
1387 int
1388 repo_add_solv(Repo *repo, FILE *fp)
1389 {
1390   return repo_add_solv_parent(repo, fp, 0);
1391 }
1392
1393 static void
1394 repodata_load_solv(Repodata *data)
1395 {
1396   FILE *fp;
1397 #if 1
1398   Pool *pool = data->repo->pool;
1399   if (!pool->loadcallback)
1400     {
1401       data->state = REPODATA_ERROR;
1402       return;
1403     }
1404   fp = pool->loadcallback(pool, data, pool->loadcallbackdata);
1405 #else
1406   fp = 0;
1407 #endif
1408
1409   if (!fp)
1410     {
1411       data->state = REPODATA_ERROR;
1412       return;
1413     }
1414   if (repo_add_solv_parent(data->repo, fp, data))
1415     data->state = REPODATA_ERROR;
1416   else
1417     data->state = REPODATA_AVAILABLE;
1418 }