tools/repo_rpmmd.c

   1 /*
   2  * Copyright (c) 2007, Novell Inc.
   3  *
   4  * This program is licensed under the BSD license, read LICENSE.BSD
   5  * for further information
   6  */
   7
   8 #include <sys/types.h>
   9 #include <limits.h>
  10 #include <fcntl.h>
  11 #include <stdio.h>
  12 #include <stdlib.h>
  13 #include <string.h>
  14 #include <expat.h>
  15
  16 #include "pool.h"
  17 #include "repo.h"
  18 #define DISABLE_SPLIT
  19 #include "tools_util.h"
  20 #include "repo_rpmmd.h"
  21
  22
  23 enum state {
  24   STATE_START,
  25
  26   STATE_SOLVABLE,
  27
  28   STATE_NAME,
  29   STATE_ARCH,
  30   STATE_VERSION,
  31
  32   // package rpm-md
  33   STATE_LOCATION,
  34   STATE_CHECKSUM,
  35   STATE_RPM_GROUP,
  36   STATE_RPM_LICENSE,
  37
  38   /* resobject attributes */
  39   STATE_SUMMARY,
  40   STATE_DESCRIPTION,
  41   STATE_DISTRIBUTION,
  42   STATE_PACKAGER,
  43   STATE_URL,
  44   STATE_INSNOTIFY,
  45   STATE_DELNOTIFY,
  46   STATE_VENDOR,
  47   STATE_SIZE,
  48   STATE_TIME,
  49   STATE_DOWNLOADSIZE,
  50   STATE_INSTALLTIME,
  51   STATE_INSTALLONLY,
  52
  53   /* Novell/SUSE extended attributes */
  54   STATE_EULA,
  55   STATE_KEYWORD,
  56   STATE_DISKUSAGE,
  57   STATE_DIRS,
  58   STATE_DIR,
  59
  60   /* patch */
  61   STATE_ID,
  62   STATE_TIMESTAMP,
  63   STATE_AFFECTSPKG,
  64   STATE_REBOOTNEEDED,
  65
  66   // pattern attributes
  67   STATE_CATEGORY, /* pattern and patches */
  68   STATE_SCRIPT,
  69   STATE_ICON,
  70   STATE_USERVISIBLE,
  71   STATE_DEFAULT,
  72   STATE_INSTALL_TIME,
  73
  74   /* product */
  75   STATE_SHORTNAME,
  76   STATE_DISTNAME, // obsolete
  77   STATE_DISTEDITION, // obsolete
  78   STATE_SOURCE,
  79   STATE_TYPE,
  80   STATE_RELNOTESURL,
  81   STATE_UPDATEURL,
  82   STATE_OPTIONALURL,
  83   STATE_FLAG,
  84
  85   /* rpm-md dependencies inside the
  86      format tag */
  87   STATE_PROVIDES,
  88   STATE_REQUIRES,
  89   STATE_OBSOLETES,
  90   STATE_CONFLICTS,
  91   STATE_RECOMMENDS,
  92   STATE_SUPPLEMENTS,
  93   STATE_SUGGESTS,
  94   STATE_ENHANCES,
  95   STATE_FRESHENS,
  96   STATE_SOURCERPM,
  97   STATE_HEADERRANGE,
  98
  99   STATE_PROVIDESENTRY,
 100   STATE_REQUIRESENTRY,
 101   STATE_OBSOLETESENTRY,
 102   STATE_CONFLICTSENTRY,
 103   STATE_RECOMMENDSENTRY,
 104   STATE_SUPPLEMENTSENTRY,
 105   STATE_SUGGESTSENTRY,
 106   STATE_ENHANCESENTRY,
 107   STATE_FRESHENSENTRY,
 108
 109   STATE_FILE,
 110
 111   // general
 112   NUMSTATES
 113 };
 114
 115 struct stateswitch {
 116   enum state from;
 117   char *ename;
 118   enum state to;
 119   int docontent;
 120 };
 121
 122 static struct stateswitch stateswitches[] = {
 123   /** fake tag used to enclose 2 different xml files in one **/
 124   { STATE_START,       "rpmmd",           STATE_START,    0 },
 125
 126   /** tags for different package data, we just ignore the tag **/
 127   { STATE_START,       "metadata",        STATE_START,    0 },
 128   { STATE_START,       "otherdata",       STATE_START,    0 },
 129   { STATE_START,       "diskusagedata",   STATE_START,    0 },
 130   { STATE_START,       "susedata",        STATE_START,    0 },
 131
 132   { STATE_START,       "product",         STATE_SOLVABLE, 0 },
 133   { STATE_START,       "pattern",         STATE_SOLVABLE, 0 },
 134   { STATE_START,       "patch",           STATE_SOLVABLE, 0 },
 135   { STATE_START,       "package",         STATE_SOLVABLE, 0 },
 136
 137   { STATE_SOLVABLE,    "name",            STATE_NAME, 1 },
 138   { STATE_SOLVABLE,    "arch",            STATE_ARCH, 1 },
 139   { STATE_SOLVABLE,    "version",         STATE_VERSION, 0 },
 140
 141   // package attributes rpm-md
 142   { STATE_SOLVABLE,    "location",        STATE_LOCATION, 0 },
 143   { STATE_SOLVABLE,    "checksum",        STATE_CHECKSUM, 1 },
 144
 145   /* resobject attributes */
 146
 147   { STATE_SOLVABLE,    "summary",         STATE_SUMMARY,      1 },
 148   { STATE_SOLVABLE,    "description",     STATE_DESCRIPTION,  1 },
 149   { STATE_SOLVABLE,    "distribution",    STATE_DISTRIBUTION, 1 },
 150   { STATE_SOLVABLE,    "url",             STATE_URL,          1 },
 151   { STATE_SOLVABLE,    "packager",        STATE_PACKAGER,     1 },
 152   //{ STATE_SOLVABLE,    "???",         STATE_INSNOTIFY, 1 },
 153   //{ STATE_SOLVABLE,    "??",     STATE_DELNOTIFY, 1 },
 154   { STATE_SOLVABLE,    "vendor",          STATE_VENDOR,       1 },
 155   { STATE_SOLVABLE,    "size",            STATE_SIZE,         0 },
 156   { STATE_SOLVABLE,    "archive-size",    STATE_DOWNLOADSIZE, 1 },
 157   { STATE_SOLVABLE,    "install-time",    STATE_INSTALLTIME,  1 },
 158   { STATE_SOLVABLE,    "install-only",    STATE_INSTALLONLY,  1 },
 159   { STATE_SOLVABLE,    "time",            STATE_TIME,         0 },
 160
 161   /* extended Novell/SUSE attributes (susedata.xml) */
 162   { STATE_SOLVABLE,    "eula",            STATE_EULA,         1 },
 163   { STATE_SOLVABLE,    "keyword",         STATE_KEYWORD,      1 },
 164   { STATE_SOLVABLE,    "diskusage",       STATE_DISKUSAGE,    0 },
 165
 166   // pattern attribute
 167   { STATE_SOLVABLE,    "script",          STATE_SCRIPT,        1 },
 168   { STATE_SOLVABLE,    "icon",            STATE_ICON,          1 },
 169   { STATE_SOLVABLE,    "uservisible",     STATE_USERVISIBLE,   1 },
 170   { STATE_SOLVABLE,    "category",        STATE_CATEGORY,      1 },
 171   { STATE_SOLVABLE,    "default",         STATE_DEFAULT,       1 },
 172   { STATE_SOLVABLE,    "install-time",    STATE_INSTALL_TIME,  1 },
 173
 174   /* product attributes */
 175   /* note the product type is an attribute */
 176   { STATE_SOLVABLE,    "release-notes-url", STATE_RELNOTESURL, 1 },
 177   { STATE_SOLVABLE,    "update-url",        STATE_UPDATEURL,   1 },
 178   { STATE_SOLVABLE,    "optional-url",      STATE_OPTIONALURL, 1 },
 179   { STATE_SOLVABLE,    "flag",              STATE_FLAG,        1 },
 180
 181   { STATE_SOLVABLE,      "rpm:vendor",      STATE_VENDOR,      1 },
 182   { STATE_SOLVABLE,      "rpm:group",       STATE_RPM_GROUP,   1 },
 183   { STATE_SOLVABLE,      "rpm:license",     STATE_RPM_LICENSE, 1 },
 184
 185   /* rpm-md dependencies */
 186   { STATE_SOLVABLE,      "rpm:provides",    STATE_PROVIDES,     0 },
 187   { STATE_SOLVABLE,      "rpm:requires",    STATE_REQUIRES,     0 },
 188   { STATE_SOLVABLE,      "rpm:obsoletes",   STATE_OBSOLETES,    0 },
 189   { STATE_SOLVABLE,      "rpm:conflicts",   STATE_CONFLICTS,    0 },
 190   { STATE_SOLVABLE,      "rpm:recommends",  STATE_RECOMMENDS ,  0 },
 191   { STATE_SOLVABLE,      "rpm:supplements", STATE_SUPPLEMENTS,  0 },
 192   { STATE_SOLVABLE,      "rpm:suggests",    STATE_SUGGESTS,     0 },
 193   { STATE_SOLVABLE,      "rpm:enhances",    STATE_ENHANCES,     0 },
 194   { STATE_SOLVABLE,      "rpm:freshens",    STATE_FRESHENS,     0 },
 195   { STATE_SOLVABLE,      "rpm:sourcerpm",   STATE_SOURCERPM,    1 },
 196   { STATE_SOLVABLE,      "rpm:header-range", STATE_HEADERRANGE, 0 },
 197   { STATE_SOLVABLE,      "file",            STATE_FILE, 1 },
 198
 199    /* extended Novell/SUSE diskusage attributes (susedata.xml) */
 200   { STATE_DISKUSAGE,   "dirs",            STATE_DIRS,         0 },
 201   { STATE_DIRS,        "dir",             STATE_DIR,          0 },
 202
 203   { STATE_PROVIDES,    "rpm:entry",       STATE_PROVIDESENTRY, 0 },
 204   { STATE_REQUIRES,    "rpm:entry",       STATE_REQUIRESENTRY, 0 },
 205   { STATE_OBSOLETES,   "rpm:entry",       STATE_OBSOLETESENTRY, 0 },
 206   { STATE_CONFLICTS,   "rpm:entry",       STATE_CONFLICTSENTRY, 0 },
 207   { STATE_RECOMMENDS,  "rpm:entry",       STATE_RECOMMENDSENTRY, 0 },
 208   { STATE_SUPPLEMENTS, "rpm:entry",       STATE_SUPPLEMENTSENTRY, 0 },
 209   { STATE_SUGGESTS,    "rpm:entry",       STATE_SUGGESTSENTRY, 0 },
 210   { STATE_ENHANCES,    "rpm:entry",       STATE_ENHANCESENTRY, 0 },
 211   { STATE_FRESHENS,    "rpm:entry",       STATE_FRESHENSENTRY, 0 },
 212
 213   { NUMSTATES}
 214 };
 215
 216 /* maxmum initial size of
 217    the checksum cache */
 218 #define MAX_CSCACHE 32768
 219 #define CSREALLOC_STEP 1024
 220
 221 struct parsedata {
 222   struct parsedata_common common;
 223   char *kind;
 224   int depth;
 225   enum state state;
 226   int statedepth;
 227   char *content;
 228   int lcontent;
 229   int acontent;
 230   int docontent;
 231   Solvable *solvable;
 232   Offset freshens;
 233   struct stateswitch *swtab[NUMSTATES];
 234   enum state sbtab[NUMSTATES];
 235   /* temporal to store attribute tag language */
 236   const char *tmplang;
 237   const char *capkind;
 238   // used to store tmp attributes
 239   // while the tag ends
 240   const char *tmpattr;
 241   Repodata *data;
 242   Id handle;
 243   XML_Parser *parser;
 244   Id (*dirs)[3]; // dirid, size, nfiles
 245   int ndirs;
 246   Id langcache[ID_NUM_INTERNAL];
 247   /** system language */
 248   const char *language;
 249
 250   /** Hash to maps checksums to solv */
 251   Stringpool cspool;
 252   /** Cache of known checksums to solvable id */
 253   Id *cscache;
 254   /* the current longest index in the table */
 255   int ncscache;
 256 };
 257
 258 static Id
 259 langtag(struct parsedata *pd, Id tag, const char *language)
 260 {
 261   if (language && !language[0])
 262     language = 0;
 263   if (!language || tag >= ID_NUM_INTERNAL)
 264     return pool_id2langid(pd->common.repo->pool, tag, language, 1);
 265   return pool_id2langid(pd->common.repo->pool, tag, language, 1);
 266   if (!pd->langcache[tag])
 267     pd->langcache[tag] = pool_id2langid(pd->common.repo->pool, tag, language, 1);
 268   return pd->langcache[tag];
 269 }
 270
 271 static int
 272 id3_cmp (const void *v1, const void *v2)
 273 {
 274   Id *i1 = (Id*)v1;
 275   Id *i2 = (Id*)v2;
 276   return i1[0] - i2[0];
 277 }
 278
 279 static void
 280 commit_diskusage (struct parsedata *pd, unsigned handle)
 281 {
 282   unsigned i;
 283   Dirpool *dp = &pd->data->dirpool;
 284   /* Now sort in dirid order.  This ensures that parents come before
 285      their children.  */
 286   if (pd->ndirs > 1)
 287     qsort(pd->dirs, pd->ndirs, sizeof (pd->dirs[0]), id3_cmp);
 288   /* Substract leaf numbers from all parents to make the numbers
 289      non-cumulative.  This must be done post-order (i.e. all leafs
 290      adjusted before parents).  We ensure this by starting at the end of
 291      the array moving to the start, hence seeing leafs before parents.  */
 292   for (i = pd->ndirs; i--;)
 293     {
 294       unsigned p = dirpool_parent(dp, pd->dirs[i][0]);
 295       unsigned j = i;
 296       for (; p; p = dirpool_parent(dp, p))
 297         {
 298           for (; j--;)
 299             if (pd->dirs[j][0] == p)
 300               break;
 301           if (j < pd->ndirs)
 302             {
 303               if (pd->dirs[j][1] < pd->dirs[i][1])
 304                 pd->dirs[j][1] = 0;
 305               else
 306                 pd->dirs[j][1] -= pd->dirs[i][1];
 307               if (pd->dirs[j][2] < pd->dirs[i][2])
 308                 pd->dirs[j][2] = 0;
 309               else
 310                 pd->dirs[j][2] -= pd->dirs[i][2];
 311             }
 312           else
 313             /* Haven't found this parent in the list, look further if
 314                we maybe find the parents parent.  */
 315             j = i;
 316         }
 317     }
 318 #if 0
 319   char sbuf[1024];
 320   char *buf = sbuf;
 321   unsigned slen = sizeof (sbuf);
 322   for (i = 0; i < pd->ndirs; i++)
 323     {
 324       dir2str (attr, pd->dirs[i][0], &buf, &slen);
 325       fprintf (stderr, "have dir %d %d %d %s\n", pd->dirs[i][0], pd->dirs[i][1], pd->dirs[i][2], buf);
 326     }
 327   if (buf != sbuf)
 328     free (buf);
 329 #endif
 330   for (i = 0; i < pd->ndirs; i++)
 331     if (pd->dirs[i][1] || pd->dirs[i][2])
 332       {
 333         repodata_add_dirnumnum(pd->data, handle, SOLVABLE_DISKUSAGE, pd->dirs[i][0], pd->dirs[i][1], pd->dirs[i][2]);
 334       }
 335   pd->ndirs = 0;
 336 }
 337
 338
 339 /*
 340  * makeevr_atts
 341  * parse 'epoch', 'ver' and 'rel', return evr Id
 342  *
 343  */
 344
 345 static Id
 346 makeevr_atts(Pool *pool, struct parsedata *pd, const char **atts)
 347 {
 348   const char *e, *v, *r, *v2;
 349   char *c;
 350   int l;
 351
 352   e = v = r = 0;
 353   for (; *atts; atts += 2)
 354     {
 355       if (!strcmp(*atts, "epoch"))
 356         e = atts[1];
 357       else if (!strcmp(*atts, "ver"))
 358         v = atts[1];
 359       else if (!strcmp(*atts, "rel"))
 360         r = atts[1];
 361     }
 362   if (e && !strcmp(e, "0"))
 363     e = 0;
 364   if (v && !e)
 365     {
 366       for (v2 = v; *v2 >= '0' && *v2 <= '9'; v2++)
 367         ;
 368       if (v2 > v && *v2 == ':')
 369         e = "0";
 370     }
 371   l = 1;
 372   if (e)
 373     l += strlen(e) + 1;
 374   if (v)
 375     l += strlen(v);
 376   if (r)
 377     l += strlen(r) + 1;
 378   if (l > pd->acontent)
 379     {
 380       pd->content = sat_realloc(pd->content, l + 256);
 381       pd->acontent = l + 256;
 382     }
 383   c = pd->content;
 384   if (e)
 385     {
 386       strcpy(c, e);
 387       c += strlen(c);
 388       *c++ = ':';
 389     }
 390   if (v)
 391     {
 392       strcpy(c, v);
 393       c += strlen(c);
 394     }
 395   if (r)
 396     {
 397       *c++ = '-';
 398       strcpy(c, r);
 399       c += strlen(c);
 400     }
 401   *c = 0;
 402   if (!*pd->content)
 403     return 0;
 404 #if 0
 405   fprintf(stderr, "evr: %s\n", pd->content);
 406 #endif
 407   return str2id(pool, pd->content, 1);
 408 }
 409
 410
 411 /*
 412  * find_attr
 413  * find value for xml attribute
 414  * I: txt, name of attribute
 415  * I: atts, list of key/value attributes
 416  * O: pointer to value of matching key, or NULL
 417  *
 418  */
 419
 420 static inline const char *
 421 find_attr(const char *txt, const char **atts)
 422 {
 423   for (; *atts; atts += 2)
 424     {
 425       if (!strcmp(*atts, txt))
 426         return atts[1];
 427     }
 428   return 0;
 429 }
 430
 431
 432 /*
 433  * dependency relations
 434  */
 435
 436 static char *flagtab[] = {
 437   "GT",
 438   "EQ",
 439   "GE",
 440   "LT",
 441   "NE",
 442   "LE"
 443 };
 444
 445
 446 /*
 447  * adddep
 448  * parse attributes to reldep Id
 449  *
 450  */
 451
 452 static unsigned int
 453 adddep(Pool *pool, struct parsedata *pd, unsigned int olddeps, const char **atts, int isreq)
 454 {
 455   Id id, name, marker;
 456   const char *n, *f, *k;
 457   const char **a;
 458
 459   n = f = k = 0;
 460   marker = isreq ? -SOLVABLE_PREREQMARKER : 0;
 461   for (a = atts; *a; a += 2)
 462     {
 463       if (!strcmp(*a, "name"))
 464         n = a[1];
 465       else if (!strcmp(*a, "flags"))
 466         f = a[1];
 467       else if (!strcmp(*a, "kind"))
 468         k = a[1];
 469       else if (isreq && !strcmp(*a, "pre") && a[1][0] == '1')
 470         marker = SOLVABLE_PREREQMARKER;
 471     }
 472   if (!n)
 473     return olddeps;
 474   if (k && !strcmp(k, "package"))
 475     k = 0;
 476   if (k)
 477     {
 478       int l = strlen(k) + 1 + strlen(n) + 1;
 479       if (l > pd->acontent)
 480         {
 481           pd->content = sat_realloc(pd->content, l + 256);
 482           pd->acontent = l + 256;
 483         }
 484       sprintf(pd->content, "%s:%s", k, n);
 485       name = str2id(pool, pd->content, 1);
 486     }
 487   else
 488     name = str2id(pool, (char *)n, 1);
 489   if (f)
 490     {
 491       Id evr = makeevr_atts(pool, pd, atts);
 492       int flags;
 493       for (flags = 0; flags < 6; flags++)
 494         if (!strcmp(f, flagtab[flags]))
 495           break;
 496       flags = flags < 6 ? flags + 1 : 0;
 497       id = rel2id(pool, name, evr, flags, 1);
 498     }
 499   else
 500     id = name;
 501 #if 0
 502   fprintf(stderr, "new dep %s%s%s\n", id2str(pool, d), id2rel(pool, d), id2evr(pool, d));
 503 #endif
 504   return repo_addid_dep(pd->common.repo, olddeps, id, marker);
 505 }
 506
 507
 508 /*
 509  * set_desciption_author
 510  *
 511  */
 512
 513 static void
 514 set_desciption_author(Repodata *data, Id handle, char *str)
 515 {
 516   char *aut, *p;
 517
 518   if (!str || !*str)
 519     return;
 520   for (aut = str; (aut = strchr(aut, '\n')) != 0; aut++)
 521     if (!strncmp(aut, "\nAuthors:\n--------\n", 19))
 522       break;
 523   if (aut)
 524     {
 525       /* oh my, found SUSE special author section */
 526       int l = aut - str;
 527       str[l] = 0;
 528       while (l > 0 && str[l - 1] == '\n')
 529         str[--l] = 0;
 530       if (l)
 531         repodata_set_str(data, handle, SOLVABLE_DESCRIPTION, str);
 532       p = aut + 19;
 533       aut = str;        /* copy over */
 534       while (*p == ' ' || *p == '\n')
 535         p++;
 536       while (*p)
 537         {
 538           if (*p == '\n')
 539             {
 540               *aut++ = *p++;
 541               while (*p == ' ')
 542                 p++;
 543               continue;
 544             }
 545           *aut++ = *p++;
 546         }
 547       while (aut != str && aut[-1] == '\n')
 548         aut--;
 549       *aut = 0;
 550       if (*str)
 551         repodata_set_str(data, handle, SOLVABLE_AUTHORS, str);
 552     }
 553   else if (*str)
 554     repodata_set_str(data, handle, SOLVABLE_DESCRIPTION, str);
 555 }
 556
 557
 558 /*
 559  * set_sourcerpm
 560  *
 561  */
 562
 563 static void
 564 set_sourcerpm(Repodata *data, Solvable *s, Id handle, char *sourcerpm)
 565 {
 566   const char *p, *sevr, *sarch, *name, *evr;
 567   Pool *pool;
 568
 569   p = strrchr(sourcerpm, '.');
 570   if (!p || strcmp(p, ".rpm") != 0)
 571     return;
 572   p--;
 573   while (p > sourcerpm && *p != '.')
 574     p--;
 575   if (*p != '.' || p == sourcerpm)
 576     return;
 577   sarch = p-- + 1;
 578   while (p > sourcerpm && *p != '-')
 579     p--;
 580   if (*p != '-' || p == sourcerpm)
 581     return;
 582   p--;
 583   while (p > sourcerpm && *p != '-')
 584     p--;
 585   if (*p != '-' || p == sourcerpm)
 586     return;
 587   sevr = p + 1;
 588   pool = s->repo->pool;
 589   name = id2str(pool, s->name);
 590   evr = id2str(pool, s->evr);
 591   if (!strcmp(sarch, "src.rpm"))
 592     repodata_set_constantid(data, handle, SOLVABLE_SOURCEARCH, ARCH_SRC);
 593   else if (!strcmp(sarch, "nosrc.rpm"))
 594     repodata_set_constantid(data, handle, SOLVABLE_SOURCEARCH, ARCH_NOSRC);
 595   else
 596     repodata_set_constantid(data, handle, SOLVABLE_SOURCEARCH, strn2id(pool, sarch, strlen(sarch) - 4, 1));
 597   if (!strncmp(sevr, evr, sarch - sevr - 1) && evr[sarch - sevr - 1] == 0)
 598     repodata_set_void(data, handle, SOLVABLE_SOURCEEVR);
 599   else
 600     repodata_set_id(data, handle, SOLVABLE_SOURCEEVR, strn2id(pool, sevr, sarch - sevr - 1, 1));
 601   if (!strncmp(sourcerpm, name, sevr - sourcerpm - 1) && name[sevr - sourcerpm -
 602  1] == 0)
 603     repodata_set_void(data, handle, SOLVABLE_SOURCENAME);
 604   else
 605     repodata_set_id(data, handle, SOLVABLE_SOURCENAME, strn2id(pool, sourcerpm, sevr - sourcerpm - 1, 1));
 606 }
 607
 608 /*-----------------------------------------------*/
 609 /* XML callbacks */
 610
 611 /*
 612  * startElement
 613  * XML callback
 614  *
 615  */
 616
 617 static void XMLCALL
 618 startElement(void *userData, const char *name, const char **atts)
 619 {
 620   //fprintf(stderr,"+tag: %s\n", name);
 621   struct parsedata *pd = userData;
 622   Pool *pool = pd->common.pool;
 623   Solvable *s = pd->solvable;
 624   struct stateswitch *sw;
 625   const char *str;
 626   Id handle = pd->handle;
 627
 628   // fprintf(stderr, "into %s, from %d, depth %d, statedepth %d\n", name, pd->state, pd->depth, pd->statedepth);
 629
 630   if (pd->depth != pd->statedepth)
 631     {
 632       pd->depth++;
 633       return;
 634     }
 635
 636   if (pd->state == STATE_START && !strcmp(name, "patterns"))
 637     return;
 638   //if (pd->state == STATE_START && !strcmp(name, "metadata"))
 639   //  return;
 640   if (pd->state == STATE_SOLVABLE && !strcmp(name, "format"))
 641     return;
 642
 643   pd->depth++;
 644   if (!pd->swtab[pd->state])
 645     return;
 646   for (sw = pd->swtab[pd->state]; sw->from == pd->state; sw++)
 647     if (!strcmp(sw->ename, name))
 648       break;
 649   if (sw->from != pd->state)
 650     {
 651 #if 0
 652       fprintf(stderr, "into unknown: %s\n", name);
 653 #endif
 654       return;
 655     }
 656   pd->state = sw->to;
 657   pd->docontent = sw->docontent;
 658   pd->statedepth = pd->depth;
 659   pd->lcontent = 0;
 660   *pd->content = 0;
 661   switch(pd->state)
 662     {
 663     case STATE_SOLVABLE:
 664       pd->kind = 0;
 665       if (name[2] == 't' && name[3] == 't')
 666         pd->kind = "pattern";
 667       else if (name[1] == 'r')
 668         pd->kind = "product";
 669       else if (name[2] == 't' && name[3] == 'c')
 670         pd->kind = "patch";
 671
 672       /* to support extension metadata files like others.xml which
 673          have the following structure:
 674
 675          <otherdata xmlns="http://linux.duke.edu/metadata/other"
 676                     packages="101">
 677            <package pkgid="b78f8664cd90efe42e09a345e272997ef1b53c18"
 678                     name="zaptel-kmp-default"
 679                     arch="i586"><version epoch="0"
 680                     ver="1.2.10_2.6.22_rc4_git6_2" rel="70"/>
 681               ...
 682
 683          we need to check if the pkgid is there and if it matches
 684          an already seen package, that means we don't need to create
 685          a new solvable but just append the attributes to the existing
 686          one.
 687       */
 688       const char *pkgid;
 689       if ((pkgid = find_attr("pkgid", atts)) != NULL)
 690         {
 691           // look at the checksum cache
 692           Id index = stringpool_str2id(&pd->cspool, pkgid, 0);
 693           if (!index || index >= pd->ncscache || !pd->cscache[index])
 694             {
 695               fprintf(stderr, "error, the repository specifies extra information about package with checksum '%s', which does not exist in the repository.\n", pkgid);
 696               exit(1);
 697             }
 698           pd->solvable = pool_id2solvable(pool, pd->cscache[index]);
 699         }
 700        else
 701         {
 702           /* this is a new package */
 703           pd->solvable = pool_id2solvable(pool, repo_add_solvable(pd->common.repo));
 704           pd->freshens = 0;
 705         }
 706       pd->handle = pd->solvable - pool->solvables;
 707 #if 0
 708       fprintf(stderr, "package #%d\n", pd->solvable - pool->solvables);
 709 #endif
 710
 711       break;
 712     case STATE_VERSION:
 713       s->evr = makeevr_atts(pool, pd, atts);
 714       break;
 715     case STATE_PROVIDES:
 716       s->provides = 0;
 717       break;
 718     case STATE_PROVIDESENTRY:
 719       s->provides = adddep(pool, pd, s->provides, atts, 0);
 720       break;
 721     case STATE_REQUIRES:
 722       s->requires = 0;
 723       break;
 724     case STATE_REQUIRESENTRY:
 725       s->requires = adddep(pool, pd, s->requires, atts, 1);
 726       break;
 727     case STATE_OBSOLETES:
 728       s->obsoletes = 0;
 729       break;
 730     case STATE_OBSOLETESENTRY:
 731       s->obsoletes = adddep(pool, pd, s->obsoletes, atts, 0);
 732       break;
 733     case STATE_CONFLICTS:
 734       s->conflicts = 0;
 735       break;
 736     case STATE_CONFLICTSENTRY:
 737       s->conflicts = adddep(pool, pd, s->conflicts, atts, 0);
 738       break;
 739     case STATE_RECOMMENDS:
 740       s->recommends = 0;
 741       break;
 742     case STATE_RECOMMENDSENTRY:
 743       s->recommends = adddep(pool, pd, s->recommends, atts, 0);
 744       break;
 745     case STATE_SUPPLEMENTS:
 746       s->supplements= 0;
 747       break;
 748     case STATE_SUPPLEMENTSENTRY:
 749       s->supplements = adddep(pool, pd, s->supplements, atts, 0);
 750       break;
 751     case STATE_SUGGESTS:
 752       s->suggests = 0;
 753       break;
 754     case STATE_SUGGESTSENTRY:
 755       s->suggests = adddep(pool, pd, s->suggests, atts, 0);
 756       break;
 757     case STATE_ENHANCES:
 758       s->enhances = 0;
 759       break;
 760     case STATE_ENHANCESENTRY:
 761       s->enhances = adddep(pool, pd, s->enhances, atts, 0);
 762       break;
 763     case STATE_FRESHENS:
 764       pd->freshens = 0;
 765       break;
 766     case STATE_FRESHENSENTRY:
 767       pd->freshens = adddep(pool, pd, pd->freshens, atts, 0);
 768       break;
 769     case STATE_SUMMARY:
 770     case STATE_DESCRIPTION:
 771       pd->tmplang = find_attr("lang", atts);
 772       break;
 773     case STATE_LOCATION:
 774       str = find_attr("href", atts);
 775       if (str)
 776         repodata_set_location(pd->data, handle, 0, 0, str);
 777       break;
 778     case STATE_CHECKSUM:
 779       pd->tmpattr = find_attr("type", atts);
 780       break;
 781     case STATE_TIME:
 782       {
 783         unsigned int t;
 784         str = find_attr("build", atts);
 785         if (str && (t = atoi(str)) != 0)
 786           repodata_set_num(pd->data, handle, SOLVABLE_BUILDTIME, t);
 787         break;
 788       }
 789     case STATE_SIZE:
 790       {
 791         unsigned int k;
 792         str = find_attr("installed", atts);
 793         if (str && (k = atoi(str)) != 0)
 794           repodata_set_num(pd->data, handle, SOLVABLE_INSTALLSIZE, (k + 1023) / 1024);
 795         /* XXX the "package" attribute gives the size of the rpm file,
 796            i.e. the download size.  Except on packman, there it seems to be
 797            something else entirely, it has a value near to the other two
 798            values, as if the rpm is uncompressed.  */
 799         str = find_attr("package", atts);
 800         if (str && (k = atoi(str)) != 0)
 801           repodata_set_num(pd->data, handle, SOLVABLE_DOWNLOADSIZE, (k + 1023) / 1024);
 802         break;
 803       }
 804     case STATE_HEADERRANGE:
 805       {
 806         unsigned int end;
 807         str = find_attr("end", atts);
 808         if (str && (end = atoi(str)) != 0)
 809           repodata_set_num(pd->data, handle, SOLVABLE_HEADEREND, end);
 810       }
 811       /*
 812         <diskusage>
 813           <dirs>
 814             <dir name="/" size="56" count="11"/>
 815             <dir name="usr/" size="56" count="11"/>
 816             <dir name="usr/bin/" size="38" count="10"/>
 817             <dir name="usr/share/" size="18" count="1"/>
 818             <dir name="usr/share/doc/" size="18" count="1"/>
 819           </dirs>
 820         </diskusage>
 821       */
 822     case STATE_DISKUSAGE:
 823       {
 824         /* Really, do nothing, wat for <dir> tag */
 825         break;
 826       }
 827     case STATE_DIR:
 828       {
 829         long filesz = 0, filenum = 0;
 830         unsigned dirid;
 831         if ( (str = find_attr("name", atts)) )
 832           {
 833             dirid = repodata_str2dir(pd->data, str, 1);
 834           }
 835         else
 836           {
 837             fprintf( stderr, "<dir .../> tag without 'name' attribute, atts = %p, *atts = %p\n", atts, *atts);
 838             break;
 839           }
 840         if ( (str = find_attr("size", atts)) )
 841           {
 842             filesz = strtol (str, 0, 0);
 843           }
 844         if ( (str = find_attr("count", atts)) )
 845           {
 846             filenum = strtol (str, 0, 0);
 847           }
 848         pd->dirs = sat_extend(pd->dirs, pd->ndirs, 1, sizeof(pd->dirs[0]), 31);
 849         pd->dirs[pd->ndirs][0] = dirid;
 850         pd->dirs[pd->ndirs][1] = filesz;
 851         pd->dirs[pd->ndirs][2] = filenum;
 852         pd->ndirs++;
 853         break;
 854       }
 855     default:
 856       break;
 857     }
 858 }
 859
 860
 861 /*
 862  * endElement
 863  * XML callback
 864  *
 865  */
 866
 867 static void XMLCALL
 868 endElement(void *userData, const char *name)
 869 {
 870   //fprintf(stderr,"-tag: %s\n", name);
 871   struct parsedata *pd = userData;
 872   Pool *pool = pd->common.pool;
 873   Solvable *s = pd->solvable;
 874   Repo *repo = pd->common.repo;
 875   Id handle = pd->handle;
 876   Id id;
 877   char *p;
 878
 879   if (pd->depth != pd->statedepth)
 880     {
 881       pd->depth--;
 882       // printf("back from unknown %d %d %d\n", pd->state, pd->depth, pd->statedepth);
 883       return;
 884     }
 885
 886   /* ignore patterns & metadata */
 887   if (pd->state == STATE_START && !strcmp(name, "patterns"))
 888     return;
 889   //if (pd->state == STATE_START && !strcmp(name, "metadata"))
 890   //  return;
 891   if (pd->state == STATE_SOLVABLE && !strcmp(name, "format"))
 892     return;
 893
 894   pd->depth--;
 895   pd->statedepth--;
 896   switch (pd->state)
 897     {
 898     case STATE_SOLVABLE:
 899       if (!s->arch)
 900         s->arch = ARCH_NOARCH;
 901       if (!s->evr)
 902         s->evr = ID_EMPTY;      /* some patterns have this */
 903       if (s->arch != ARCH_SRC && s->arch != ARCH_NOSRC)
 904         s->provides = repo_addid_dep(repo, s->provides, rel2id(pool, s->name, s->evr, REL_EQ, 1), 0);
 905       s->supplements = repo_fix_supplements(repo, s->provides, s->supplements, pd->freshens);
 906       s->conflicts = repo_fix_conflicts(repo, s->conflicts);
 907       pd->freshens = 0;
 908       pd->kind = 0;
 909       break;
 910     case STATE_NAME:
 911       if ( pd->kind )
 912           s->name = str2id(pool, join2( pd->kind, ":", pd->content), 1);
 913       else
 914           s->name = str2id(pool, pd->content, 1);
 915       break;
 916     case STATE_ARCH:
 917       s->arch = str2id(pool, pd->content, 1);
 918       break;
 919     case STATE_VENDOR:
 920       s->vendor = str2id(pool, pd->content, 1);
 921       break;
 922     case STATE_RPM_GROUP:
 923       repodata_set_poolstr(pd->data, handle, SOLVABLE_GROUP, pd->content);
 924       break;
 925     case STATE_RPM_LICENSE:
 926       repodata_set_poolstr(pd->data, handle, SOLVABLE_LICENSE, pd->content);
 927       break;
 928     case STATE_CHECKSUM:
 929       {
 930         int l;
 931         Id type, index;
 932         if (!strcasecmp (pd->tmpattr, "sha") || !strcasecmp (pd->tmpattr, "sha1"))
 933           l = SIZEOF_SHA1 * 2, type = REPOKEY_TYPE_SHA1;
 934         else if (!strcasecmp (pd->tmpattr, "md5"))
 935           l = SIZEOF_MD5 * 2, type = REPOKEY_TYPE_MD5;
 936         else
 937           {
 938             fprintf(stderr, "Unknown checksum type: %d: %s\n", (unsigned int)XML_GetCurrentLineNumber(*pd->parser), pd->tmpattr);
 939             exit(1);
 940           }
 941         if (strlen(pd->content) != l)
 942           {
 943             fprintf(stderr, "Invalid checksum length: %d: for %s\n", (unsigned int)XML_GetCurrentLineNumber(*pd->parser), pd->tmpattr);
 944             exit(1);
 945           }
 946         repodata_set_checksum(pd->data, handle, SOLVABLE_CHECKSUM, type, pd->content);
 947         /* we save the checksum to solvable id relationship for extended
 948            metadata */
 949         index = stringpool_str2id(&pd->cspool, pd->content, 1 /* create it */);
 950         if (index >= pd->ncscache)
 951           {
 952             pd->cscache = sat_zextend(pd->cscache, pd->ncscache, index + 1 - pd->ncscache, sizeof(Id), 255);
 953             pd->ncscache = index + 1;
 954           }
 955         /* add the checksum to the cache */
 956         pd->cscache[index] = s - pool->solvables;
 957         break;
 958       }
 959     case STATE_FILE:
 960 #if 0
 961       id = str2id(pool, pd->content, 1);
 962       s->provides = repo_addid_dep(repo, s->provides, id, SOLVABLE_FILEMARKER);
 963 #endif
 964       if ((p = strrchr(pd->content, '/')) != 0)
 965         {
 966           *p++ = 0;
 967           id = repodata_str2dir(pd->data, pd->content, 1);
 968         }
 969       else
 970         {
 971           p = pd->content;
 972           id = 0;
 973         }
 974       if (!id)
 975         id = repodata_str2dir(pd->data, "/", 1);
 976       repodata_add_dirstr(pd->data, handle, SOLVABLE_FILELIST, id, p);
 977       break;
 978     case STATE_SUMMARY:
 979       pd->tmplang = 0;
 980       repodata_set_str(pd->data, handle, SOLVABLE_SUMMARY, pd->content);
 981       break;
 982     case STATE_DESCRIPTION:
 983       pd->tmplang = 0;
 984       set_desciption_author(pd->data, handle, pd->content);
 985       break;
 986     case STATE_DISTRIBUTION:
 987         repodata_set_poolstr(pd->data, handle, SOLVABLE_DISTRIBUTION, pd->content);
 988         break;
 989     case STATE_URL:
 990       if (pd->content[0])
 991         repodata_set_str(pd->data, handle, SOLVABLE_URL, pd->content);
 992       break;
 993     case STATE_PACKAGER:
 994       if (pd->content[0])
 995         repodata_set_poolstr(pd->data, handle, SOLVABLE_PACKAGER, pd->content);
 996       break;
 997     case STATE_SOURCERPM:
 998       set_sourcerpm(pd->data, s, handle, pd->content);
 999       break;
1000     case STATE_RELNOTESURL:
1001       if (pd->content[0])
1002         {
1003           repodata_add_poolstr_array(pd->data, pd->handle, PRODUCT_URL, pd->content);
1004           repodata_add_idarray(pd->data, pd->handle, PRODUCT_URL_TYPE, str2id(pool, "releasenotes", 1));
1005         }
1006       break;
1007     case STATE_UPDATEURL:
1008       if (pd->content[0])
1009         {
1010           repodata_add_poolstr_array(pd->data, pd->handle, PRODUCT_URL, pd->content);
1011           repodata_add_idarray(pd->data, pd->handle, PRODUCT_URL_TYPE, str2id(pool, "update", 1));
1012         }
1013       break;
1014     case STATE_OPTIONALURL:
1015       if (pd->content[0])
1016         {
1017           repodata_add_poolstr_array(pd->data, pd->handle, PRODUCT_URL, pd->content);
1018           repodata_add_idarray(pd->data, pd->handle, PRODUCT_URL_TYPE, str2id(pool, "optional", 1));
1019         }
1020       break;
1021     case STATE_FLAG:
1022       if (pd->content[0])
1023           repodata_set_poolstr(pd->data, handle, PRODUCT_FLAGS, pd->content);
1024       break;
1025     case STATE_EULA:
1026       if (pd->content[0])
1027         repodata_set_str(pd->data, handle, langtag(pd, SOLVABLE_EULA, pd->language), pd->content);
1028       break;
1029     case STATE_KEYWORD:
1030       if (pd->content[0])
1031         repodata_add_poolstr_array(pd->data, pd->handle, SOLVABLE_KEYWORDS, pd->content);
1032       break;
1033     case STATE_DISKUSAGE:
1034       if (pd->ndirs)
1035         commit_diskusage (pd, pd->handle);
1036       break;
1037     default:
1038       break;
1039     }
1040   pd->state = pd->sbtab[pd->state];
1041   pd->docontent = 0;
1042   // fprintf(stderr, "back from known %d %d %d\n", pd->state, pd->depth, pd->statedepth);
1043 }
1044
1045
1046 /*
1047  * characterData
1048  * XML callback
1049  *
1050  */
1051
1052 static void XMLCALL
1053 characterData(void *userData, const XML_Char *s, int len)
1054 {
1055   struct parsedata *pd = userData;
1056   int l;
1057   char *c;
1058
1059   if (!pd->docontent)
1060     return;
1061   l = pd->lcontent + len + 1;
1062   if (l > pd->acontent)
1063     {
1064       pd->content = sat_realloc(pd->content, l + 256);
1065       pd->acontent = l + 256;
1066     }
1067   c = pd->content + pd->lcontent;
1068   pd->lcontent += len;
1069   while (len-- > 0)
1070     *c++ = *s++;
1071   *c = 0;
1072 }
1073
1074
1075 /*-----------------------------------------------*/
1076 /* 'main' */
1077
1078 #define BUFF_SIZE 8192
1079
1080 /*
1081  * repo_add_rpmmd
1082  * parse rpm-md metadata (primary, others)
1083  *
1084  */
1085
1086 void
1087 repo_add_rpmmd(Repo *repo, FILE *fp, const char *language, int flags)
1088 {
1089   Pool *pool = repo->pool;
1090   struct parsedata pd;
1091   char buf[BUFF_SIZE];
1092   int i, l;
1093   struct stateswitch *sw;
1094   Repodata *data;
1095   unsigned int now;
1096
1097   now = sat_timems(0);
1098   if (!(flags & REPO_REUSE_REPODATA))
1099     data = repo_add_repodata(repo, 0);
1100   else
1101     data = repo_last_repodata(repo);
1102
1103   memset(&pd, 0, sizeof(pd));
1104   for (i = 0, sw = stateswitches; sw->from != NUMSTATES; i++, sw++)
1105     {
1106       if (!pd.swtab[sw->from])
1107         pd.swtab[sw->from] = sw;
1108       pd.sbtab[sw->to] = sw->from;
1109     }
1110   pd.common.pool = pool;
1111   pd.common.repo = repo;
1112
1113   pd.data = data;
1114
1115   pd.content = sat_malloc(256);
1116   pd.acontent = 256;
1117   pd.lcontent = 0;
1118   pd.common.tmp = 0;
1119   pd.common.tmpl = 0;
1120   pd.kind = 0;
1121   pd.language = language;
1122
1123   /* initialize the string pool where we will store
1124      the package checksums we know about, to get an Id
1125      we can use in a cache */
1126   stringpool_init_empty(&pd.cspool);
1127
1128   XML_Parser parser = XML_ParserCreate(NULL);
1129   XML_SetUserData(parser, &pd);
1130   pd.parser = &parser;
1131   XML_SetElementHandler(parser, startElement, endElement);
1132   XML_SetCharacterDataHandler(parser, characterData);
1133   for (;;)
1134     {
1135       l = fread(buf, 1, sizeof(buf), fp);
1136       if (XML_Parse(parser, buf, l, l == 0) == XML_STATUS_ERROR)
1137         {
1138           pool_debug(pool, SAT_FATAL, "repo_rpmmd: %s at line %u:%u\n", XML_ErrorString(XML_GetErrorCode(parser)), (unsigned int)XML_GetCurrentLineNumber(parser), (unsigned int)XML_GetCurrentColumnNumber(parser));
1139           exit(1);
1140         }
1141       if (l == 0)
1142         break;
1143     }
1144   XML_ParserFree(parser);
1145   sat_free(pd.content);
1146   join_freemem();
1147   stringpool_free(&pd.cspool);
1148   sat_free(pd.cscache);
1149   if (!(flags & REPO_NO_INTERNALIZE))
1150     repodata_internalize(data);
1151   POOL_DEBUG(SAT_DEBUG_STATS, "repo_add_rpmmd took %d ms\n", sat_timems(now));
1152   POOL_DEBUG(SAT_DEBUG_STATS, "repo size: %d solvables\n", repo->nsolvables);
1153   POOL_DEBUG(SAT_DEBUG_STATS, "repo memory used: %d K incore, %d K idarray\n", data->incoredatalen/1024, repo->idarraysize / (int)(1024/sizeof(Id)));
1154 }