isl_affine_hull.c

   1 /*
   2  * Copyright 2008-2009 Katholieke Universiteit Leuven
   3  *
   4  * Use of this software is governed by the MIT license
   5  *
   6  * Written by Sven Verdoolaege, K.U.Leuven, Departement
   7  * Computerwetenschappen, Celestijnenlaan 200A, B-3001 Leuven, Belgium
   8  */
   9
  10 #include <isl_ctx_private.h>
  11 #include <isl_map_private.h>
  12 #include <isl/seq.h>
  13 #include <isl/set.h>
  14 #include <isl/lp.h>
  15 #include <isl/map.h>
  16 #include "isl_equalities.h"
  17 #include "isl_sample.h"
  18 #include "isl_tab.h"
  19 #include <isl_mat_private.h>
  20
  21 struct isl_basic_map *isl_basic_map_implicit_equalities(
  22                                                 struct isl_basic_map *bmap)
  23 {
  24         struct isl_tab *tab;
  25
  26         if (!bmap)
  27                 return bmap;
  28
  29         bmap = isl_basic_map_gauss(bmap, NULL);
  30         if (ISL_F_ISSET(bmap, ISL_BASIC_MAP_EMPTY))
  31                 return bmap;
  32         if (ISL_F_ISSET(bmap, ISL_BASIC_MAP_NO_IMPLICIT))
  33                 return bmap;
  34         if (bmap->n_ineq <= 1)
  35                 return bmap;
  36
  37         tab = isl_tab_from_basic_map(bmap, 0);
  38         if (isl_tab_detect_implicit_equalities(tab) < 0)
  39                 goto error;
  40         bmap = isl_basic_map_update_from_tab(bmap, tab);
  41         isl_tab_free(tab);
  42         bmap = isl_basic_map_gauss(bmap, NULL);
  43         ISL_F_SET(bmap, ISL_BASIC_MAP_NO_IMPLICIT);
  44         return bmap;
  45 error:
  46         isl_tab_free(tab);
  47         isl_basic_map_free(bmap);
  48         return NULL;
  49 }
  50
  51 struct isl_basic_set *isl_basic_set_implicit_equalities(
  52                                                 struct isl_basic_set *bset)
  53 {
  54         return (struct isl_basic_set *)
  55                 isl_basic_map_implicit_equalities((struct isl_basic_map*)bset);
  56 }
  57
  58 struct isl_map *isl_map_implicit_equalities(struct isl_map *map)
  59 {
  60         int i;
  61
  62         if (!map)
  63                 return map;
  64
  65         for (i = 0; i < map->n; ++i) {
  66                 map->p[i] = isl_basic_map_implicit_equalities(map->p[i]);
  67                 if (!map->p[i])
  68                         goto error;
  69         }
  70
  71         return map;
  72 error:
  73         isl_map_free(map);
  74         return NULL;
  75 }
  76
  77 /* Make eq[row][col] of both bmaps equal so we can add the row
  78  * add the column to the common matrix.
  79  * Note that because of the echelon form, the columns of row row
  80  * after column col are zero.
  81  */
  82 static void set_common_multiple(
  83         struct isl_basic_set *bset1, struct isl_basic_set *bset2,
  84         unsigned row, unsigned col)
  85 {
  86         isl_int m, c;
  87
  88         if (isl_int_eq(bset1->eq[row][col], bset2->eq[row][col]))
  89                 return;
  90
  91         isl_int_init(c);
  92         isl_int_init(m);
  93         isl_int_lcm(m, bset1->eq[row][col], bset2->eq[row][col]);
  94         isl_int_divexact(c, m, bset1->eq[row][col]);
  95         isl_seq_scale(bset1->eq[row], bset1->eq[row], c, col+1);
  96         isl_int_divexact(c, m, bset2->eq[row][col]);
  97         isl_seq_scale(bset2->eq[row], bset2->eq[row], c, col+1);
  98         isl_int_clear(c);
  99         isl_int_clear(m);
 100 }
 101
 102 /* Delete a given equality, moving all the following equalities one up.
 103  */
 104 static void delete_row(struct isl_basic_set *bset, unsigned row)
 105 {
 106         isl_int *t;
 107         int r;
 108
 109         t = bset->eq[row];
 110         bset->n_eq--;
 111         for (r = row; r < bset->n_eq; ++r)
 112                 bset->eq[r] = bset->eq[r+1];
 113         bset->eq[bset->n_eq] = t;
 114 }
 115
 116 /* Make first row entries in column col of bset1 identical to
 117  * those of bset2, using the fact that entry bset1->eq[row][col]=a
 118  * is non-zero.  Initially, these elements of bset1 are all zero.
 119  * For each row i < row, we set
 120  *              A[i] = a * A[i] + B[i][col] * A[row]
 121  *              B[i] = a * B[i]
 122  * so that
 123  *              A[i][col] = B[i][col] = a * old(B[i][col])
 124  */
 125 static void construct_column(
 126         struct isl_basic_set *bset1, struct isl_basic_set *bset2,
 127         unsigned row, unsigned col)
 128 {
 129         int r;
 130         isl_int a;
 131         isl_int b;
 132         unsigned total;
 133
 134         isl_int_init(a);
 135         isl_int_init(b);
 136         total = 1 + isl_basic_set_n_dim(bset1);
 137         for (r = 0; r < row; ++r) {
 138                 if (isl_int_is_zero(bset2->eq[r][col]))
 139                         continue;
 140                 isl_int_gcd(b, bset2->eq[r][col], bset1->eq[row][col]);
 141                 isl_int_divexact(a, bset1->eq[row][col], b);
 142                 isl_int_divexact(b, bset2->eq[r][col], b);
 143                 isl_seq_combine(bset1->eq[r], a, bset1->eq[r],
 144                                               b, bset1->eq[row], total);
 145                 isl_seq_scale(bset2->eq[r], bset2->eq[r], a, total);
 146         }
 147         isl_int_clear(a);
 148         isl_int_clear(b);
 149         delete_row(bset1, row);
 150 }
 151
 152 /* Make first row entries in column col of bset1 identical to
 153  * those of bset2, using only these entries of the two matrices.
 154  * Let t be the last row with different entries.
 155  * For each row i < t, we set
 156  *      A[i] = (A[t][col]-B[t][col]) * A[i] + (B[i][col]-A[i][col) * A[t]
 157  *      B[i] = (A[t][col]-B[t][col]) * B[i] + (B[i][col]-A[i][col) * B[t]
 158  * so that
 159  *      A[i][col] = B[i][col] = old(A[t][col]*B[i][col]-A[i][col]*B[t][col])
 160  */
 161 static int transform_column(
 162         struct isl_basic_set *bset1, struct isl_basic_set *bset2,
 163         unsigned row, unsigned col)
 164 {
 165         int i, t;
 166         isl_int a, b, g;
 167         unsigned total;
 168
 169         for (t = row-1; t >= 0; --t)
 170                 if (isl_int_ne(bset1->eq[t][col], bset2->eq[t][col]))
 171                         break;
 172         if (t < 0)
 173                 return 0;
 174
 175         total = 1 + isl_basic_set_n_dim(bset1);
 176         isl_int_init(a);
 177         isl_int_init(b);
 178         isl_int_init(g);
 179         isl_int_sub(b, bset1->eq[t][col], bset2->eq[t][col]);
 180         for (i = 0; i < t; ++i) {
 181                 isl_int_sub(a, bset2->eq[i][col], bset1->eq[i][col]);
 182                 isl_int_gcd(g, a, b);
 183                 isl_int_divexact(a, a, g);
 184                 isl_int_divexact(g, b, g);
 185                 isl_seq_combine(bset1->eq[i], g, bset1->eq[i], a, bset1->eq[t],
 186                                 total);
 187                 isl_seq_combine(bset2->eq[i], g, bset2->eq[i], a, bset2->eq[t],
 188                                 total);
 189         }
 190         isl_int_clear(a);
 191         isl_int_clear(b);
 192         isl_int_clear(g);
 193         delete_row(bset1, t);
 194         delete_row(bset2, t);
 195         return 1;
 196 }
 197
 198 /* The implementation is based on Section 5.2 of Michael Karr,
 199  * "Affine Relationships Among Variables of a Program",
 200  * except that the echelon form we use starts from the last column
 201  * and that we are dealing with integer coefficients.
 202  */
 203 static struct isl_basic_set *affine_hull(
 204         struct isl_basic_set *bset1, struct isl_basic_set *bset2)
 205 {
 206         unsigned total;
 207         int col;
 208         int row;
 209
 210         if (!bset1 || !bset2)
 211                 goto error;
 212
 213         total = 1 + isl_basic_set_n_dim(bset1);
 214
 215         row = 0;
 216         for (col = total-1; col >= 0; --col) {
 217                 int is_zero1 = row >= bset1->n_eq ||
 218                         isl_int_is_zero(bset1->eq[row][col]);
 219                 int is_zero2 = row >= bset2->n_eq ||
 220                         isl_int_is_zero(bset2->eq[row][col]);
 221                 if (!is_zero1 && !is_zero2) {
 222                         set_common_multiple(bset1, bset2, row, col);
 223                         ++row;
 224                 } else if (!is_zero1 && is_zero2) {
 225                         construct_column(bset1, bset2, row, col);
 226                 } else if (is_zero1 && !is_zero2) {
 227                         construct_column(bset2, bset1, row, col);
 228                 } else {
 229                         if (transform_column(bset1, bset2, row, col))
 230                                 --row;
 231                 }
 232         }
 233         isl_assert(bset1->ctx, row == bset1->n_eq, goto error);
 234         isl_basic_set_free(bset2);
 235         bset1 = isl_basic_set_normalize_constraints(bset1);
 236         return bset1;
 237 error:
 238         isl_basic_set_free(bset1);
 239         isl_basic_set_free(bset2);
 240         return NULL;
 241 }
 242
 243 /* Find an integer point in the set represented by "tab"
 244  * that lies outside of the equality "eq" e(x) = 0.
 245  * If "up" is true, look for a point satisfying e(x) - 1 >= 0.
 246  * Otherwise, look for a point satisfying -e(x) - 1 >= 0 (i.e., e(x) <= -1).
 247  * The point, if found, is returned.
 248  * If no point can be found, a zero-length vector is returned.
 249  *
 250  * Before solving an ILP problem, we first check if simply
 251  * adding the normal of the constraint to one of the known
 252  * integer points in the basic set represented by "tab"
 253  * yields another point inside the basic set.
 254  *
 255  * The caller of this function ensures that the tableau is bounded or
 256  * that tab->basis and tab->n_unbounded have been set appropriately.
 257  */
 258 static struct isl_vec *outside_point(struct isl_tab *tab, isl_int *eq, int up)
 259 {
 260         struct isl_ctx *ctx;
 261         struct isl_vec *sample = NULL;
 262         struct isl_tab_undo *snap;
 263         unsigned dim;
 264
 265         if (!tab)
 266                 return NULL;
 267         ctx = tab->mat->ctx;
 268
 269         dim = tab->n_var;
 270         sample = isl_vec_alloc(ctx, 1 + dim);
 271         if (!sample)
 272                 return NULL;
 273         isl_int_set_si(sample->el[0], 1);
 274         isl_seq_combine(sample->el + 1,
 275                 ctx->one, tab->bmap->sample->el + 1,
 276                 up ? ctx->one : ctx->negone, eq + 1, dim);
 277         if (isl_basic_map_contains(tab->bmap, sample))
 278                 return sample;
 279         isl_vec_free(sample);
 280         sample = NULL;
 281
 282         snap = isl_tab_snap(tab);
 283
 284         if (!up)
 285                 isl_seq_neg(eq, eq, 1 + dim);
 286         isl_int_sub_ui(eq[0], eq[0], 1);
 287
 288         if (isl_tab_extend_cons(tab, 1) < 0)
 289                 goto error;
 290         if (isl_tab_add_ineq(tab, eq) < 0)
 291                 goto error;
 292
 293         sample = isl_tab_sample(tab);
 294
 295         isl_int_add_ui(eq[0], eq[0], 1);
 296         if (!up)
 297                 isl_seq_neg(eq, eq, 1 + dim);
 298
 299         if (sample && isl_tab_rollback(tab, snap) < 0)
 300                 goto error;
 301
 302         return sample;
 303 error:
 304         isl_vec_free(sample);
 305         return NULL;
 306 }
 307
 308 struct isl_basic_set *isl_basic_set_recession_cone(struct isl_basic_set *bset)
 309 {
 310         int i;
 311
 312         bset = isl_basic_set_cow(bset);
 313         if (!bset)
 314                 return NULL;
 315         isl_assert(bset->ctx, bset->n_div == 0, goto error);
 316
 317         for (i = 0; i < bset->n_eq; ++i)
 318                 isl_int_set_si(bset->eq[i][0], 0);
 319
 320         for (i = 0; i < bset->n_ineq; ++i)
 321                 isl_int_set_si(bset->ineq[i][0], 0);
 322
 323         ISL_F_CLR(bset, ISL_BASIC_SET_NO_IMPLICIT);
 324         return isl_basic_set_implicit_equalities(bset);
 325 error:
 326         isl_basic_set_free(bset);
 327         return NULL;
 328 }
 329
 330 __isl_give isl_set *isl_set_recession_cone(__isl_take isl_set *set)
 331 {
 332         int i;
 333
 334         if (!set)
 335                 return NULL;
 336         if (set->n == 0)
 337                 return set;
 338
 339         set = isl_set_remove_divs(set);
 340         set = isl_set_cow(set);
 341         if (!set)
 342                 return NULL;
 343
 344         for (i = 0; i < set->n; ++i) {
 345                 set->p[i] = isl_basic_set_recession_cone(set->p[i]);
 346                 if (!set->p[i])
 347                         goto error;
 348         }
 349
 350         return set;
 351 error:
 352         isl_set_free(set);
 353         return NULL;
 354 }
 355
 356 /* Move "sample" to a point that is one up (or down) from the original
 357  * point in dimension "pos".
 358  */
 359 static void adjacent_point(__isl_keep isl_vec *sample, int pos, int up)
 360 {
 361         if (up)
 362                 isl_int_add_ui(sample->el[1 + pos], sample->el[1 + pos], 1);
 363         else
 364                 isl_int_sub_ui(sample->el[1 + pos], sample->el[1 + pos], 1);
 365 }
 366
 367 /* Check if any points that are adjacent to "sample" also belong to "bset".
 368  * If so, add them to "hull" and return the updated hull.
 369  *
 370  * Before checking whether and adjacent point belongs to "bset", we first
 371  * check whether it already belongs to "hull" as this test is typically
 372  * much cheaper.
 373  */
 374 static __isl_give isl_basic_set *add_adjacent_points(
 375         __isl_take isl_basic_set *hull, __isl_take isl_vec *sample,
 376         __isl_keep isl_basic_set *bset)
 377 {
 378         int i, up;
 379         int dim;
 380
 381         if (!sample)
 382                 goto error;
 383
 384         dim = isl_basic_set_dim(hull, isl_dim_set);
 385
 386         for (i = 0; i < dim; ++i) {
 387                 for (up = 0; up <= 1; ++up) {
 388                         int contains;
 389                         isl_basic_set *point;
 390
 391                         adjacent_point(sample, i, up);
 392                         contains = isl_basic_set_contains(hull, sample);
 393                         if (contains < 0)
 394                                 goto error;
 395                         if (contains) {
 396                                 adjacent_point(sample, i, !up);
 397                                 continue;
 398                         }
 399                         contains = isl_basic_set_contains(bset, sample);
 400                         if (contains < 0)
 401                                 goto error;
 402                         if (contains) {
 403                                 point = isl_basic_set_from_vec(
 404                                                         isl_vec_copy(sample));
 405                                 hull = affine_hull(hull, point);
 406                         }
 407                         adjacent_point(sample, i, !up);
 408                         if (contains)
 409                                 break;
 410                 }
 411         }
 412
 413         isl_vec_free(sample);
 414
 415         return hull;
 416 error:
 417         isl_vec_free(sample);
 418         isl_basic_set_free(hull);
 419         return NULL;
 420 }
 421
 422 /* Extend an initial (under-)approximation of the affine hull of basic
 423  * set represented by the tableau "tab"
 424  * by looking for points that do not satisfy one of the equalities
 425  * in the current approximation and adding them to that approximation
 426  * until no such points can be found any more.
 427  *
 428  * The caller of this function ensures that "tab" is bounded or
 429  * that tab->basis and tab->n_unbounded have been set appropriately.
 430  *
 431  * "bset" may be either NULL or the basic set represented by "tab".
 432  * If "bset" is not NULL, we check for any point we find if any
 433  * of its adjacent points also belong to "bset".
 434  */
 435 static __isl_give isl_basic_set *extend_affine_hull(struct isl_tab *tab,
 436         __isl_take isl_basic_set *hull, __isl_keep isl_basic_set *bset)
 437 {
 438         int i, j;
 439         unsigned dim;
 440
 441         if (!tab || !hull)
 442                 goto error;
 443
 444         dim = tab->n_var;
 445
 446         if (isl_tab_extend_cons(tab, 2 * dim + 1) < 0)
 447                 goto error;
 448
 449         for (i = 0; i < dim; ++i) {
 450                 struct isl_vec *sample;
 451                 struct isl_basic_set *point;
 452                 for (j = 0; j < hull->n_eq; ++j) {
 453                         sample = outside_point(tab, hull->eq[j], 1);
 454                         if (!sample)
 455                                 goto error;
 456                         if (sample->size > 0)
 457                                 break;
 458                         isl_vec_free(sample);
 459                         sample = outside_point(tab, hull->eq[j], 0);
 460                         if (!sample)
 461                                 goto error;
 462                         if (sample->size > 0)
 463                                 break;
 464                         isl_vec_free(sample);
 465
 466                         if (isl_tab_add_eq(tab, hull->eq[j]) < 0)
 467                                 goto error;
 468                 }
 469                 if (j == hull->n_eq)
 470                         break;
 471                 if (tab->samples)
 472                         tab = isl_tab_add_sample(tab, isl_vec_copy(sample));
 473                 if (!tab)
 474                         goto error;
 475                 if (bset)
 476                         hull = add_adjacent_points(hull, isl_vec_copy(sample),
 477                                                     bset);
 478                 point = isl_basic_set_from_vec(sample);
 479                 hull = affine_hull(hull, point);
 480                 if (!hull)
 481                         return NULL;
 482         }
 483
 484         return hull;
 485 error:
 486         isl_basic_set_free(hull);
 487         return NULL;
 488 }
 489
 490 /* Drop all constraints in bmap that involve any of the dimensions
 491  * first to first+n-1.
 492  */
 493 static __isl_give isl_basic_map *isl_basic_map_drop_constraints_involving(
 494         __isl_take isl_basic_map *bmap, unsigned first, unsigned n)
 495 {
 496         int i;
 497
 498         if (n == 0)
 499                 return bmap;
 500
 501         bmap = isl_basic_map_cow(bmap);
 502
 503         if (!bmap)
 504                 return NULL;
 505
 506         for (i = bmap->n_eq - 1; i >= 0; --i) {
 507                 if (isl_seq_first_non_zero(bmap->eq[i] + 1 + first, n) == -1)
 508                         continue;
 509                 isl_basic_map_drop_equality(bmap, i);
 510         }
 511
 512         for (i = bmap->n_ineq - 1; i >= 0; --i) {
 513                 if (isl_seq_first_non_zero(bmap->ineq[i] + 1 + first, n) == -1)
 514                         continue;
 515                 isl_basic_map_drop_inequality(bmap, i);
 516         }
 517
 518         return bmap;
 519 }
 520
 521 /* Drop all constraints in bset that involve any of the dimensions
 522  * first to first+n-1.
 523  */
 524 __isl_give isl_basic_set *isl_basic_set_drop_constraints_involving(
 525         __isl_take isl_basic_set *bset, unsigned first, unsigned n)
 526 {
 527         return isl_basic_map_drop_constraints_involving(bset, first, n);
 528 }
 529
 530 /* Drop all constraints in bmap that do not involve any of the dimensions
 531  * first to first + n - 1 of the given type.
 532  */
 533 __isl_give isl_basic_map *isl_basic_map_drop_constraints_not_involving_dims(
 534         __isl_take isl_basic_map *bmap,
 535         enum isl_dim_type type, unsigned first, unsigned n)
 536 {
 537         int i;
 538         unsigned dim;
 539
 540         if (n == 0)
 541                 return isl_basic_map_set_to_empty(bmap);
 542         bmap = isl_basic_map_cow(bmap);
 543         if (!bmap)
 544                 return NULL;
 545
 546         dim = isl_basic_map_dim(bmap, type);
 547         if (first + n > dim || first + n < first)
 548                 isl_die(isl_basic_map_get_ctx(bmap), isl_error_invalid,
 549                         "index out of bounds", return isl_basic_map_free(bmap));
 550
 551         first += isl_basic_map_offset(bmap, type) - 1;
 552
 553         for (i = bmap->n_eq - 1; i >= 0; --i) {
 554                 if (isl_seq_first_non_zero(bmap->eq[i] + 1 + first, n) != -1)
 555                         continue;
 556                 isl_basic_map_drop_equality(bmap, i);
 557         }
 558
 559         for (i = bmap->n_ineq - 1; i >= 0; --i) {
 560                 if (isl_seq_first_non_zero(bmap->ineq[i] + 1 + first, n) != -1)
 561                         continue;
 562                 isl_basic_map_drop_inequality(bmap, i);
 563         }
 564
 565         return bmap;
 566 }
 567
 568 /* Drop all constraints in bset that do not involve any of the dimensions
 569  * first to first + n - 1 of the given type.
 570  */
 571 __isl_give isl_basic_set *isl_basic_set_drop_constraints_not_involving_dims(
 572         __isl_take isl_basic_set *bset,
 573         enum isl_dim_type type, unsigned first, unsigned n)
 574 {
 575         return isl_basic_map_drop_constraints_not_involving_dims(bset,
 576                                                             type, first, n);
 577 }
 578
 579 /* Drop all constraints in bmap that involve any of the dimensions
 580  * first to first + n - 1 of the given type.
 581  */
 582 __isl_give isl_basic_map *isl_basic_map_drop_constraints_involving_dims(
 583         __isl_take isl_basic_map *bmap,
 584         enum isl_dim_type type, unsigned first, unsigned n)
 585 {
 586         unsigned dim;
 587
 588         if (!bmap)
 589                 return NULL;
 590         if (n == 0)
 591                 return bmap;
 592
 593         dim = isl_basic_map_dim(bmap, type);
 594         if (first + n > dim || first + n < first)
 595                 isl_die(isl_basic_map_get_ctx(bmap), isl_error_invalid,
 596                         "index out of bounds", return isl_basic_map_free(bmap));
 597
 598         bmap = isl_basic_map_remove_divs_involving_dims(bmap, type, first, n);
 599         first += isl_basic_map_offset(bmap, type) - 1;
 600         return isl_basic_map_drop_constraints_involving(bmap, first, n);
 601 }
 602
 603 /* Drop all constraints in bset that involve any of the dimensions
 604  * first to first + n - 1 of the given type.
 605  */
 606 __isl_give isl_basic_set *isl_basic_set_drop_constraints_involving_dims(
 607         __isl_take isl_basic_set *bset,
 608         enum isl_dim_type type, unsigned first, unsigned n)
 609 {
 610         return isl_basic_map_drop_constraints_involving_dims(bset,
 611                                                             type, first, n);
 612 }
 613
 614 /* Drop all constraints in map that involve any of the dimensions
 615  * first to first + n - 1 of the given type.
 616  */
 617 __isl_give isl_map *isl_map_drop_constraints_involving_dims(
 618         __isl_take isl_map *map,
 619         enum isl_dim_type type, unsigned first, unsigned n)
 620 {
 621         int i;
 622         unsigned dim;
 623
 624         if (!map)
 625                 return NULL;
 626         if (n == 0)
 627                 return map;
 628
 629         dim = isl_map_dim(map, type);
 630         if (first + n > dim || first + n < first)
 631                 isl_die(isl_map_get_ctx(map), isl_error_invalid,
 632                         "index out of bounds", return isl_map_free(map));
 633
 634         map = isl_map_cow(map);
 635         if (!map)
 636                 return NULL;
 637
 638         for (i = 0; i < map->n; ++i) {
 639                 map->p[i] = isl_basic_map_drop_constraints_involving_dims(
 640                                                     map->p[i], type, first, n);
 641                 if (!map->p[i])
 642                         return isl_map_free(map);
 643         }
 644
 645         return map;
 646 }
 647
 648 /* Drop all constraints in set that involve any of the dimensions
 649  * first to first + n - 1 of the given type.
 650  */
 651 __isl_give isl_set *isl_set_drop_constraints_involving_dims(
 652         __isl_take isl_set *set,
 653         enum isl_dim_type type, unsigned first, unsigned n)
 654 {
 655         return isl_map_drop_constraints_involving_dims(set, type, first, n);
 656 }
 657
 658 /* Construct an initial underapproximatino of the hull of "bset"
 659  * from "sample" and any of its adjacent points that also belong to "bset".
 660  */
 661 static __isl_give isl_basic_set *initialize_hull(__isl_keep isl_basic_set *bset,
 662         __isl_take isl_vec *sample)
 663 {
 664         isl_basic_set *hull;
 665
 666         hull = isl_basic_set_from_vec(isl_vec_copy(sample));
 667         hull = add_adjacent_points(hull, sample, bset);
 668
 669         return hull;
 670 }
 671
 672 /* Look for all equalities satisfied by the integer points in bset,
 673  * which is assumed to be bounded.
 674  *
 675  * The equalities are obtained by successively looking for
 676  * a point that is affinely independent of the points found so far.
 677  * In particular, for each equality satisfied by the points so far,
 678  * we check if there is any point on a hyperplane parallel to the
 679  * corresponding hyperplane shifted by at least one (in either direction).
 680  */
 681 static struct isl_basic_set *uset_affine_hull_bounded(struct isl_basic_set *bset)
 682 {
 683         struct isl_vec *sample = NULL;
 684         struct isl_basic_set *hull;
 685         struct isl_tab *tab = NULL;
 686         unsigned dim;
 687
 688         if (isl_basic_set_plain_is_empty(bset))
 689                 return bset;
 690
 691         dim = isl_basic_set_n_dim(bset);
 692
 693         if (bset->sample && bset->sample->size == 1 + dim) {
 694                 int contains = isl_basic_set_contains(bset, bset->sample);
 695                 if (contains < 0)
 696                         goto error;
 697                 if (contains) {
 698                         if (dim == 0)
 699                                 return bset;
 700                         sample = isl_vec_copy(bset->sample);
 701                 } else {
 702                         isl_vec_free(bset->sample);
 703                         bset->sample = NULL;
 704                 }
 705         }
 706
 707         tab = isl_tab_from_basic_set(bset, 1);
 708         if (!tab)
 709                 goto error;
 710         if (tab->empty) {
 711                 isl_tab_free(tab);
 712                 isl_vec_free(sample);
 713                 return isl_basic_set_set_to_empty(bset);
 714         }
 715
 716         if (!sample) {
 717                 struct isl_tab_undo *snap;
 718                 snap = isl_tab_snap(tab);
 719                 sample = isl_tab_sample(tab);
 720                 if (isl_tab_rollback(tab, snap) < 0)
 721                         goto error;
 722                 isl_vec_free(tab->bmap->sample);
 723                 tab->bmap->sample = isl_vec_copy(sample);
 724         }
 725
 726         if (!sample)
 727                 goto error;
 728         if (sample->size == 0) {
 729                 isl_tab_free(tab);
 730                 isl_vec_free(sample);
 731                 return isl_basic_set_set_to_empty(bset);
 732         }
 733
 734         hull = initialize_hull(bset, sample);
 735
 736         hull = extend_affine_hull(tab, hull, bset);
 737         isl_basic_set_free(bset);
 738         isl_tab_free(tab);
 739
 740         return hull;
 741 error:
 742         isl_vec_free(sample);
 743         isl_tab_free(tab);
 744         isl_basic_set_free(bset);
 745         return NULL;
 746 }
 747
 748 /* Given an unbounded tableau and an integer point satisfying the tableau,
 749  * construct an initial affine hull containing the recession cone
 750  * shifted to the given point.
 751  *
 752  * The unbounded directions are taken from the last rows of the basis,
 753  * which is assumed to have been initialized appropriately.
 754  */
 755 static __isl_give isl_basic_set *initial_hull(struct isl_tab *tab,
 756         __isl_take isl_vec *vec)
 757 {
 758         int i;
 759         int k;
 760         struct isl_basic_set *bset = NULL;
 761         struct isl_ctx *ctx;
 762         unsigned dim;
 763
 764         if (!vec || !tab)
 765                 return NULL;
 766         ctx = vec->ctx;
 767         isl_assert(ctx, vec->size != 0, goto error);
 768
 769         bset = isl_basic_set_alloc(ctx, 0, vec->size - 1, 0, vec->size - 1, 0);
 770         if (!bset)
 771                 goto error;
 772         dim = isl_basic_set_n_dim(bset) - tab->n_unbounded;
 773         for (i = 0; i < dim; ++i) {
 774                 k = isl_basic_set_alloc_equality(bset);
 775                 if (k < 0)
 776                         goto error;
 777                 isl_seq_cpy(bset->eq[k] + 1, tab->basis->row[1 + i] + 1,
 778                             vec->size - 1);
 779                 isl_seq_inner_product(bset->eq[k] + 1, vec->el +1,
 780                                       vec->size - 1, &bset->eq[k][0]);
 781                 isl_int_neg(bset->eq[k][0], bset->eq[k][0]);
 782         }
 783         bset->sample = vec;
 784         bset = isl_basic_set_gauss(bset, NULL);
 785
 786         return bset;
 787 error:
 788         isl_basic_set_free(bset);
 789         isl_vec_free(vec);
 790         return NULL;
 791 }
 792
 793 /* Given a tableau of a set and a tableau of the corresponding
 794  * recession cone, detect and add all equalities to the tableau.
 795  * If the tableau is bounded, then we can simply keep the
 796  * tableau in its state after the return from extend_affine_hull.
 797  * However, if the tableau is unbounded, then
 798  * isl_tab_set_initial_basis_with_cone will add some additional
 799  * constraints to the tableau that have to be removed again.
 800  * In this case, we therefore rollback to the state before
 801  * any constraints were added and then add the equalities back in.
 802  */
 803 struct isl_tab *isl_tab_detect_equalities(struct isl_tab *tab,
 804         struct isl_tab *tab_cone)
 805 {
 806         int j;
 807         struct isl_vec *sample;
 808         struct isl_basic_set *hull = NULL;
 809         struct isl_tab_undo *snap;
 810
 811         if (!tab || !tab_cone)
 812                 goto error;
 813
 814         snap = isl_tab_snap(tab);
 815
 816         isl_mat_free(tab->basis);
 817         tab->basis = NULL;
 818
 819         isl_assert(tab->mat->ctx, tab->bmap, goto error);
 820         isl_assert(tab->mat->ctx, tab->samples, goto error);
 821         isl_assert(tab->mat->ctx, tab->samples->n_col == 1 + tab->n_var, goto error);
 822         isl_assert(tab->mat->ctx, tab->n_sample > tab->n_outside, goto error);
 823
 824         if (isl_tab_set_initial_basis_with_cone(tab, tab_cone) < 0)
 825                 goto error;
 826
 827         sample = isl_vec_alloc(tab->mat->ctx, 1 + tab->n_var);
 828         if (!sample)
 829                 goto error;
 830
 831         isl_seq_cpy(sample->el, tab->samples->row[tab->n_outside], sample->size);
 832
 833         isl_vec_free(tab->bmap->sample);
 834         tab->bmap->sample = isl_vec_copy(sample);
 835
 836         if (tab->n_unbounded == 0)
 837                 hull = isl_basic_set_from_vec(isl_vec_copy(sample));
 838         else
 839                 hull = initial_hull(tab, isl_vec_copy(sample));
 840
 841         for (j = tab->n_outside + 1; j < tab->n_sample; ++j) {
 842                 isl_seq_cpy(sample->el, tab->samples->row[j], sample->size);
 843                 hull = affine_hull(hull,
 844                                 isl_basic_set_from_vec(isl_vec_copy(sample)));
 845         }
 846
 847         isl_vec_free(sample);
 848
 849         hull = extend_affine_hull(tab, hull, NULL);
 850         if (!hull)
 851                 goto error;
 852
 853         if (tab->n_unbounded == 0) {
 854                 isl_basic_set_free(hull);
 855                 return tab;
 856         }
 857
 858         if (isl_tab_rollback(tab, snap) < 0)
 859                 goto error;
 860
 861         if (hull->n_eq > tab->n_zero) {
 862                 for (j = 0; j < hull->n_eq; ++j) {
 863                         isl_seq_normalize(tab->mat->ctx, hull->eq[j], 1 + tab->n_var);
 864                         if (isl_tab_add_eq(tab, hull->eq[j]) < 0)
 865                                 goto error;
 866                 }
 867         }
 868
 869         isl_basic_set_free(hull);
 870
 871         return tab;
 872 error:
 873         isl_basic_set_free(hull);
 874         isl_tab_free(tab);
 875         return NULL;
 876 }
 877
 878 /* Compute the affine hull of "bset", where "cone" is the recession cone
 879  * of "bset".
 880  *
 881  * We first compute a unimodular transformation that puts the unbounded
 882  * directions in the last dimensions.  In particular, we take a transformation
 883  * that maps all equalities to equalities (in HNF) on the first dimensions.
 884  * Let x be the original dimensions and y the transformed, with y_1 bounded
 885  * and y_2 unbounded.
 886  *
 887  *             [ y_1 ]                  [ y_1 ]   [ Q_1 ]
 888  *      x = U  [ y_2 ]                  [ y_2 ] = [ Q_2 ] x
 889  *
 890  * Let's call the input basic set S.  We compute S' = preimage(S, U)
 891  * and drop the final dimensions including any constraints involving them.
 892  * This results in set S''.
 893  * Then we compute the affine hull A'' of S''.
 894  * Let F y_1 >= g be the constraint system of A''.  In the transformed
 895  * space the y_2 are unbounded, so we can add them back without any constraints,
 896  * resulting in
 897  *
 898  *                      [ y_1 ]
 899  *              [ F 0 ] [ y_2 ] >= g
 900  * or
 901  *                      [ Q_1 ]
 902  *              [ F 0 ] [ Q_2 ] x >= g
 903  * or
 904  *              F Q_1 x >= g
 905  *
 906  * The affine hull in the original space is then obtained as
 907  * A = preimage(A'', Q_1).
 908  */
 909 static struct isl_basic_set *affine_hull_with_cone(struct isl_basic_set *bset,
 910         struct isl_basic_set *cone)
 911 {
 912         unsigned total;
 913         unsigned cone_dim;
 914         struct isl_basic_set *hull;
 915         struct isl_mat *M, *U, *Q;
 916
 917         if (!bset || !cone)
 918                 goto error;
 919
 920         total = isl_basic_set_total_dim(cone);
 921         cone_dim = total - cone->n_eq;
 922
 923         M = isl_mat_sub_alloc6(bset->ctx, cone->eq, 0, cone->n_eq, 1, total);
 924         M = isl_mat_left_hermite(M, 0, &U, &Q);
 925         if (!M)
 926                 goto error;
 927         isl_mat_free(M);
 928
 929         U = isl_mat_lin_to_aff(U);
 930         bset = isl_basic_set_preimage(bset, isl_mat_copy(U));
 931
 932         bset = isl_basic_set_drop_constraints_involving(bset, total - cone_dim,
 933                                                         cone_dim);
 934         bset = isl_basic_set_drop_dims(bset, total - cone_dim, cone_dim);
 935
 936         Q = isl_mat_lin_to_aff(Q);
 937         Q = isl_mat_drop_rows(Q, 1 + total - cone_dim, cone_dim);
 938
 939         if (bset && bset->sample && bset->sample->size == 1 + total)
 940                 bset->sample = isl_mat_vec_product(isl_mat_copy(Q), bset->sample);
 941
 942         hull = uset_affine_hull_bounded(bset);
 943
 944         if (!hull) {
 945                 isl_mat_free(Q);
 946                 isl_mat_free(U);
 947         } else {
 948                 struct isl_vec *sample = isl_vec_copy(hull->sample);
 949                 U = isl_mat_drop_cols(U, 1 + total - cone_dim, cone_dim);
 950                 if (sample && sample->size > 0)
 951                         sample = isl_mat_vec_product(U, sample);
 952                 else
 953                         isl_mat_free(U);
 954                 hull = isl_basic_set_preimage(hull, Q);
 955                 if (hull) {
 956                         isl_vec_free(hull->sample);
 957                         hull->sample = sample;
 958                 } else
 959                         isl_vec_free(sample);
 960         }
 961
 962         isl_basic_set_free(cone);
 963
 964         return hull;
 965 error:
 966         isl_basic_set_free(bset);
 967         isl_basic_set_free(cone);
 968         return NULL;
 969 }
 970
 971 /* Look for all equalities satisfied by the integer points in bset,
 972  * which is assumed not to have any explicit equalities.
 973  *
 974  * The equalities are obtained by successively looking for
 975  * a point that is affinely independent of the points found so far.
 976  * In particular, for each equality satisfied by the points so far,
 977  * we check if there is any point on a hyperplane parallel to the
 978  * corresponding hyperplane shifted by at least one (in either direction).
 979  *
 980  * Before looking for any outside points, we first compute the recession
 981  * cone.  The directions of this recession cone will always be part
 982  * of the affine hull, so there is no need for looking for any points
 983  * in these directions.
 984  * In particular, if the recession cone is full-dimensional, then
 985  * the affine hull is simply the whole universe.
 986  */
 987 static struct isl_basic_set *uset_affine_hull(struct isl_basic_set *bset)
 988 {
 989         struct isl_basic_set *cone;
 990
 991         if (isl_basic_set_plain_is_empty(bset))
 992                 return bset;
 993
 994         cone = isl_basic_set_recession_cone(isl_basic_set_copy(bset));
 995         if (!cone)
 996                 goto error;
 997         if (cone->n_eq == 0) {
 998                 struct isl_basic_set *hull;
 999                 isl_basic_set_free(cone);
1000                 hull = isl_basic_set_universe_like(bset);
1001                 isl_basic_set_free(bset);
1002                 return hull;
1003         }
1004
1005         if (cone->n_eq < isl_basic_set_total_dim(cone))
1006                 return affine_hull_with_cone(bset, cone);
1007
1008         isl_basic_set_free(cone);
1009         return uset_affine_hull_bounded(bset);
1010 error:
1011         isl_basic_set_free(bset);
1012         return NULL;
1013 }
1014
1015 /* Look for all equalities satisfied by the integer points in bmap
1016  * that are independent of the equalities already explicitly available
1017  * in bmap.
1018  *
1019  * We first remove all equalities already explicitly available,
1020  * then look for additional equalities in the reduced space
1021  * and then transform the result to the original space.
1022  * The original equalities are _not_ added to this set.  This is
1023  * the responsibility of the calling function.
1024  * The resulting basic set has all meaning about the dimensions removed.
1025  * In particular, dimensions that correspond to existential variables
1026  * in bmap and that are found to be fixed are not removed.
1027  */
1028 static struct isl_basic_set *equalities_in_underlying_set(
1029                                                 struct isl_basic_map *bmap)
1030 {
1031         struct isl_mat *T1 = NULL;
1032         struct isl_mat *T2 = NULL;
1033         struct isl_basic_set *bset = NULL;
1034         struct isl_basic_set *hull = NULL;
1035
1036         bset = isl_basic_map_underlying_set(bmap);
1037         if (!bset)
1038                 return NULL;
1039         if (bset->n_eq)
1040                 bset = isl_basic_set_remove_equalities(bset, &T1, &T2);
1041         if (!bset)
1042                 goto error;
1043
1044         hull = uset_affine_hull(bset);
1045         if (!T2)
1046                 return hull;
1047
1048         if (!hull) {
1049                 isl_mat_free(T1);
1050                 isl_mat_free(T2);
1051         } else {
1052                 struct isl_vec *sample = isl_vec_copy(hull->sample);
1053                 if (sample && sample->size > 0)
1054                         sample = isl_mat_vec_product(T1, sample);
1055                 else
1056                         isl_mat_free(T1);
1057                 hull = isl_basic_set_preimage(hull, T2);
1058                 if (hull) {
1059                         isl_vec_free(hull->sample);
1060                         hull->sample = sample;
1061                 } else
1062                         isl_vec_free(sample);
1063         }
1064
1065         return hull;
1066 error:
1067         isl_mat_free(T1);
1068         isl_mat_free(T2);
1069         isl_basic_set_free(bset);
1070         isl_basic_set_free(hull);
1071         return NULL;
1072 }
1073
1074 /* Detect and make explicit all equalities satisfied by the (integer)
1075  * points in bmap.
1076  */
1077 struct isl_basic_map *isl_basic_map_detect_equalities(
1078                                                 struct isl_basic_map *bmap)
1079 {
1080         int i, j;
1081         struct isl_basic_set *hull = NULL;
1082
1083         if (!bmap)
1084                 return NULL;
1085         if (bmap->n_ineq == 0)
1086                 return bmap;
1087         if (ISL_F_ISSET(bmap, ISL_BASIC_MAP_EMPTY))
1088                 return bmap;
1089         if (ISL_F_ISSET(bmap, ISL_BASIC_MAP_ALL_EQUALITIES))
1090                 return bmap;
1091         if (ISL_F_ISSET(bmap, ISL_BASIC_MAP_RATIONAL))
1092                 return isl_basic_map_implicit_equalities(bmap);
1093
1094         hull = equalities_in_underlying_set(isl_basic_map_copy(bmap));
1095         if (!hull)
1096                 goto error;
1097         if (ISL_F_ISSET(hull, ISL_BASIC_SET_EMPTY)) {
1098                 isl_basic_set_free(hull);
1099                 return isl_basic_map_set_to_empty(bmap);
1100         }
1101         bmap = isl_basic_map_extend_space(bmap, isl_space_copy(bmap->dim), 0,
1102                                         hull->n_eq, 0);
1103         for (i = 0; i < hull->n_eq; ++i) {
1104                 j = isl_basic_map_alloc_equality(bmap);
1105                 if (j < 0)
1106                         goto error;
1107                 isl_seq_cpy(bmap->eq[j], hull->eq[i],
1108                                 1 + isl_basic_set_total_dim(hull));
1109         }
1110         isl_vec_free(bmap->sample);
1111         bmap->sample = isl_vec_copy(hull->sample);
1112         isl_basic_set_free(hull);
1113         ISL_F_SET(bmap, ISL_BASIC_MAP_NO_IMPLICIT | ISL_BASIC_MAP_ALL_EQUALITIES);
1114         bmap = isl_basic_map_simplify(bmap);
1115         return isl_basic_map_finalize(bmap);
1116 error:
1117         isl_basic_set_free(hull);
1118         isl_basic_map_free(bmap);
1119         return NULL;
1120 }
1121
1122 __isl_give isl_basic_set *isl_basic_set_detect_equalities(
1123                                                 __isl_take isl_basic_set *bset)
1124 {
1125         return (isl_basic_set *)
1126                 isl_basic_map_detect_equalities((isl_basic_map *)bset);
1127 }
1128
1129 __isl_give isl_map *isl_map_inline_foreach_basic_map(__isl_take isl_map *map,
1130         __isl_give isl_basic_map *(*fn)(__isl_take isl_basic_map *bmap))
1131 {
1132         struct isl_basic_map *bmap;
1133         int i;
1134
1135         if (!map)
1136                 return NULL;
1137
1138         for (i = 0; i < map->n; ++i) {
1139                 bmap = isl_basic_map_copy(map->p[i]);
1140                 bmap = fn(bmap);
1141                 if (!bmap)
1142                         goto error;
1143                 isl_basic_map_free(map->p[i]);
1144                 map->p[i] = bmap;
1145         }
1146
1147         return map;
1148 error:
1149         isl_map_free(map);
1150         return NULL;
1151 }
1152
1153 __isl_give isl_map *isl_map_detect_equalities(__isl_take isl_map *map)
1154 {
1155         return isl_map_inline_foreach_basic_map(map,
1156                                             &isl_basic_map_detect_equalities);
1157 }
1158
1159 __isl_give isl_set *isl_set_detect_equalities(__isl_take isl_set *set)
1160 {
1161         return (isl_set *)isl_map_detect_equalities((isl_map *)set);
1162 }
1163
1164 /* After computing the rational affine hull (by detecting the implicit
1165  * equalities), we compute the additional equalities satisfied by
1166  * the integer points (if any) and add the original equalities back in.
1167  */
1168 struct isl_basic_map *isl_basic_map_affine_hull(struct isl_basic_map *bmap)
1169 {
1170         bmap = isl_basic_map_detect_equalities(bmap);
1171         bmap = isl_basic_map_cow(bmap);
1172         if (bmap)
1173                 isl_basic_map_free_inequality(bmap, bmap->n_ineq);
1174         bmap = isl_basic_map_finalize(bmap);
1175         return bmap;
1176 }
1177
1178 struct isl_basic_set *isl_basic_set_affine_hull(struct isl_basic_set *bset)
1179 {
1180         return (struct isl_basic_set *)
1181                 isl_basic_map_affine_hull((struct isl_basic_map *)bset);
1182 }
1183
1184 struct isl_basic_map *isl_map_affine_hull(struct isl_map *map)
1185 {
1186         int i;
1187         struct isl_basic_map *model = NULL;
1188         struct isl_basic_map *hull = NULL;
1189         struct isl_set *set;
1190
1191         map = isl_map_detect_equalities(map);
1192         map = isl_map_align_divs(map);
1193
1194         if (!map)
1195                 return NULL;
1196
1197         if (map->n == 0) {
1198                 hull = isl_basic_map_empty_like_map(map);
1199                 isl_map_free(map);
1200                 return hull;
1201         }
1202
1203         model = isl_basic_map_copy(map->p[0]);
1204         set = isl_map_underlying_set(map);
1205         set = isl_set_cow(set);
1206         if (!set)
1207                 goto error;
1208
1209         for (i = 0; i < set->n; ++i) {
1210                 set->p[i] = isl_basic_set_cow(set->p[i]);
1211                 set->p[i] = isl_basic_set_affine_hull(set->p[i]);
1212                 set->p[i] = isl_basic_set_gauss(set->p[i], NULL);
1213                 if (!set->p[i])
1214                         goto error;
1215         }
1216         set = isl_set_remove_empty_parts(set);
1217         if (set->n == 0) {
1218                 hull = isl_basic_map_empty_like(model);
1219                 isl_basic_map_free(model);
1220         } else {
1221                 struct isl_basic_set *bset;
1222                 while (set->n > 1) {
1223                         set->p[0] = affine_hull(set->p[0], set->p[--set->n]);
1224                         if (!set->p[0])
1225                                 goto error;
1226                 }
1227                 bset = isl_basic_set_copy(set->p[0]);
1228                 hull = isl_basic_map_overlying_set(bset, model);
1229         }
1230         isl_set_free(set);
1231         hull = isl_basic_map_simplify(hull);
1232         return isl_basic_map_finalize(hull);
1233 error:
1234         isl_basic_map_free(model);
1235         isl_set_free(set);
1236         return NULL;
1237 }
1238
1239 struct isl_basic_set *isl_set_affine_hull(struct isl_set *set)
1240 {
1241         return (struct isl_basic_set *)
1242                 isl_map_affine_hull((struct isl_map *)set);
1243 }