isl_tab_pip.c: add_div: use more reliable way to test whether div is nonneg
[platform/upstream/isl.git] / isl_tab_pip.c
1 #include "isl_map_private.h"
2 #include "isl_seq.h"
3 #include "isl_tab.h"
4
5 /*
6  * The implementation of parametric integer linear programming in this file
7  * was inspired by the paper "Parametric Integer Programming" and the
8  * report "Solving systems of affine (in)equalities" by Paul Feautrier
9  * (and others).
10  *
11  * The strategy used for obtaining a feasible solution is different
12  * from the one used in isl_tab.c.  In particular, in isl_tab.c,
13  * upon finding a constraint that is not yet satisfied, we pivot
14  * in a row that increases the constant term of row holding the
15  * constraint, making sure the sample solution remains feasible
16  * for all the constraints it already satisfied.
17  * Here, we always pivot in the row holding the constraint,
18  * choosing a column that induces the lexicographically smallest
19  * increment to the sample solution.
20  *
21  * By starting out from a sample value that is lexicographically
22  * smaller than any integer point in the problem space, the first
23  * feasible integer sample point we find will also be the lexicographically
24  * smallest.  If all variables can be assumed to be non-negative,
25  * then the initial sample value may be chosen equal to zero.
26  * However, we will not make this assumption.  Instead, we apply
27  * the "big parameter" trick.  Any variable x is then not directly
28  * used in the tableau, but instead it its represented by another
29  * variable x' = M + x, where M is an arbitrarily large (positive)
30  * value.  x' is therefore always non-negative, whatever the value of x.
31  * Taking as initial smaple value x' = 0 corresponds to x = -M,
32  * which is always smaller than any possible value of x.
33  *
34  * We use the big parameter trick both in the main tableau and
35  * the context tableau, each of course having its own big parameter.
36  * Before doing any real work, we check if all the parameters
37  * happen to be non-negative.  If so, we drop the column corresponding
38  * to M from the initial context tableau.
39  */
40
41 /* isl_sol is an interface for constructing a solution to
42  * a parametric integer linear programming problem.
43  * Every time the algorithm reaches a state where a solution
44  * can be read off from the tableau (including cases where the tableau
45  * is empty), the function "add" is called on the isl_sol passed
46  * to find_solutions_main.
47  *
48  * The context tableau is owned by isl_sol and is updated incrementally.
49  *
50  * There are currently two implementations of this interface,
51  * isl_sol_map, which simply collects the solutions in an isl_map
52  * and (optionally) the parts of the context where there is no solution
53  * in an isl_set, and
54  * isl_sol_for, which calls a user-defined function for each part of
55  * the solution.
56  */
57 struct isl_sol {
58         struct isl_tab *context_tab;
59         struct isl_sol *(*add)(struct isl_sol *sol, struct isl_tab *tab);
60         void (*free)(struct isl_sol *sol);
61 };
62
63 static void sol_free(struct isl_sol *sol)
64 {
65         if (!sol)
66                 return;
67         sol->free(sol);
68 }
69
70 struct isl_sol_map {
71         struct isl_sol  sol;
72         struct isl_map  *map;
73         struct isl_set  *empty;
74         int             max;
75 };
76
77 static void sol_map_free(struct isl_sol_map *sol_map)
78 {
79         isl_tab_free(sol_map->sol.context_tab);
80         isl_map_free(sol_map->map);
81         isl_set_free(sol_map->empty);
82         free(sol_map);
83 }
84
85 static void sol_map_free_wrap(struct isl_sol *sol)
86 {
87         sol_map_free((struct isl_sol_map *)sol);
88 }
89
90 static struct isl_sol_map *add_empty(struct isl_sol_map *sol)
91 {
92         struct isl_basic_set *bset;
93
94         if (!sol->empty)
95                 return sol;
96         sol->empty = isl_set_grow(sol->empty, 1);
97         bset = isl_basic_set_copy(sol->sol.context_tab->bset);
98         bset = isl_basic_set_simplify(bset);
99         bset = isl_basic_set_finalize(bset);
100         sol->empty = isl_set_add(sol->empty, bset);
101         if (!sol->empty)
102                 goto error;
103         return sol;
104 error:
105         sol_map_free(sol);
106         return NULL;
107 }
108
109 /* Add the solution identified by the tableau and the context tableau.
110  *
111  * The layout of the variables is as follows.
112  *      tab->n_var is equal to the total number of variables in the input
113  *                      map (including divs that were copied from the context)
114  *                      + the number of extra divs constructed
115  *      Of these, the first tab->n_param and the last tab->n_div variables
116  *      correspond to the variables in the context, i.e.,
117  *              tab->n_param + tab->n_div = context_tab->n_var
118  *      tab->n_param is equal to the number of parameters and input
119  *                      dimensions in the input map
120  *      tab->n_div is equal to the number of divs in the context
121  *
122  * If there is no solution, then the basic set corresponding to the
123  * context tableau is added to the set "empty".
124  *
125  * Otherwise, a basic map is constructed with the same parameters
126  * and divs as the context, the dimensions of the context as input
127  * dimensions and a number of output dimensions that is equal to
128  * the number of output dimensions in the input map.
129  * The divs in the input map (if any) that do not correspond to any
130  * div in the context do not appear in the solution.
131  * The algorithm will make sure that they have an integer value,
132  * but these values themselves are of no interest.
133  *
134  * The constraints and divs of the context are simply copied
135  * fron context_tab->bset.
136  * To extract the value of the output variables, it should be noted
137  * that we always use a big parameter M and so the variable stored
138  * in the tableau is not an output variable x itself, but
139  *      x' = M + x (in case of minimization)
140  * or
141  *      x' = M - x (in case of maximization)
142  * If x' appears in a column, then its optimal value is zero,
143  * which means that the optimal value of x is an unbounded number
144  * (-M for minimization and M for maximization).
145  * We currently assume that the output dimensions in the original map
146  * are bounded, so this cannot occur.
147  * Similarly, when x' appears in a row, then the coefficient of M in that
148  * row is necessarily 1.
149  * If the row represents
150  *      d x' = c + d M + e(y)
151  * then, in case of minimization, an equality
152  *      c + e(y) - d x' = 0
153  * is added, and in case of maximization,
154  *      c + e(y) + d x' = 0
155  */
156 static struct isl_sol_map *sol_map_add(struct isl_sol_map *sol,
157         struct isl_tab *tab)
158 {
159         int i;
160         struct isl_basic_map *bmap = NULL;
161         struct isl_tab *context_tab;
162         unsigned n_eq;
163         unsigned n_ineq;
164         unsigned nparam;
165         unsigned total;
166         unsigned n_div;
167         unsigned n_out;
168         unsigned off;
169
170         if (!sol || !tab)
171                 goto error;
172
173         if (tab->empty)
174                 return add_empty(sol);
175
176         context_tab = sol->sol.context_tab;
177         off = 2 + tab->M;
178         n_out = isl_map_dim(sol->map, isl_dim_out);
179         n_eq = context_tab->bset->n_eq + n_out;
180         n_ineq = context_tab->bset->n_ineq;
181         nparam = tab->n_param;
182         total = isl_map_dim(sol->map, isl_dim_all);
183         bmap = isl_basic_map_alloc_dim(isl_map_get_dim(sol->map),
184                                     tab->n_div, n_eq, 2 * tab->n_div + n_ineq);
185         if (!bmap)
186                 goto error;
187         n_div = tab->n_div;
188         if (tab->rational)
189                 ISL_F_SET(bmap, ISL_BASIC_MAP_RATIONAL);
190         for (i = 0; i < context_tab->bset->n_div; ++i) {
191                 int k = isl_basic_map_alloc_div(bmap);
192                 if (k < 0)
193                         goto error;
194                 isl_seq_cpy(bmap->div[k],
195                             context_tab->bset->div[i], 1 + 1 + nparam);
196                 isl_seq_clr(bmap->div[k] + 1 + 1 + nparam, total - nparam);
197                 isl_seq_cpy(bmap->div[k] + 1 + 1 + total,
198                             context_tab->bset->div[i] + 1 + 1 + nparam, i);
199         }
200         for (i = 0; i < context_tab->bset->n_eq; ++i) {
201                 int k = isl_basic_map_alloc_equality(bmap);
202                 if (k < 0)
203                         goto error;
204                 isl_seq_cpy(bmap->eq[k], context_tab->bset->eq[i], 1 + nparam);
205                 isl_seq_clr(bmap->eq[k] + 1 + nparam, total - nparam);
206                 isl_seq_cpy(bmap->eq[k] + 1 + total,
207                             context_tab->bset->eq[i] + 1 + nparam, n_div);
208         }
209         for (i = 0; i < context_tab->bset->n_ineq; ++i) {
210                 int k = isl_basic_map_alloc_inequality(bmap);
211                 if (k < 0)
212                         goto error;
213                 isl_seq_cpy(bmap->ineq[k],
214                         context_tab->bset->ineq[i], 1 + nparam);
215                 isl_seq_clr(bmap->ineq[k] + 1 + nparam, total - nparam);
216                 isl_seq_cpy(bmap->ineq[k] + 1 + total,
217                         context_tab->bset->ineq[i] + 1 + nparam, n_div);
218         }
219         for (i = tab->n_param; i < total; ++i) {
220                 int k = isl_basic_map_alloc_equality(bmap);
221                 if (k < 0)
222                         goto error;
223                 isl_seq_clr(bmap->eq[k] + 1, isl_basic_map_total_dim(bmap));
224                 if (!tab->var[i].is_row) {
225                         /* no unbounded */
226                         isl_assert(bmap->ctx, !tab->M, goto error);
227                         isl_int_set_si(bmap->eq[k][0], 0);
228                         if (sol->max)
229                                 isl_int_set_si(bmap->eq[k][1 + i], 1);
230                         else
231                                 isl_int_set_si(bmap->eq[k][1 + i], -1);
232                 } else {
233                         int row, j;
234                         row = tab->var[i].index;
235                         /* no unbounded */
236                         if (tab->M)
237                                 isl_assert(bmap->ctx,
238                                         isl_int_eq(tab->mat->row[row][2],
239                                                    tab->mat->row[row][0]),
240                                         goto error);
241                         isl_int_set(bmap->eq[k][0], tab->mat->row[row][1]);
242                         for (j = 0; j < tab->n_param; ++j) {
243                                 int col;
244                                 if (tab->var[j].is_row)
245                                         continue;
246                                 col = tab->var[j].index;
247                                 isl_int_set(bmap->eq[k][1 + j],
248                                             tab->mat->row[row][off + col]);
249                         }
250                         for (j = 0; j < tab->n_div; ++j) {
251                                 int col;
252                                 if (tab->var[tab->n_var - tab->n_div+j].is_row)
253                                         continue;
254                                 col = tab->var[tab->n_var - tab->n_div+j].index;
255                                 isl_int_set(bmap->eq[k][1 + total + j],
256                                             tab->mat->row[row][off + col]);
257                         }
258                         if (sol->max)
259                                 isl_int_set(bmap->eq[k][1 + i],
260                                             tab->mat->row[row][0]);
261                         else
262                                 isl_int_neg(bmap->eq[k][1 + i],
263                                             tab->mat->row[row][0]);
264                 }
265         }
266         bmap = isl_basic_map_simplify(bmap);
267         bmap = isl_basic_map_finalize(bmap);
268         sol->map = isl_map_grow(sol->map, 1);
269         sol->map = isl_map_add(sol->map, bmap);
270         if (!sol->map)
271                 goto error;
272         return sol;
273 error:
274         isl_basic_map_free(bmap);
275         sol_free(&sol->sol);
276         return NULL;
277 }
278
279 static struct isl_sol *sol_map_add_wrap(struct isl_sol *sol,
280         struct isl_tab *tab)
281 {
282         return (struct isl_sol *)sol_map_add((struct isl_sol_map *)sol, tab);
283 }
284
285
286 /* Store the "parametric constant" of row "row" of tableau "tab" in "line",
287  * i.e., the constant term and the coefficients of all variables that
288  * appear in the context tableau.
289  * Note that the coefficient of the big parameter M is NOT copied.
290  * The context tableau may not have a big parameter and even when it
291  * does, it is a different big parameter.
292  */
293 static void get_row_parameter_line(struct isl_tab *tab, int row, isl_int *line)
294 {
295         int i;
296         unsigned off = 2 + tab->M;
297
298         isl_int_set(line[0], tab->mat->row[row][1]);
299         for (i = 0; i < tab->n_param; ++i) {
300                 if (tab->var[i].is_row)
301                         isl_int_set_si(line[1 + i], 0);
302                 else {
303                         int col = tab->var[i].index;
304                         isl_int_set(line[1 + i], tab->mat->row[row][off + col]);
305                 }
306         }
307         for (i = 0; i < tab->n_div; ++i) {
308                 if (tab->var[tab->n_var - tab->n_div + i].is_row)
309                         isl_int_set_si(line[1 + tab->n_param + i], 0);
310                 else {
311                         int col = tab->var[tab->n_var - tab->n_div + i].index;
312                         isl_int_set(line[1 + tab->n_param + i],
313                                     tab->mat->row[row][off + col]);
314                 }
315         }
316 }
317
318 /* Check if rows "row1" and "row2" have identical "parametric constants",
319  * as explained above.
320  * In this case, we also insist that the coefficients of the big parameter
321  * be the same as the values of the constants will only be the same
322  * if these coefficients are also the same.
323  */
324 static int identical_parameter_line(struct isl_tab *tab, int row1, int row2)
325 {
326         int i;
327         unsigned off = 2 + tab->M;
328
329         if (isl_int_ne(tab->mat->row[row1][1], tab->mat->row[row2][1]))
330                 return 0;
331
332         if (tab->M && isl_int_ne(tab->mat->row[row1][2],
333                                  tab->mat->row[row2][2]))
334                 return 0;
335
336         for (i = 0; i < tab->n_param + tab->n_div; ++i) {
337                 int pos = i < tab->n_param ? i :
338                         tab->n_var - tab->n_div + i - tab->n_param;
339                 int col;
340
341                 if (tab->var[pos].is_row)
342                         continue;
343                 col = tab->var[pos].index;
344                 if (isl_int_ne(tab->mat->row[row1][off + col],
345                                tab->mat->row[row2][off + col]))
346                         return 0;
347         }
348         return 1;
349 }
350
351 /* Return an inequality that expresses that the "parametric constant"
352  * should be non-negative.
353  * This function is only called when the coefficient of the big parameter
354  * is equal to zero.
355  */
356 static struct isl_vec *get_row_parameter_ineq(struct isl_tab *tab, int row)
357 {
358         struct isl_vec *ineq;
359
360         ineq = isl_vec_alloc(tab->mat->ctx, 1 + tab->n_param + tab->n_div);
361         if (!ineq)
362                 return NULL;
363
364         get_row_parameter_line(tab, row, ineq->el);
365         if (ineq)
366                 ineq = isl_vec_normalize(ineq);
367
368         return ineq;
369 }
370
371 /* Return a integer division for use in a parametric cut based on the given row.
372  * In particular, let the parametric constant of the row be
373  *
374  *              \sum_i a_i y_i
375  *
376  * where y_0 = 1, but none of the y_i corresponds to the big parameter M.
377  * The div returned is equal to
378  *
379  *              floor(\sum_i {-a_i} y_i) = floor((\sum_i (-a_i mod d) y_i)/d)
380  */
381 static struct isl_vec *get_row_parameter_div(struct isl_tab *tab, int row)
382 {
383         struct isl_vec *div;
384
385         div = isl_vec_alloc(tab->mat->ctx, 1 + 1 + tab->n_param + tab->n_div);
386         if (!div)
387                 return NULL;
388
389         isl_int_set(div->el[0], tab->mat->row[row][0]);
390         get_row_parameter_line(tab, row, div->el + 1);
391         div = isl_vec_normalize(div);
392         isl_seq_neg(div->el + 1, div->el + 1, div->size - 1);
393         isl_seq_fdiv_r(div->el + 1, div->el + 1, div->el[0], div->size - 1);
394
395         return div;
396 }
397
398 /* Return a integer division for use in transferring an integrality constraint
399  * to the context.
400  * In particular, let the parametric constant of the row be
401  *
402  *              \sum_i a_i y_i
403  *
404  * where y_0 = 1, but none of the y_i corresponds to the big parameter M.
405  * The the returned div is equal to
406  *
407  *              floor(\sum_i {a_i} y_i) = floor((\sum_i (a_i mod d) y_i)/d)
408  */
409 static struct isl_vec *get_row_split_div(struct isl_tab *tab, int row)
410 {
411         struct isl_vec *div;
412
413         div = isl_vec_alloc(tab->mat->ctx, 1 + 1 + tab->n_param + tab->n_div);
414         if (!div)
415                 return NULL;
416
417         isl_int_set(div->el[0], tab->mat->row[row][0]);
418         get_row_parameter_line(tab, row, div->el + 1);
419         div = isl_vec_normalize(div);
420         isl_seq_fdiv_r(div->el + 1, div->el + 1, div->el[0], div->size - 1);
421
422         return div;
423 }
424
425 /* Construct and return an inequality that expresses an upper bound
426  * on the given div.
427  * In particular, if the div is given by
428  *
429  *      d = floor(e/m)
430  *
431  * then the inequality expresses
432  *
433  *      m d <= e
434  */
435 static struct isl_vec *ineq_for_div(struct isl_basic_set *bset, unsigned div)
436 {
437         unsigned total;
438         unsigned div_pos;
439         struct isl_vec *ineq;
440
441         total = isl_basic_set_total_dim(bset);
442         div_pos = 1 + total - bset->n_div + div;
443
444         ineq = isl_vec_alloc(bset->ctx, 1 + total);
445         if (!ineq)
446                 return NULL;
447
448         isl_seq_cpy(ineq->el, bset->div[div] + 1, 1 + total);
449         isl_int_neg(ineq->el[div_pos], bset->div[div][0]);
450         return ineq;
451 }
452
453 /* Given a row in the tableau and a div that was created
454  * using get_row_split_div and that been constrained to equality, i.e.,
455  *
456  *              d = floor(\sum_i {a_i} y_i) = \sum_i {a_i} y_i
457  *
458  * replace the expression "\sum_i {a_i} y_i" in the row by d,
459  * i.e., we subtract "\sum_i {a_i} y_i" and add 1 d.
460  * The coefficients of the non-parameters in the tableau have been
461  * verified to be integral.  We can therefore simply replace coefficient b
462  * by floor(b).  For the coefficients of the parameters we have
463  * floor(a_i) = a_i - {a_i}, while for the other coefficients, we have
464  * floor(b) = b.
465  */
466 static struct isl_tab *set_row_cst_to_div(struct isl_tab *tab, int row, int div)
467 {
468         int col;
469         unsigned off = 2 + tab->M;
470
471         isl_seq_fdiv_q(tab->mat->row[row] + 1, tab->mat->row[row] + 1,
472                         tab->mat->row[row][0], 1 + tab->M + tab->n_col);
473
474         isl_int_set_si(tab->mat->row[row][0], 1);
475
476         isl_assert(tab->mat->ctx,
477                 !tab->var[tab->n_var - tab->n_div + div].is_row, goto error);
478
479         col = tab->var[tab->n_var - tab->n_div + div].index;
480         isl_int_set_si(tab->mat->row[row][off + col], 1);
481
482         return tab;
483 error:
484         isl_tab_free(tab);
485         return NULL;
486 }
487
488 /* Check if the (parametric) constant of the given row is obviously
489  * negative, meaning that we don't need to consult the context tableau.
490  * If there is a big parameter and its coefficient is non-zero,
491  * then this coefficient determines the outcome.
492  * Otherwise, we check whether the constant is negative and
493  * all non-zero coefficients of parameters are negative and
494  * belong to non-negative parameters.
495  */
496 static int is_obviously_neg(struct isl_tab *tab, int row)
497 {
498         int i;
499         int col;
500         unsigned off = 2 + tab->M;
501
502         if (tab->M) {
503                 if (isl_int_is_pos(tab->mat->row[row][2]))
504                         return 0;
505                 if (isl_int_is_neg(tab->mat->row[row][2]))
506                         return 1;
507         }
508
509         if (isl_int_is_nonneg(tab->mat->row[row][1]))
510                 return 0;
511         for (i = 0; i < tab->n_param; ++i) {
512                 /* Eliminated parameter */
513                 if (tab->var[i].is_row)
514                         continue;
515                 col = tab->var[i].index;
516                 if (isl_int_is_zero(tab->mat->row[row][off + col]))
517                         continue;
518                 if (!tab->var[i].is_nonneg)
519                         return 0;
520                 if (isl_int_is_pos(tab->mat->row[row][off + col]))
521                         return 0;
522         }
523         for (i = 0; i < tab->n_div; ++i) {
524                 if (tab->var[tab->n_var - tab->n_div + i].is_row)
525                         continue;
526                 col = tab->var[tab->n_var - tab->n_div + i].index;
527                 if (isl_int_is_zero(tab->mat->row[row][off + col]))
528                         continue;
529                 if (!tab->var[tab->n_var - tab->n_div + i].is_nonneg)
530                         return 0;
531                 if (isl_int_is_pos(tab->mat->row[row][off + col]))
532                         return 0;
533         }
534         return 1;
535 }
536
537 /* Check if the (parametric) constant of the given row is obviously
538  * non-negative, meaning that we don't need to consult the context tableau.
539  * If there is a big parameter and its coefficient is non-zero,
540  * then this coefficient determines the outcome.
541  * Otherwise, we check whether the constant is non-negative and
542  * all non-zero coefficients of parameters are positive and
543  * belong to non-negative parameters.
544  */
545 static int is_obviously_nonneg(struct isl_tab *tab, int row)
546 {
547         int i;
548         int col;
549         unsigned off = 2 + tab->M;
550
551         if (tab->M) {
552                 if (isl_int_is_pos(tab->mat->row[row][2]))
553                         return 1;
554                 if (isl_int_is_neg(tab->mat->row[row][2]))
555                         return 0;
556         }
557
558         if (isl_int_is_neg(tab->mat->row[row][1]))
559                 return 0;
560         for (i = 0; i < tab->n_param; ++i) {
561                 /* Eliminated parameter */
562                 if (tab->var[i].is_row)
563                         continue;
564                 col = tab->var[i].index;
565                 if (isl_int_is_zero(tab->mat->row[row][off + col]))
566                         continue;
567                 if (!tab->var[i].is_nonneg)
568                         return 0;
569                 if (isl_int_is_neg(tab->mat->row[row][off + col]))
570                         return 0;
571         }
572         for (i = 0; i < tab->n_div; ++i) {
573                 if (tab->var[tab->n_var - tab->n_div + i].is_row)
574                         continue;
575                 col = tab->var[tab->n_var - tab->n_div + i].index;
576                 if (isl_int_is_zero(tab->mat->row[row][off + col]))
577                         continue;
578                 if (!tab->var[tab->n_var - tab->n_div + i].is_nonneg)
579                         return 0;
580                 if (isl_int_is_neg(tab->mat->row[row][off + col]))
581                         return 0;
582         }
583         return 1;
584 }
585
586 /* Given a row r and two columns, return the column that would
587  * lead to the lexicographically smallest increment in the sample
588  * solution when leaving the basis in favor of the row.
589  * Pivoting with column c will increment the sample value by a non-negative
590  * constant times a_{V,c}/a_{r,c}, with a_{V,c} the elements of column c
591  * corresponding to the non-parametric variables.
592  * If variable v appears in a column c_v, the a_{v,c} = 1 iff c = c_v,
593  * with all other entries in this virtual row equal to zero.
594  * If variable v appears in a row, then a_{v,c} is the element in column c
595  * of that row.
596  *
597  * Let v be the first variable with a_{v,c1}/a_{r,c1} != a_{v,c2}/a_{r,c2}.
598  * Then if a_{v,c1}/a_{r,c1} < a_{v,c2}/a_{r,c2}, i.e.,
599  * a_{v,c2} a_{r,c1} - a_{v,c1} a_{r,c2} > 0, c1 results in the minimal
600  * increment.  Otherwise, it's c2.
601  */
602 static int lexmin_col_pair(struct isl_tab *tab,
603         int row, int col1, int col2, isl_int tmp)
604 {
605         int i;
606         isl_int *tr;
607
608         tr = tab->mat->row[row] + 2 + tab->M;
609
610         for (i = tab->n_param; i < tab->n_var - tab->n_div; ++i) {
611                 int s1, s2;
612                 isl_int *r;
613
614                 if (!tab->var[i].is_row) {
615                         if (tab->var[i].index == col1)
616                                 return col2;
617                         if (tab->var[i].index == col2)
618                                 return col1;
619                         continue;
620                 }
621
622                 if (tab->var[i].index == row)
623                         continue;
624
625                 r = tab->mat->row[tab->var[i].index] + 2 + tab->M;
626                 s1 = isl_int_sgn(r[col1]);
627                 s2 = isl_int_sgn(r[col2]);
628                 if (s1 == 0 && s2 == 0)
629                         continue;
630                 if (s1 < s2)
631                         return col1;
632                 if (s2 < s1)
633                         return col2;
634
635                 isl_int_mul(tmp, r[col2], tr[col1]);
636                 isl_int_submul(tmp, r[col1], tr[col2]);
637                 if (isl_int_is_pos(tmp))
638                         return col1;
639                 if (isl_int_is_neg(tmp))
640                         return col2;
641         }
642         return -1;
643 }
644
645 /* Given a row in the tableau, find and return the column that would
646  * result in the lexicographically smallest, but positive, increment
647  * in the sample point.
648  * If there is no such column, then return tab->n_col.
649  * If anything goes wrong, return -1.
650  */
651 static int lexmin_pivot_col(struct isl_tab *tab, int row)
652 {
653         int j;
654         int col = tab->n_col;
655         isl_int *tr;
656         isl_int tmp;
657
658         tr = tab->mat->row[row] + 2 + tab->M;
659
660         isl_int_init(tmp);
661
662         for (j = tab->n_dead; j < tab->n_col; ++j) {
663                 if (tab->col_var[j] >= 0 &&
664                     (tab->col_var[j] < tab->n_param  ||
665                     tab->col_var[j] >= tab->n_var - tab->n_div))
666                         continue;
667
668                 if (!isl_int_is_pos(tr[j]))
669                         continue;
670
671                 if (col == tab->n_col)
672                         col = j;
673                 else
674                         col = lexmin_col_pair(tab, row, col, j, tmp);
675                 isl_assert(tab->mat->ctx, col >= 0, goto error);
676         }
677
678         isl_int_clear(tmp);
679         return col;
680 error:
681         isl_int_clear(tmp);
682         return -1;
683 }
684
685 /* Return the first known violated constraint, i.e., a non-negative
686  * contraint that currently has an either obviously negative value
687  * or a previously determined to be negative value.
688  *
689  * If any constraint has a negative coefficient for the big parameter,
690  * if any, then we return one of these first.
691  */
692 static int first_neg(struct isl_tab *tab)
693 {
694         int row;
695
696         if (tab->M)
697                 for (row = tab->n_redundant; row < tab->n_row; ++row) {
698                         if (!isl_tab_var_from_row(tab, row)->is_nonneg)
699                                 continue;
700                         if (isl_int_is_neg(tab->mat->row[row][2]))
701                                 return row;
702                 }
703         for (row = tab->n_redundant; row < tab->n_row; ++row) {
704                 if (!isl_tab_var_from_row(tab, row)->is_nonneg)
705                         continue;
706                 if (tab->row_sign) {
707                         if (tab->row_sign[row] == 0 &&
708                             is_obviously_neg(tab, row))
709                                 tab->row_sign[row] = isl_tab_row_neg;
710                         if (tab->row_sign[row] != isl_tab_row_neg)
711                                 continue;
712                 } else if (!is_obviously_neg(tab, row))
713                         continue;
714                 return row;
715         }
716         return -1;
717 }
718
719 /* Resolve all known or obviously violated constraints through pivoting.
720  * In particular, as long as we can find any violated constraint, we
721  * look for a pivoting column that would result in the lexicographicallly
722  * smallest increment in the sample point.  If there is no such column
723  * then the tableau is infeasible.
724  */
725 static struct isl_tab *restore_lexmin(struct isl_tab *tab)
726 {
727         int row, col;
728
729         if (!tab)
730                 return NULL;
731         if (tab->empty)
732                 return tab;
733         while ((row = first_neg(tab)) != -1) {
734                 col = lexmin_pivot_col(tab, row);
735                 if (col >= tab->n_col)
736                         return isl_tab_mark_empty(tab);
737                 if (col < 0)
738                         goto error;
739                 isl_tab_pivot(tab, row, col);
740         }
741         return tab;
742 error:
743         isl_tab_free(tab);
744         return NULL;
745 }
746
747 /* Given a row that represents an equality, look for an appropriate
748  * pivoting column.
749  * In particular, if there are any non-zero coefficients among
750  * the non-parameter variables, then we take the last of these
751  * variables.  Eliminating this variable in terms of the other
752  * variables and/or parameters does not influence the property
753  * that all column in the initial tableau are lexicographically
754  * positive.  The row corresponding to the eliminated variable
755  * will only have non-zero entries below the diagonal of the
756  * initial tableau.  That is, we transform
757  *
758  *              I                               I
759  *                1             into            a
760  *                  I                             I
761  *
762  * If there is no such non-parameter variable, then we are dealing with
763  * pure parameter equality and we pick any parameter with coefficient 1 or -1
764  * for elimination.  This will ensure that the eliminated parameter
765  * always has an integer value whenever all the other parameters are integral.
766  * If there is no such parameter then we return -1.
767  */
768 static int last_var_col_or_int_par_col(struct isl_tab *tab, int row)
769 {
770         unsigned off = 2 + tab->M;
771         int i;
772
773         for (i = tab->n_var - tab->n_div - 1; i >= 0 && i >= tab->n_param; --i) {
774                 int col;
775                 if (tab->var[i].is_row)
776                         continue;
777                 col = tab->var[i].index;
778                 if (col <= tab->n_dead)
779                         continue;
780                 if (!isl_int_is_zero(tab->mat->row[row][off + col]))
781                         return col;
782         }
783         for (i = tab->n_dead; i < tab->n_col; ++i) {
784                 if (isl_int_is_one(tab->mat->row[row][off + i]))
785                         return i;
786                 if (isl_int_is_negone(tab->mat->row[row][off + i]))
787                         return i;
788         }
789         return -1;
790 }
791
792 /* Add an equality that is known to be valid to the tableau.
793  * We first check if we can eliminate a variable or a parameter.
794  * If not, we add the equality as two inequalities.
795  * In this case, the equality was a pure parameter equality and there
796  * is no need to resolve any constraint violations.
797  */
798 static struct isl_tab *add_lexmin_valid_eq(struct isl_tab *tab, isl_int *eq)
799 {
800         int i;
801         int r;
802
803         if (!tab)
804                 return NULL;
805         r = isl_tab_add_row(tab, eq);
806         if (r < 0)
807                 goto error;
808
809         r = tab->con[r].index;
810         i = last_var_col_or_int_par_col(tab, r);
811         if (i < 0) {
812                 tab->con[r].is_nonneg = 1;
813                 isl_tab_push_var(tab, isl_tab_undo_nonneg, &tab->con[r]);
814                 isl_seq_neg(eq, eq, 1 + tab->n_var);
815                 r = isl_tab_add_row(tab, eq);
816                 if (r < 0)
817                         goto error;
818                 tab->con[r].is_nonneg = 1;
819                 isl_tab_push_var(tab, isl_tab_undo_nonneg, &tab->con[r]);
820         } else {
821                 isl_tab_pivot(tab, r, i);
822                 isl_tab_kill_col(tab, i);
823                 tab->n_eq++;
824
825                 tab = restore_lexmin(tab);
826         }
827
828         return tab;
829 error:
830         isl_tab_free(tab);
831         return NULL;
832 }
833
834 /* Check if the given row is a pure constant.
835  */
836 static int is_constant(struct isl_tab *tab, int row)
837 {
838         unsigned off = 2 + tab->M;
839
840         return isl_seq_first_non_zero(tab->mat->row[row] + off + tab->n_dead,
841                                         tab->n_col - tab->n_dead) == -1;
842 }
843
844 /* Add an equality that may or may not be valid to the tableau.
845  * If the resulting row is a pure constant, then it must be zero.
846  * Otherwise, the resulting tableau is empty.
847  *
848  * If the row is not a pure constant, then we add two inequalities,
849  * each time checking that they can be satisfied.
850  * In the end we try to use one of the two constraints to eliminate
851  * a column.
852  */
853 static struct isl_tab *add_lexmin_eq(struct isl_tab *tab, isl_int *eq)
854 {
855         int r1, r2;
856         int row;
857         struct isl_tab_undo *snap;
858
859         if (!tab)
860                 return NULL;
861         snap = isl_tab_snap(tab);
862         r1 = isl_tab_add_row(tab, eq);
863         if (r1 < 0)
864                 goto error;
865         tab->con[r1].is_nonneg = 1;
866         isl_tab_push_var(tab, isl_tab_undo_nonneg, &tab->con[r1]);
867
868         row = tab->con[r1].index;
869         if (is_constant(tab, row)) {
870                 if (!isl_int_is_zero(tab->mat->row[row][1]) ||
871                     (tab->M && !isl_int_is_zero(tab->mat->row[row][2])))
872                         return isl_tab_mark_empty(tab);
873                 if (isl_tab_rollback(tab, snap) < 0)
874                         goto error;
875                 return tab;
876         }
877
878         tab = restore_lexmin(tab);
879         if (!tab || tab->empty)
880                 return tab;
881
882         isl_seq_neg(eq, eq, 1 + tab->n_var);
883
884         r2 = isl_tab_add_row(tab, eq);
885         if (r2 < 0)
886                 goto error;
887         tab->con[r2].is_nonneg = 1;
888         isl_tab_push_var(tab, isl_tab_undo_nonneg, &tab->con[r2]);
889
890         tab = restore_lexmin(tab);
891         if (!tab || tab->empty)
892                 return tab;
893
894         if (!tab->con[r1].is_row)
895                 isl_tab_kill_col(tab, tab->con[r1].index);
896         else if (!tab->con[r2].is_row)
897                 isl_tab_kill_col(tab, tab->con[r2].index);
898         else if (isl_int_is_zero(tab->mat->row[tab->con[r1].index][1])) {
899                 unsigned off = 2 + tab->M;
900                 int i;
901                 int row = tab->con[r1].index;
902                 i = isl_seq_first_non_zero(tab->mat->row[row]+off+tab->n_dead,
903                                                 tab->n_col - tab->n_dead);
904                 if (i != -1) {
905                         isl_tab_pivot(tab, row, tab->n_dead + i);
906                         isl_tab_kill_col(tab, tab->n_dead + i);
907                 }
908         }
909
910         if (tab->bset) {
911                 tab->bset = isl_basic_set_add_ineq(tab->bset, eq);
912                 isl_tab_push(tab, isl_tab_undo_bset_ineq);
913                 isl_seq_neg(eq, eq, 1 + tab->n_var);
914                 tab->bset = isl_basic_set_add_ineq(tab->bset, eq);
915                 isl_seq_neg(eq, eq, 1 + tab->n_var);
916                 isl_tab_push(tab, isl_tab_undo_bset_ineq);
917                 if (!tab->bset)
918                         goto error;
919         }
920
921         return tab;
922 error:
923         isl_tab_free(tab);
924         return NULL;
925 }
926
927 /* Add an inequality to the tableau, resolving violations using
928  * restore_lexmin.
929  */
930 static struct isl_tab *add_lexmin_ineq(struct isl_tab *tab, isl_int *ineq)
931 {
932         int r;
933
934         if (!tab)
935                 return NULL;
936         if (tab->bset) {
937                 tab->bset = isl_basic_set_add_ineq(tab->bset, ineq);
938                 isl_tab_push(tab, isl_tab_undo_bset_ineq);
939                 if (!tab->bset)
940                         goto error;
941         }
942         r = isl_tab_add_row(tab, ineq);
943         if (r < 0)
944                 goto error;
945         tab->con[r].is_nonneg = 1;
946         isl_tab_push_var(tab, isl_tab_undo_nonneg, &tab->con[r]);
947         if (isl_tab_row_is_redundant(tab, tab->con[r].index)) {
948                 isl_tab_mark_redundant(tab, tab->con[r].index);
949                 return tab;
950         }
951
952         tab = restore_lexmin(tab);
953         if (tab && !tab->empty && tab->con[r].is_row &&
954                  isl_tab_row_is_redundant(tab, tab->con[r].index))
955                 isl_tab_mark_redundant(tab, tab->con[r].index);
956         return tab;
957 error:
958         isl_tab_free(tab);
959         return NULL;
960 }
961
962 /* Check if the coefficients of the parameters are all integral.
963  */
964 static int integer_parameter(struct isl_tab *tab, int row)
965 {
966         int i;
967         int col;
968         unsigned off = 2 + tab->M;
969
970         for (i = 0; i < tab->n_param; ++i) {
971                 /* Eliminated parameter */
972                 if (tab->var[i].is_row)
973                         continue;
974                 col = tab->var[i].index;
975                 if (!isl_int_is_divisible_by(tab->mat->row[row][off + col],
976                                                 tab->mat->row[row][0]))
977                         return 0;
978         }
979         for (i = 0; i < tab->n_div; ++i) {
980                 if (tab->var[tab->n_var - tab->n_div + i].is_row)
981                         continue;
982                 col = tab->var[tab->n_var - tab->n_div + i].index;
983                 if (!isl_int_is_divisible_by(tab->mat->row[row][off + col],
984                                                 tab->mat->row[row][0]))
985                         return 0;
986         }
987         return 1;
988 }
989
990 /* Check if the coefficients of the non-parameter variables are all integral.
991  */
992 static int integer_variable(struct isl_tab *tab, int row)
993 {
994         int i;
995         unsigned off = 2 + tab->M;
996
997         for (i = 0; i < tab->n_col; ++i) {
998                 if (tab->col_var[i] >= 0 &&
999                     (tab->col_var[i] < tab->n_param ||
1000                      tab->col_var[i] >= tab->n_var - tab->n_div))
1001                         continue;
1002                 if (!isl_int_is_divisible_by(tab->mat->row[row][off + i],
1003                                                 tab->mat->row[row][0]))
1004                         return 0;
1005         }
1006         return 1;
1007 }
1008
1009 /* Check if the constant term is integral.
1010  */
1011 static int integer_constant(struct isl_tab *tab, int row)
1012 {
1013         return isl_int_is_divisible_by(tab->mat->row[row][1],
1014                                         tab->mat->row[row][0]);
1015 }
1016
1017 #define I_CST   1 << 0
1018 #define I_PAR   1 << 1
1019 #define I_VAR   1 << 2
1020
1021 /* Check for first (non-parameter) variable that is non-integer and
1022  * therefore requires a cut.
1023  * For parametric tableaus, there are three parts in a row,
1024  * the constant, the coefficients of the parameters and the rest.
1025  * For each part, we check whether the coefficients in that part
1026  * are all integral and if so, set the corresponding flag in *f.
1027  * If the constant and the parameter part are integral, then the
1028  * current sample value is integral and no cut is required
1029  * (irrespective of whether the variable part is integral).
1030  */
1031 static int first_non_integer(struct isl_tab *tab, int *f)
1032 {
1033         int i;
1034
1035         for (i = tab->n_param; i < tab->n_var - tab->n_div; ++i) {
1036                 int flags = 0;
1037                 int row;
1038                 if (!tab->var[i].is_row)
1039                         continue;
1040                 row = tab->var[i].index;
1041                 if (integer_constant(tab, row))
1042                         ISL_FL_SET(flags, I_CST);
1043                 if (integer_parameter(tab, row))
1044                         ISL_FL_SET(flags, I_PAR);
1045                 if (ISL_FL_ISSET(flags, I_CST) && ISL_FL_ISSET(flags, I_PAR))
1046                         continue;
1047                 if (integer_variable(tab, row))
1048                         ISL_FL_SET(flags, I_VAR);
1049                 *f = flags;
1050                 return row;
1051         }
1052         return -1;
1053 }
1054
1055 /* Add a (non-parametric) cut to cut away the non-integral sample
1056  * value of the given row.
1057  *
1058  * If the row is given by
1059  *
1060  *      m r = f + \sum_i a_i y_i
1061  *
1062  * then the cut is
1063  *
1064  *      c = - {-f/m} + \sum_i {a_i/m} y_i >= 0
1065  *
1066  * The big parameter, if any, is ignored, since it is assumed to be big
1067  * enough to be divisible by any integer.
1068  * If the tableau is actually a parametric tableau, then this function
1069  * is only called when all coefficients of the parameters are integral.
1070  * The cut therefore has zero coefficients for the parameters.
1071  *
1072  * The current value is known to be negative, so row_sign, if it
1073  * exists, is set accordingly.
1074  *
1075  * Return the row of the cut or -1.
1076  */
1077 static int add_cut(struct isl_tab *tab, int row)
1078 {
1079         int i;
1080         int r;
1081         isl_int *r_row;
1082         unsigned off = 2 + tab->M;
1083
1084         if (isl_tab_extend_cons(tab, 1) < 0)
1085                 return -1;
1086         r = isl_tab_allocate_con(tab);
1087         if (r < 0)
1088                 return -1;
1089
1090         r_row = tab->mat->row[tab->con[r].index];
1091         isl_int_set(r_row[0], tab->mat->row[row][0]);
1092         isl_int_neg(r_row[1], tab->mat->row[row][1]);
1093         isl_int_fdiv_r(r_row[1], r_row[1], tab->mat->row[row][0]);
1094         isl_int_neg(r_row[1], r_row[1]);
1095         if (tab->M)
1096                 isl_int_set_si(r_row[2], 0);
1097         for (i = 0; i < tab->n_col; ++i)
1098                 isl_int_fdiv_r(r_row[off + i],
1099                         tab->mat->row[row][off + i], tab->mat->row[row][0]);
1100
1101         tab->con[r].is_nonneg = 1;
1102         isl_tab_push_var(tab, isl_tab_undo_nonneg, &tab->con[r]);
1103         if (tab->row_sign)
1104                 tab->row_sign[tab->con[r].index] = isl_tab_row_neg;
1105
1106         return tab->con[r].index;
1107 }
1108
1109 /* Given a non-parametric tableau, add cuts until an integer
1110  * sample point is obtained or until the tableau is determined
1111  * to be integer infeasible.
1112  * As long as there is any non-integer value in the sample point,
1113  * we add an appropriate cut, if possible and resolve the violated
1114  * cut constraint using restore_lexmin.
1115  * If one of the corresponding rows is equal to an integral
1116  * combination of variables/constraints plus a non-integral constant,
1117  * then there is no way to obtain an integer point an we return
1118  * a tableau that is marked empty.
1119  */
1120 static struct isl_tab *cut_to_integer_lexmin(struct isl_tab *tab)
1121 {
1122         int row;
1123         int flags;
1124
1125         if (!tab)
1126                 return NULL;
1127         if (tab->empty)
1128                 return tab;
1129
1130         while ((row = first_non_integer(tab, &flags)) != -1) {
1131                 if (ISL_FL_ISSET(flags, I_VAR))
1132                         return isl_tab_mark_empty(tab);
1133                 row = add_cut(tab, row);
1134                 if (row < 0)
1135                         goto error;
1136                 tab = restore_lexmin(tab);
1137                 if (!tab || tab->empty)
1138                         break;
1139         }
1140         return tab;
1141 error:
1142         isl_tab_free(tab);
1143         return NULL;
1144 }
1145
1146 /* Check whether all the currently active samples also satisfy the inequality
1147  * "ineq" (treated as an equality if eq is set).
1148  * Remove those samples that do not.
1149  */
1150 static struct isl_tab *check_samples(struct isl_tab *tab, isl_int *ineq, int eq)
1151 {
1152         int i;
1153         isl_int v;
1154
1155         if (!tab)
1156                 return NULL;
1157
1158         isl_assert(tab->mat->ctx, tab->bset, goto error);
1159         isl_assert(tab->mat->ctx, tab->samples, goto error);
1160         isl_assert(tab->mat->ctx, tab->samples->n_col == 1 + tab->n_var, goto error);
1161
1162         isl_int_init(v);
1163         for (i = tab->n_outside; i < tab->n_sample; ++i) {
1164                 int sgn;
1165                 isl_seq_inner_product(ineq, tab->samples->row[i],
1166                                         1 + tab->n_var, &v);
1167                 sgn = isl_int_sgn(v);
1168                 if (eq ? (sgn == 0) : (sgn >= 0))
1169                         continue;
1170                 tab = isl_tab_drop_sample(tab, i);
1171                 if (!tab)
1172                         break;
1173         }
1174         isl_int_clear(v);
1175
1176         return tab;
1177 error:
1178         isl_tab_free(tab);
1179         return NULL;
1180 }
1181
1182 /* Check whether the sample value of the tableau is finite,
1183  * i.e., either the tableau does not use a big parameter, or
1184  * all values of the variables are equal to the big parameter plus
1185  * some constant.  This constant is the actual sample value.
1186  */
1187 static int sample_is_finite(struct isl_tab *tab)
1188 {
1189         int i;
1190
1191         if (!tab->M)
1192                 return 1;
1193
1194         for (i = 0; i < tab->n_var; ++i) {
1195                 int row;
1196                 if (!tab->var[i].is_row)
1197                         return 0;
1198                 row = tab->var[i].index;
1199                 if (isl_int_ne(tab->mat->row[row][0], tab->mat->row[row][2]))
1200                         return 0;
1201         }
1202         return 1;
1203 }
1204
1205 /* Check if the context tableau of sol has any integer points.
1206  * Returns -1 if an error occurred.
1207  * If an integer point can be found and if moreover it is finite,
1208  * then it is added to the list of sample values.
1209  *
1210  * This function is only called when none of the currently active sample
1211  * values satisfies the most recently added constraint.
1212  */
1213 static int context_is_feasible(struct isl_sol *sol)
1214 {
1215         struct isl_tab_undo *snap;
1216         struct isl_tab *tab;
1217         int feasible;
1218
1219         if (!sol || !sol->context_tab)
1220                 return -1;
1221
1222         snap = isl_tab_snap(sol->context_tab);
1223         isl_tab_push_basis(sol->context_tab);
1224
1225         sol->context_tab = cut_to_integer_lexmin(sol->context_tab);
1226         if (!sol->context_tab)
1227                 goto error;
1228
1229         tab = sol->context_tab;
1230         if (!tab->empty && sample_is_finite(tab)) {
1231                 struct isl_vec *sample;
1232
1233                 sample = isl_tab_get_sample_value(tab);
1234
1235                 tab = isl_tab_add_sample(tab, sample);
1236         }
1237
1238         feasible = !sol->context_tab->empty;
1239         if (isl_tab_rollback(sol->context_tab, snap) < 0)
1240                 goto error;
1241
1242         return feasible;
1243 error:
1244         isl_tab_free(sol->context_tab);
1245         sol->context_tab = NULL;
1246         return -1;
1247 }
1248
1249 /* First check if any of the currently active sample values satisfies
1250  * the inequality "ineq" (an equality if eq is set).
1251  * If not, continue with check_integer_feasible.
1252  */
1253 static int context_valid_sample_or_feasible(struct isl_sol *sol,
1254         isl_int *ineq, int eq)
1255 {
1256         int i;
1257         isl_int v;
1258         struct isl_tab *tab;
1259
1260         if (!sol || !sol->context_tab)
1261                 return -1;
1262
1263         tab = sol->context_tab;
1264         isl_assert(tab->mat->ctx, tab->bset, return -1);
1265         isl_assert(tab->mat->ctx, tab->samples, return -1);
1266         isl_assert(tab->mat->ctx, tab->samples->n_col == 1 + tab->n_var, return -1);
1267
1268         isl_int_init(v);
1269         for (i = tab->n_outside; i < tab->n_sample; ++i) {
1270                 int sgn;
1271                 isl_seq_inner_product(ineq, tab->samples->row[i],
1272                                         1 + tab->n_var, &v);
1273                 sgn = isl_int_sgn(v);
1274                 if (eq ? (sgn == 0) : (sgn >= 0))
1275                         break;
1276         }
1277         isl_int_clear(v);
1278
1279         if (i < tab->n_sample)
1280                 return 1;
1281
1282         return context_is_feasible(sol);
1283 }
1284
1285 /* For a div d = floor(f/m), add the constraints
1286  *
1287  *              f - m d >= 0
1288  *              -(f-(m-1)) + m d >= 0
1289  *
1290  * Note that the second constraint is the negation of
1291  *
1292  *              f - m d >= m
1293  */
1294 static struct isl_tab *add_div_constraints(struct isl_tab *tab, unsigned div)
1295 {
1296         unsigned total;
1297         unsigned div_pos;
1298         struct isl_vec *ineq;
1299
1300         if (!tab)
1301                 return NULL;
1302
1303         total = isl_basic_set_total_dim(tab->bset);
1304         div_pos = 1 + total - tab->bset->n_div + div;
1305
1306         ineq = ineq_for_div(tab->bset, div);
1307         if (!ineq)
1308                 goto error;
1309
1310         tab = add_lexmin_ineq(tab, ineq->el);
1311
1312         isl_seq_neg(ineq->el, tab->bset->div[div] + 1, 1 + total);
1313         isl_int_set(ineq->el[div_pos], tab->bset->div[div][0]);
1314         isl_int_add(ineq->el[0], ineq->el[0], ineq->el[div_pos]);
1315         isl_int_sub_ui(ineq->el[0], ineq->el[0], 1);
1316         tab = add_lexmin_ineq(tab, ineq->el);
1317
1318         isl_vec_free(ineq);
1319
1320         return tab;
1321 error:
1322         isl_tab_free(tab);
1323         return NULL;
1324 }
1325
1326 /* Add a div specified by "div" to both the main tableau and
1327  * the context tableau.  In case of the main tableau, we only
1328  * need to add an extra div.  In the context tableau, we also
1329  * need to express the meaning of the div.
1330  * Return the index of the div or -1 if anything went wrong.
1331  */
1332 static int add_div(struct isl_tab *tab, struct isl_tab **context_tab,
1333         struct isl_vec *div)
1334 {
1335         int i;
1336         int r;
1337         int k;
1338         int nonneg;
1339         struct isl_mat *samples;
1340
1341         for (i = 0; i < (*context_tab)->n_var; ++i) {
1342                 if (isl_int_is_zero(div->el[2 + i]))
1343                         continue;
1344                 if (!(*context_tab)->var[i].is_nonneg)
1345                         break;
1346         }
1347         nonneg = i == (*context_tab)->n_var;
1348
1349         if (isl_tab_extend_vars(*context_tab, 1) < 0)
1350                 goto error;
1351         r = isl_tab_allocate_var(*context_tab);
1352         if (r < 0)
1353                 goto error;
1354         if (nonneg)
1355                 (*context_tab)->var[r].is_nonneg = 1;
1356         (*context_tab)->var[r].frozen = 1;
1357
1358         samples = isl_mat_extend((*context_tab)->samples,
1359                         (*context_tab)->n_sample, 1 + (*context_tab)->n_var);
1360         (*context_tab)->samples = samples;
1361         if (!samples)
1362                 goto error;
1363         for (i = (*context_tab)->n_outside; i < samples->n_row; ++i) {
1364                 isl_seq_inner_product(div->el + 1, samples->row[i],
1365                         div->size - 1, &samples->row[i][samples->n_col - 1]);
1366                 isl_int_fdiv_q(samples->row[i][samples->n_col - 1],
1367                                samples->row[i][samples->n_col - 1], div->el[0]);
1368         }
1369
1370         (*context_tab)->bset = isl_basic_set_extend_dim((*context_tab)->bset,
1371                 isl_basic_set_get_dim((*context_tab)->bset), 1, 0, 2);
1372         k = isl_basic_set_alloc_div((*context_tab)->bset);
1373         if (k < 0)
1374                 goto error;
1375         isl_seq_cpy((*context_tab)->bset->div[k], div->el, div->size);
1376         isl_tab_push((*context_tab), isl_tab_undo_bset_div);
1377         *context_tab = add_div_constraints(*context_tab, k);
1378         if (!*context_tab)
1379                 goto error;
1380
1381         if (isl_tab_extend_vars(tab, 1) < 0)
1382                 goto error;
1383         r = isl_tab_allocate_var(tab);
1384         if (r < 0)
1385                 goto error;
1386         if (nonneg)
1387                 tab->var[r].is_nonneg = 1;
1388         tab->var[r].frozen = 1;
1389         tab->n_div++;
1390
1391         return tab->n_div - 1;
1392 error:
1393         isl_tab_free(*context_tab);
1394         *context_tab = NULL;
1395         return -1;
1396 }
1397
1398 static int find_div(struct isl_tab *tab, isl_int *div, isl_int denom)
1399 {
1400         int i;
1401         unsigned total = isl_basic_set_total_dim(tab->bset);
1402
1403         for (i = 0; i < tab->bset->n_div; ++i) {
1404                 if (isl_int_ne(tab->bset->div[i][0], denom))
1405                         continue;
1406                 if (!isl_seq_eq(tab->bset->div[i] + 1, div, total))
1407                         continue;
1408                 return i;
1409         }
1410         return -1;
1411 }
1412
1413 /* Return the index of a div that corresponds to "div".
1414  * We first check if we already have such a div and if not, we create one.
1415  */
1416 static int get_div(struct isl_tab *tab, struct isl_tab **context_tab,
1417         struct isl_vec *div)
1418 {
1419         int d;
1420
1421         d = find_div(*context_tab, div->el + 1, div->el[0]);
1422         if (d != -1)
1423                 return d;
1424
1425         return add_div(tab, context_tab, div);
1426 }
1427
1428 /* Add a parametric cut to cut away the non-integral sample value
1429  * of the give row.
1430  * Let a_i be the coefficients of the constant term and the parameters
1431  * and let b_i be the coefficients of the variables or constraints
1432  * in basis of the tableau.
1433  * Let q be the div q = floor(\sum_i {-a_i} y_i).
1434  *
1435  * The cut is expressed as
1436  *
1437  *      c = \sum_i -{-a_i} y_i + \sum_i {b_i} x_i + q >= 0
1438  *
1439  * If q did not already exist in the context tableau, then it is added first.
1440  * If q is in a column of the main tableau then the "+ q" can be accomplished
1441  * by setting the corresponding entry to the denominator of the constraint.
1442  * If q happens to be in a row of the main tableau, then the corresponding
1443  * row needs to be added instead (taking care of the denominators).
1444  * Note that this is very unlikely, but perhaps not entirely impossible.
1445  *
1446  * The current value of the cut is known to be negative (or at least
1447  * non-positive), so row_sign is set accordingly.
1448  *
1449  * Return the row of the cut or -1.
1450  */
1451 static int add_parametric_cut(struct isl_tab *tab, int row,
1452         struct isl_tab **context_tab)
1453 {
1454         struct isl_vec *div;
1455         int d;
1456         int i;
1457         int r;
1458         isl_int *r_row;
1459         int col;
1460         unsigned off = 2 + tab->M;
1461
1462         if (!*context_tab)
1463                 goto error;
1464
1465         if (isl_tab_extend_cons(*context_tab, 3) < 0)
1466                 goto error;
1467
1468         div = get_row_parameter_div(tab, row);
1469         if (!div)
1470                 return -1;
1471
1472         d = get_div(tab, context_tab, div);
1473         if (d < 0)
1474                 goto error;
1475
1476         if (isl_tab_extend_cons(tab, 1) < 0)
1477                 return -1;
1478         r = isl_tab_allocate_con(tab);
1479         if (r < 0)
1480                 return -1;
1481
1482         r_row = tab->mat->row[tab->con[r].index];
1483         isl_int_set(r_row[0], tab->mat->row[row][0]);
1484         isl_int_neg(r_row[1], tab->mat->row[row][1]);
1485         isl_int_fdiv_r(r_row[1], r_row[1], tab->mat->row[row][0]);
1486         isl_int_neg(r_row[1], r_row[1]);
1487         if (tab->M)
1488                 isl_int_set_si(r_row[2], 0);
1489         for (i = 0; i < tab->n_param; ++i) {
1490                 if (tab->var[i].is_row)
1491                         continue;
1492                 col = tab->var[i].index;
1493                 isl_int_neg(r_row[off + col], tab->mat->row[row][off + col]);
1494                 isl_int_fdiv_r(r_row[off + col], r_row[off + col],
1495                                 tab->mat->row[row][0]);
1496                 isl_int_neg(r_row[off + col], r_row[off + col]);
1497         }
1498         for (i = 0; i < tab->n_div; ++i) {
1499                 if (tab->var[tab->n_var - tab->n_div + i].is_row)
1500                         continue;
1501                 col = tab->var[tab->n_var - tab->n_div + i].index;
1502                 isl_int_neg(r_row[off + col], tab->mat->row[row][off + col]);
1503                 isl_int_fdiv_r(r_row[off + col], r_row[off + col],
1504                                 tab->mat->row[row][0]);
1505                 isl_int_neg(r_row[off + col], r_row[off + col]);
1506         }
1507         for (i = 0; i < tab->n_col; ++i) {
1508                 if (tab->col_var[i] >= 0 &&
1509                     (tab->col_var[i] < tab->n_param ||
1510                      tab->col_var[i] >= tab->n_var - tab->n_div))
1511                         continue;
1512                 isl_int_fdiv_r(r_row[off + i],
1513                         tab->mat->row[row][off + i], tab->mat->row[row][0]);
1514         }
1515         if (tab->var[tab->n_var - tab->n_div + d].is_row) {
1516                 isl_int gcd;
1517                 int d_row = tab->var[tab->n_var - tab->n_div + d].index;
1518                 isl_int_init(gcd);
1519                 isl_int_gcd(gcd, tab->mat->row[d_row][0], r_row[0]);
1520                 isl_int_divexact(r_row[0], r_row[0], gcd);
1521                 isl_int_divexact(gcd, tab->mat->row[d_row][0], gcd);
1522                 isl_seq_combine(r_row + 1, gcd, r_row + 1,
1523                                 r_row[0], tab->mat->row[d_row] + 1,
1524                                 off - 1 + tab->n_col);
1525                 isl_int_mul(r_row[0], r_row[0], tab->mat->row[d_row][0]);
1526                 isl_int_clear(gcd);
1527         } else {
1528                 col = tab->var[tab->n_var - tab->n_div + d].index;
1529                 isl_int_set(r_row[off + col], tab->mat->row[row][0]);
1530         }
1531
1532         tab->con[r].is_nonneg = 1;
1533         isl_tab_push_var(tab, isl_tab_undo_nonneg, &tab->con[r]);
1534         if (tab->row_sign)
1535                 tab->row_sign[tab->con[r].index] = isl_tab_row_neg;
1536
1537         isl_vec_free(div);
1538
1539         return tab->con[r].index;
1540 error:
1541         isl_tab_free(*context_tab);
1542         *context_tab = NULL;
1543         return -1;
1544 }
1545
1546 /* Construct a tableau for bmap that can be used for computing
1547  * the lexicographic minimum (or maximum) of bmap.
1548  * If not NULL, then dom is the domain where the minimum
1549  * should be computed.  In this case, we set up a parametric
1550  * tableau with row signs (initialized to "unknown").
1551  * If M is set, then the tableau will use a big parameter.
1552  * If max is set, then a maximum should be computed instead of a minimum.
1553  * This means that for each variable x, the tableau will contain the variable
1554  * x' = M - x, rather than x' = M + x.  This in turn means that the coefficient
1555  * of the variables in all constraints are negated prior to adding them
1556  * to the tableau.
1557  */
1558 static struct isl_tab *tab_for_lexmin(struct isl_basic_map *bmap,
1559         struct isl_basic_set *dom, unsigned M, int max)
1560 {
1561         int i;
1562         struct isl_tab *tab;
1563
1564         tab = isl_tab_alloc(bmap->ctx, 2 * bmap->n_eq + bmap->n_ineq + 1,
1565                             isl_basic_map_total_dim(bmap), M);
1566         if (!tab)
1567                 return NULL;
1568
1569         tab->rational = ISL_F_ISSET(bmap, ISL_BASIC_MAP_RATIONAL);
1570         if (dom) {
1571                 tab->n_param = isl_basic_set_total_dim(dom) - dom->n_div;
1572                 tab->n_div = dom->n_div;
1573                 tab->row_sign = isl_calloc_array(bmap->ctx,
1574                                         enum isl_tab_row_sign, tab->mat->n_row);
1575                 if (!tab->row_sign)
1576                         goto error;
1577         }
1578         if (ISL_F_ISSET(bmap, ISL_BASIC_MAP_EMPTY))
1579                 return isl_tab_mark_empty(tab);
1580
1581         for (i = tab->n_param; i < tab->n_var - tab->n_div; ++i) {
1582                 tab->var[i].is_nonneg = 1;
1583                 tab->var[i].frozen = 1;
1584         }
1585         for (i = 0; i < bmap->n_eq; ++i) {
1586                 if (max)
1587                         isl_seq_neg(bmap->eq[i] + 1 + tab->n_param,
1588                                     bmap->eq[i] + 1 + tab->n_param,
1589                                     tab->n_var - tab->n_param - tab->n_div);
1590                 tab = add_lexmin_valid_eq(tab, bmap->eq[i]);
1591                 if (max)
1592                         isl_seq_neg(bmap->eq[i] + 1 + tab->n_param,
1593                                     bmap->eq[i] + 1 + tab->n_param,
1594                                     tab->n_var - tab->n_param - tab->n_div);
1595                 if (!tab || tab->empty)
1596                         return tab;
1597         }
1598         for (i = 0; i < bmap->n_ineq; ++i) {
1599                 if (max)
1600                         isl_seq_neg(bmap->ineq[i] + 1 + tab->n_param,
1601                                     bmap->ineq[i] + 1 + tab->n_param,
1602                                     tab->n_var - tab->n_param - tab->n_div);
1603                 tab = add_lexmin_ineq(tab, bmap->ineq[i]);
1604                 if (max)
1605                         isl_seq_neg(bmap->ineq[i] + 1 + tab->n_param,
1606                                     bmap->ineq[i] + 1 + tab->n_param,
1607                                     tab->n_var - tab->n_param - tab->n_div);
1608                 if (!tab || tab->empty)
1609                         return tab;
1610         }
1611         return tab;
1612 error:
1613         isl_tab_free(tab);
1614         return NULL;
1615 }
1616
1617 static struct isl_tab *context_tab_for_lexmin(struct isl_basic_set *bset)
1618 {
1619         struct isl_tab *tab;
1620
1621         bset = isl_basic_set_cow(bset);
1622         if (!bset)
1623                 return NULL;
1624         tab = tab_for_lexmin((struct isl_basic_map *)bset, NULL, 1, 0);
1625         if (!tab)
1626                 goto error;
1627         tab->bset = bset;
1628         tab = isl_tab_init_samples(tab);
1629         return tab;
1630 error:
1631         isl_basic_set_free(bset);
1632         return NULL;
1633 }
1634
1635 /* Construct an isl_sol_map structure for accumulating the solution.
1636  * If track_empty is set, then we also keep track of the parts
1637  * of the context where there is no solution.
1638  * If max is set, then we are solving a maximization, rather than
1639  * a minimization problem, which means that the variables in the
1640  * tableau have value "M - x" rather than "M + x".
1641  */
1642 static struct isl_sol_map *sol_map_init(struct isl_basic_map *bmap,
1643         struct isl_basic_set *dom, int track_empty, int max)
1644 {
1645         struct isl_sol_map *sol_map;
1646         struct isl_tab *context_tab;
1647         int f;
1648
1649         sol_map = isl_calloc_type(bset->ctx, struct isl_sol_map);
1650         if (!sol_map)
1651                 goto error;
1652
1653         sol_map->max = max;
1654         sol_map->sol.add = &sol_map_add_wrap;
1655         sol_map->sol.free = &sol_map_free_wrap;
1656         sol_map->map = isl_map_alloc_dim(isl_basic_map_get_dim(bmap), 1,
1657                                             ISL_MAP_DISJOINT);
1658         if (!sol_map->map)
1659                 goto error;
1660
1661         context_tab = context_tab_for_lexmin(isl_basic_set_copy(dom));
1662         context_tab = restore_lexmin(context_tab);
1663         sol_map->sol.context_tab = context_tab;
1664         f = context_is_feasible(&sol_map->sol);
1665         if (f < 0)
1666                 goto error;
1667
1668         if (track_empty) {
1669                 sol_map->empty = isl_set_alloc_dim(isl_basic_set_get_dim(dom),
1670                                                         1, ISL_SET_DISJOINT);
1671                 if (!sol_map->empty)
1672                         goto error;
1673         }
1674
1675         isl_basic_set_free(dom);
1676         return sol_map;
1677 error:
1678         isl_basic_set_free(dom);
1679         sol_map_free(sol_map);
1680         return NULL;
1681 }
1682
1683 /* For each variable in the context tableau, check if the variable can
1684  * only attain non-negative values.  If so, mark the parameter as non-negative
1685  * in the main tableau.  This allows for a more direct identification of some
1686  * cases of violated constraints.
1687  */
1688 static struct isl_tab *tab_detect_nonnegative_parameters(struct isl_tab *tab,
1689         struct isl_tab *context_tab)
1690 {
1691         int i;
1692         struct isl_tab_undo *snap, *snap2;
1693         struct isl_vec *ineq = NULL;
1694         struct isl_tab_var *var;
1695         int n;
1696
1697         if (context_tab->n_var == 0)
1698                 return tab;
1699
1700         ineq = isl_vec_alloc(tab->mat->ctx, 1 + context_tab->n_var);
1701         if (!ineq)
1702                 goto error;
1703
1704         if (isl_tab_extend_cons(context_tab, 1) < 0)
1705                 goto error;
1706
1707         snap = isl_tab_snap(context_tab);
1708         isl_tab_push_basis(context_tab);
1709
1710         snap2 = isl_tab_snap(context_tab);
1711
1712         n = 0;
1713         isl_seq_clr(ineq->el, ineq->size);
1714         for (i = 0; i < context_tab->n_var; ++i) {
1715                 isl_int_set_si(ineq->el[1 + i], 1);
1716                 context_tab = isl_tab_add_ineq(context_tab, ineq->el);
1717                 var = &context_tab->con[context_tab->n_con - 1];
1718                 if (!context_tab->empty &&
1719                     !isl_tab_min_at_most_neg_one(context_tab, var)) {
1720                         int j = i;
1721                         if (i >= tab->n_param)
1722                                 j = i - tab->n_param + tab->n_var - tab->n_div;
1723                         tab->var[j].is_nonneg = 1;
1724                         n++;
1725                 }
1726                 isl_int_set_si(ineq->el[1 + i], 0);
1727                 if (isl_tab_rollback(context_tab, snap2) < 0)
1728                         goto error;
1729         }
1730
1731         if (isl_tab_rollback(context_tab, snap) < 0)
1732                 goto error;
1733
1734         if (n == context_tab->n_var) {
1735                 context_tab->mat = isl_mat_drop_cols(context_tab->mat, 2, 1);
1736                 context_tab->M = 0;
1737         }
1738
1739         isl_vec_free(ineq);
1740         return tab;
1741 error:
1742         isl_vec_free(ineq);
1743         isl_tab_free(tab);
1744         return NULL;
1745 }
1746
1747 /* Check whether all coefficients of (non-parameter) variables
1748  * are non-positive, meaning that no pivots can be performed on the row.
1749  */
1750 static int is_critical(struct isl_tab *tab, int row)
1751 {
1752         int j;
1753         unsigned off = 2 + tab->M;
1754
1755         for (j = tab->n_dead; j < tab->n_col; ++j) {
1756                 if (tab->col_var[j] >= 0 &&
1757                     (tab->col_var[j] < tab->n_param  ||
1758                     tab->col_var[j] >= tab->n_var - tab->n_div))
1759                         continue;
1760
1761                 if (isl_int_is_pos(tab->mat->row[row][off + j]))
1762                         return 0;
1763         }
1764
1765         return 1;
1766 }
1767
1768 /* Check whether the inequality represented by vec is strict over the integers,
1769  * i.e., there are no integer values satisfying the constraint with
1770  * equality.  This happens if the gcd of the coefficients is not a divisor
1771  * of the constant term.  If so, scale the constraint down by the gcd
1772  * of the coefficients.
1773  */
1774 static int is_strict(struct isl_vec *vec)
1775 {
1776         isl_int gcd;
1777         int strict = 0;
1778
1779         isl_int_init(gcd);
1780         isl_seq_gcd(vec->el + 1, vec->size - 1, &gcd);
1781         if (!isl_int_is_one(gcd)) {
1782                 strict = !isl_int_is_divisible_by(vec->el[0], gcd);
1783                 isl_int_fdiv_q(vec->el[0], vec->el[0], gcd);
1784                 isl_seq_scale_down(vec->el + 1, vec->el + 1, gcd, vec->size-1);
1785         }
1786         isl_int_clear(gcd);
1787
1788         return strict;
1789 }
1790
1791 /* Determine the sign of the given row of the main tableau.
1792  * The result is one of
1793  *      isl_tab_row_pos: always non-negative; no pivot needed
1794  *      isl_tab_row_neg: always non-positive; pivot
1795  *      isl_tab_row_any: can be both positive and negative; split
1796  *
1797  * We first handle some simple cases
1798  *      - the row sign may be known already
1799  *      - the row may be obviously non-negative
1800  *      - the parametric constant may be equal to that of another row
1801  *        for which we know the sign.  This sign will be either "pos" or
1802  *        "any".  If it had been "neg" then we would have pivoted before.
1803  *
1804  * If none of these cases hold, we check the value of the row for each
1805  * of the currently active samples.  Based on the signs of these values
1806  * we make an initial determination of the sign of the row.
1807  *
1808  *      all zero                        ->      unk(nown)
1809  *      all non-negative                ->      pos
1810  *      all non-positive                ->      neg
1811  *      both negative and positive      ->      all
1812  *
1813  * If we end up with "all", we are done.
1814  * Otherwise, we perform a check for positive and/or negative
1815  * values as follows.
1816  *
1817  *      samples        neg             unk             pos
1818  *      <0 ?                        Y        N      Y        N
1819  *                                          pos    any      pos
1820  *      >0 ?         Y      N    Y     N
1821  *                  any    neg  any   neg
1822  *
1823  * There is no special sign for "zero", because we can usually treat zero
1824  * as either non-negative or non-positive, whatever works out best.
1825  * However, if the row is "critical", meaning that pivoting is impossible
1826  * then we don't want to limp zero with the non-positive case, because
1827  * then we we would lose the solution for those values of the parameters
1828  * where the value of the row is zero.  Instead, we treat 0 as non-negative
1829  * ensuring a split if the row can attain both zero and negative values.
1830  * The same happens when the original constraint was one that could not
1831  * be satisfied with equality by any integer values of the parameters.
1832  * In this case, we normalize the constraint, but then a value of zero
1833  * for the normalized constraint is actually a positive value for the
1834  * original constraint, so again we need to treat zero as non-negative.
1835  * In both these cases, we have the following decision tree instead:
1836  *
1837  *      all non-negative                ->      pos
1838  *      all negative                    ->      neg
1839  *      both negative and non-negative  ->      all
1840  *
1841  *      samples        neg                             pos
1842  *      <0 ?                                        Y        N
1843  *                                                 any      pos
1844  *      >=0 ?        Y      N
1845  *                  any    neg
1846  */
1847 static int row_sign(struct isl_tab *tab, struct isl_sol *sol, int row)
1848 {
1849         int i;
1850         struct isl_tab_undo *snap = NULL;
1851         struct isl_vec *ineq = NULL;
1852         int res = isl_tab_row_unknown;
1853         int critical;
1854         int strict;
1855         int sgn;
1856         int row2;
1857         isl_int tmp;
1858         struct isl_tab *context_tab = sol->context_tab;
1859
1860         if (tab->row_sign[row] != isl_tab_row_unknown)
1861                 return tab->row_sign[row];
1862         if (is_obviously_nonneg(tab, row))
1863                 return isl_tab_row_pos;
1864         for (row2 = tab->n_redundant; row2 < tab->n_row; ++row2) {
1865                 if (tab->row_sign[row2] == isl_tab_row_unknown)
1866                         continue;
1867                 if (identical_parameter_line(tab, row, row2))
1868                         return tab->row_sign[row2];
1869         }
1870
1871         critical = is_critical(tab, row);
1872
1873         isl_assert(tab->mat->ctx, context_tab->samples, goto error);
1874         isl_assert(tab->mat->ctx, context_tab->samples->n_col == 1 + context_tab->n_var, goto error);
1875
1876         ineq = get_row_parameter_ineq(tab, row);
1877         if (!ineq)
1878                 goto error;
1879
1880         strict = is_strict(ineq);
1881
1882         isl_int_init(tmp);
1883         for (i = context_tab->n_outside; i < context_tab->n_sample; ++i) {
1884                 isl_seq_inner_product(context_tab->samples->row[i], ineq->el,
1885                                         ineq->size, &tmp);
1886                 sgn = isl_int_sgn(tmp);
1887                 if (sgn > 0 || (sgn == 0 && (critical || strict))) {
1888                         if (res == isl_tab_row_unknown)
1889                                 res = isl_tab_row_pos;
1890                         if (res == isl_tab_row_neg)
1891                                 res = isl_tab_row_any;
1892                 }
1893                 if (sgn < 0) {
1894                         if (res == isl_tab_row_unknown)
1895                                 res = isl_tab_row_neg;
1896                         if (res == isl_tab_row_pos)
1897                                 res = isl_tab_row_any;
1898                 }
1899                 if (res == isl_tab_row_any)
1900                         break;
1901         }
1902         isl_int_clear(tmp);
1903
1904         if (res != isl_tab_row_any) {
1905                 if (isl_tab_extend_cons(context_tab, 1) < 0)
1906                         goto error;
1907
1908                 snap = isl_tab_snap(context_tab);
1909                 isl_tab_push_basis(context_tab);
1910         }
1911
1912         if (res == isl_tab_row_unknown || res == isl_tab_row_pos) {
1913                 /* test for negative values */
1914                 int feasible;
1915                 isl_seq_neg(ineq->el, ineq->el, ineq->size);
1916                 isl_int_sub_ui(ineq->el[0], ineq->el[0], 1);
1917
1918                 isl_tab_push_basis(context_tab);
1919                 sol->context_tab = add_lexmin_ineq(sol->context_tab, ineq->el);
1920                 feasible = context_is_feasible(sol);
1921                 if (feasible < 0)
1922                         goto error;
1923                 context_tab = sol->context_tab;
1924                 if (!feasible)
1925                         res = isl_tab_row_pos;
1926                 else
1927                         res = (res == isl_tab_row_unknown) ? isl_tab_row_neg
1928                                                            : isl_tab_row_any;
1929                 if (isl_tab_rollback(context_tab, snap) < 0)
1930                         goto error;
1931
1932                 if (res == isl_tab_row_neg) {
1933                         isl_seq_neg(ineq->el, ineq->el, ineq->size);
1934                         isl_int_sub_ui(ineq->el[0], ineq->el[0], 1);
1935                 }
1936         }
1937
1938         if (res == isl_tab_row_neg) {
1939                 /* test for positive values */
1940                 int feasible;
1941                 if (!critical && !strict)
1942                         isl_int_sub_ui(ineq->el[0], ineq->el[0], 1);
1943
1944                 isl_tab_push_basis(context_tab);
1945                 sol->context_tab = add_lexmin_ineq(sol->context_tab, ineq->el);
1946                 feasible = context_is_feasible(sol);
1947                 if (feasible < 0)
1948                         goto error;
1949                 context_tab = sol->context_tab;
1950                 if (feasible)
1951                         res = isl_tab_row_any;
1952                 if (isl_tab_rollback(context_tab, snap) < 0)
1953                         goto error;
1954         }
1955
1956         isl_vec_free(ineq);
1957         return res;
1958 error:
1959         isl_vec_free(ineq);
1960         return 0;
1961 }
1962
1963 static struct isl_sol *find_solutions(struct isl_sol *sol, struct isl_tab *tab);
1964
1965 /* Find solutions for values of the parameters that satisfy the given
1966  * inequality.
1967  *
1968  * We currently take a snapshot of the context tableau that is reset
1969  * when we return from this function, while we make a copy of the main
1970  * tableau, leaving the original main tableau untouched.
1971  * These are fairly arbitrary choices.  Making a copy also of the context
1972  * tableau would obviate the need to undo any changes made to it later,
1973  * while taking a snapshot of the main tableau could reduce memory usage.
1974  * If we were to switch to taking a snapshot of the main tableau,
1975  * we would have to keep in mind that we need to save the row signs
1976  * and that we need to do this before saving the current basis
1977  * such that the basis has been restore before we restore the row signs.
1978  */
1979 static struct isl_sol *find_in_pos(struct isl_sol *sol,
1980         struct isl_tab *tab, isl_int *ineq)
1981 {
1982         struct isl_tab_undo *snap;
1983
1984         snap = isl_tab_snap(sol->context_tab);
1985         isl_tab_push_basis(sol->context_tab);
1986         isl_tab_save_samples(sol->context_tab);
1987         if (isl_tab_extend_cons(sol->context_tab, 1) < 0)
1988                 goto error;
1989
1990         tab = isl_tab_dup(tab);
1991         if (!tab)
1992                 goto error;
1993
1994         sol->context_tab = add_lexmin_ineq(sol->context_tab, ineq);
1995         sol->context_tab = check_samples(sol->context_tab, ineq, 0);
1996
1997         sol = find_solutions(sol, tab);
1998
1999         isl_tab_rollback(sol->context_tab, snap);
2000         return sol;
2001 error:
2002         isl_tab_rollback(sol->context_tab, snap);
2003         sol_free(sol);
2004         return NULL;
2005 }
2006
2007 /* Record the absence of solutions for those values of the parameters
2008  * that do not satisfy the given inequality with equality.
2009  */
2010 static struct isl_sol *no_sol_in_strict(struct isl_sol *sol,
2011         struct isl_tab *tab, struct isl_vec *ineq)
2012 {
2013         int empty;
2014         int f;
2015         struct isl_tab_undo *snap;
2016         snap = isl_tab_snap(sol->context_tab);
2017         isl_tab_push_basis(sol->context_tab);
2018         isl_tab_save_samples(sol->context_tab);
2019         if (isl_tab_extend_cons(sol->context_tab, 1) < 0)
2020                 goto error;
2021
2022         isl_int_sub_ui(ineq->el[0], ineq->el[0], 1);
2023
2024         sol->context_tab = add_lexmin_ineq(sol->context_tab, ineq->el);
2025         f = context_valid_sample_or_feasible(sol, ineq->el, 0);
2026         if (f < 0)
2027                 goto error;
2028
2029         empty = tab->empty;
2030         tab->empty = 1;
2031         sol = sol->add(sol, tab);
2032         tab->empty = empty;
2033
2034         isl_int_add_ui(ineq->el[0], ineq->el[0], 1);
2035
2036         if (isl_tab_rollback(sol->context_tab, snap) < 0)
2037                 goto error;
2038         return sol;
2039 error:
2040         sol_free(sol);
2041         return NULL;
2042 }
2043
2044 /* Given a main tableau where more than one row requires a split,
2045  * determine and return the "best" row to split on.
2046  *
2047  * Given two rows in the main tableau, if the inequality corresponding
2048  * to the first row is redundant with respect to that of the second row
2049  * in the current tableau, then it is better to split on the second row,
2050  * since in the positive part, both row will be positive.
2051  * (In the negative part a pivot will have to be performed and just about
2052  * anything can happen to the sign of the other row.)
2053  *
2054  * As a simple heuristic, we therefore select the row that makes the most
2055  * of the other rows redundant.
2056  *
2057  * Perhaps it would also be useful to look at the number of constraints
2058  * that conflict with any given constraint.
2059  */
2060 static int best_split(struct isl_tab *tab, struct isl_tab *context_tab)
2061 {
2062         struct isl_tab_undo *snap, *snap2;
2063         int split;
2064         int row;
2065         int best = -1;
2066         int best_r;
2067
2068         if (isl_tab_extend_cons(context_tab, 2) < 0)
2069                 return -1;
2070
2071         snap = isl_tab_snap(context_tab);
2072         isl_tab_push_basis(context_tab);
2073         snap2 = isl_tab_snap(context_tab);
2074
2075         for (split = tab->n_redundant; split < tab->n_row; ++split) {
2076                 struct isl_tab_undo *snap3;
2077                 struct isl_vec *ineq = NULL;
2078                 int r = 0;
2079
2080                 if (!isl_tab_var_from_row(tab, split)->is_nonneg)
2081                         continue;
2082                 if (tab->row_sign[split] != isl_tab_row_any)
2083                         continue;
2084
2085                 ineq = get_row_parameter_ineq(tab, split);
2086                 if (!ineq)
2087                         return -1;
2088                 context_tab = isl_tab_add_ineq(context_tab, ineq->el);
2089                 isl_vec_free(ineq);
2090
2091                 snap3 = isl_tab_snap(context_tab);
2092
2093                 for (row = tab->n_redundant; row < tab->n_row; ++row) {
2094                         struct isl_tab_var *var;
2095
2096                         if (row == split)
2097                                 continue;
2098                         if (!isl_tab_var_from_row(tab, row)->is_nonneg)
2099                                 continue;
2100                         if (tab->row_sign[row] != isl_tab_row_any)
2101                                 continue;
2102
2103                         ineq = get_row_parameter_ineq(tab, row);
2104                         if (!ineq)
2105                                 return -1;
2106                         context_tab = isl_tab_add_ineq(context_tab, ineq->el);
2107                         isl_vec_free(ineq);
2108                         var = &context_tab->con[context_tab->n_con - 1];
2109                         if (!context_tab->empty &&
2110                             !isl_tab_min_at_most_neg_one(context_tab, var))
2111                                 r++;
2112                         if (isl_tab_rollback(context_tab, snap3) < 0)
2113                                 return -1;
2114                 }
2115                 if (best == -1 || r > best_r) {
2116                         best = split;
2117                         best_r = r;
2118                 }
2119                 if (isl_tab_rollback(context_tab, snap2) < 0)
2120                         return -1;
2121         }
2122
2123         if (isl_tab_rollback(context_tab, snap) < 0)
2124                 return -1;
2125
2126         return best;
2127 }
2128
2129 /* Compute the lexicographic minimum of the set represented by the main
2130  * tableau "tab" within the context "sol->context_tab".
2131  * On entry the sample value of the main tableau is lexicographically
2132  * less than or equal to this lexicographic minimum.
2133  * Pivots are performed until a feasible point is found, which is then
2134  * necessarily equal to the minimum, or until the tableau is found to
2135  * be infeasible.  Some pivots may need to be performed for only some
2136  * feasible values of the context tableau.  If so, the context tableau
2137  * is split into a part where the pivot is needed and a part where it is not.
2138  *
2139  * Whenever we enter the main loop, the main tableau is such that no
2140  * "obvious" pivots need to be performed on it, where "obvious" means
2141  * that the given row can be seen to be negative without looking at
2142  * the context tableau.  In particular, for non-parametric problems,
2143  * no pivots need to be performed on the main tableau.
2144  * The caller of find_solutions is responsible for making this property
2145  * hold prior to the first iteration of the loop, while restore_lexmin
2146  * is called before every other iteration.
2147  *
2148  * Inside the main loop, we first examine the signs of the rows of
2149  * the main tableau within the context of the context tableau.
2150  * If we find a row that is always non-positive for all values of
2151  * the parameters satisfying the context tableau and negative for at
2152  * least one value of the parameters, we perform the appropriate pivot
2153  * and start over.  An exception is the case where no pivot can be
2154  * performed on the row.  In this case, we require that the sign of
2155  * the row is negative for all values of the parameters (rather than just
2156  * non-positive).  This special case is handled inside row_sign, which
2157  * will say that the row can have any sign if it determines that it can
2158  * attain both negative and zero values.
2159  *
2160  * If we can't find a row that always requires a pivot, but we can find
2161  * one or more rows that require a pivot for some values of the parameters
2162  * (i.e., the row can attain both positive and negative signs), then we split
2163  * the context tableau into two parts, one where we force the sign to be
2164  * non-negative and one where we force is to be negative.
2165  * The non-negative part is handled by a recursive call (through find_in_pos).
2166  * Upon returning from this call, we continue with the negative part and
2167  * perform the required pivot.
2168  *
2169  * If no such rows can be found, all rows are non-negative and we have
2170  * found a (rational) feasible point.  If we only wanted a rational point
2171  * then we are done.
2172  * Otherwise, we check if all values of the sample point of the tableau
2173  * are integral for the variables.  If so, we have found the minimal
2174  * integral point and we are done.
2175  * If the sample point is not integral, then we need to make a distinction
2176  * based on whether the constant term is non-integral or the coefficients
2177  * of the parameters.  Furthermore, in order to decide how to handle
2178  * the non-integrality, we also need to know whether the coefficients
2179  * of the other columns in the tableau are integral.  This leads
2180  * to the following table.  The first two rows do not correspond
2181  * to a non-integral sample point and are only mentioned for completeness.
2182  *
2183  *      constant        parameters      other
2184  *
2185  *      int             int             int     |
2186  *      int             int             rat     | -> no problem
2187  *
2188  *      rat             int             int       -> fail
2189  *
2190  *      rat             int             rat       -> cut
2191  *
2192  *      int             rat             rat     |
2193  *      rat             rat             rat     | -> parametric cut
2194  *
2195  *      int             rat             int     |
2196  *      rat             rat             int     | -> split context
2197  *
2198  * If the parametric constant is completely integral, then there is nothing
2199  * to be done.  If the constant term is non-integral, but all the other
2200  * coefficient are integral, then there is nothing that can be done
2201  * and the tableau has no integral solution.
2202  * If, on the other hand, one or more of the other columns have rational
2203  * coeffcients, but the parameter coefficients are all integral, then
2204  * we can perform a regular (non-parametric) cut.
2205  * Finally, if there is any parameter coefficient that is non-integral,
2206  * then we need to involve the context tableau.  There are two cases here.
2207  * If at least one other column has a rational coefficient, then we
2208  * can perform a parametric cut in the main tableau by adding a new
2209  * integer division in the context tableau.
2210  * If all other columns have integral coefficients, then we need to
2211  * enforce that the rational combination of parameters (c + \sum a_i y_i)/m
2212  * is always integral.  We do this by introducing an integer division
2213  * q = floor((c + \sum a_i y_i)/m) and stipulating that its argument should
2214  * always be integral in the context tableau, i.e., m q = c + \sum a_i y_i.
2215  * Since q is expressed in the tableau as
2216  *      c + \sum a_i y_i - m q >= 0
2217  *      -c - \sum a_i y_i + m q + m - 1 >= 0
2218  * it is sufficient to add the inequality
2219  *      -c - \sum a_i y_i + m q >= 0
2220  * In the part of the context where this inequality does not hold, the
2221  * main tableau is marked as being empty.
2222  */
2223 static struct isl_sol *find_solutions(struct isl_sol *sol, struct isl_tab *tab)
2224 {
2225         struct isl_tab **context_tab;
2226
2227         if (!tab || !sol)
2228                 goto error;
2229
2230         context_tab = &sol->context_tab;
2231
2232         if (tab->empty)
2233                 goto done;
2234         if ((*context_tab)->empty)
2235                 goto done;
2236
2237         for (; tab && !tab->empty; tab = restore_lexmin(tab)) {
2238                 int flags;
2239                 int row;
2240                 int sgn;
2241                 int split = -1;
2242                 int n_split = 0;
2243
2244                 for (row = tab->n_redundant; row < tab->n_row; ++row) {
2245                         if (!isl_tab_var_from_row(tab, row)->is_nonneg)
2246                                 continue;
2247                         sgn = row_sign(tab, sol, row);
2248                         if (!sgn)
2249                                 goto error;
2250                         tab->row_sign[row] = sgn;
2251                         if (sgn == isl_tab_row_any)
2252                                 n_split++;
2253                         if (sgn == isl_tab_row_any && split == -1)
2254                                 split = row;
2255                         if (sgn == isl_tab_row_neg)
2256                                 break;
2257                 }
2258                 if (row < tab->n_row)
2259                         continue;
2260                 if (split != -1) {
2261                         struct isl_vec *ineq;
2262                         if (n_split != 1)
2263                                 split = best_split(tab, *context_tab);
2264                         if (split < 0)
2265                                 goto error;
2266                         ineq = get_row_parameter_ineq(tab, split);
2267                         if (!ineq)
2268                                 goto error;
2269                         is_strict(ineq);
2270                         for (row = tab->n_redundant; row < tab->n_row; ++row) {
2271                                 if (!isl_tab_var_from_row(tab, row)->is_nonneg)
2272                                         continue;
2273                                 if (tab->row_sign[row] == isl_tab_row_any)
2274                                         tab->row_sign[row] = isl_tab_row_unknown;
2275                         }
2276                         tab->row_sign[split] = isl_tab_row_pos;
2277                         sol = find_in_pos(sol, tab, ineq->el);
2278                         tab->row_sign[split] = isl_tab_row_neg;
2279                         row = split;
2280                         isl_seq_neg(ineq->el, ineq->el, ineq->size);
2281                         isl_int_sub_ui(ineq->el[0], ineq->el[0], 1);
2282                         *context_tab = add_lexmin_ineq(*context_tab, ineq->el);
2283                         *context_tab = check_samples(*context_tab, ineq->el, 0);
2284                         isl_vec_free(ineq);
2285                         if (!sol)
2286                                 goto error;
2287                         continue;
2288                 }
2289                 if (tab->rational)
2290                         break;
2291                 row = first_non_integer(tab, &flags);
2292                 if (row < 0)
2293                         break;
2294                 if (ISL_FL_ISSET(flags, I_PAR)) {
2295                         if (ISL_FL_ISSET(flags, I_VAR)) {
2296                                 tab = isl_tab_mark_empty(tab);
2297                                 break;
2298                         }
2299                         row = add_cut(tab, row);
2300                 } else if (ISL_FL_ISSET(flags, I_VAR)) {
2301                         struct isl_vec *div;
2302                         struct isl_vec *ineq;
2303                         int d;
2304                         if (isl_tab_extend_cons(*context_tab, 3) < 0)
2305                                 goto error;
2306                         div = get_row_split_div(tab, row);
2307                         if (!div)
2308                                 goto error;
2309                         d = get_div(tab, context_tab, div);
2310                         isl_vec_free(div);
2311                         if (d < 0)
2312                                 goto error;
2313                         ineq = ineq_for_div((*context_tab)->bset, d);
2314                         sol = no_sol_in_strict(sol, tab, ineq);
2315                         isl_seq_neg(ineq->el, ineq->el, ineq->size);
2316                         *context_tab = add_lexmin_ineq(*context_tab, ineq->el);
2317                         *context_tab = check_samples(*context_tab, ineq->el, 0);
2318                         isl_vec_free(ineq);
2319                         if (!sol)
2320                                 goto error;
2321                         tab = set_row_cst_to_div(tab, row, d);
2322                 } else
2323                         row = add_parametric_cut(tab, row, context_tab);
2324                 if (row < 0)
2325                         goto error;
2326         }
2327 done:
2328         sol = sol->add(sol, tab);
2329         isl_tab_free(tab);
2330         return sol;
2331 error:
2332         isl_tab_free(tab);
2333         sol_free(sol);
2334         return NULL;
2335 }
2336
2337 /* Compute the lexicographic minimum of the set represented by the main
2338  * tableau "tab" within the context "sol->context_tab".
2339  *
2340  * As a preprocessing step, we first transfer all the purely parametric
2341  * equalities from the main tableau to the context tableau, i.e.,
2342  * parameters that have been pivoted to a row.
2343  * These equalities are ignored by the main algorithm, because the
2344  * corresponding rows may not be marked as being non-negative.
2345  * In parts of the context where the added equality does not hold,
2346  * the main tableau is marked as being empty.
2347  */
2348 static struct isl_sol *find_solutions_main(struct isl_sol *sol,
2349         struct isl_tab *tab)
2350 {
2351         int row;
2352
2353         for (row = tab->n_redundant; row < tab->n_row; ++row) {
2354                 int p;
2355                 struct isl_vec *eq;
2356
2357                 if (tab->row_var[row] < 0)
2358                         continue;
2359                 if (tab->row_var[row] >= tab->n_param &&
2360                     tab->row_var[row] < tab->n_var - tab->n_div)
2361                         continue;
2362                 if (tab->row_var[row] < tab->n_param)
2363                         p = tab->row_var[row];
2364                 else
2365                         p = tab->row_var[row]
2366                                 + tab->n_param - (tab->n_var - tab->n_div);
2367
2368                 if (isl_tab_extend_cons(sol->context_tab, 2) < 0)
2369                         goto error;
2370
2371                 eq = isl_vec_alloc(tab->mat->ctx, 1+tab->n_param+tab->n_div);
2372                 get_row_parameter_line(tab, row, eq->el);
2373                 isl_int_neg(eq->el[1 + p], tab->mat->row[row][0]);
2374                 eq = isl_vec_normalize(eq);
2375
2376                 sol = no_sol_in_strict(sol, tab, eq);
2377
2378                 isl_seq_neg(eq->el, eq->el, eq->size);
2379                 sol = no_sol_in_strict(sol, tab, eq);
2380                 isl_seq_neg(eq->el, eq->el, eq->size);
2381
2382                 sol->context_tab = add_lexmin_eq(sol->context_tab, eq->el);
2383                 context_valid_sample_or_feasible(sol, eq->el, 1);
2384                 sol->context_tab = check_samples(sol->context_tab, eq->el, 1);
2385
2386                 isl_vec_free(eq);
2387
2388                 isl_tab_mark_redundant(tab, row);
2389
2390                 if (!sol->context_tab)
2391                         goto error;
2392                 if (sol->context_tab->empty)
2393                         break;
2394
2395                 row = tab->n_redundant - 1;
2396         }
2397
2398         return find_solutions(sol, tab);
2399 error:
2400         isl_tab_free(tab);
2401         sol_free(sol);
2402         return NULL;
2403 }
2404
2405 static struct isl_sol_map *sol_map_find_solutions(struct isl_sol_map *sol_map,
2406         struct isl_tab *tab)
2407 {
2408         return (struct isl_sol_map *)find_solutions_main(&sol_map->sol, tab);
2409 }
2410
2411 /* Check if integer division "div" of "dom" also occurs in "bmap".
2412  * If so, return its position within the divs.
2413  * If not, return -1.
2414  */
2415 static int find_context_div(struct isl_basic_map *bmap,
2416         struct isl_basic_set *dom, unsigned div)
2417 {
2418         int i;
2419         unsigned b_dim = isl_dim_total(bmap->dim);
2420         unsigned d_dim = isl_dim_total(dom->dim);
2421
2422         if (isl_int_is_zero(dom->div[div][0]))
2423                 return -1;
2424         if (isl_seq_first_non_zero(dom->div[div] + 2 + d_dim, dom->n_div) != -1)
2425                 return -1;
2426
2427         for (i = 0; i < bmap->n_div; ++i) {
2428                 if (isl_int_is_zero(bmap->div[i][0]))
2429                         continue;
2430                 if (isl_seq_first_non_zero(bmap->div[i] + 2 + d_dim,
2431                                            (b_dim - d_dim) + bmap->n_div) != -1)
2432                         continue;
2433                 if (isl_seq_eq(bmap->div[i], dom->div[div], 2 + d_dim))
2434                         return i;
2435         }
2436         return -1;
2437 }
2438
2439 /* The correspondence between the variables in the main tableau,
2440  * the context tableau, and the input map and domain is as follows.
2441  * The first n_param and the last n_div variables of the main tableau
2442  * form the variables of the context tableau.
2443  * In the basic map, these n_param variables correspond to the
2444  * parameters and the input dimensions.  In the domain, they correspond
2445  * to the parameters and the set dimensions.
2446  * The n_div variables correspond to the integer divisions in the domain.
2447  * To ensure that everything lines up, we may need to copy some of the
2448  * integer divisions of the domain to the map.  These have to be placed
2449  * in the same order as those in the context and they have to be placed
2450  * after any other integer divisions that the map may have.
2451  * This function performs the required reordering.
2452  */
2453 static struct isl_basic_map *align_context_divs(struct isl_basic_map *bmap,
2454         struct isl_basic_set *dom)
2455 {
2456         int i;
2457         int common = 0;
2458         int other;
2459
2460         for (i = 0; i < dom->n_div; ++i)
2461                 if (find_context_div(bmap, dom, i) != -1)
2462                         common++;
2463         other = bmap->n_div - common;
2464         if (dom->n_div - common > 0) {
2465                 bmap = isl_basic_map_extend_dim(bmap, isl_dim_copy(bmap->dim),
2466                                 dom->n_div - common, 0, 0);
2467                 if (!bmap)
2468                         return NULL;
2469         }
2470         for (i = 0; i < dom->n_div; ++i) {
2471                 int pos = find_context_div(bmap, dom, i);
2472                 if (pos < 0) {
2473                         pos = isl_basic_map_alloc_div(bmap);
2474                         if (pos < 0)
2475                                 goto error;
2476                         isl_int_set_si(bmap->div[pos][0], 0);
2477                 }
2478                 if (pos != other + i)
2479                         isl_basic_map_swap_div(bmap, pos, other + i);
2480         }
2481         return bmap;
2482 error:
2483         isl_basic_map_free(bmap);
2484         return NULL;
2485 }
2486
2487 /* Compute the lexicographic minimum (or maximum if "max" is set)
2488  * of "bmap" over the domain "dom" and return the result as a map.
2489  * If "empty" is not NULL, then *empty is assigned a set that
2490  * contains those parts of the domain where there is no solution.
2491  * If "bmap" is marked as rational (ISL_BASIC_MAP_RATIONAL),
2492  * then we compute the rational optimum.  Otherwise, we compute
2493  * the integral optimum.
2494  *
2495  * We perform some preprocessing.  As the PILP solver does not
2496  * handle implicit equalities very well, we first make sure all
2497  * the equalities are explicitly available.
2498  * We also make sure the divs in the domain are properly order,
2499  * because they will be added one by one in the given order
2500  * during the construction of the solution map.
2501  */
2502 struct isl_map *isl_tab_basic_map_partial_lexopt(
2503                 struct isl_basic_map *bmap, struct isl_basic_set *dom,
2504                 struct isl_set **empty, int max)
2505 {
2506         struct isl_tab *tab;
2507         struct isl_map *result = NULL;
2508         struct isl_sol_map *sol_map = NULL;
2509
2510         if (empty)
2511                 *empty = NULL;
2512         if (!bmap || !dom)
2513                 goto error;
2514
2515         isl_assert(bmap->ctx,
2516             isl_basic_map_compatible_domain(bmap, dom), goto error);
2517
2518         bmap = isl_basic_map_detect_equalities(bmap);
2519
2520         if (dom->n_div) {
2521                 dom = isl_basic_set_order_divs(dom);
2522                 bmap = align_context_divs(bmap, dom);
2523         }
2524         sol_map = sol_map_init(bmap, dom, !!empty, max);
2525         if (!sol_map)
2526                 goto error;
2527
2528         if (isl_basic_set_fast_is_empty(sol_map->sol.context_tab->bset))
2529                 /* nothing */;
2530         else if (isl_basic_map_fast_is_empty(bmap))
2531                 sol_map = add_empty(sol_map);
2532         else {
2533                 tab = tab_for_lexmin(bmap,
2534                                         sol_map->sol.context_tab->bset, 1, max);
2535                 tab = tab_detect_nonnegative_parameters(tab,
2536                                                 sol_map->sol.context_tab);
2537                 sol_map = sol_map_find_solutions(sol_map, tab);
2538                 if (!sol_map)
2539                         goto error;
2540         }
2541
2542         result = isl_map_copy(sol_map->map);
2543         if (empty)
2544                 *empty = isl_set_copy(sol_map->empty);
2545         sol_map_free(sol_map);
2546         isl_basic_map_free(bmap);
2547         return result;
2548 error:
2549         sol_map_free(sol_map);
2550         isl_basic_map_free(bmap);
2551         return NULL;
2552 }
2553
2554 struct isl_sol_for {
2555         struct isl_sol  sol;
2556         int             (*fn)(__isl_take isl_basic_set *dom,
2557                                 __isl_take isl_mat *map, void *user);
2558         void            *user;
2559         int             max;
2560 };
2561
2562 static void sol_for_free(struct isl_sol_for *sol_for)
2563 {
2564         isl_tab_free(sol_for->sol.context_tab);
2565         free(sol_for);
2566 }
2567
2568 static void sol_for_free_wrap(struct isl_sol *sol)
2569 {
2570         sol_for_free((struct isl_sol_for *)sol);
2571 }
2572
2573 /* Add the solution identified by the tableau and the context tableau.
2574  *
2575  * See documentation of sol_map_add for more details.
2576  *
2577  * Instead of constructing a basic map, this function calls a user
2578  * defined function with the current context as a basic set and
2579  * an affine matrix reprenting the relation between the input and output.
2580  * The number of rows in this matrix is equal to one plus the number
2581  * of output variables.  The number of columns is equal to one plus
2582  * the total dimension of the context, i.e., the number of parameters,
2583  * input variables and divs.  Since some of the columns in the matrix
2584  * may refer to the divs, the basic set is not simplified.
2585  * (Simplification may reorder or remove divs.)
2586  */
2587 static struct isl_sol_for *sol_for_add(struct isl_sol_for *sol,
2588         struct isl_tab *tab)
2589 {
2590         struct isl_tab *context_tab;
2591         struct isl_basic_set *bset;
2592         struct isl_mat *mat = NULL;
2593         unsigned n_out;
2594         unsigned off;
2595         int row, i;
2596
2597         if (!sol || !tab)
2598                 goto error;
2599
2600         if (tab->empty)
2601                 return sol;
2602
2603         off = 2 + tab->M;
2604         context_tab = sol->sol.context_tab;
2605
2606         n_out = tab->n_var - tab->n_param - tab->n_div;
2607         mat = isl_mat_alloc(tab->mat->ctx, 1 + n_out, 1 + tab->n_param + tab->n_div);
2608         if (!mat)
2609                 goto error;
2610
2611         isl_seq_clr(mat->row[0] + 1, mat->n_col - 1);
2612         isl_int_set_si(mat->row[0][0], 1);
2613         for (row = 0; row < n_out; ++row) {
2614                 int i = tab->n_param + row;
2615                 int r, j;
2616
2617                 isl_seq_clr(mat->row[1 + row], mat->n_col);
2618                 if (!tab->var[i].is_row)
2619                         continue;
2620
2621                 r = tab->var[i].index;
2622                 /* no unbounded */
2623                 if (tab->M)
2624                         isl_assert(mat->ctx, isl_int_eq(tab->mat->row[r][2],
2625                                                         tab->mat->row[r][0]),
2626                                     goto error);
2627                 isl_int_set(mat->row[1 + row][0], tab->mat->row[r][1]);
2628                 for (j = 0; j < tab->n_param; ++j) {
2629                         int col;
2630                         if (tab->var[j].is_row)
2631                                 continue;
2632                         col = tab->var[j].index;
2633                         isl_int_set(mat->row[1 + row][1 + j],
2634                                     tab->mat->row[r][off + col]);
2635                 }
2636                 for (j = 0; j < tab->n_div; ++j) {
2637                         int col;
2638                         if (tab->var[tab->n_var - tab->n_div+j].is_row)
2639                                 continue;
2640                         col = tab->var[tab->n_var - tab->n_div+j].index;
2641                         isl_int_set(mat->row[1 + row][1 + tab->n_param + j],
2642                                     tab->mat->row[r][off + col]);
2643                 }
2644                 if (!isl_int_is_one(tab->mat->row[r][0]))
2645                         isl_seq_scale_down(mat->row[1 + row], mat->row[1 + row],
2646                                             tab->mat->row[r][0], mat->n_col);
2647                 if (sol->max)
2648                         isl_seq_neg(mat->row[1 + row], mat->row[1 + row],
2649                                     mat->n_col);
2650         }
2651
2652         bset = isl_basic_set_dup(context_tab->bset);
2653         bset = isl_basic_set_finalize(bset);
2654
2655         if (sol->fn(bset, isl_mat_copy(mat), sol->user) < 0)
2656                 goto error;
2657
2658         isl_mat_free(mat);
2659         return sol;
2660 error:
2661         isl_mat_free(mat);
2662         sol_free(&sol->sol);
2663         return NULL;
2664 }
2665
2666 static struct isl_sol *sol_for_add_wrap(struct isl_sol *sol,
2667         struct isl_tab *tab)
2668 {
2669         return (struct isl_sol *)sol_for_add((struct isl_sol_for *)sol, tab);
2670 }
2671
2672 static struct isl_sol_for *sol_for_init(struct isl_basic_map *bmap, int max,
2673         int (*fn)(__isl_take isl_basic_set *dom, __isl_take isl_mat *map,
2674                   void *user),
2675         void *user)
2676 {
2677         struct isl_sol_for *sol_for = NULL;
2678         struct isl_dim *dom_dim;
2679         struct isl_basic_set *dom = NULL;
2680         struct isl_tab *context_tab;
2681         int f;
2682
2683         sol_for = isl_calloc_type(bset->ctx, struct isl_sol_for);
2684         if (!sol_for)
2685                 goto error;
2686
2687         dom_dim = isl_dim_domain(isl_dim_copy(bmap->dim));
2688         dom = isl_basic_set_universe(dom_dim);
2689
2690         sol_for->fn = fn;
2691         sol_for->user = user;
2692         sol_for->max = max;
2693         sol_for->sol.add = &sol_for_add_wrap;
2694         sol_for->sol.free = &sol_for_free_wrap;
2695
2696         context_tab = context_tab_for_lexmin(isl_basic_set_copy(dom));
2697         context_tab = restore_lexmin(context_tab);
2698         sol_for->sol.context_tab = context_tab;
2699         f = context_is_feasible(&sol_for->sol);
2700         if (f < 0)
2701                 goto error;
2702
2703         isl_basic_set_free(dom);
2704         return sol_for;
2705 error:
2706         isl_basic_set_free(dom);
2707         sol_for_free(sol_for);
2708         return NULL;
2709 }
2710
2711 static struct isl_sol_for *sol_for_find_solutions(struct isl_sol_for *sol_for,
2712         struct isl_tab *tab)
2713 {
2714         return (struct isl_sol_for *)find_solutions_main(&sol_for->sol, tab);
2715 }
2716
2717 int isl_basic_map_foreach_lexopt(__isl_keep isl_basic_map *bmap, int max,
2718         int (*fn)(__isl_take isl_basic_set *dom, __isl_take isl_mat *map,
2719                   void *user),
2720         void *user)
2721 {
2722         struct isl_sol_for *sol_for = NULL;
2723
2724         bmap = isl_basic_map_copy(bmap);
2725         if (!bmap)
2726                 return -1;
2727
2728         bmap = isl_basic_map_detect_equalities(bmap);
2729         sol_for = sol_for_init(bmap, max, fn, user);
2730
2731         if (isl_basic_map_fast_is_empty(bmap))
2732                 /* nothing */;
2733         else {
2734                 struct isl_tab *tab;
2735                 tab = tab_for_lexmin(bmap,
2736                                         sol_for->sol.context_tab->bset, 1, max);
2737                 tab = tab_detect_nonnegative_parameters(tab,
2738                                                 sol_for->sol.context_tab);
2739                 sol_for = sol_for_find_solutions(sol_for, tab);
2740                 if (!sol_for)
2741                         goto error;
2742         }
2743
2744         sol_for_free(sol_for);
2745         isl_basic_map_free(bmap);
2746         return 0;
2747 error:
2748         sol_for_free(sol_for);
2749         isl_basic_map_free(bmap);
2750         return -1;
2751 }
2752
2753 int isl_basic_map_foreach_lexmin(__isl_keep isl_basic_map *bmap,
2754         int (*fn)(__isl_take isl_basic_set *dom, __isl_take isl_mat *map,
2755                   void *user),
2756         void *user)
2757 {
2758         return isl_basic_map_foreach_lexopt(bmap, 0, fn, user);
2759 }
2760
2761 int isl_basic_map_foreach_lexmax(__isl_keep isl_basic_map *bmap,
2762         int (*fn)(__isl_take isl_basic_set *dom, __isl_take isl_mat *map,
2763                   void *user),
2764         void *user)
2765 {
2766         return isl_basic_map_foreach_lexopt(bmap, 1, fn, user);
2767 }