isl_set_drop_basic_set: add missing return
[platform/upstream/isl.git] / isl_sample.c
1 #include "isl_sample.h"
2 #include "isl_sample_piplib.h"
3 #include "isl_vec.h"
4 #include "isl_mat.h"
5 #include "isl_seq.h"
6 #include "isl_map_private.h"
7 #include "isl_equalities.h"
8 #include "isl_tab.h"
9 #include "isl_basis_reduction.h"
10
11 static struct isl_vec *empty_sample(struct isl_basic_set *bset)
12 {
13         struct isl_vec *vec;
14
15         vec = isl_vec_alloc(bset->ctx, 0);
16         isl_basic_set_free(bset);
17         return vec;
18 }
19
20 /* Construct a zero sample of the same dimension as bset.
21  * As a special case, if bset is zero-dimensional, this
22  * function creates a zero-dimensional sample point.
23  */
24 static struct isl_vec *zero_sample(struct isl_basic_set *bset)
25 {
26         unsigned dim;
27         struct isl_vec *sample;
28
29         dim = isl_basic_set_total_dim(bset);
30         sample = isl_vec_alloc(bset->ctx, 1 + dim);
31         if (sample) {
32                 isl_int_set_si(sample->el[0], 1);
33                 isl_seq_clr(sample->el + 1, dim);
34         }
35         isl_basic_set_free(bset);
36         return sample;
37 }
38
39 static struct isl_vec *interval_sample(struct isl_basic_set *bset)
40 {
41         int i;
42         isl_int t;
43         struct isl_vec *sample;
44
45         bset = isl_basic_set_simplify(bset);
46         if (!bset)
47                 return NULL;
48         if (isl_basic_set_fast_is_empty(bset))
49                 return empty_sample(bset);
50         if (bset->n_eq == 0 && bset->n_ineq == 0)
51                 return zero_sample(bset);
52
53         sample = isl_vec_alloc(bset->ctx, 2);
54         isl_int_set_si(sample->block.data[0], 1);
55
56         if (bset->n_eq > 0) {
57                 isl_assert(bset->ctx, bset->n_eq == 1, goto error);
58                 isl_assert(bset->ctx, bset->n_ineq == 0, goto error);
59                 if (isl_int_is_one(bset->eq[0][1]))
60                         isl_int_neg(sample->el[1], bset->eq[0][0]);
61                 else {
62                         isl_assert(bset->ctx, isl_int_is_negone(bset->eq[0][1]),
63                                    goto error);
64                         isl_int_set(sample->el[1], bset->eq[0][0]);
65                 }
66                 isl_basic_set_free(bset);
67                 return sample;
68         }
69
70         isl_int_init(t);
71         if (isl_int_is_one(bset->ineq[0][1]))
72                 isl_int_neg(sample->block.data[1], bset->ineq[0][0]);
73         else
74                 isl_int_set(sample->block.data[1], bset->ineq[0][0]);
75         for (i = 1; i < bset->n_ineq; ++i) {
76                 isl_seq_inner_product(sample->block.data,
77                                         bset->ineq[i], 2, &t);
78                 if (isl_int_is_neg(t))
79                         break;
80         }
81         isl_int_clear(t);
82         if (i < bset->n_ineq) {
83                 isl_vec_free(sample);
84                 return empty_sample(bset);
85         }
86
87         isl_basic_set_free(bset);
88         return sample;
89 error:
90         isl_basic_set_free(bset);
91         isl_vec_free(sample);
92         return NULL;
93 }
94
95 static struct isl_mat *independent_bounds(struct isl_basic_set *bset)
96 {
97         int i, j, n;
98         struct isl_mat *dirs = NULL;
99         struct isl_mat *bounds = NULL;
100         unsigned dim;
101
102         if (!bset)
103                 return NULL;
104
105         dim = isl_basic_set_n_dim(bset);
106         bounds = isl_mat_alloc(bset->ctx, 1+dim, 1+dim);
107         if (!bounds)
108                 return NULL;
109
110         isl_int_set_si(bounds->row[0][0], 1);
111         isl_seq_clr(bounds->row[0]+1, dim);
112         bounds->n_row = 1;
113
114         if (bset->n_ineq == 0)
115                 return bounds;
116
117         dirs = isl_mat_alloc(bset->ctx, dim, dim);
118         if (!dirs) {
119                 isl_mat_free(bounds);
120                 return NULL;
121         }
122         isl_seq_cpy(dirs->row[0], bset->ineq[0]+1, dirs->n_col);
123         isl_seq_cpy(bounds->row[1], bset->ineq[0], bounds->n_col);
124         for (j = 1, n = 1; n < dim && j < bset->n_ineq; ++j) {
125                 int pos;
126
127                 isl_seq_cpy(dirs->row[n], bset->ineq[j]+1, dirs->n_col);
128
129                 pos = isl_seq_first_non_zero(dirs->row[n], dirs->n_col);
130                 if (pos < 0)
131                         continue;
132                 for (i = 0; i < n; ++i) {
133                         int pos_i;
134                         pos_i = isl_seq_first_non_zero(dirs->row[i], dirs->n_col);
135                         if (pos_i < pos)
136                                 continue;
137                         if (pos_i > pos)
138                                 break;
139                         isl_seq_elim(dirs->row[n], dirs->row[i], pos,
140                                         dirs->n_col, NULL);
141                         pos = isl_seq_first_non_zero(dirs->row[n], dirs->n_col);
142                         if (pos < 0)
143                                 break;
144                 }
145                 if (pos < 0)
146                         continue;
147                 if (i < n) {
148                         int k;
149                         isl_int *t = dirs->row[n];
150                         for (k = n; k > i; --k)
151                                 dirs->row[k] = dirs->row[k-1];
152                         dirs->row[i] = t;
153                 }
154                 ++n;
155                 isl_seq_cpy(bounds->row[n], bset->ineq[j], bounds->n_col);
156         }
157         isl_mat_free(dirs);
158         bounds->n_row = 1+n;
159         return bounds;
160 }
161
162 static void swap_inequality(struct isl_basic_set *bset, int a, int b)
163 {
164         isl_int *t = bset->ineq[a];
165         bset->ineq[a] = bset->ineq[b];
166         bset->ineq[b] = t;
167 }
168
169 /* Skew into positive orthant and project out lineality space.
170  *
171  * We perform a unimodular transformation that turns a selected
172  * maximal set of linearly independent bounds into constraints
173  * on the first dimensions that impose that these first dimensions
174  * are non-negative.  In particular, the constraint matrix is lower
175  * triangular with positive entries on the diagonal and negative
176  * entries below.
177  * If "bset" has a lineality space then these constraints (and therefore
178  * all constraints in bset) only involve the first dimensions.
179  * The remaining dimensions then do not appear in any constraints and
180  * we can select any value for them, say zero.  We therefore project
181  * out this final dimensions and plug in the value zero later.  This
182  * is accomplished by simply dropping the final columns of
183  * the unimodular transformation.
184  */
185 static struct isl_basic_set *isl_basic_set_skew_to_positive_orthant(
186         struct isl_basic_set *bset, struct isl_mat **T)
187 {
188         struct isl_mat *U = NULL;
189         struct isl_mat *bounds = NULL;
190         int i, j;
191         unsigned old_dim, new_dim;
192
193         *T = NULL;
194         if (!bset)
195                 return NULL;
196
197         isl_assert(bset->ctx, isl_basic_set_n_param(bset) == 0, goto error);
198         isl_assert(bset->ctx, bset->n_div == 0, goto error);
199         isl_assert(bset->ctx, bset->n_eq == 0, goto error);
200         
201         old_dim = isl_basic_set_n_dim(bset);
202         /* Try to move (multiples of) unit rows up. */
203         for (i = 0, j = 0; i < bset->n_ineq; ++i) {
204                 int pos = isl_seq_first_non_zero(bset->ineq[i]+1, old_dim);
205                 if (pos < 0)
206                         continue;
207                 if (isl_seq_first_non_zero(bset->ineq[i]+1+pos+1,
208                                                 old_dim-pos-1) >= 0)
209                         continue;
210                 if (i != j)
211                         swap_inequality(bset, i, j);
212                 ++j;
213         }
214         bounds = independent_bounds(bset);
215         if (!bounds)
216                 goto error;
217         new_dim = bounds->n_row - 1;
218         bounds = isl_mat_left_hermite(bounds, 1, &U, NULL);
219         if (!bounds)
220                 goto error;
221         U = isl_mat_drop_cols(U, 1 + new_dim, old_dim - new_dim);
222         bset = isl_basic_set_preimage(bset, isl_mat_copy(U));
223         if (!bset)
224                 goto error;
225         *T = U;
226         isl_mat_free(bounds);
227         return bset;
228 error:
229         isl_mat_free(bounds);
230         isl_mat_free(U);
231         isl_basic_set_free(bset);
232         return NULL;
233 }
234
235 /* Find a sample integer point, if any, in bset, which is known
236  * to have equalities.  If bset contains no integer points, then
237  * return a zero-length vector.
238  * We simply remove the known equalities, compute a sample
239  * in the resulting bset, using the specified recurse function,
240  * and then transform the sample back to the original space.
241  */
242 static struct isl_vec *sample_eq(struct isl_basic_set *bset,
243         struct isl_vec *(*recurse)(struct isl_basic_set *))
244 {
245         struct isl_mat *T;
246         struct isl_vec *sample;
247
248         if (!bset)
249                 return NULL;
250
251         bset = isl_basic_set_remove_equalities(bset, &T, NULL);
252         sample = recurse(bset);
253         if (!sample || sample->size == 0)
254                 isl_mat_free(T);
255         else
256                 sample = isl_mat_vec_product(T, sample);
257         return sample;
258 }
259
260 /* Given a basic set "bset" and an affine function "f"/"denom",
261  * check if bset is bounded and non-empty and if so, return the minimal
262  * and maximal value attained by the affine function in "min" and "max".
263  * The minimal value is rounded up to the nearest integer, while the
264  * maximal value is rounded down.
265  * The return value indicates whether the set was empty or unbounded.
266  *
267  * If we happen to find an integer point while looking for the minimal
268  * or maximal value, then we record that value in "bset" and return early.
269  */
270 static enum isl_lp_result basic_set_range(struct isl_basic_set *bset,
271         isl_int *f, isl_int denom, isl_int *min, isl_int *max)
272 {
273         unsigned dim;
274         struct isl_tab *tab;
275         enum isl_lp_result res;
276
277         if (!bset)
278                 return isl_lp_error;
279         if (isl_basic_set_fast_is_empty(bset))
280                 return isl_lp_empty;
281
282         tab = isl_tab_from_basic_set(bset);
283         res = isl_tab_min(tab, f, denom, min, NULL, 0);
284         if (res != isl_lp_ok)
285                 goto done;
286
287         if (isl_tab_sample_is_integer(tab)) {
288                 isl_vec_free(bset->sample);
289                 bset->sample = isl_tab_get_sample_value(tab);
290                 if (!bset->sample)
291                         goto error;
292                 isl_int_set(*max, *min);
293                 goto done;
294         }
295
296         dim = isl_basic_set_total_dim(bset);
297         isl_seq_neg(f, f, 1 + dim);
298         res = isl_tab_min(tab, f, denom, max, NULL, 0);
299         isl_seq_neg(f, f, 1 + dim);
300         isl_int_neg(*max, *max);
301
302         if (isl_tab_sample_is_integer(tab)) {
303                 isl_vec_free(bset->sample);
304                 bset->sample = isl_tab_get_sample_value(tab);
305                 if (!bset->sample)
306                         goto error;
307         }
308
309 done:
310         isl_tab_free(tab);
311         return res;
312 error:
313         isl_tab_free(tab);
314         return isl_lp_error;
315 }
316
317 /* Perform a basis reduction on "bset" and return the inverse of
318  * the new basis, i.e., an affine mapping from the new coordinates to the old,
319  * in *T.
320  */
321 static struct isl_basic_set *basic_set_reduced(struct isl_basic_set *bset,
322         struct isl_mat **T)
323 {
324         unsigned gbr_only_first;
325
326         *T = NULL;
327         if (!bset)
328                 return NULL;
329
330         gbr_only_first = bset->ctx->gbr_only_first;
331         bset->ctx->gbr_only_first = bset->ctx->gbr == ISL_GBR_ONCE;
332         *T = isl_basic_set_reduced_basis(bset);
333         bset->ctx->gbr_only_first = gbr_only_first;
334
335         *T = isl_mat_lin_to_aff(*T);
336         *T = isl_mat_right_inverse(*T);
337
338         bset = isl_basic_set_preimage(bset, isl_mat_copy(*T));
339         if (!bset)
340                 goto error;
341
342         return bset;
343 error:
344         isl_mat_free(*T);
345         *T = NULL;
346         return NULL;
347 }
348
349 static struct isl_vec *sample_bounded(struct isl_basic_set *bset);
350
351 /* Given a basic set "bset" whose first coordinate ranges between
352  * "min" and "max", step through all values from min to max, until
353  * the slice of bset with the first coordinate fixed to one of these
354  * values contains an integer point.  If such a point is found, return it.
355  * If none of the slices contains any integer point, then bset itself
356  * doesn't contain any integer point and an empty sample is returned.
357  */
358 static struct isl_vec *sample_scan(struct isl_basic_set *bset,
359         isl_int min, isl_int max)
360 {
361         unsigned total;
362         struct isl_basic_set *slice = NULL;
363         struct isl_vec *sample = NULL;
364         isl_int tmp;
365
366         total = isl_basic_set_total_dim(bset);
367
368         isl_int_init(tmp);
369         for (isl_int_set(tmp, min); isl_int_le(tmp, max);
370              isl_int_add_ui(tmp, tmp, 1)) {
371                 int k;
372
373                 slice = isl_basic_set_copy(bset);
374                 slice = isl_basic_set_cow(slice);
375                 slice = isl_basic_set_extend_constraints(slice, 1, 0);
376                 k = isl_basic_set_alloc_equality(slice);
377                 if (k < 0)
378                         goto error;
379                 isl_int_set(slice->eq[k][0], tmp);
380                 isl_int_set_si(slice->eq[k][1], -1);
381                 isl_seq_clr(slice->eq[k] + 2, total - 1);
382                 slice = isl_basic_set_simplify(slice);
383                 sample = sample_bounded(slice);
384                 slice = NULL;
385                 if (!sample)
386                         goto error;
387                 if (sample->size > 0)
388                         break;
389                 isl_vec_free(sample);
390                 sample = NULL;
391         }
392         if (!sample)
393                 sample = empty_sample(bset);
394         else
395                 isl_basic_set_free(bset);
396         isl_int_clear(tmp);
397         return sample;
398 error:
399         isl_basic_set_free(bset);
400         isl_basic_set_free(slice);
401         isl_int_clear(tmp);
402         return NULL;
403 }
404
405 /* Given a basic set that is known to be bounded, find and return
406  * an integer point in the basic set, if there is any.
407  *
408  * After handling some trivial cases, we check the range of the
409  * first coordinate.  If this coordinate can only attain one integer
410  * value, we are happy.  Otherwise, we perform basis reduction and
411  * determine the new range.
412  *
413  * Then we step through all possible values in the range in sample_scan.
414  *
415  * If any basis reduction was performed, the sample value found, if any,
416  * is transformed back to the original space.
417  */ 
418 static struct isl_vec *sample_bounded(struct isl_basic_set *bset)
419 {
420         unsigned dim;
421         unsigned gbr;
422         struct isl_ctx *ctx;
423         struct isl_vec *sample;
424         struct isl_vec *obj = NULL;
425         struct isl_mat *T = NULL;
426         isl_int min, max;
427         enum isl_lp_result res;
428
429         if (!bset)
430                 return NULL;
431
432         if (isl_basic_set_fast_is_empty(bset))
433                 return empty_sample(bset);
434
435         dim = isl_basic_set_total_dim(bset);
436         if (dim == 0)
437                 return zero_sample(bset);
438         if (dim == 1)
439                 return interval_sample(bset);
440         if (bset->n_eq > 0)
441                 return sample_eq(bset, sample_bounded);
442
443         ctx = bset->ctx;
444         gbr = ctx->gbr;
445
446         isl_int_init(min);
447         isl_int_init(max);
448         obj = isl_vec_alloc(bset->ctx, 1 + dim);
449         if (!obj)
450                 goto error;
451         isl_seq_clr(obj->el, 1+ dim);
452         isl_int_set_si(obj->el[1], 1);
453
454         res = basic_set_range(bset, obj->el, bset->ctx->one, &min, &max);
455         if (res == isl_lp_error)
456                 goto error;
457         isl_assert(bset->ctx, res != isl_lp_unbounded, goto error);
458         if (bset->sample) {
459                 sample = isl_vec_copy(bset->sample);
460                 isl_basic_set_free(bset);
461                 goto out;
462         }
463         if (res == isl_lp_empty || isl_int_lt(max, min)) {
464                 sample = empty_sample(bset);
465                 goto out;
466         }
467
468         if (ctx->gbr != ISL_GBR_NEVER && isl_int_ne(min, max)) {
469                 if (ctx->gbr == ISL_GBR_ONCE)
470                         ctx->gbr = ISL_GBR_NEVER;
471
472                 bset = basic_set_reduced(bset, &T);
473                 if (!bset)
474                         goto error;
475
476                 res = basic_set_range(bset, obj->el, bset->ctx->one, &min, &max);
477                 if (res == isl_lp_error)
478                         goto error;
479                 isl_assert(bset->ctx, res != isl_lp_unbounded, goto error);
480                 if (bset->sample) {
481                         sample = isl_vec_copy(bset->sample);
482                         isl_basic_set_free(bset);
483                         goto out;
484                 }
485                 if (res == isl_lp_empty || isl_int_lt(max, min)) {
486                         sample = empty_sample(bset);
487                         goto out;
488                 }
489         }
490
491         sample = sample_scan(bset, min, max);
492 out:
493         if (T) {
494                 if (!sample || sample->size == 0)
495                         isl_mat_free(T);
496                 else
497                         sample = isl_mat_vec_product(T, sample);
498         }
499         isl_vec_free(obj);
500         isl_int_clear(min);
501         isl_int_clear(max);
502         ctx->gbr = gbr;
503         return sample;
504 error:
505         ctx->gbr = gbr;
506         isl_mat_free(T);
507         isl_basic_set_free(bset);
508         isl_vec_free(obj);
509         isl_int_clear(min);
510         isl_int_clear(max);
511         return NULL;
512 }
513
514 /* Given a basic set "bset" and a value "sample" for the first coordinates
515  * of bset, plug in these values and drop the corresponding coordinates.
516  *
517  * We do this by computing the preimage of the transformation
518  *
519  *           [ 1 0 ]
520  *      x =  [ s 0 ] x'
521  *           [ 0 I ]
522  *
523  * where [1 s] is the sample value and I is the identity matrix of the
524  * appropriate dimension.
525  */
526 static struct isl_basic_set *plug_in(struct isl_basic_set *bset,
527         struct isl_vec *sample)
528 {
529         int i;
530         unsigned total;
531         struct isl_mat *T;
532
533         if (!bset || !sample)
534                 goto error;
535
536         total = isl_basic_set_total_dim(bset);
537         T = isl_mat_alloc(bset->ctx, 1 + total, 1 + total - (sample->size - 1));
538         if (!T)
539                 goto error;
540
541         for (i = 0; i < sample->size; ++i) {
542                 isl_int_set(T->row[i][0], sample->el[i]);
543                 isl_seq_clr(T->row[i] + 1, T->n_col - 1);
544         }
545         for (i = 0; i < T->n_col - 1; ++i) {
546                 isl_seq_clr(T->row[sample->size + i], T->n_col);
547                 isl_int_set_si(T->row[sample->size + i][1 + i], 1);
548         }
549         isl_vec_free(sample);
550
551         bset = isl_basic_set_preimage(bset, T);
552         return bset;
553 error:
554         isl_basic_set_free(bset);
555         isl_vec_free(sample);
556         return NULL;
557 }
558
559 /* Given a basic set "bset", return any (possibly non-integer) point
560  * in the basic set.
561  */
562 static struct isl_vec *rational_sample(struct isl_basic_set *bset)
563 {
564         struct isl_tab *tab;
565         struct isl_vec *sample;
566
567         if (!bset)
568                 return NULL;
569
570         tab = isl_tab_from_basic_set(bset);
571         sample = isl_tab_get_sample_value(tab);
572         isl_tab_free(tab);
573
574         isl_basic_set_free(bset);
575
576         return sample;
577 }
578
579 /* Given a linear cone "cone" and a rational point "vec",
580  * construct a polyhedron with shifted copies of the constraints in "cone",
581  * i.e., a polyhedron with "cone" as its recession cone, such that each
582  * point x in this polyhedron is such that the unit box positioned at x
583  * lies entirely inside the affine cone 'vec + cone'.
584  * Any rational point in this polyhedron may therefore be rounded up
585  * to yield an integer point that lies inside said affine cone.
586  *
587  * Denote the constraints of cone by "<a_i, x> >= 0" and the rational
588  * point "vec" by v/d.
589  * Let b_i = <a_i, v>.  Then the affine cone 'vec + cone' is given
590  * by <a_i, x> - b/d >= 0.
591  * The polyhedron <a_i, x> - ceil{b/d} >= 0 is a subset of this affine cone.
592  * We prefer this polyhedron over the actual affine cone because it doesn't
593  * require a scaling of the constraints.
594  * If each of the vertices of the unit cube positioned at x lies inside
595  * this polyhedron, then the whole unit cube at x lies inside the affine cone.
596  * We therefore impose that x' = x + \sum e_i, for any selection of unit
597  * vectors lies inside the polyhedron, i.e.,
598  *
599  *      <a_i, x'> - ceil{b/d} = <a_i, x> + sum a_i - ceil{b/d} >= 0
600  *
601  * The most stringent of these constraints is the one that selects
602  * all negative a_i, so the polyhedron we are looking for has constraints
603  *
604  *      <a_i, x> + sum_{a_i < 0} a_i - ceil{b/d} >= 0
605  *
606  * Note that if cone were known to have only non-negative rays
607  * (which can be accomplished by a unimodular transformation),
608  * then we would only have to check the points x' = x + e_i
609  * and we only have to add the smallest negative a_i (if any)
610  * instead of the sum of all negative a_i.
611  */
612 static struct isl_basic_set *shift_cone(struct isl_basic_set *cone,
613         struct isl_vec *vec)
614 {
615         int i, j, k;
616         unsigned total;
617
618         struct isl_basic_set *shift = NULL;
619
620         if (!cone || !vec)
621                 goto error;
622
623         isl_assert(cone->ctx, cone->n_eq == 0, goto error);
624
625         total = isl_basic_set_total_dim(cone);
626
627         shift = isl_basic_set_alloc_dim(isl_basic_set_get_dim(cone),
628                                         0, 0, cone->n_ineq);
629
630         for (i = 0; i < cone->n_ineq; ++i) {
631                 k = isl_basic_set_alloc_inequality(shift);
632                 if (k < 0)
633                         goto error;
634                 isl_seq_cpy(shift->ineq[k] + 1, cone->ineq[i] + 1, total);
635                 isl_seq_inner_product(shift->ineq[k] + 1, vec->el + 1, total,
636                                       &shift->ineq[k][0]);
637                 isl_int_cdiv_q(shift->ineq[k][0],
638                                shift->ineq[k][0], vec->el[0]);
639                 isl_int_neg(shift->ineq[k][0], shift->ineq[k][0]);
640                 for (j = 0; j < total; ++j) {
641                         if (isl_int_is_nonneg(shift->ineq[k][1 + j]))
642                                 continue;
643                         isl_int_add(shift->ineq[k][0],
644                                     shift->ineq[k][0], shift->ineq[k][1 + j]);
645                 }
646         }
647
648         isl_basic_set_free(cone);
649         isl_vec_free(vec);
650
651         return isl_basic_set_finalize(shift);
652 error:
653         isl_basic_set_free(shift);
654         isl_basic_set_free(cone);
655         isl_vec_free(vec);
656         return NULL;
657 }
658
659 /* Given a rational point vec in a (transformed) basic set,
660  * such that cone is the recession cone of the original basic set,
661  * "round up" the rational point to an integer point.
662  *
663  * We first check if the rational point just happens to be integer.
664  * If not, we transform the cone in the same way as the basic set,
665  * pick a point x in this cone shifted to the rational point such that
666  * the whole unit cube at x is also inside this affine cone.
667  * Then we simply round up the coordinates of x and return the
668  * resulting integer point.
669  */
670 static struct isl_vec *round_up_in_cone(struct isl_vec *vec,
671         struct isl_basic_set *cone, struct isl_mat *U)
672 {
673         unsigned total;
674
675         if (!vec || !cone || !U)
676                 goto error;
677
678         isl_assert(vec->ctx, vec->size != 0, goto error);
679         if (isl_int_is_one(vec->el[0])) {
680                 isl_mat_free(U);
681                 isl_basic_set_free(cone);
682                 return vec;
683         }
684
685         total = isl_basic_set_total_dim(cone);
686         cone = isl_basic_set_preimage(cone, U);
687         cone = isl_basic_set_remove_dims(cone, 0, total - (vec->size - 1));
688
689         cone = shift_cone(cone, vec);
690
691         vec = rational_sample(cone);
692         vec = isl_vec_ceil(vec);
693         return vec;
694 error:
695         isl_mat_free(U);
696         isl_vec_free(vec);
697         isl_basic_set_free(cone);
698         return NULL;
699 }
700
701 /* Concatenate two integer vectors, i.e., two vectors with denominator
702  * (stored in element 0) equal to 1.
703  */
704 static struct isl_vec *vec_concat(struct isl_vec *vec1, struct isl_vec *vec2)
705 {
706         struct isl_vec *vec;
707
708         if (!vec1 || !vec2)
709                 goto error;
710         isl_assert(vec1->ctx, vec1->size > 0, goto error);
711         isl_assert(vec2->ctx, vec2->size > 0, goto error);
712         isl_assert(vec1->ctx, isl_int_is_one(vec1->el[0]), goto error);
713         isl_assert(vec2->ctx, isl_int_is_one(vec2->el[0]), goto error);
714
715         vec = isl_vec_alloc(vec1->ctx, vec1->size + vec2->size - 1);
716         if (!vec)
717                 goto error;
718
719         isl_seq_cpy(vec->el, vec1->el, vec1->size);
720         isl_seq_cpy(vec->el + vec1->size, vec2->el + 1, vec2->size - 1);
721
722         isl_vec_free(vec1);
723         isl_vec_free(vec2);
724
725         return vec;
726 error:
727         isl_vec_free(vec1);
728         isl_vec_free(vec2);
729         return NULL;
730 }
731
732 /* Drop all constraints in bset that involve any of the dimensions
733  * first to first+n-1.
734  */
735 static struct isl_basic_set *drop_constraints_involving
736         (struct isl_basic_set *bset, unsigned first, unsigned n)
737 {
738         int i;
739
740         if (!bset)
741                 return NULL;
742
743         bset = isl_basic_set_cow(bset);
744
745         for (i = bset->n_ineq - 1; i >= 0; --i) {
746                 if (isl_seq_first_non_zero(bset->ineq[i] + 1 + first, n) == -1)
747                         continue;
748                 isl_basic_set_drop_inequality(bset, i);
749         }
750
751         return bset;
752 }
753
754 /* Give a basic set "bset" with recession cone "cone", compute and
755  * return an integer point in bset, if any.
756  *
757  * If the recession cone is full-dimensional, then we know that
758  * bset contains an infinite number of integer points and it is
759  * fairly easy to pick one of them.
760  * If the recession cone is not full-dimensional, then we first
761  * transform bset such that the bounded directions appear as
762  * the first dimensions of the transformed basic set.
763  * We do this by using a unimodular transformation that transforms
764  * the equalities in the recession cone to equalities on the first
765  * dimensions.
766  *
767  * The transformed set is then projected onto its bounded dimensions.
768  * Note that to compute this projection, we can simply drop all constraints
769  * involving any of the unbounded dimensions since these constraints
770  * cannot be combined to produce a constraint on the bounded dimensions.
771  * To see this, assume that there is such a combination of constraints
772  * that produces a constraint on the bounded dimensions.  This means
773  * that some combination of the unbounded dimensions has both an upper
774  * bound and a lower bound in terms of the bounded dimensions, but then
775  * this combination would be a bounded direction too and would have been
776  * transformed into a bounded dimensions.
777  *
778  * We then compute a sample value in the bounded dimensions.
779  * If no such value can be found, then the original set did not contain
780  * any integer points and we are done.
781  * Otherwise, we plug in the value we found in the bounded dimensions,
782  * project out these bounded dimensions and end up with a set with
783  * a full-dimensional recession cone.
784  * A sample point in this set is computed by "rounding up" any
785  * rational point in the set.
786  *
787  * The sample points in the bounded and unbounded dimensions are
788  * then combined into a single sample point and transformed back
789  * to the original space.
790  */
791 static struct isl_vec *sample_with_cone(struct isl_basic_set *bset,
792         struct isl_basic_set *cone)
793 {
794         unsigned total;
795         unsigned cone_dim;
796         struct isl_mat *M, *U;
797         struct isl_vec *sample;
798         struct isl_vec *cone_sample;
799         struct isl_ctx *ctx;
800         struct isl_basic_set *bounded;
801
802         if (!bset || !cone)
803                 goto error;
804
805         ctx = bset->ctx;
806         total = isl_basic_set_total_dim(cone);
807         cone_dim = total - cone->n_eq;
808
809         M = isl_mat_sub_alloc(bset->ctx, cone->eq, 0, cone->n_eq, 1, total);
810         M = isl_mat_left_hermite(M, 0, &U, NULL);
811         if (!M)
812                 goto error;
813         isl_mat_free(M);
814
815         U = isl_mat_lin_to_aff(U);
816         bset = isl_basic_set_preimage(bset, isl_mat_copy(U));
817
818         bounded = isl_basic_set_copy(bset);
819         bounded = drop_constraints_involving(bounded, total - cone_dim, cone_dim);
820         bounded = isl_basic_set_drop_dims(bounded, total - cone_dim, cone_dim);
821         sample = sample_bounded(bounded);
822         if (!sample || sample->size == 0) {
823                 isl_basic_set_free(bset);
824                 isl_basic_set_free(cone);
825                 isl_mat_free(U);
826                 return sample;
827         }
828         bset = plug_in(bset, isl_vec_copy(sample));
829         cone_sample = rational_sample(bset);
830         cone_sample = round_up_in_cone(cone_sample, cone, isl_mat_copy(U));
831         sample = vec_concat(sample, cone_sample);
832         sample = isl_mat_vec_product(U, sample);
833         return sample;
834 error:
835         isl_basic_set_free(cone);
836         isl_basic_set_free(bset);
837         return NULL;
838 }
839
840 /* Compute and return a sample point in bset using generalized basis
841  * reduction.  We first check if the input set has a non-trivial
842  * recession cone.  If so, we perform some extra preprocessing in
843  * sample_with_cone.  Otherwise, we directly perform generalized basis
844  * reduction.
845  */
846 static struct isl_vec *gbr_sample(struct isl_basic_set *bset)
847 {
848         unsigned dim;
849         struct isl_basic_set *cone;
850
851         dim = isl_basic_set_total_dim(bset);
852
853         cone = isl_basic_set_recession_cone(isl_basic_set_copy(bset));
854
855         if (cone->n_eq < dim)
856                 return sample_with_cone(bset, cone);
857
858         isl_basic_set_free(cone);
859         return sample_bounded(bset);
860 }
861
862 static struct isl_vec *pip_sample(struct isl_basic_set *bset)
863 {
864         struct isl_mat *T;
865         struct isl_ctx *ctx;
866         struct isl_vec *sample;
867
868         bset = isl_basic_set_skew_to_positive_orthant(bset, &T);
869         if (!bset)
870                 return NULL;
871
872         ctx = bset->ctx;
873         sample = isl_pip_basic_set_sample(bset);
874
875         if (sample && sample->size != 0)
876                 sample = isl_mat_vec_product(T, sample);
877         else
878                 isl_mat_free(T);
879
880         return sample;
881 }
882
883 struct isl_vec *basic_set_sample(struct isl_basic_set *bset, int bounded)
884 {
885         struct isl_ctx *ctx;
886         unsigned dim;
887         if (!bset)
888                 return NULL;
889
890         ctx = bset->ctx;
891         if (isl_basic_set_fast_is_empty(bset))
892                 return empty_sample(bset);
893
894         dim = isl_basic_set_n_dim(bset);
895         isl_assert(ctx, isl_basic_set_n_param(bset) == 0, goto error);
896         isl_assert(ctx, bset->n_div == 0, goto error);
897
898         if (bset->sample && bset->sample->size == 1 + dim) {
899                 int contains = isl_basic_set_contains(bset, bset->sample);
900                 if (contains < 0)
901                         goto error;
902                 if (contains) {
903                         struct isl_vec *sample = isl_vec_copy(bset->sample);
904                         isl_basic_set_free(bset);
905                         return sample;
906                 }
907         }
908         isl_vec_free(bset->sample);
909         bset->sample = NULL;
910
911         if (bset->n_eq > 0)
912                 return sample_eq(bset, isl_basic_set_sample);
913         if (dim == 0)
914                 return zero_sample(bset);
915         if (dim == 1)
916                 return interval_sample(bset);
917
918         switch (bset->ctx->ilp_solver) {
919         case ISL_ILP_PIP:
920                 return pip_sample(bset);
921         case ISL_ILP_GBR:
922                 return bounded ? sample_bounded(bset) : gbr_sample(bset);
923         }
924         isl_assert(bset->ctx, 0, );
925 error:
926         isl_basic_set_free(bset);
927         return NULL;
928 }
929
930 struct isl_vec *isl_basic_set_sample(struct isl_basic_set *bset)
931 {
932         return basic_set_sample(bset, 0);
933 }
934
935 /* Compute an integer sample in "bset", where the caller guarantees
936  * that "bset" is bounded.
937  */
938 struct isl_vec *isl_basic_set_sample_bounded(struct isl_basic_set *bset)
939 {
940         return basic_set_sample(bset, 1);
941 }