c14a83c0c9bd54c0c3426fa4c72ce6255067a944
[platform/upstream/isl.git] / isl_polynomial.c
1 /*
2  * Copyright 2010      INRIA Saclay
3  *
4  * Use of this software is governed by the GNU LGPLv2.1 license
5  *
6  * Written by Sven Verdoolaege, INRIA Saclay - Ile-de-France,
7  * Parc Club Orsay Universite, ZAC des vignes, 4 rue Jacques Monod,
8  * 91893 Orsay, France 
9  */
10
11 #include <stdlib.h>
12 #include <isl_ctx_private.h>
13 #include <isl_map_private.h>
14 #include <isl_factorization.h>
15 #include <isl/lp.h>
16 #include <isl/seq.h>
17 #include <isl_union_map_private.h>
18 #include <isl_polynomial_private.h>
19 #include <isl_point_private.h>
20 #include <isl_dim_private.h>
21 #include <isl_div_private.h>
22 #include <isl_mat_private.h>
23 #include <isl_range.h>
24 #include <isl_local_space_private.h>
25 #include <isl_aff_private.h>
26 #include <isl_config.h>
27
28 static unsigned pos(__isl_keep isl_dim *dim, enum isl_dim_type type)
29 {
30         switch (type) {
31         case isl_dim_param:     return 0;
32         case isl_dim_in:        return dim->nparam;
33         case isl_dim_out:       return dim->nparam + dim->n_in;
34         default:                return 0;
35         }
36 }
37
38 int isl_upoly_is_cst(__isl_keep struct isl_upoly *up)
39 {
40         if (!up)
41                 return -1;
42
43         return up->var < 0;
44 }
45
46 __isl_keep struct isl_upoly_cst *isl_upoly_as_cst(__isl_keep struct isl_upoly *up)
47 {
48         if (!up)
49                 return NULL;
50
51         isl_assert(up->ctx, up->var < 0, return NULL);
52
53         return (struct isl_upoly_cst *)up;
54 }
55
56 __isl_keep struct isl_upoly_rec *isl_upoly_as_rec(__isl_keep struct isl_upoly *up)
57 {
58         if (!up)
59                 return NULL;
60
61         isl_assert(up->ctx, up->var >= 0, return NULL);
62
63         return (struct isl_upoly_rec *)up;
64 }
65
66 int isl_upoly_is_equal(__isl_keep struct isl_upoly *up1,
67         __isl_keep struct isl_upoly *up2)
68 {
69         int i;
70         struct isl_upoly_rec *rec1, *rec2;
71
72         if (!up1 || !up2)
73                 return -1;
74         if (up1 == up2)
75                 return 1;
76         if (up1->var != up2->var)
77                 return 0;
78         if (isl_upoly_is_cst(up1)) {
79                 struct isl_upoly_cst *cst1, *cst2;
80                 cst1 = isl_upoly_as_cst(up1);
81                 cst2 = isl_upoly_as_cst(up2);
82                 if (!cst1 || !cst2)
83                         return -1;
84                 return isl_int_eq(cst1->n, cst2->n) &&
85                        isl_int_eq(cst1->d, cst2->d);
86         }
87
88         rec1 = isl_upoly_as_rec(up1);
89         rec2 = isl_upoly_as_rec(up2);
90         if (!rec1 || !rec2)
91                 return -1;
92
93         if (rec1->n != rec2->n)
94                 return 0;
95
96         for (i = 0; i < rec1->n; ++i) {
97                 int eq = isl_upoly_is_equal(rec1->p[i], rec2->p[i]);
98                 if (eq < 0 || !eq)
99                         return eq;
100         }
101
102         return 1;
103 }
104
105 int isl_upoly_is_zero(__isl_keep struct isl_upoly *up)
106 {
107         struct isl_upoly_cst *cst;
108
109         if (!up)
110                 return -1;
111         if (!isl_upoly_is_cst(up))
112                 return 0;
113
114         cst = isl_upoly_as_cst(up);
115         if (!cst)
116                 return -1;
117
118         return isl_int_is_zero(cst->n) && isl_int_is_pos(cst->d);
119 }
120
121 int isl_upoly_sgn(__isl_keep struct isl_upoly *up)
122 {
123         struct isl_upoly_cst *cst;
124
125         if (!up)
126                 return 0;
127         if (!isl_upoly_is_cst(up))
128                 return 0;
129
130         cst = isl_upoly_as_cst(up);
131         if (!cst)
132                 return 0;
133
134         return isl_int_sgn(cst->n);
135 }
136
137 int isl_upoly_is_nan(__isl_keep struct isl_upoly *up)
138 {
139         struct isl_upoly_cst *cst;
140
141         if (!up)
142                 return -1;
143         if (!isl_upoly_is_cst(up))
144                 return 0;
145
146         cst = isl_upoly_as_cst(up);
147         if (!cst)
148                 return -1;
149
150         return isl_int_is_zero(cst->n) && isl_int_is_zero(cst->d);
151 }
152
153 int isl_upoly_is_infty(__isl_keep struct isl_upoly *up)
154 {
155         struct isl_upoly_cst *cst;
156
157         if (!up)
158                 return -1;
159         if (!isl_upoly_is_cst(up))
160                 return 0;
161
162         cst = isl_upoly_as_cst(up);
163         if (!cst)
164                 return -1;
165
166         return isl_int_is_pos(cst->n) && isl_int_is_zero(cst->d);
167 }
168
169 int isl_upoly_is_neginfty(__isl_keep struct isl_upoly *up)
170 {
171         struct isl_upoly_cst *cst;
172
173         if (!up)
174                 return -1;
175         if (!isl_upoly_is_cst(up))
176                 return 0;
177
178         cst = isl_upoly_as_cst(up);
179         if (!cst)
180                 return -1;
181
182         return isl_int_is_neg(cst->n) && isl_int_is_zero(cst->d);
183 }
184
185 int isl_upoly_is_one(__isl_keep struct isl_upoly *up)
186 {
187         struct isl_upoly_cst *cst;
188
189         if (!up)
190                 return -1;
191         if (!isl_upoly_is_cst(up))
192                 return 0;
193
194         cst = isl_upoly_as_cst(up);
195         if (!cst)
196                 return -1;
197
198         return isl_int_eq(cst->n, cst->d) && isl_int_is_pos(cst->d);
199 }
200
201 int isl_upoly_is_negone(__isl_keep struct isl_upoly *up)
202 {
203         struct isl_upoly_cst *cst;
204
205         if (!up)
206                 return -1;
207         if (!isl_upoly_is_cst(up))
208                 return 0;
209
210         cst = isl_upoly_as_cst(up);
211         if (!cst)
212                 return -1;
213
214         return isl_int_is_negone(cst->n) && isl_int_is_one(cst->d);
215 }
216
217 __isl_give struct isl_upoly_cst *isl_upoly_cst_alloc(struct isl_ctx *ctx)
218 {
219         struct isl_upoly_cst *cst;
220
221         cst = isl_alloc_type(ctx, struct isl_upoly_cst);
222         if (!cst)
223                 return NULL;
224
225         cst->up.ref = 1;
226         cst->up.ctx = ctx;
227         isl_ctx_ref(ctx);
228         cst->up.var = -1;
229
230         isl_int_init(cst->n);
231         isl_int_init(cst->d);
232
233         return cst;
234 }
235
236 __isl_give struct isl_upoly *isl_upoly_zero(struct isl_ctx *ctx)
237 {
238         struct isl_upoly_cst *cst;
239
240         cst = isl_upoly_cst_alloc(ctx);
241         if (!cst)
242                 return NULL;
243
244         isl_int_set_si(cst->n, 0);
245         isl_int_set_si(cst->d, 1);
246
247         return &cst->up;
248 }
249
250 __isl_give struct isl_upoly *isl_upoly_one(struct isl_ctx *ctx)
251 {
252         struct isl_upoly_cst *cst;
253
254         cst = isl_upoly_cst_alloc(ctx);
255         if (!cst)
256                 return NULL;
257
258         isl_int_set_si(cst->n, 1);
259         isl_int_set_si(cst->d, 1);
260
261         return &cst->up;
262 }
263
264 __isl_give struct isl_upoly *isl_upoly_infty(struct isl_ctx *ctx)
265 {
266         struct isl_upoly_cst *cst;
267
268         cst = isl_upoly_cst_alloc(ctx);
269         if (!cst)
270                 return NULL;
271
272         isl_int_set_si(cst->n, 1);
273         isl_int_set_si(cst->d, 0);
274
275         return &cst->up;
276 }
277
278 __isl_give struct isl_upoly *isl_upoly_neginfty(struct isl_ctx *ctx)
279 {
280         struct isl_upoly_cst *cst;
281
282         cst = isl_upoly_cst_alloc(ctx);
283         if (!cst)
284                 return NULL;
285
286         isl_int_set_si(cst->n, -1);
287         isl_int_set_si(cst->d, 0);
288
289         return &cst->up;
290 }
291
292 __isl_give struct isl_upoly *isl_upoly_nan(struct isl_ctx *ctx)
293 {
294         struct isl_upoly_cst *cst;
295
296         cst = isl_upoly_cst_alloc(ctx);
297         if (!cst)
298                 return NULL;
299
300         isl_int_set_si(cst->n, 0);
301         isl_int_set_si(cst->d, 0);
302
303         return &cst->up;
304 }
305
306 __isl_give struct isl_upoly *isl_upoly_rat_cst(struct isl_ctx *ctx,
307         isl_int n, isl_int d)
308 {
309         struct isl_upoly_cst *cst;
310
311         cst = isl_upoly_cst_alloc(ctx);
312         if (!cst)
313                 return NULL;
314
315         isl_int_set(cst->n, n);
316         isl_int_set(cst->d, d);
317
318         return &cst->up;
319 }
320
321 __isl_give struct isl_upoly_rec *isl_upoly_alloc_rec(struct isl_ctx *ctx,
322         int var, int size)
323 {
324         struct isl_upoly_rec *rec;
325
326         isl_assert(ctx, var >= 0, return NULL);
327         isl_assert(ctx, size >= 0, return NULL);
328         rec = isl_calloc(ctx, struct isl_upoly_rec,
329                         sizeof(struct isl_upoly_rec) +
330                         size * sizeof(struct isl_upoly *));
331         if (!rec)
332                 return NULL;
333
334         rec->up.ref = 1;
335         rec->up.ctx = ctx;
336         isl_ctx_ref(ctx);
337         rec->up.var = var;
338
339         rec->n = 0;
340         rec->size = size;
341
342         return rec;
343 }
344
345 __isl_give isl_qpolynomial *isl_qpolynomial_reset_dim(
346         __isl_take isl_qpolynomial *qp, __isl_take isl_dim *dim)
347 {
348         qp = isl_qpolynomial_cow(qp);
349         if (!qp || !dim)
350                 goto error;
351
352         isl_dim_free(qp->dim);
353         qp->dim = dim;
354
355         return qp;
356 error:
357         isl_qpolynomial_free(qp);
358         isl_dim_free(dim);
359         return NULL;
360 }
361
362 isl_ctx *isl_qpolynomial_get_ctx(__isl_keep isl_qpolynomial *qp)
363 {
364         return qp ? qp->dim->ctx : NULL;
365 }
366
367 __isl_give isl_dim *isl_qpolynomial_get_dim(__isl_keep isl_qpolynomial *qp)
368 {
369         return qp ? isl_dim_copy(qp->dim) : NULL;
370 }
371
372 unsigned isl_qpolynomial_dim(__isl_keep isl_qpolynomial *qp,
373         enum isl_dim_type type)
374 {
375         return qp ? isl_dim_size(qp->dim, type) : 0;
376 }
377
378 int isl_qpolynomial_is_zero(__isl_keep isl_qpolynomial *qp)
379 {
380         return qp ? isl_upoly_is_zero(qp->upoly) : -1;
381 }
382
383 int isl_qpolynomial_is_one(__isl_keep isl_qpolynomial *qp)
384 {
385         return qp ? isl_upoly_is_one(qp->upoly) : -1;
386 }
387
388 int isl_qpolynomial_is_nan(__isl_keep isl_qpolynomial *qp)
389 {
390         return qp ? isl_upoly_is_nan(qp->upoly) : -1;
391 }
392
393 int isl_qpolynomial_is_infty(__isl_keep isl_qpolynomial *qp)
394 {
395         return qp ? isl_upoly_is_infty(qp->upoly) : -1;
396 }
397
398 int isl_qpolynomial_is_neginfty(__isl_keep isl_qpolynomial *qp)
399 {
400         return qp ? isl_upoly_is_neginfty(qp->upoly) : -1;
401 }
402
403 int isl_qpolynomial_sgn(__isl_keep isl_qpolynomial *qp)
404 {
405         return qp ? isl_upoly_sgn(qp->upoly) : 0;
406 }
407
408 static void upoly_free_cst(__isl_take struct isl_upoly_cst *cst)
409 {
410         isl_int_clear(cst->n);
411         isl_int_clear(cst->d);
412 }
413
414 static void upoly_free_rec(__isl_take struct isl_upoly_rec *rec)
415 {
416         int i;
417
418         for (i = 0; i < rec->n; ++i)
419                 isl_upoly_free(rec->p[i]);
420 }
421
422 __isl_give struct isl_upoly *isl_upoly_copy(__isl_keep struct isl_upoly *up)
423 {
424         if (!up)
425                 return NULL;
426
427         up->ref++;
428         return up;
429 }
430
431 __isl_give struct isl_upoly *isl_upoly_dup_cst(__isl_keep struct isl_upoly *up)
432 {
433         struct isl_upoly_cst *cst;
434         struct isl_upoly_cst *dup;
435
436         cst = isl_upoly_as_cst(up);
437         if (!cst)
438                 return NULL;
439
440         dup = isl_upoly_as_cst(isl_upoly_zero(up->ctx));
441         if (!dup)
442                 return NULL;
443         isl_int_set(dup->n, cst->n);
444         isl_int_set(dup->d, cst->d);
445
446         return &dup->up;
447 }
448
449 __isl_give struct isl_upoly *isl_upoly_dup_rec(__isl_keep struct isl_upoly *up)
450 {
451         int i;
452         struct isl_upoly_rec *rec;
453         struct isl_upoly_rec *dup;
454
455         rec = isl_upoly_as_rec(up);
456         if (!rec)
457                 return NULL;
458
459         dup = isl_upoly_alloc_rec(up->ctx, up->var, rec->n);
460         if (!dup)
461                 return NULL;
462
463         for (i = 0; i < rec->n; ++i) {
464                 dup->p[i] = isl_upoly_copy(rec->p[i]);
465                 if (!dup->p[i])
466                         goto error;
467                 dup->n++;
468         }
469
470         return &dup->up;
471 error:
472         isl_upoly_free(&dup->up);
473         return NULL;
474 }
475
476 __isl_give struct isl_upoly *isl_upoly_dup(__isl_keep struct isl_upoly *up)
477 {
478         if (!up)
479                 return NULL;
480
481         if (isl_upoly_is_cst(up))
482                 return isl_upoly_dup_cst(up);
483         else
484                 return isl_upoly_dup_rec(up);
485 }
486
487 __isl_give struct isl_upoly *isl_upoly_cow(__isl_take struct isl_upoly *up)
488 {
489         if (!up)
490                 return NULL;
491
492         if (up->ref == 1)
493                 return up;
494         up->ref--;
495         return isl_upoly_dup(up);
496 }
497
498 void isl_upoly_free(__isl_take struct isl_upoly *up)
499 {
500         if (!up)
501                 return;
502
503         if (--up->ref > 0)
504                 return;
505
506         if (up->var < 0)
507                 upoly_free_cst((struct isl_upoly_cst *)up);
508         else
509                 upoly_free_rec((struct isl_upoly_rec *)up);
510
511         isl_ctx_deref(up->ctx);
512         free(up);
513 }
514
515 static void isl_upoly_cst_reduce(__isl_keep struct isl_upoly_cst *cst)
516 {
517         isl_int gcd;
518
519         isl_int_init(gcd);
520         isl_int_gcd(gcd, cst->n, cst->d);
521         if (!isl_int_is_zero(gcd) && !isl_int_is_one(gcd)) {
522                 isl_int_divexact(cst->n, cst->n, gcd);
523                 isl_int_divexact(cst->d, cst->d, gcd);
524         }
525         isl_int_clear(gcd);
526 }
527
528 __isl_give struct isl_upoly *isl_upoly_sum_cst(__isl_take struct isl_upoly *up1,
529         __isl_take struct isl_upoly *up2)
530 {
531         struct isl_upoly_cst *cst1;
532         struct isl_upoly_cst *cst2;
533
534         up1 = isl_upoly_cow(up1);
535         if (!up1 || !up2)
536                 goto error;
537
538         cst1 = isl_upoly_as_cst(up1);
539         cst2 = isl_upoly_as_cst(up2);
540
541         if (isl_int_eq(cst1->d, cst2->d))
542                 isl_int_add(cst1->n, cst1->n, cst2->n);
543         else {
544                 isl_int_mul(cst1->n, cst1->n, cst2->d);
545                 isl_int_addmul(cst1->n, cst2->n, cst1->d);
546                 isl_int_mul(cst1->d, cst1->d, cst2->d);
547         }
548
549         isl_upoly_cst_reduce(cst1);
550
551         isl_upoly_free(up2);
552         return up1;
553 error:
554         isl_upoly_free(up1);
555         isl_upoly_free(up2);
556         return NULL;
557 }
558
559 static __isl_give struct isl_upoly *replace_by_zero(
560         __isl_take struct isl_upoly *up)
561 {
562         struct isl_ctx *ctx;
563
564         if (!up)
565                 return NULL;
566         ctx = up->ctx;
567         isl_upoly_free(up);
568         return isl_upoly_zero(ctx);
569 }
570
571 static __isl_give struct isl_upoly *replace_by_constant_term(
572         __isl_take struct isl_upoly *up)
573 {
574         struct isl_upoly_rec *rec;
575         struct isl_upoly *cst;
576
577         if (!up)
578                 return NULL;
579
580         rec = isl_upoly_as_rec(up);
581         if (!rec)
582                 goto error;
583         cst = isl_upoly_copy(rec->p[0]);
584         isl_upoly_free(up);
585         return cst;
586 error:
587         isl_upoly_free(up);
588         return NULL;
589 }
590
591 __isl_give struct isl_upoly *isl_upoly_sum(__isl_take struct isl_upoly *up1,
592         __isl_take struct isl_upoly *up2)
593 {
594         int i;
595         struct isl_upoly_rec *rec1, *rec2;
596
597         if (!up1 || !up2)
598                 goto error;
599
600         if (isl_upoly_is_nan(up1)) {
601                 isl_upoly_free(up2);
602                 return up1;
603         }
604
605         if (isl_upoly_is_nan(up2)) {
606                 isl_upoly_free(up1);
607                 return up2;
608         }
609
610         if (isl_upoly_is_zero(up1)) {
611                 isl_upoly_free(up1);
612                 return up2;
613         }
614
615         if (isl_upoly_is_zero(up2)) {
616                 isl_upoly_free(up2);
617                 return up1;
618         }
619
620         if (up1->var < up2->var)
621                 return isl_upoly_sum(up2, up1);
622
623         if (up2->var < up1->var) {
624                 struct isl_upoly_rec *rec;
625                 if (isl_upoly_is_infty(up2) || isl_upoly_is_neginfty(up2)) {
626                         isl_upoly_free(up1);
627                         return up2;
628                 }
629                 up1 = isl_upoly_cow(up1);
630                 rec = isl_upoly_as_rec(up1);
631                 if (!rec)
632                         goto error;
633                 rec->p[0] = isl_upoly_sum(rec->p[0], up2);
634                 if (rec->n == 1)
635                         up1 = replace_by_constant_term(up1);
636                 return up1;
637         }
638
639         if (isl_upoly_is_cst(up1))
640                 return isl_upoly_sum_cst(up1, up2);
641
642         rec1 = isl_upoly_as_rec(up1);
643         rec2 = isl_upoly_as_rec(up2);
644         if (!rec1 || !rec2)
645                 goto error;
646
647         if (rec1->n < rec2->n)
648                 return isl_upoly_sum(up2, up1);
649
650         up1 = isl_upoly_cow(up1);
651         rec1 = isl_upoly_as_rec(up1);
652         if (!rec1)
653                 goto error;
654
655         for (i = rec2->n - 1; i >= 0; --i) {
656                 rec1->p[i] = isl_upoly_sum(rec1->p[i],
657                                             isl_upoly_copy(rec2->p[i]));
658                 if (!rec1->p[i])
659                         goto error;
660                 if (i == rec1->n - 1 && isl_upoly_is_zero(rec1->p[i])) {
661                         isl_upoly_free(rec1->p[i]);
662                         rec1->n--;
663                 }
664         }
665
666         if (rec1->n == 0)
667                 up1 = replace_by_zero(up1);
668         else if (rec1->n == 1)
669                 up1 = replace_by_constant_term(up1);
670
671         isl_upoly_free(up2);
672
673         return up1;
674 error:
675         isl_upoly_free(up1);
676         isl_upoly_free(up2);
677         return NULL;
678 }
679
680 __isl_give struct isl_upoly *isl_upoly_cst_add_isl_int(
681         __isl_take struct isl_upoly *up, isl_int v)
682 {
683         struct isl_upoly_cst *cst;
684
685         up = isl_upoly_cow(up);
686         if (!up)
687                 return NULL;
688
689         cst = isl_upoly_as_cst(up);
690
691         isl_int_addmul(cst->n, cst->d, v);
692
693         return up;
694 }
695
696 __isl_give struct isl_upoly *isl_upoly_add_isl_int(
697         __isl_take struct isl_upoly *up, isl_int v)
698 {
699         struct isl_upoly_rec *rec;
700
701         if (!up)
702                 return NULL;
703
704         if (isl_upoly_is_cst(up))
705                 return isl_upoly_cst_add_isl_int(up, v);
706
707         up = isl_upoly_cow(up);
708         rec = isl_upoly_as_rec(up);
709         if (!rec)
710                 goto error;
711
712         rec->p[0] = isl_upoly_add_isl_int(rec->p[0], v);
713         if (!rec->p[0])
714                 goto error;
715
716         return up;
717 error:
718         isl_upoly_free(up);
719         return NULL;
720 }
721
722 __isl_give struct isl_upoly *isl_upoly_cst_mul_isl_int(
723         __isl_take struct isl_upoly *up, isl_int v)
724 {
725         struct isl_upoly_cst *cst;
726
727         if (isl_upoly_is_zero(up))
728                 return up;
729
730         up = isl_upoly_cow(up);
731         if (!up)
732                 return NULL;
733
734         cst = isl_upoly_as_cst(up);
735
736         isl_int_mul(cst->n, cst->n, v);
737
738         return up;
739 }
740
741 __isl_give struct isl_upoly *isl_upoly_mul_isl_int(
742         __isl_take struct isl_upoly *up, isl_int v)
743 {
744         int i;
745         struct isl_upoly_rec *rec;
746
747         if (!up)
748                 return NULL;
749
750         if (isl_upoly_is_cst(up))
751                 return isl_upoly_cst_mul_isl_int(up, v);
752
753         up = isl_upoly_cow(up);
754         rec = isl_upoly_as_rec(up);
755         if (!rec)
756                 goto error;
757
758         for (i = 0; i < rec->n; ++i) {
759                 rec->p[i] = isl_upoly_mul_isl_int(rec->p[i], v);
760                 if (!rec->p[i])
761                         goto error;
762         }
763
764         return up;
765 error:
766         isl_upoly_free(up);
767         return NULL;
768 }
769
770 __isl_give struct isl_upoly *isl_upoly_mul_cst(__isl_take struct isl_upoly *up1,
771         __isl_take struct isl_upoly *up2)
772 {
773         struct isl_upoly_cst *cst1;
774         struct isl_upoly_cst *cst2;
775
776         up1 = isl_upoly_cow(up1);
777         if (!up1 || !up2)
778                 goto error;
779
780         cst1 = isl_upoly_as_cst(up1);
781         cst2 = isl_upoly_as_cst(up2);
782
783         isl_int_mul(cst1->n, cst1->n, cst2->n);
784         isl_int_mul(cst1->d, cst1->d, cst2->d);
785
786         isl_upoly_cst_reduce(cst1);
787
788         isl_upoly_free(up2);
789         return up1;
790 error:
791         isl_upoly_free(up1);
792         isl_upoly_free(up2);
793         return NULL;
794 }
795
796 __isl_give struct isl_upoly *isl_upoly_mul_rec(__isl_take struct isl_upoly *up1,
797         __isl_take struct isl_upoly *up2)
798 {
799         struct isl_upoly_rec *rec1;
800         struct isl_upoly_rec *rec2;
801         struct isl_upoly_rec *res = NULL;
802         int i, j;
803         int size;
804
805         rec1 = isl_upoly_as_rec(up1);
806         rec2 = isl_upoly_as_rec(up2);
807         if (!rec1 || !rec2)
808                 goto error;
809         size = rec1->n + rec2->n - 1;
810         res = isl_upoly_alloc_rec(up1->ctx, up1->var, size);
811         if (!res)
812                 goto error;
813
814         for (i = 0; i < rec1->n; ++i) {
815                 res->p[i] = isl_upoly_mul(isl_upoly_copy(rec2->p[0]),
816                                             isl_upoly_copy(rec1->p[i]));
817                 if (!res->p[i])
818                         goto error;
819                 res->n++;
820         }
821         for (; i < size; ++i) {
822                 res->p[i] = isl_upoly_zero(up1->ctx);
823                 if (!res->p[i])
824                         goto error;
825                 res->n++;
826         }
827         for (i = 0; i < rec1->n; ++i) {
828                 for (j = 1; j < rec2->n; ++j) {
829                         struct isl_upoly *up;
830                         up = isl_upoly_mul(isl_upoly_copy(rec2->p[j]),
831                                             isl_upoly_copy(rec1->p[i]));
832                         res->p[i + j] = isl_upoly_sum(res->p[i + j], up);
833                         if (!res->p[i + j])
834                                 goto error;
835                 }
836         }
837
838         isl_upoly_free(up1);
839         isl_upoly_free(up2);
840
841         return &res->up;
842 error:
843         isl_upoly_free(up1);
844         isl_upoly_free(up2);
845         isl_upoly_free(&res->up);
846         return NULL;
847 }
848
849 __isl_give struct isl_upoly *isl_upoly_mul(__isl_take struct isl_upoly *up1,
850         __isl_take struct isl_upoly *up2)
851 {
852         if (!up1 || !up2)
853                 goto error;
854
855         if (isl_upoly_is_nan(up1)) {
856                 isl_upoly_free(up2);
857                 return up1;
858         }
859
860         if (isl_upoly_is_nan(up2)) {
861                 isl_upoly_free(up1);
862                 return up2;
863         }
864
865         if (isl_upoly_is_zero(up1)) {
866                 isl_upoly_free(up2);
867                 return up1;
868         }
869
870         if (isl_upoly_is_zero(up2)) {
871                 isl_upoly_free(up1);
872                 return up2;
873         }
874
875         if (isl_upoly_is_one(up1)) {
876                 isl_upoly_free(up1);
877                 return up2;
878         }
879
880         if (isl_upoly_is_one(up2)) {
881                 isl_upoly_free(up2);
882                 return up1;
883         }
884
885         if (up1->var < up2->var)
886                 return isl_upoly_mul(up2, up1);
887
888         if (up2->var < up1->var) {
889                 int i;
890                 struct isl_upoly_rec *rec;
891                 if (isl_upoly_is_infty(up2) || isl_upoly_is_neginfty(up2)) {
892                         isl_ctx *ctx = up1->ctx;
893                         isl_upoly_free(up1);
894                         isl_upoly_free(up2);
895                         return isl_upoly_nan(ctx);
896                 }
897                 up1 = isl_upoly_cow(up1);
898                 rec = isl_upoly_as_rec(up1);
899                 if (!rec)
900                         goto error;
901
902                 for (i = 0; i < rec->n; ++i) {
903                         rec->p[i] = isl_upoly_mul(rec->p[i],
904                                                     isl_upoly_copy(up2));
905                         if (!rec->p[i])
906                                 goto error;
907                 }
908                 isl_upoly_free(up2);
909                 return up1;
910         }
911
912         if (isl_upoly_is_cst(up1))
913                 return isl_upoly_mul_cst(up1, up2);
914
915         return isl_upoly_mul_rec(up1, up2);
916 error:
917         isl_upoly_free(up1);
918         isl_upoly_free(up2);
919         return NULL;
920 }
921
922 __isl_give struct isl_upoly *isl_upoly_pow(__isl_take struct isl_upoly *up,
923         unsigned power)
924 {
925         struct isl_upoly *res;
926
927         if (!up)
928                 return NULL;
929         if (power == 1)
930                 return up;
931
932         if (power % 2)
933                 res = isl_upoly_copy(up);
934         else
935                 res = isl_upoly_one(up->ctx);
936
937         while (power >>= 1) {
938                 up = isl_upoly_mul(up, isl_upoly_copy(up));
939                 if (power % 2)
940                         res = isl_upoly_mul(res, isl_upoly_copy(up));
941         }
942
943         isl_upoly_free(up);
944         return res;
945 }
946
947 __isl_give isl_qpolynomial *isl_qpolynomial_alloc(__isl_take isl_dim *dim,
948         unsigned n_div, __isl_take struct isl_upoly *up)
949 {
950         struct isl_qpolynomial *qp = NULL;
951         unsigned total;
952
953         if (!dim || !up)
954                 goto error;
955
956         total = isl_dim_total(dim);
957
958         qp = isl_calloc_type(dim->ctx, struct isl_qpolynomial);
959         if (!qp)
960                 goto error;
961
962         qp->ref = 1;
963         qp->div = isl_mat_alloc(dim->ctx, n_div, 1 + 1 + total + n_div);
964         if (!qp->div)
965                 goto error;
966
967         qp->dim = dim;
968         qp->upoly = up;
969
970         return qp;
971 error:
972         isl_dim_free(dim);
973         isl_upoly_free(up);
974         isl_qpolynomial_free(qp);
975         return NULL;
976 }
977
978 __isl_give isl_qpolynomial *isl_qpolynomial_copy(__isl_keep isl_qpolynomial *qp)
979 {
980         if (!qp)
981                 return NULL;
982
983         qp->ref++;
984         return qp;
985 }
986
987 __isl_give isl_qpolynomial *isl_qpolynomial_dup(__isl_keep isl_qpolynomial *qp)
988 {
989         struct isl_qpolynomial *dup;
990
991         if (!qp)
992                 return NULL;
993
994         dup = isl_qpolynomial_alloc(isl_dim_copy(qp->dim), qp->div->n_row,
995                                     isl_upoly_copy(qp->upoly));
996         if (!dup)
997                 return NULL;
998         isl_mat_free(dup->div);
999         dup->div = isl_mat_copy(qp->div);
1000         if (!dup->div)
1001                 goto error;
1002
1003         return dup;
1004 error:
1005         isl_qpolynomial_free(dup);
1006         return NULL;
1007 }
1008
1009 __isl_give isl_qpolynomial *isl_qpolynomial_cow(__isl_take isl_qpolynomial *qp)
1010 {
1011         if (!qp)
1012                 return NULL;
1013
1014         if (qp->ref == 1)
1015                 return qp;
1016         qp->ref--;
1017         return isl_qpolynomial_dup(qp);
1018 }
1019
1020 void isl_qpolynomial_free(__isl_take isl_qpolynomial *qp)
1021 {
1022         if (!qp)
1023                 return;
1024
1025         if (--qp->ref > 0)
1026                 return;
1027
1028         isl_dim_free(qp->dim);
1029         isl_mat_free(qp->div);
1030         isl_upoly_free(qp->upoly);
1031
1032         free(qp);
1033 }
1034
1035 __isl_give struct isl_upoly *isl_upoly_var_pow(isl_ctx *ctx, int pos, int power)
1036 {
1037         int i;
1038         struct isl_upoly_rec *rec;
1039         struct isl_upoly_cst *cst;
1040
1041         rec = isl_upoly_alloc_rec(ctx, pos, 1 + power);
1042         if (!rec)
1043                 return NULL;
1044         for (i = 0; i < 1 + power; ++i) {
1045                 rec->p[i] = isl_upoly_zero(ctx);
1046                 if (!rec->p[i])
1047                         goto error;
1048                 rec->n++;
1049         }
1050         cst = isl_upoly_as_cst(rec->p[power]);
1051         isl_int_set_si(cst->n, 1);
1052
1053         return &rec->up;
1054 error:
1055         isl_upoly_free(&rec->up);
1056         return NULL;
1057 }
1058
1059 /* r array maps original positions to new positions.
1060  */
1061 static __isl_give struct isl_upoly *reorder(__isl_take struct isl_upoly *up,
1062         int *r)
1063 {
1064         int i;
1065         struct isl_upoly_rec *rec;
1066         struct isl_upoly *base;
1067         struct isl_upoly *res;
1068
1069         if (isl_upoly_is_cst(up))
1070                 return up;
1071
1072         rec = isl_upoly_as_rec(up);
1073         if (!rec)
1074                 goto error;
1075
1076         isl_assert(up->ctx, rec->n >= 1, goto error);
1077
1078         base = isl_upoly_var_pow(up->ctx, r[up->var], 1);
1079         res = reorder(isl_upoly_copy(rec->p[rec->n - 1]), r);
1080
1081         for (i = rec->n - 2; i >= 0; --i) {
1082                 res = isl_upoly_mul(res, isl_upoly_copy(base));
1083                 res = isl_upoly_sum(res, reorder(isl_upoly_copy(rec->p[i]), r));
1084         }
1085
1086         isl_upoly_free(base);
1087         isl_upoly_free(up);
1088
1089         return res;
1090 error:
1091         isl_upoly_free(up);
1092         return NULL;
1093 }
1094
1095 static int compatible_divs(__isl_keep isl_mat *div1, __isl_keep isl_mat *div2)
1096 {
1097         int n_row, n_col;
1098         int equal;
1099
1100         isl_assert(div1->ctx, div1->n_row >= div2->n_row &&
1101                                 div1->n_col >= div2->n_col, return -1);
1102
1103         if (div1->n_row == div2->n_row)
1104                 return isl_mat_is_equal(div1, div2);
1105
1106         n_row = div1->n_row;
1107         n_col = div1->n_col;
1108         div1->n_row = div2->n_row;
1109         div1->n_col = div2->n_col;
1110
1111         equal = isl_mat_is_equal(div1, div2);
1112
1113         div1->n_row = n_row;
1114         div1->n_col = n_col;
1115
1116         return equal;
1117 }
1118
1119 static int cmp_row(__isl_keep isl_mat *div, int i, int j)
1120 {
1121         int li, lj;
1122
1123         li = isl_seq_last_non_zero(div->row[i], div->n_col);
1124         lj = isl_seq_last_non_zero(div->row[j], div->n_col);
1125
1126         if (li != lj)
1127                 return li - lj;
1128
1129         return isl_seq_cmp(div->row[i], div->row[j], div->n_col);
1130 }
1131
1132 struct isl_div_sort_info {
1133         isl_mat *div;
1134         int      row;
1135 };
1136
1137 static int div_sort_cmp(const void *p1, const void *p2)
1138 {
1139         const struct isl_div_sort_info *i1, *i2;
1140         i1 = (const struct isl_div_sort_info *) p1;
1141         i2 = (const struct isl_div_sort_info *) p2;
1142
1143         return cmp_row(i1->div, i1->row, i2->row);
1144 }
1145
1146 /* Sort divs and remove duplicates.
1147  */
1148 static __isl_give isl_qpolynomial *sort_divs(__isl_take isl_qpolynomial *qp)
1149 {
1150         int i;
1151         int skip;
1152         int len;
1153         struct isl_div_sort_info *array = NULL;
1154         int *pos = NULL, *at = NULL;
1155         int *reordering = NULL;
1156         unsigned div_pos;
1157
1158         if (!qp)
1159                 return NULL;
1160         if (qp->div->n_row <= 1)
1161                 return qp;
1162
1163         div_pos = isl_dim_total(qp->dim);
1164
1165         array = isl_alloc_array(qp->div->ctx, struct isl_div_sort_info,
1166                                 qp->div->n_row);
1167         pos = isl_alloc_array(qp->div->ctx, int, qp->div->n_row);
1168         at = isl_alloc_array(qp->div->ctx, int, qp->div->n_row);
1169         len = qp->div->n_col - 2;
1170         reordering = isl_alloc_array(qp->div->ctx, int, len);
1171         if (!array || !pos || !at || !reordering)
1172                 goto error;
1173
1174         for (i = 0; i < qp->div->n_row; ++i) {
1175                 array[i].div = qp->div;
1176                 array[i].row = i;
1177                 pos[i] = i;
1178                 at[i] = i;
1179         }
1180
1181         qsort(array, qp->div->n_row, sizeof(struct isl_div_sort_info),
1182                 div_sort_cmp);
1183
1184         for (i = 0; i < div_pos; ++i)
1185                 reordering[i] = i;
1186
1187         for (i = 0; i < qp->div->n_row; ++i) {
1188                 if (pos[array[i].row] == i)
1189                         continue;
1190                 qp->div = isl_mat_swap_rows(qp->div, i, pos[array[i].row]);
1191                 pos[at[i]] = pos[array[i].row];
1192                 at[pos[array[i].row]] = at[i];
1193                 at[i] = array[i].row;
1194                 pos[array[i].row] = i;
1195         }
1196
1197         skip = 0;
1198         for (i = 0; i < len - div_pos; ++i) {
1199                 if (i > 0 &&
1200                     isl_seq_eq(qp->div->row[i - skip - 1],
1201                                qp->div->row[i - skip], qp->div->n_col)) {
1202                         qp->div = isl_mat_drop_rows(qp->div, i - skip, 1);
1203                         isl_mat_col_add(qp->div, 2 + div_pos + i - skip - 1,
1204                                                  2 + div_pos + i - skip);
1205                         qp->div = isl_mat_drop_cols(qp->div,
1206                                                     2 + div_pos + i - skip, 1);
1207                         skip++;
1208                 }
1209                 reordering[div_pos + array[i].row] = div_pos + i - skip;
1210         }
1211
1212         qp->upoly = reorder(qp->upoly, reordering);
1213
1214         if (!qp->upoly || !qp->div)
1215                 goto error;
1216
1217         free(at);
1218         free(pos);
1219         free(array);
1220         free(reordering);
1221
1222         return qp;
1223 error:
1224         free(at);
1225         free(pos);
1226         free(array);
1227         free(reordering);
1228         isl_qpolynomial_free(qp);
1229         return NULL;
1230 }
1231
1232 static __isl_give struct isl_upoly *expand(__isl_take struct isl_upoly *up,
1233         int *exp, int first)
1234 {
1235         int i;
1236         struct isl_upoly_rec *rec;
1237
1238         if (isl_upoly_is_cst(up))
1239                 return up;
1240
1241         if (up->var < first)
1242                 return up;
1243
1244         if (exp[up->var - first] == up->var - first)
1245                 return up;
1246
1247         up = isl_upoly_cow(up);
1248         if (!up)
1249                 goto error;
1250
1251         up->var = exp[up->var - first] + first;
1252
1253         rec = isl_upoly_as_rec(up);
1254         if (!rec)
1255                 goto error;
1256
1257         for (i = 0; i < rec->n; ++i) {
1258                 rec->p[i] = expand(rec->p[i], exp, first);
1259                 if (!rec->p[i])
1260                         goto error;
1261         }
1262
1263         return up;
1264 error:
1265         isl_upoly_free(up);
1266         return NULL;
1267 }
1268
1269 static __isl_give isl_qpolynomial *with_merged_divs(
1270         __isl_give isl_qpolynomial *(*fn)(__isl_take isl_qpolynomial *qp1,
1271                                           __isl_take isl_qpolynomial *qp2),
1272         __isl_take isl_qpolynomial *qp1, __isl_take isl_qpolynomial *qp2)
1273 {
1274         int *exp1 = NULL;
1275         int *exp2 = NULL;
1276         isl_mat *div = NULL;
1277
1278         qp1 = isl_qpolynomial_cow(qp1);
1279         qp2 = isl_qpolynomial_cow(qp2);
1280
1281         if (!qp1 || !qp2)
1282                 goto error;
1283
1284         isl_assert(qp1->div->ctx, qp1->div->n_row >= qp2->div->n_row &&
1285                                 qp1->div->n_col >= qp2->div->n_col, goto error);
1286
1287         exp1 = isl_alloc_array(qp1->div->ctx, int, qp1->div->n_row);
1288         exp2 = isl_alloc_array(qp2->div->ctx, int, qp2->div->n_row);
1289         if (!exp1 || !exp2)
1290                 goto error;
1291
1292         div = isl_merge_divs(qp1->div, qp2->div, exp1, exp2);
1293         if (!div)
1294                 goto error;
1295
1296         isl_mat_free(qp1->div);
1297         qp1->div = isl_mat_copy(div);
1298         isl_mat_free(qp2->div);
1299         qp2->div = isl_mat_copy(div);
1300
1301         qp1->upoly = expand(qp1->upoly, exp1, div->n_col - div->n_row - 2);
1302         qp2->upoly = expand(qp2->upoly, exp2, div->n_col - div->n_row - 2);
1303
1304         if (!qp1->upoly || !qp2->upoly)
1305                 goto error;
1306
1307         isl_mat_free(div);
1308         free(exp1);
1309         free(exp2);
1310
1311         return fn(qp1, qp2);
1312 error:
1313         isl_mat_free(div);
1314         free(exp1);
1315         free(exp2);
1316         isl_qpolynomial_free(qp1);
1317         isl_qpolynomial_free(qp2);
1318         return NULL;
1319 }
1320
1321 __isl_give isl_qpolynomial *isl_qpolynomial_add(__isl_take isl_qpolynomial *qp1,
1322         __isl_take isl_qpolynomial *qp2)
1323 {
1324         qp1 = isl_qpolynomial_cow(qp1);
1325
1326         if (!qp1 || !qp2)
1327                 goto error;
1328
1329         if (qp1->div->n_row < qp2->div->n_row)
1330                 return isl_qpolynomial_add(qp2, qp1);
1331
1332         isl_assert(qp1->dim->ctx, isl_dim_equal(qp1->dim, qp2->dim), goto error);
1333         if (!compatible_divs(qp1->div, qp2->div))
1334                 return with_merged_divs(isl_qpolynomial_add, qp1, qp2);
1335
1336         qp1->upoly = isl_upoly_sum(qp1->upoly, isl_upoly_copy(qp2->upoly));
1337         if (!qp1->upoly)
1338                 goto error;
1339
1340         isl_qpolynomial_free(qp2);
1341
1342         return qp1;
1343 error:
1344         isl_qpolynomial_free(qp1);
1345         isl_qpolynomial_free(qp2);
1346         return NULL;
1347 }
1348
1349 __isl_give isl_qpolynomial *isl_qpolynomial_add_on_domain(
1350         __isl_keep isl_set *dom,
1351         __isl_take isl_qpolynomial *qp1,
1352         __isl_take isl_qpolynomial *qp2)
1353 {
1354         qp1 = isl_qpolynomial_add(qp1, qp2);
1355         qp1 = isl_qpolynomial_gist(qp1, isl_set_copy(dom));
1356         return qp1;
1357 }
1358
1359 __isl_give isl_qpolynomial *isl_qpolynomial_sub(__isl_take isl_qpolynomial *qp1,
1360         __isl_take isl_qpolynomial *qp2)
1361 {
1362         return isl_qpolynomial_add(qp1, isl_qpolynomial_neg(qp2));
1363 }
1364
1365 __isl_give isl_qpolynomial *isl_qpolynomial_add_isl_int(
1366         __isl_take isl_qpolynomial *qp, isl_int v)
1367 {
1368         if (isl_int_is_zero(v))
1369                 return qp;
1370
1371         qp = isl_qpolynomial_cow(qp);
1372         if (!qp)
1373                 return NULL;
1374
1375         qp->upoly = isl_upoly_add_isl_int(qp->upoly, v);
1376         if (!qp->upoly)
1377                 goto error;
1378
1379         return qp;
1380 error:
1381         isl_qpolynomial_free(qp);
1382         return NULL;
1383
1384 }
1385
1386 __isl_give isl_qpolynomial *isl_qpolynomial_neg(__isl_take isl_qpolynomial *qp)
1387 {
1388         if (!qp)
1389                 return NULL;
1390
1391         return isl_qpolynomial_mul_isl_int(qp, qp->dim->ctx->negone);
1392 }
1393
1394 __isl_give isl_qpolynomial *isl_qpolynomial_mul_isl_int(
1395         __isl_take isl_qpolynomial *qp, isl_int v)
1396 {
1397         if (isl_int_is_one(v))
1398                 return qp;
1399
1400         if (qp && isl_int_is_zero(v)) {
1401                 isl_qpolynomial *zero;
1402                 zero = isl_qpolynomial_zero(isl_dim_copy(qp->dim));
1403                 isl_qpolynomial_free(qp);
1404                 return zero;
1405         }
1406         
1407         qp = isl_qpolynomial_cow(qp);
1408         if (!qp)
1409                 return NULL;
1410
1411         qp->upoly = isl_upoly_mul_isl_int(qp->upoly, v);
1412         if (!qp->upoly)
1413                 goto error;
1414
1415         return qp;
1416 error:
1417         isl_qpolynomial_free(qp);
1418         return NULL;
1419 }
1420
1421 __isl_give isl_qpolynomial *isl_qpolynomial_scale(
1422         __isl_take isl_qpolynomial *qp, isl_int v)
1423 {
1424         return isl_qpolynomial_mul_isl_int(qp, v);
1425 }
1426
1427 __isl_give isl_qpolynomial *isl_qpolynomial_mul(__isl_take isl_qpolynomial *qp1,
1428         __isl_take isl_qpolynomial *qp2)
1429 {
1430         qp1 = isl_qpolynomial_cow(qp1);
1431
1432         if (!qp1 || !qp2)
1433                 goto error;
1434
1435         if (qp1->div->n_row < qp2->div->n_row)
1436                 return isl_qpolynomial_mul(qp2, qp1);
1437
1438         isl_assert(qp1->dim->ctx, isl_dim_equal(qp1->dim, qp2->dim), goto error);
1439         if (!compatible_divs(qp1->div, qp2->div))
1440                 return with_merged_divs(isl_qpolynomial_mul, qp1, qp2);
1441
1442         qp1->upoly = isl_upoly_mul(qp1->upoly, isl_upoly_copy(qp2->upoly));
1443         if (!qp1->upoly)
1444                 goto error;
1445
1446         isl_qpolynomial_free(qp2);
1447
1448         return qp1;
1449 error:
1450         isl_qpolynomial_free(qp1);
1451         isl_qpolynomial_free(qp2);
1452         return NULL;
1453 }
1454
1455 __isl_give isl_qpolynomial *isl_qpolynomial_pow(__isl_take isl_qpolynomial *qp,
1456         unsigned power)
1457 {
1458         qp = isl_qpolynomial_cow(qp);
1459
1460         if (!qp)
1461                 return NULL;
1462
1463         qp->upoly = isl_upoly_pow(qp->upoly, power);
1464         if (!qp->upoly)
1465                 goto error;
1466
1467         return qp;
1468 error:
1469         isl_qpolynomial_free(qp);
1470         return NULL;
1471 }
1472
1473 __isl_give isl_qpolynomial *isl_qpolynomial_zero(__isl_take isl_dim *dim)
1474 {
1475         if (!dim)
1476                 return NULL;
1477         return isl_qpolynomial_alloc(dim, 0, isl_upoly_zero(dim->ctx));
1478 }
1479
1480 __isl_give isl_qpolynomial *isl_qpolynomial_one(__isl_take isl_dim *dim)
1481 {
1482         if (!dim)
1483                 return NULL;
1484         return isl_qpolynomial_alloc(dim, 0, isl_upoly_one(dim->ctx));
1485 }
1486
1487 __isl_give isl_qpolynomial *isl_qpolynomial_infty(__isl_take isl_dim *dim)
1488 {
1489         if (!dim)
1490                 return NULL;
1491         return isl_qpolynomial_alloc(dim, 0, isl_upoly_infty(dim->ctx));
1492 }
1493
1494 __isl_give isl_qpolynomial *isl_qpolynomial_neginfty(__isl_take isl_dim *dim)
1495 {
1496         if (!dim)
1497                 return NULL;
1498         return isl_qpolynomial_alloc(dim, 0, isl_upoly_neginfty(dim->ctx));
1499 }
1500
1501 __isl_give isl_qpolynomial *isl_qpolynomial_nan(__isl_take isl_dim *dim)
1502 {
1503         if (!dim)
1504                 return NULL;
1505         return isl_qpolynomial_alloc(dim, 0, isl_upoly_nan(dim->ctx));
1506 }
1507
1508 __isl_give isl_qpolynomial *isl_qpolynomial_cst(__isl_take isl_dim *dim,
1509         isl_int v)
1510 {
1511         struct isl_qpolynomial *qp;
1512         struct isl_upoly_cst *cst;
1513
1514         if (!dim)
1515                 return NULL;
1516
1517         qp = isl_qpolynomial_alloc(dim, 0, isl_upoly_zero(dim->ctx));
1518         if (!qp)
1519                 return NULL;
1520
1521         cst = isl_upoly_as_cst(qp->upoly);
1522         isl_int_set(cst->n, v);
1523
1524         return qp;
1525 }
1526
1527 int isl_qpolynomial_is_cst(__isl_keep isl_qpolynomial *qp,
1528         isl_int *n, isl_int *d)
1529 {
1530         struct isl_upoly_cst *cst;
1531
1532         if (!qp)
1533                 return -1;
1534
1535         if (!isl_upoly_is_cst(qp->upoly))
1536                 return 0;
1537
1538         cst = isl_upoly_as_cst(qp->upoly);
1539         if (!cst)
1540                 return -1;
1541
1542         if (n)
1543                 isl_int_set(*n, cst->n);
1544         if (d)
1545                 isl_int_set(*d, cst->d);
1546
1547         return 1;
1548 }
1549
1550 int isl_upoly_is_affine(__isl_keep struct isl_upoly *up)
1551 {
1552         int is_cst;
1553         struct isl_upoly_rec *rec;
1554
1555         if (!up)
1556                 return -1;
1557
1558         if (up->var < 0)
1559                 return 1;
1560
1561         rec = isl_upoly_as_rec(up);
1562         if (!rec)
1563                 return -1;
1564
1565         if (rec->n > 2)
1566                 return 0;
1567
1568         isl_assert(up->ctx, rec->n > 1, return -1);
1569
1570         is_cst = isl_upoly_is_cst(rec->p[1]);
1571         if (is_cst < 0)
1572                 return -1;
1573         if (!is_cst)
1574                 return 0;
1575
1576         return isl_upoly_is_affine(rec->p[0]);
1577 }
1578
1579 int isl_qpolynomial_is_affine(__isl_keep isl_qpolynomial *qp)
1580 {
1581         if (!qp)
1582                 return -1;
1583
1584         if (qp->div->n_row > 0)
1585                 return 0;
1586
1587         return isl_upoly_is_affine(qp->upoly);
1588 }
1589
1590 static void update_coeff(__isl_keep isl_vec *aff,
1591         __isl_keep struct isl_upoly_cst *cst, int pos)
1592 {
1593         isl_int gcd;
1594         isl_int f;
1595
1596         if (isl_int_is_zero(cst->n))
1597                 return;
1598
1599         isl_int_init(gcd);
1600         isl_int_init(f);
1601         isl_int_gcd(gcd, cst->d, aff->el[0]);
1602         isl_int_divexact(f, cst->d, gcd);
1603         isl_int_divexact(gcd, aff->el[0], gcd);
1604         isl_seq_scale(aff->el, aff->el, f, aff->size);
1605         isl_int_mul(aff->el[1 + pos], gcd, cst->n);
1606         isl_int_clear(gcd);
1607         isl_int_clear(f);
1608 }
1609
1610 int isl_upoly_update_affine(__isl_keep struct isl_upoly *up,
1611         __isl_keep isl_vec *aff)
1612 {
1613         struct isl_upoly_cst *cst;
1614         struct isl_upoly_rec *rec;
1615
1616         if (!up || !aff)
1617                 return -1;
1618
1619         if (up->var < 0) {
1620                 struct isl_upoly_cst *cst;
1621
1622                 cst = isl_upoly_as_cst(up);
1623                 if (!cst)
1624                         return -1;
1625                 update_coeff(aff, cst, 0);
1626                 return 0;
1627         }
1628
1629         rec = isl_upoly_as_rec(up);
1630         if (!rec)
1631                 return -1;
1632         isl_assert(up->ctx, rec->n == 2, return -1);
1633
1634         cst = isl_upoly_as_cst(rec->p[1]);
1635         if (!cst)
1636                 return -1;
1637         update_coeff(aff, cst, 1 + up->var);
1638
1639         return isl_upoly_update_affine(rec->p[0], aff);
1640 }
1641
1642 __isl_give isl_vec *isl_qpolynomial_extract_affine(
1643         __isl_keep isl_qpolynomial *qp)
1644 {
1645         isl_vec *aff;
1646         unsigned d;
1647
1648         if (!qp)
1649                 return NULL;
1650
1651         d = isl_dim_total(qp->dim);
1652         aff = isl_vec_alloc(qp->div->ctx, 2 + d + qp->div->n_row);
1653         if (!aff)
1654                 return NULL;
1655
1656         isl_seq_clr(aff->el + 1, 1 + d + qp->div->n_row);
1657         isl_int_set_si(aff->el[0], 1);
1658
1659         if (isl_upoly_update_affine(qp->upoly, aff) < 0)
1660                 goto error;
1661
1662         return aff;
1663 error:
1664         isl_vec_free(aff);
1665         return NULL;
1666 }
1667
1668 int isl_qpolynomial_plain_is_equal(__isl_keep isl_qpolynomial *qp1,
1669         __isl_keep isl_qpolynomial *qp2)
1670 {
1671         int equal;
1672
1673         if (!qp1 || !qp2)
1674                 return -1;
1675
1676         equal = isl_dim_equal(qp1->dim, qp2->dim);
1677         if (equal < 0 || !equal)
1678                 return equal;
1679
1680         equal = isl_mat_is_equal(qp1->div, qp2->div);
1681         if (equal < 0 || !equal)
1682                 return equal;
1683
1684         return isl_upoly_is_equal(qp1->upoly, qp2->upoly);
1685 }
1686
1687 static void upoly_update_den(__isl_keep struct isl_upoly *up, isl_int *d)
1688 {
1689         int i;
1690         struct isl_upoly_rec *rec;
1691
1692         if (isl_upoly_is_cst(up)) {
1693                 struct isl_upoly_cst *cst;
1694                 cst = isl_upoly_as_cst(up);
1695                 if (!cst)
1696                         return;
1697                 isl_int_lcm(*d, *d, cst->d);
1698                 return;
1699         }
1700
1701         rec = isl_upoly_as_rec(up);
1702         if (!rec)
1703                 return;
1704
1705         for (i = 0; i < rec->n; ++i)
1706                 upoly_update_den(rec->p[i], d);
1707 }
1708
1709 void isl_qpolynomial_get_den(__isl_keep isl_qpolynomial *qp, isl_int *d)
1710 {
1711         isl_int_set_si(*d, 1);
1712         if (!qp)
1713                 return;
1714         upoly_update_den(qp->upoly, d);
1715 }
1716
1717 __isl_give isl_qpolynomial *isl_qpolynomial_var_pow(__isl_take isl_dim *dim,
1718         int pos, int power)
1719 {
1720         struct isl_ctx *ctx;
1721
1722         if (!dim)
1723                 return NULL;
1724
1725         ctx = dim->ctx;
1726
1727         return isl_qpolynomial_alloc(dim, 0, isl_upoly_var_pow(ctx, pos, power));
1728 }
1729
1730 __isl_give isl_qpolynomial *isl_qpolynomial_var(__isl_take isl_dim *dim,
1731         enum isl_dim_type type, unsigned pos)
1732 {
1733         if (!dim)
1734                 return NULL;
1735
1736         isl_assert(dim->ctx, isl_dim_size(dim, isl_dim_in) == 0, goto error);
1737         isl_assert(dim->ctx, pos < isl_dim_size(dim, type), goto error);
1738
1739         if (type == isl_dim_set)
1740                 pos += isl_dim_size(dim, isl_dim_param);
1741
1742         return isl_qpolynomial_var_pow(dim, pos, 1);
1743 error:
1744         isl_dim_free(dim);
1745         return NULL;
1746 }
1747
1748 __isl_give struct isl_upoly *isl_upoly_subs(__isl_take struct isl_upoly *up,
1749         unsigned first, unsigned n, __isl_keep struct isl_upoly **subs)
1750 {
1751         int i;
1752         struct isl_upoly_rec *rec;
1753         struct isl_upoly *base, *res;
1754
1755         if (!up)
1756                 return NULL;
1757
1758         if (isl_upoly_is_cst(up))
1759                 return up;
1760
1761         if (up->var < first)
1762                 return up;
1763
1764         rec = isl_upoly_as_rec(up);
1765         if (!rec)
1766                 goto error;
1767
1768         isl_assert(up->ctx, rec->n >= 1, goto error);
1769
1770         if (up->var >= first + n)
1771                 base = isl_upoly_var_pow(up->ctx, up->var, 1);
1772         else
1773                 base = isl_upoly_copy(subs[up->var - first]);
1774
1775         res = isl_upoly_subs(isl_upoly_copy(rec->p[rec->n - 1]), first, n, subs);
1776         for (i = rec->n - 2; i >= 0; --i) {
1777                 struct isl_upoly *t;
1778                 t = isl_upoly_subs(isl_upoly_copy(rec->p[i]), first, n, subs);
1779                 res = isl_upoly_mul(res, isl_upoly_copy(base));
1780                 res = isl_upoly_sum(res, t);
1781         }
1782
1783         isl_upoly_free(base);
1784         isl_upoly_free(up);
1785                                 
1786         return res;
1787 error:
1788         isl_upoly_free(up);
1789         return NULL;
1790 }       
1791
1792 __isl_give struct isl_upoly *isl_upoly_from_affine(isl_ctx *ctx, isl_int *f,
1793         isl_int denom, unsigned len)
1794 {
1795         int i;
1796         struct isl_upoly *up;
1797
1798         isl_assert(ctx, len >= 1, return NULL);
1799
1800         up = isl_upoly_rat_cst(ctx, f[0], denom);
1801         for (i = 0; i < len - 1; ++i) {
1802                 struct isl_upoly *t;
1803                 struct isl_upoly *c;
1804
1805                 if (isl_int_is_zero(f[1 + i]))
1806                         continue;
1807
1808                 c = isl_upoly_rat_cst(ctx, f[1 + i], denom);
1809                 t = isl_upoly_var_pow(ctx, i, 1);
1810                 t = isl_upoly_mul(c, t);
1811                 up = isl_upoly_sum(up, t);
1812         }
1813
1814         return up;
1815 }
1816
1817 /* Remove common factor of non-constant terms and denominator.
1818  */
1819 static void normalize_div(__isl_keep isl_qpolynomial *qp, int div)
1820 {
1821         isl_ctx *ctx = qp->div->ctx;
1822         unsigned total = qp->div->n_col - 2;
1823
1824         isl_seq_gcd(qp->div->row[div] + 2, total, &ctx->normalize_gcd);
1825         isl_int_gcd(ctx->normalize_gcd,
1826                     ctx->normalize_gcd, qp->div->row[div][0]);
1827         if (isl_int_is_one(ctx->normalize_gcd))
1828                 return;
1829
1830         isl_seq_scale_down(qp->div->row[div] + 2, qp->div->row[div] + 2,
1831                             ctx->normalize_gcd, total);
1832         isl_int_divexact(qp->div->row[div][0], qp->div->row[div][0],
1833                             ctx->normalize_gcd);
1834         isl_int_fdiv_q(qp->div->row[div][1], qp->div->row[div][1],
1835                             ctx->normalize_gcd);
1836 }
1837
1838 /* Replace the integer division identified by "div" by the polynomial "s".
1839  * The integer division is assumed not to appear in the definition
1840  * of any other integer divisions.
1841  */
1842 static __isl_give isl_qpolynomial *substitute_div(
1843         __isl_take isl_qpolynomial *qp,
1844         int div, __isl_take struct isl_upoly *s)
1845 {
1846         int i;
1847         int total;
1848         int *reordering;
1849
1850         if (!qp || !s)
1851                 goto error;
1852
1853         qp = isl_qpolynomial_cow(qp);
1854         if (!qp)
1855                 goto error;
1856
1857         total = isl_dim_total(qp->dim);
1858         qp->upoly = isl_upoly_subs(qp->upoly, total + div, 1, &s);
1859         if (!qp->upoly)
1860                 goto error;
1861
1862         reordering = isl_alloc_array(qp->dim->ctx, int, total + qp->div->n_row);
1863         if (!reordering)
1864                 goto error;
1865         for (i = 0; i < total + div; ++i)
1866                 reordering[i] = i;
1867         for (i = total + div + 1; i < total + qp->div->n_row; ++i)
1868                 reordering[i] = i - 1;
1869         qp->div = isl_mat_drop_rows(qp->div, div, 1);
1870         qp->div = isl_mat_drop_cols(qp->div, 2 + total + div, 1);
1871         qp->upoly = reorder(qp->upoly, reordering);
1872         free(reordering);
1873
1874         if (!qp->upoly || !qp->div)
1875                 goto error;
1876
1877         isl_upoly_free(s);
1878         return qp;
1879 error:
1880         isl_qpolynomial_free(qp);
1881         isl_upoly_free(s);
1882         return NULL;
1883 }
1884
1885 /* Replace all integer divisions [e/d] that turn out to not actually be integer
1886  * divisions because d is equal to 1 by their definition, i.e., e.
1887  */
1888 static __isl_give isl_qpolynomial *substitute_non_divs(
1889         __isl_take isl_qpolynomial *qp)
1890 {
1891         int i, j;
1892         int total;
1893         struct isl_upoly *s;
1894
1895         if (!qp)
1896                 return NULL;
1897
1898         total = isl_dim_total(qp->dim);
1899         for (i = 0; qp && i < qp->div->n_row; ++i) {
1900                 if (!isl_int_is_one(qp->div->row[i][0]))
1901                         continue;
1902                 for (j = i + 1; j < qp->div->n_row; ++j) {
1903                         if (isl_int_is_zero(qp->div->row[j][2 + total + i]))
1904                                 continue;
1905                         isl_seq_combine(qp->div->row[j] + 1,
1906                                 qp->div->ctx->one, qp->div->row[j] + 1,
1907                                 qp->div->row[j][2 + total + i],
1908                                 qp->div->row[i] + 1, 1 + total + i);
1909                         isl_int_set_si(qp->div->row[j][2 + total + i], 0);
1910                         normalize_div(qp, j);
1911                 }
1912                 s = isl_upoly_from_affine(qp->dim->ctx, qp->div->row[i] + 1,
1913                                         qp->div->row[i][0], qp->div->n_col - 1);
1914                 qp = substitute_div(qp, i, s);
1915                 --i;
1916         }
1917
1918         return qp;
1919 }
1920
1921 /* Reduce the coefficients of div "div" to lie in the interval [0, d-1],
1922  * with d the denominator.  When replacing the coefficient e of x by
1923  * d * frac(e/d) = e - d * floor(e/d), we are subtracting d * floor(e/d) * x
1924  * inside the division, so we need to add floor(e/d) * x outside.
1925  * That is, we replace q by q' + floor(e/d) * x and we therefore need
1926  * to adjust the coefficient of x in each later div that depends on the
1927  * current div "div" and also in the affine expression "aff"
1928  * (if it too depends on "div").
1929  */
1930 static void reduce_div(__isl_keep isl_qpolynomial *qp, int div,
1931         __isl_keep isl_vec *aff)
1932 {
1933         int i, j;
1934         isl_int v;
1935         unsigned total = qp->div->n_col - qp->div->n_row - 2;
1936
1937         isl_int_init(v);
1938         for (i = 0; i < 1 + total + div; ++i) {
1939                 if (isl_int_is_nonneg(qp->div->row[div][1 + i]) &&
1940                     isl_int_lt(qp->div->row[div][1 + i], qp->div->row[div][0]))
1941                         continue;
1942                 isl_int_fdiv_q(v, qp->div->row[div][1 + i], qp->div->row[div][0]);
1943                 isl_int_fdiv_r(qp->div->row[div][1 + i],
1944                                 qp->div->row[div][1 + i], qp->div->row[div][0]);
1945                 if (!isl_int_is_zero(aff->el[1 + total + div]))
1946                         isl_int_addmul(aff->el[i], v, aff->el[1 + total + div]);
1947                 for (j = div + 1; j < qp->div->n_row; ++j) {
1948                         if (isl_int_is_zero(qp->div->row[j][2 + total + div]))
1949                                 continue;
1950                         isl_int_addmul(qp->div->row[j][1 + i],
1951                                         v, qp->div->row[j][2 + total + div]);
1952                 }
1953         }
1954         isl_int_clear(v);
1955 }
1956
1957 /* Check if the last non-zero coefficient is bigger that half of the
1958  * denominator.  If so, we will invert the div to further reduce the number
1959  * of distinct divs that may appear.
1960  * If the last non-zero coefficient is exactly half the denominator,
1961  * then we continue looking for earlier coefficients that are bigger
1962  * than half the denominator.
1963  */
1964 static int needs_invert(__isl_keep isl_mat *div, int row)
1965 {
1966         int i;
1967         int cmp;
1968
1969         for (i = div->n_col - 1; i >= 1; --i) {
1970                 if (isl_int_is_zero(div->row[row][i]))
1971                         continue;
1972                 isl_int_mul_ui(div->row[row][i], div->row[row][i], 2);
1973                 cmp = isl_int_cmp(div->row[row][i], div->row[row][0]);
1974                 isl_int_divexact_ui(div->row[row][i], div->row[row][i], 2);
1975                 if (cmp)
1976                         return cmp > 0;
1977                 if (i == 1)
1978                         return 1;
1979         }
1980
1981         return 0;
1982 }
1983
1984 /* Replace div "div" q = [e/d] by -[(-e+(d-1))/d].
1985  * We only invert the coefficients of e (and the coefficient of q in
1986  * later divs and in "aff").  After calling this function, the
1987  * coefficients of e should be reduced again.
1988  */
1989 static void invert_div(__isl_keep isl_qpolynomial *qp, int div,
1990         __isl_keep isl_vec *aff)
1991 {
1992         unsigned total = qp->div->n_col - qp->div->n_row - 2;
1993
1994         isl_seq_neg(qp->div->row[div] + 1,
1995                     qp->div->row[div] + 1, qp->div->n_col - 1);
1996         isl_int_sub_ui(qp->div->row[div][1], qp->div->row[div][1], 1);
1997         isl_int_add(qp->div->row[div][1],
1998                     qp->div->row[div][1], qp->div->row[div][0]);
1999         if (!isl_int_is_zero(aff->el[1 + total + div]))
2000                 isl_int_neg(aff->el[1 + total + div], aff->el[1 + total + div]);
2001         isl_mat_col_mul(qp->div, 2 + total + div,
2002                         qp->div->ctx->negone, 2 + total + div);
2003 }
2004
2005 /* Assuming "qp" is a monomial, reduce all its divs to have coefficients
2006  * in the interval [0, d-1], with d the denominator and such that the
2007  * last non-zero coefficient that is not equal to d/2 is smaller than d/2.
2008  *
2009  * After the reduction, some divs may have become redundant or identical,
2010  * so we call substitute_non_divs and sort_divs.  If these functions
2011  * eliminate divs or merge two or more divs into one, the coefficients
2012  * of the enclosing divs may have to be reduced again, so we call
2013  * ourselves recursively if the number of divs decreases.
2014  */
2015 static __isl_give isl_qpolynomial *reduce_divs(__isl_take isl_qpolynomial *qp)
2016 {
2017         int i;
2018         isl_vec *aff = NULL;
2019         struct isl_upoly *s;
2020         unsigned n_div;
2021
2022         if (!qp)
2023                 return NULL;
2024
2025         aff = isl_vec_alloc(qp->div->ctx, qp->div->n_col - 1);
2026         aff = isl_vec_clr(aff);
2027         if (!aff)
2028                 goto error;
2029
2030         isl_int_set_si(aff->el[1 + qp->upoly->var], 1);
2031
2032         for (i = 0; i < qp->div->n_row; ++i) {
2033                 normalize_div(qp, i);
2034                 reduce_div(qp, i, aff);
2035                 if (needs_invert(qp->div, i)) {
2036                         invert_div(qp, i, aff);
2037                         reduce_div(qp, i, aff);
2038                 }
2039         }
2040
2041         s = isl_upoly_from_affine(qp->div->ctx, aff->el,
2042                                   qp->div->ctx->one, aff->size);
2043         qp->upoly = isl_upoly_subs(qp->upoly, qp->upoly->var, 1, &s);
2044         isl_upoly_free(s);
2045         if (!qp->upoly)
2046                 goto error;
2047
2048         isl_vec_free(aff);
2049
2050         n_div = qp->div->n_row;
2051         qp = substitute_non_divs(qp);
2052         qp = sort_divs(qp);
2053         if (qp && qp->div->n_row < n_div)
2054                 return reduce_divs(qp);
2055
2056         return qp;
2057 error:
2058         isl_qpolynomial_free(qp);
2059         isl_vec_free(aff);
2060         return NULL;
2061 }
2062
2063 /* Assumes each div only depends on earlier divs.
2064  */
2065 __isl_give isl_qpolynomial *isl_qpolynomial_div_pow(__isl_take isl_div *div,
2066         int power)
2067 {
2068         struct isl_qpolynomial *qp = NULL;
2069         struct isl_upoly_rec *rec;
2070         struct isl_upoly_cst *cst;
2071         int i, d;
2072         int pos;
2073
2074         if (!div)
2075                 return NULL;
2076
2077         d = div->line - div->bmap->div;
2078
2079         pos = isl_dim_total(div->bmap->dim) + d;
2080         rec = isl_upoly_alloc_rec(div->ctx, pos, 1 + power);
2081         qp = isl_qpolynomial_alloc(isl_basic_map_get_dim(div->bmap),
2082                                    div->bmap->n_div, &rec->up);
2083         if (!qp)
2084                 goto error;
2085
2086         for (i = 0; i < div->bmap->n_div; ++i)
2087                 isl_seq_cpy(qp->div->row[i], div->bmap->div[i], qp->div->n_col);
2088
2089         for (i = 0; i < 1 + power; ++i) {
2090                 rec->p[i] = isl_upoly_zero(div->ctx);
2091                 if (!rec->p[i])
2092                         goto error;
2093                 rec->n++;
2094         }
2095         cst = isl_upoly_as_cst(rec->p[power]);
2096         isl_int_set_si(cst->n, 1);
2097
2098         isl_div_free(div);
2099
2100         qp = reduce_divs(qp);
2101
2102         return qp;
2103 error:
2104         isl_qpolynomial_free(qp);
2105         isl_div_free(div);
2106         return NULL;
2107 }
2108
2109 __isl_give isl_qpolynomial *isl_qpolynomial_div(__isl_take isl_div *div)
2110 {
2111         return isl_qpolynomial_div_pow(div, 1);
2112 }
2113
2114 __isl_give isl_qpolynomial *isl_qpolynomial_rat_cst(__isl_take isl_dim *dim,
2115         const isl_int n, const isl_int d)
2116 {
2117         struct isl_qpolynomial *qp;
2118         struct isl_upoly_cst *cst;
2119
2120         qp = isl_qpolynomial_alloc(dim, 0, isl_upoly_zero(dim->ctx));
2121         if (!qp)
2122                 return NULL;
2123
2124         cst = isl_upoly_as_cst(qp->upoly);
2125         isl_int_set(cst->n, n);
2126         isl_int_set(cst->d, d);
2127
2128         return qp;
2129 }
2130
2131 static int up_set_active(__isl_keep struct isl_upoly *up, int *active, int d)
2132 {
2133         struct isl_upoly_rec *rec;
2134         int i;
2135
2136         if (!up)
2137                 return -1;
2138
2139         if (isl_upoly_is_cst(up))
2140                 return 0;
2141
2142         if (up->var < d)
2143                 active[up->var] = 1;
2144
2145         rec = isl_upoly_as_rec(up);
2146         for (i = 0; i < rec->n; ++i)
2147                 if (up_set_active(rec->p[i], active, d) < 0)
2148                         return -1;
2149
2150         return 0;
2151 }
2152
2153 static int set_active(__isl_keep isl_qpolynomial *qp, int *active)
2154 {
2155         int i, j;
2156         int d = isl_dim_total(qp->dim);
2157
2158         if (!qp || !active)
2159                 return -1;
2160
2161         for (i = 0; i < d; ++i)
2162                 for (j = 0; j < qp->div->n_row; ++j) {
2163                         if (isl_int_is_zero(qp->div->row[j][2 + i]))
2164                                 continue;
2165                         active[i] = 1;
2166                         break;
2167                 }
2168
2169         return up_set_active(qp->upoly, active, d);
2170 }
2171
2172 int isl_qpolynomial_involves_dims(__isl_keep isl_qpolynomial *qp,
2173         enum isl_dim_type type, unsigned first, unsigned n)
2174 {
2175         int i;
2176         int *active = NULL;
2177         int involves = 0;
2178
2179         if (!qp)
2180                 return -1;
2181         if (n == 0)
2182                 return 0;
2183
2184         isl_assert(qp->dim->ctx, first + n <= isl_dim_size(qp->dim, type),
2185                         return -1);
2186         isl_assert(qp->dim->ctx, type == isl_dim_param ||
2187                                  type == isl_dim_set, return -1);
2188
2189         active = isl_calloc_array(qp->dim->ctx, int, isl_dim_total(qp->dim));
2190         if (set_active(qp, active) < 0)
2191                 goto error;
2192
2193         if (type == isl_dim_set)
2194                 first += isl_dim_size(qp->dim, isl_dim_param);
2195         for (i = 0; i < n; ++i)
2196                 if (active[first + i]) {
2197                         involves = 1;
2198                         break;
2199                 }
2200
2201         free(active);
2202
2203         return involves;
2204 error:
2205         free(active);
2206         return -1;
2207 }
2208
2209 /* Remove divs that do not appear in the quasi-polynomial, nor in any
2210  * of the divs that do appear in the quasi-polynomial.
2211  */
2212 static __isl_give isl_qpolynomial *remove_redundant_divs(
2213         __isl_take isl_qpolynomial *qp)
2214 {
2215         int i, j;
2216         int d;
2217         int len;
2218         int skip;
2219         int *active = NULL;
2220         int *reordering = NULL;
2221         int redundant = 0;
2222         int n_div;
2223         isl_ctx *ctx;
2224
2225         if (!qp)
2226                 return NULL;
2227         if (qp->div->n_row == 0)
2228                 return qp;
2229
2230         d = isl_dim_total(qp->dim);
2231         len = qp->div->n_col - 2;
2232         ctx = isl_qpolynomial_get_ctx(qp);
2233         active = isl_calloc_array(ctx, int, len);
2234         if (!active)
2235                 goto error;
2236
2237         if (up_set_active(qp->upoly, active, len) < 0)
2238                 goto error;
2239
2240         for (i = qp->div->n_row - 1; i >= 0; --i) {
2241                 if (!active[d + i]) {
2242                         redundant = 1;
2243                         continue;
2244                 }
2245                 for (j = 0; j < i; ++j) {
2246                         if (isl_int_is_zero(qp->div->row[i][2 + d + j]))
2247                                 continue;
2248                         active[d + j] = 1;
2249                         break;
2250                 }
2251         }
2252
2253         if (!redundant) {
2254                 free(active);
2255                 return qp;
2256         }
2257
2258         reordering = isl_alloc_array(qp->div->ctx, int, len);
2259         if (!reordering)
2260                 goto error;
2261
2262         for (i = 0; i < d; ++i)
2263                 reordering[i] = i;
2264
2265         skip = 0;
2266         n_div = qp->div->n_row;
2267         for (i = 0; i < n_div; ++i) {
2268                 if (!active[d + i]) {
2269                         qp->div = isl_mat_drop_rows(qp->div, i - skip, 1);
2270                         qp->div = isl_mat_drop_cols(qp->div,
2271                                                     2 + d + i - skip, 1);
2272                         skip++;
2273                 }
2274                 reordering[d + i] = d + i - skip;
2275         }
2276
2277         qp->upoly = reorder(qp->upoly, reordering);
2278
2279         if (!qp->upoly || !qp->div)
2280                 goto error;
2281
2282         free(active);
2283         free(reordering);
2284
2285         return qp;
2286 error:
2287         free(active);
2288         free(reordering);
2289         isl_qpolynomial_free(qp);
2290         return NULL;
2291 }
2292
2293 __isl_give struct isl_upoly *isl_upoly_drop(__isl_take struct isl_upoly *up,
2294         unsigned first, unsigned n)
2295 {
2296         int i;
2297         struct isl_upoly_rec *rec;
2298
2299         if (!up)
2300                 return NULL;
2301         if (n == 0 || up->var < 0 || up->var < first)
2302                 return up;
2303         if (up->var < first + n) {
2304                 up = replace_by_constant_term(up);
2305                 return isl_upoly_drop(up, first, n);
2306         }
2307         up = isl_upoly_cow(up);
2308         if (!up)
2309                 return NULL;
2310         up->var -= n;
2311         rec = isl_upoly_as_rec(up);
2312         if (!rec)
2313                 goto error;
2314
2315         for (i = 0; i < rec->n; ++i) {
2316                 rec->p[i] = isl_upoly_drop(rec->p[i], first, n);
2317                 if (!rec->p[i])
2318                         goto error;
2319         }
2320
2321         return up;
2322 error:
2323         isl_upoly_free(up);
2324         return NULL;
2325 }
2326
2327 __isl_give isl_qpolynomial *isl_qpolynomial_set_dim_name(
2328         __isl_take isl_qpolynomial *qp,
2329         enum isl_dim_type type, unsigned pos, const char *s)
2330 {
2331         qp = isl_qpolynomial_cow(qp);
2332         if (!qp)
2333                 return NULL;
2334         qp->dim = isl_dim_set_name(qp->dim, type, pos, s);
2335         if (!qp->dim)
2336                 goto error;
2337         return qp;
2338 error:
2339         isl_qpolynomial_free(qp);
2340         return NULL;
2341 }
2342
2343 __isl_give isl_qpolynomial *isl_qpolynomial_drop_dims(
2344         __isl_take isl_qpolynomial *qp,
2345         enum isl_dim_type type, unsigned first, unsigned n)
2346 {
2347         if (!qp)
2348                 return NULL;
2349         if (n == 0 && !isl_dim_get_tuple_name(qp->dim, type))
2350                 return qp;
2351
2352         qp = isl_qpolynomial_cow(qp);
2353         if (!qp)
2354                 return NULL;
2355
2356         isl_assert(qp->dim->ctx, first + n <= isl_dim_size(qp->dim, type),
2357                         goto error);
2358         isl_assert(qp->dim->ctx, type == isl_dim_param ||
2359                                  type == isl_dim_set, goto error);
2360
2361         qp->dim = isl_dim_drop(qp->dim, type, first, n);
2362         if (!qp->dim)
2363                 goto error;
2364
2365         if (type == isl_dim_set)
2366                 first += isl_dim_size(qp->dim, isl_dim_param);
2367
2368         qp->div = isl_mat_drop_cols(qp->div, 2 + first, n);
2369         if (!qp->div)
2370                 goto error;
2371
2372         qp->upoly = isl_upoly_drop(qp->upoly, first, n);
2373         if (!qp->upoly)
2374                 goto error;
2375
2376         return qp;
2377 error:
2378         isl_qpolynomial_free(qp);
2379         return NULL;
2380 }
2381
2382 __isl_give isl_qpolynomial *isl_qpolynomial_substitute_equalities(
2383         __isl_take isl_qpolynomial *qp, __isl_take isl_basic_set *eq)
2384 {
2385         int i, j, k;
2386         isl_int denom;
2387         unsigned total;
2388         unsigned n_div;
2389         struct isl_upoly *up;
2390
2391         if (!eq)
2392                 goto error;
2393         if (eq->n_eq == 0) {
2394                 isl_basic_set_free(eq);
2395                 return qp;
2396         }
2397
2398         qp = isl_qpolynomial_cow(qp);
2399         if (!qp)
2400                 goto error;
2401         qp->div = isl_mat_cow(qp->div);
2402         if (!qp->div)
2403                 goto error;
2404
2405         total = 1 + isl_dim_total(eq->dim);
2406         n_div = eq->n_div;
2407         isl_int_init(denom);
2408         for (i = 0; i < eq->n_eq; ++i) {
2409                 j = isl_seq_last_non_zero(eq->eq[i], total + n_div);
2410                 if (j < 0 || j == 0 || j >= total)
2411                         continue;
2412
2413                 for (k = 0; k < qp->div->n_row; ++k) {
2414                         if (isl_int_is_zero(qp->div->row[k][1 + j]))
2415                                 continue;
2416                         isl_seq_elim(qp->div->row[k] + 1, eq->eq[i], j, total,
2417                                         &qp->div->row[k][0]);
2418                         normalize_div(qp, k);
2419                 }
2420
2421                 if (isl_int_is_pos(eq->eq[i][j]))
2422                         isl_seq_neg(eq->eq[i], eq->eq[i], total);
2423                 isl_int_abs(denom, eq->eq[i][j]);
2424                 isl_int_set_si(eq->eq[i][j], 0);
2425
2426                 up = isl_upoly_from_affine(qp->dim->ctx,
2427                                                    eq->eq[i], denom, total);
2428                 qp->upoly = isl_upoly_subs(qp->upoly, j - 1, 1, &up);
2429                 isl_upoly_free(up);
2430         }
2431         isl_int_clear(denom);
2432
2433         if (!qp->upoly)
2434                 goto error;
2435
2436         isl_basic_set_free(eq);
2437
2438         qp = substitute_non_divs(qp);
2439         qp = sort_divs(qp);
2440
2441         return qp;
2442 error:
2443         isl_basic_set_free(eq);
2444         isl_qpolynomial_free(qp);
2445         return NULL;
2446 }
2447
2448 static __isl_give isl_basic_set *add_div_constraints(
2449         __isl_take isl_basic_set *bset, __isl_take isl_mat *div)
2450 {
2451         int i;
2452         unsigned total;
2453
2454         if (!bset || !div)
2455                 goto error;
2456
2457         bset = isl_basic_set_extend_constraints(bset, 0, 2 * div->n_row);
2458         if (!bset)
2459                 goto error;
2460         total = isl_basic_set_total_dim(bset);
2461         for (i = 0; i < div->n_row; ++i)
2462                 if (isl_basic_set_add_div_constraints_var(bset,
2463                                     total - div->n_row + i, div->row[i]) < 0)
2464                         goto error;
2465
2466         isl_mat_free(div);
2467         return bset;
2468 error:
2469         isl_mat_free(div);
2470         isl_basic_set_free(bset);
2471         return NULL;
2472 }
2473
2474 /* Look for equalities among the variables shared by context and qp
2475  * and the integer divisions of qp, if any.
2476  * The equalities are then used to eliminate variables and/or integer
2477  * divisions from qp.
2478  */
2479 __isl_give isl_qpolynomial *isl_qpolynomial_gist(
2480         __isl_take isl_qpolynomial *qp, __isl_take isl_set *context)
2481 {
2482         isl_basic_set *aff;
2483
2484         if (!qp)
2485                 goto error;
2486         if (qp->div->n_row > 0) {
2487                 isl_basic_set *bset;
2488                 context = isl_set_add_dims(context, isl_dim_set,
2489                                             qp->div->n_row);
2490                 bset = isl_basic_set_universe(isl_set_get_dim(context));
2491                 bset = add_div_constraints(bset, isl_mat_copy(qp->div));
2492                 context = isl_set_intersect(context,
2493                                             isl_set_from_basic_set(bset));
2494         }
2495
2496         aff = isl_set_affine_hull(context);
2497         return isl_qpolynomial_substitute_equalities(qp, aff);
2498 error:
2499         isl_qpolynomial_free(qp);
2500         isl_set_free(context);
2501         return NULL;
2502 }
2503
2504 #undef PW
2505 #define PW isl_pw_qpolynomial
2506 #undef EL
2507 #define EL isl_qpolynomial
2508 #undef IS_ZERO
2509 #define IS_ZERO is_zero
2510 #undef FIELD
2511 #define FIELD qp
2512
2513 #include <isl_pw_templ.c>
2514
2515 #undef UNION
2516 #define UNION isl_union_pw_qpolynomial
2517 #undef PART
2518 #define PART isl_pw_qpolynomial
2519 #undef PARTS
2520 #define PARTS pw_qpolynomial
2521
2522 #include <isl_union_templ.c>
2523
2524 int isl_pw_qpolynomial_is_one(__isl_keep isl_pw_qpolynomial *pwqp)
2525 {
2526         if (!pwqp)
2527                 return -1;
2528
2529         if (pwqp->n != -1)
2530                 return 0;
2531
2532         if (!isl_set_plain_is_universe(pwqp->p[0].set))
2533                 return 0;
2534
2535         return isl_qpolynomial_is_one(pwqp->p[0].qp);
2536 }
2537
2538 __isl_give isl_pw_qpolynomial *isl_pw_qpolynomial_mul(
2539         __isl_take isl_pw_qpolynomial *pwqp1,
2540         __isl_take isl_pw_qpolynomial *pwqp2)
2541 {
2542         int i, j, n;
2543         struct isl_pw_qpolynomial *res;
2544
2545         if (!pwqp1 || !pwqp2)
2546                 goto error;
2547
2548         isl_assert(pwqp1->dim->ctx, isl_dim_equal(pwqp1->dim, pwqp2->dim),
2549                         goto error);
2550
2551         if (isl_pw_qpolynomial_is_zero(pwqp1)) {
2552                 isl_pw_qpolynomial_free(pwqp2);
2553                 return pwqp1;
2554         }
2555
2556         if (isl_pw_qpolynomial_is_zero(pwqp2)) {
2557                 isl_pw_qpolynomial_free(pwqp1);
2558                 return pwqp2;
2559         }
2560
2561         if (isl_pw_qpolynomial_is_one(pwqp1)) {
2562                 isl_pw_qpolynomial_free(pwqp1);
2563                 return pwqp2;
2564         }
2565
2566         if (isl_pw_qpolynomial_is_one(pwqp2)) {
2567                 isl_pw_qpolynomial_free(pwqp2);
2568                 return pwqp1;
2569         }
2570
2571         n = pwqp1->n * pwqp2->n;
2572         res = isl_pw_qpolynomial_alloc_(isl_dim_copy(pwqp1->dim), n);
2573
2574         for (i = 0; i < pwqp1->n; ++i) {
2575                 for (j = 0; j < pwqp2->n; ++j) {
2576                         struct isl_set *common;
2577                         struct isl_qpolynomial *prod;
2578                         common = isl_set_intersect(isl_set_copy(pwqp1->p[i].set),
2579                                                 isl_set_copy(pwqp2->p[j].set));
2580                         if (isl_set_plain_is_empty(common)) {
2581                                 isl_set_free(common);
2582                                 continue;
2583                         }
2584
2585                         prod = isl_qpolynomial_mul(
2586                                 isl_qpolynomial_copy(pwqp1->p[i].qp),
2587                                 isl_qpolynomial_copy(pwqp2->p[j].qp));
2588
2589                         res = isl_pw_qpolynomial_add_piece(res, common, prod);
2590                 }
2591         }
2592
2593         isl_pw_qpolynomial_free(pwqp1);
2594         isl_pw_qpolynomial_free(pwqp2);
2595
2596         return res;
2597 error:
2598         isl_pw_qpolynomial_free(pwqp1);
2599         isl_pw_qpolynomial_free(pwqp2);
2600         return NULL;
2601 }
2602
2603 __isl_give isl_pw_qpolynomial *isl_pw_qpolynomial_neg(
2604         __isl_take isl_pw_qpolynomial *pwqp)
2605 {
2606         int i;
2607
2608         if (!pwqp)
2609                 return NULL;
2610
2611         if (isl_pw_qpolynomial_is_zero(pwqp))
2612                 return pwqp;
2613
2614         pwqp = isl_pw_qpolynomial_cow(pwqp);
2615         if (!pwqp)
2616                 return NULL;
2617
2618         for (i = 0; i < pwqp->n; ++i) {
2619                 pwqp->p[i].qp = isl_qpolynomial_neg(pwqp->p[i].qp);
2620                 if (!pwqp->p[i].qp)
2621                         goto error;
2622         }
2623
2624         return pwqp;
2625 error:
2626         isl_pw_qpolynomial_free(pwqp);
2627         return NULL;
2628 }
2629
2630 __isl_give isl_pw_qpolynomial *isl_pw_qpolynomial_sub(
2631         __isl_take isl_pw_qpolynomial *pwqp1,
2632         __isl_take isl_pw_qpolynomial *pwqp2)
2633 {
2634         return isl_pw_qpolynomial_add(pwqp1, isl_pw_qpolynomial_neg(pwqp2));
2635 }
2636
2637 __isl_give struct isl_upoly *isl_upoly_eval(
2638         __isl_take struct isl_upoly *up, __isl_take isl_vec *vec)
2639 {
2640         int i;
2641         struct isl_upoly_rec *rec;
2642         struct isl_upoly *res;
2643         struct isl_upoly *base;
2644
2645         if (isl_upoly_is_cst(up)) {
2646                 isl_vec_free(vec);
2647                 return up;
2648         }
2649
2650         rec = isl_upoly_as_rec(up);
2651         if (!rec)
2652                 goto error;
2653
2654         isl_assert(up->ctx, rec->n >= 1, goto error);
2655
2656         base = isl_upoly_rat_cst(up->ctx, vec->el[1 + up->var], vec->el[0]);
2657
2658         res = isl_upoly_eval(isl_upoly_copy(rec->p[rec->n - 1]),
2659                                 isl_vec_copy(vec));
2660
2661         for (i = rec->n - 2; i >= 0; --i) {
2662                 res = isl_upoly_mul(res, isl_upoly_copy(base));
2663                 res = isl_upoly_sum(res, 
2664                             isl_upoly_eval(isl_upoly_copy(rec->p[i]),
2665                                                             isl_vec_copy(vec)));
2666         }
2667
2668         isl_upoly_free(base);
2669         isl_upoly_free(up);
2670         isl_vec_free(vec);
2671         return res;
2672 error:
2673         isl_upoly_free(up);
2674         isl_vec_free(vec);
2675         return NULL;
2676 }
2677
2678 __isl_give isl_qpolynomial *isl_qpolynomial_eval(
2679         __isl_take isl_qpolynomial *qp, __isl_take isl_point *pnt)
2680 {
2681         isl_vec *ext;
2682         struct isl_upoly *up;
2683         isl_dim *dim;
2684
2685         if (!qp || !pnt)
2686                 goto error;
2687         isl_assert(pnt->dim->ctx, isl_dim_equal(pnt->dim, qp->dim), goto error);
2688
2689         if (qp->div->n_row == 0)
2690                 ext = isl_vec_copy(pnt->vec);
2691         else {
2692                 int i;
2693                 unsigned dim = isl_dim_total(qp->dim);
2694                 ext = isl_vec_alloc(qp->dim->ctx, 1 + dim + qp->div->n_row);
2695                 if (!ext)
2696                         goto error;
2697
2698                 isl_seq_cpy(ext->el, pnt->vec->el, pnt->vec->size);
2699                 for (i = 0; i < qp->div->n_row; ++i) {
2700                         isl_seq_inner_product(qp->div->row[i] + 1, ext->el,
2701                                                 1 + dim + i, &ext->el[1+dim+i]);
2702                         isl_int_fdiv_q(ext->el[1+dim+i], ext->el[1+dim+i],
2703                                         qp->div->row[i][0]);
2704                 }
2705         }
2706
2707         up = isl_upoly_eval(isl_upoly_copy(qp->upoly), ext);
2708         if (!up)
2709                 goto error;
2710
2711         dim = isl_dim_copy(qp->dim);
2712         isl_qpolynomial_free(qp);
2713         isl_point_free(pnt);
2714
2715         return isl_qpolynomial_alloc(dim, 0, up);
2716 error:
2717         isl_qpolynomial_free(qp);
2718         isl_point_free(pnt);
2719         return NULL;
2720 }
2721
2722 int isl_upoly_cmp(__isl_keep struct isl_upoly_cst *cst1,
2723         __isl_keep struct isl_upoly_cst *cst2)
2724 {
2725         int cmp;
2726         isl_int t;
2727         isl_int_init(t);
2728         isl_int_mul(t, cst1->n, cst2->d);
2729         isl_int_submul(t, cst2->n, cst1->d);
2730         cmp = isl_int_sgn(t);
2731         isl_int_clear(t);
2732         return cmp;
2733 }
2734
2735 int isl_qpolynomial_le_cst(__isl_keep isl_qpolynomial *qp1,
2736         __isl_keep isl_qpolynomial *qp2)
2737 {
2738         struct isl_upoly_cst *cst1, *cst2;
2739
2740         if (!qp1 || !qp2)
2741                 return -1;
2742         isl_assert(qp1->dim->ctx, isl_upoly_is_cst(qp1->upoly), return -1);
2743         isl_assert(qp2->dim->ctx, isl_upoly_is_cst(qp2->upoly), return -1);
2744         if (isl_qpolynomial_is_nan(qp1))
2745                 return -1;
2746         if (isl_qpolynomial_is_nan(qp2))
2747                 return -1;
2748         cst1 = isl_upoly_as_cst(qp1->upoly);
2749         cst2 = isl_upoly_as_cst(qp2->upoly);
2750
2751         return isl_upoly_cmp(cst1, cst2) <= 0;
2752 }
2753
2754 __isl_give isl_qpolynomial *isl_qpolynomial_min_cst(
2755         __isl_take isl_qpolynomial *qp1, __isl_take isl_qpolynomial *qp2)
2756 {
2757         struct isl_upoly_cst *cst1, *cst2;
2758         int cmp;
2759
2760         if (!qp1 || !qp2)
2761                 goto error;
2762         isl_assert(qp1->dim->ctx, isl_upoly_is_cst(qp1->upoly), goto error);
2763         isl_assert(qp2->dim->ctx, isl_upoly_is_cst(qp2->upoly), goto error);
2764         cst1 = isl_upoly_as_cst(qp1->upoly);
2765         cst2 = isl_upoly_as_cst(qp2->upoly);
2766         cmp = isl_upoly_cmp(cst1, cst2);
2767
2768         if (cmp <= 0) {
2769                 isl_qpolynomial_free(qp2);
2770         } else {
2771                 isl_qpolynomial_free(qp1);
2772                 qp1 = qp2;
2773         }
2774         return qp1;
2775 error:
2776         isl_qpolynomial_free(qp1);
2777         isl_qpolynomial_free(qp2);
2778         return NULL;
2779 }
2780
2781 __isl_give isl_qpolynomial *isl_qpolynomial_max_cst(
2782         __isl_take isl_qpolynomial *qp1, __isl_take isl_qpolynomial *qp2)
2783 {
2784         struct isl_upoly_cst *cst1, *cst2;
2785         int cmp;
2786
2787         if (!qp1 || !qp2)
2788                 goto error;
2789         isl_assert(qp1->dim->ctx, isl_upoly_is_cst(qp1->upoly), goto error);
2790         isl_assert(qp2->dim->ctx, isl_upoly_is_cst(qp2->upoly), goto error);
2791         cst1 = isl_upoly_as_cst(qp1->upoly);
2792         cst2 = isl_upoly_as_cst(qp2->upoly);
2793         cmp = isl_upoly_cmp(cst1, cst2);
2794
2795         if (cmp >= 0) {
2796                 isl_qpolynomial_free(qp2);
2797         } else {
2798                 isl_qpolynomial_free(qp1);
2799                 qp1 = qp2;
2800         }
2801         return qp1;
2802 error:
2803         isl_qpolynomial_free(qp1);
2804         isl_qpolynomial_free(qp2);
2805         return NULL;
2806 }
2807
2808 __isl_give isl_qpolynomial *isl_qpolynomial_insert_dims(
2809         __isl_take isl_qpolynomial *qp, enum isl_dim_type type,
2810         unsigned first, unsigned n)
2811 {
2812         unsigned total;
2813         unsigned g_pos;
2814         int *exp;
2815
2816         if (n == 0)
2817                 return qp;
2818
2819         qp = isl_qpolynomial_cow(qp);
2820         if (!qp)
2821                 return NULL;
2822
2823         isl_assert(qp->div->ctx, first <= isl_dim_size(qp->dim, type),
2824                     goto error);
2825
2826         g_pos = pos(qp->dim, type) + first;
2827
2828         qp->div = isl_mat_insert_cols(qp->div, 2 + g_pos, n);
2829         if (!qp->div)
2830                 goto error;
2831
2832         total = qp->div->n_col - 2;
2833         if (total > g_pos) {
2834                 int i;
2835                 exp = isl_alloc_array(qp->div->ctx, int, total - g_pos);
2836                 if (!exp)
2837                         goto error;
2838                 for (i = 0; i < total - g_pos; ++i)
2839                         exp[i] = i + n;
2840                 qp->upoly = expand(qp->upoly, exp, g_pos);
2841                 free(exp);
2842                 if (!qp->upoly)
2843                         goto error;
2844         }
2845
2846         qp->dim = isl_dim_insert(qp->dim, type, first, n);
2847         if (!qp->dim)
2848                 goto error;
2849
2850         return qp;
2851 error:
2852         isl_qpolynomial_free(qp);
2853         return NULL;
2854 }
2855
2856 __isl_give isl_qpolynomial *isl_qpolynomial_add_dims(
2857         __isl_take isl_qpolynomial *qp, enum isl_dim_type type, unsigned n)
2858 {
2859         unsigned pos;
2860
2861         pos = isl_qpolynomial_dim(qp, type);
2862
2863         return isl_qpolynomial_insert_dims(qp, type, pos, n);
2864 }
2865
2866 __isl_give isl_pw_qpolynomial *isl_pw_qpolynomial_add_dims(
2867         __isl_take isl_pw_qpolynomial *pwqp,
2868         enum isl_dim_type type, unsigned n)
2869 {
2870         unsigned pos;
2871
2872         pos = isl_pw_qpolynomial_dim(pwqp, type);
2873
2874         return isl_pw_qpolynomial_insert_dims(pwqp, type, pos, n);
2875 }
2876
2877 static int *reordering_move(isl_ctx *ctx,
2878         unsigned len, unsigned dst, unsigned src, unsigned n)
2879 {
2880         int i;
2881         int *reordering;
2882
2883         reordering = isl_alloc_array(ctx, int, len);
2884         if (!reordering)
2885                 return NULL;
2886
2887         if (dst <= src) {
2888                 for (i = 0; i < dst; ++i)
2889                         reordering[i] = i;
2890                 for (i = 0; i < n; ++i)
2891                         reordering[src + i] = dst + i;
2892                 for (i = 0; i < src - dst; ++i)
2893                         reordering[dst + i] = dst + n + i;
2894                 for (i = 0; i < len - src - n; ++i)
2895                         reordering[src + n + i] = src + n + i;
2896         } else {
2897                 for (i = 0; i < src; ++i)
2898                         reordering[i] = i;
2899                 for (i = 0; i < n; ++i)
2900                         reordering[src + i] = dst + i;
2901                 for (i = 0; i < dst - src; ++i)
2902                         reordering[src + n + i] = src + i;
2903                 for (i = 0; i < len - dst - n; ++i)
2904                         reordering[dst + n + i] = dst + n + i;
2905         }
2906
2907         return reordering;
2908 }
2909
2910 __isl_give isl_qpolynomial *isl_qpolynomial_move_dims(
2911         __isl_take isl_qpolynomial *qp,
2912         enum isl_dim_type dst_type, unsigned dst_pos,
2913         enum isl_dim_type src_type, unsigned src_pos, unsigned n)
2914 {
2915         unsigned g_dst_pos;
2916         unsigned g_src_pos;
2917         int *reordering;
2918
2919         qp = isl_qpolynomial_cow(qp);
2920         if (!qp)
2921                 return NULL;
2922
2923         isl_assert(qp->dim->ctx, src_pos + n <= isl_dim_size(qp->dim, src_type),
2924                 goto error);
2925
2926         g_dst_pos = pos(qp->dim, dst_type) + dst_pos;
2927         g_src_pos = pos(qp->dim, src_type) + src_pos;
2928         if (dst_type > src_type)
2929                 g_dst_pos -= n;
2930
2931         qp->div = isl_mat_move_cols(qp->div, 2 + g_dst_pos, 2 + g_src_pos, n);
2932         if (!qp->div)
2933                 goto error;
2934         qp = sort_divs(qp);
2935         if (!qp)
2936                 goto error;
2937
2938         reordering = reordering_move(qp->dim->ctx,
2939                                 qp->div->n_col - 2, g_dst_pos, g_src_pos, n);
2940         if (!reordering)
2941                 goto error;
2942
2943         qp->upoly = reorder(qp->upoly, reordering);
2944         free(reordering);
2945         if (!qp->upoly)
2946                 goto error;
2947
2948         qp->dim = isl_dim_move(qp->dim, dst_type, dst_pos, src_type, src_pos, n);
2949         if (!qp->dim)
2950                 goto error;
2951
2952         return qp;
2953 error:
2954         isl_qpolynomial_free(qp);
2955         return NULL;
2956 }
2957
2958 __isl_give isl_qpolynomial *isl_qpolynomial_from_affine(__isl_take isl_dim *dim,
2959         isl_int *f, isl_int denom)
2960 {
2961         struct isl_upoly *up;
2962
2963         if (!dim)
2964                 return NULL;
2965
2966         up = isl_upoly_from_affine(dim->ctx, f, denom, 1 + isl_dim_total(dim));
2967
2968         return isl_qpolynomial_alloc(dim, 0, up);
2969 }
2970
2971 __isl_give isl_qpolynomial *isl_qpolynomial_from_aff(__isl_take isl_aff *aff)
2972 {
2973         isl_ctx *ctx;
2974         struct isl_upoly *up;
2975         isl_qpolynomial *qp;
2976
2977         if (!aff)
2978                 return NULL;
2979
2980         ctx = isl_aff_get_ctx(aff);
2981         up = isl_upoly_from_affine(ctx, aff->v->el + 1, aff->v->el[0],
2982                                     aff->v->size - 1);
2983
2984         qp = isl_qpolynomial_alloc(isl_aff_get_dim(aff),
2985                                     aff->ls->div->n_row, up);
2986         if (!qp)
2987                 goto error;
2988
2989         isl_mat_free(qp->div);
2990         qp->div = isl_mat_copy(aff->ls->div);
2991         qp->div = isl_mat_cow(qp->div);
2992         if (!qp->div)
2993                 goto error;
2994
2995         isl_aff_free(aff);
2996         qp = reduce_divs(qp);
2997         qp = remove_redundant_divs(qp);
2998         return qp;
2999 error:
3000         isl_aff_free(aff);
3001         return NULL;
3002 }
3003
3004 __isl_give isl_qpolynomial *isl_qpolynomial_from_constraint(
3005         __isl_take isl_constraint *c, enum isl_dim_type type, unsigned pos)
3006 {
3007         isl_int denom;
3008         isl_dim *dim;
3009         struct isl_upoly *up;
3010         isl_qpolynomial *qp;
3011         int sgn;
3012
3013         if (!c)
3014                 return NULL;
3015
3016         isl_int_init(denom);
3017
3018         isl_constraint_get_coefficient(c, type, pos, &denom);
3019         isl_constraint_set_coefficient(c, type, pos, c->ctx->zero);
3020         sgn = isl_int_sgn(denom);
3021         isl_int_abs(denom, denom);
3022         up = isl_upoly_from_affine(c->ctx, c->line[0], denom,
3023                                         1 + isl_constraint_dim(c, isl_dim_all));
3024         if (sgn < 0)
3025                 isl_int_neg(denom, denom);
3026         isl_constraint_set_coefficient(c, type, pos, denom);
3027
3028         dim = isl_dim_copy(c->bmap->dim);
3029
3030         isl_int_clear(denom);
3031         isl_constraint_free(c);
3032
3033         qp = isl_qpolynomial_alloc(dim, 0, up);
3034         if (sgn > 0)
3035                 qp = isl_qpolynomial_neg(qp);
3036         return qp;
3037 }
3038
3039 /* For each 0 <= i < "n", replace variable "first" + i of type "type"
3040  * in "qp" by subs[i].
3041  */
3042 __isl_give isl_qpolynomial *isl_qpolynomial_substitute(
3043         __isl_take isl_qpolynomial *qp,
3044         enum isl_dim_type type, unsigned first, unsigned n,
3045         __isl_keep isl_qpolynomial **subs)
3046 {
3047         int i;
3048         struct isl_upoly **ups;
3049
3050         if (n == 0)
3051                 return qp;
3052
3053         qp = isl_qpolynomial_cow(qp);
3054         if (!qp)
3055                 return NULL;
3056         for (i = 0; i < n; ++i)
3057                 if (!subs[i])
3058                         goto error;
3059
3060         isl_assert(qp->dim->ctx, first + n <= isl_dim_size(qp->dim, type),
3061                         goto error);
3062
3063         for (i = 0; i < n; ++i)
3064                 isl_assert(qp->dim->ctx, isl_dim_equal(qp->dim, subs[i]->dim),
3065                                 goto error);
3066
3067         isl_assert(qp->dim->ctx, qp->div->n_row == 0, goto error);
3068         for (i = 0; i < n; ++i)
3069                 isl_assert(qp->dim->ctx, subs[i]->div->n_row == 0, goto error);
3070
3071         first += pos(qp->dim, type);
3072
3073         ups = isl_alloc_array(qp->dim->ctx, struct isl_upoly *, n);
3074         if (!ups)
3075                 goto error;
3076         for (i = 0; i < n; ++i)
3077                 ups[i] = subs[i]->upoly;
3078
3079         qp->upoly = isl_upoly_subs(qp->upoly, first, n, ups);
3080
3081         free(ups);
3082
3083         if (!qp->upoly)
3084                 goto error;
3085
3086         return qp;
3087 error:
3088         isl_qpolynomial_free(qp);
3089         return NULL;
3090 }
3091
3092 /* Extend "bset" with extra set dimensions for each integer division
3093  * in "qp" and then call "fn" with the extended bset and the polynomial
3094  * that results from replacing each of the integer divisions by the
3095  * corresponding extra set dimension.
3096  */
3097 int isl_qpolynomial_as_polynomial_on_domain(__isl_keep isl_qpolynomial *qp,
3098         __isl_keep isl_basic_set *bset,
3099         int (*fn)(__isl_take isl_basic_set *bset,
3100                   __isl_take isl_qpolynomial *poly, void *user), void *user)
3101 {
3102         isl_dim *dim;
3103         isl_mat *div;
3104         isl_qpolynomial *poly;
3105
3106         if (!qp || !bset)
3107                 goto error;
3108         if (qp->div->n_row == 0)
3109                 return fn(isl_basic_set_copy(bset), isl_qpolynomial_copy(qp),
3110                           user);
3111
3112         div = isl_mat_copy(qp->div);
3113         dim = isl_dim_copy(qp->dim);
3114         dim = isl_dim_add(dim, isl_dim_set, qp->div->n_row);
3115         poly = isl_qpolynomial_alloc(dim, 0, isl_upoly_copy(qp->upoly));
3116         bset = isl_basic_set_copy(bset);
3117         bset = isl_basic_set_add(bset, isl_dim_set, qp->div->n_row);
3118         bset = add_div_constraints(bset, div);
3119
3120         return fn(bset, poly, user);
3121 error:
3122         return -1;
3123 }
3124
3125 /* Return total degree in variables first (inclusive) up to last (exclusive).
3126  */
3127 int isl_upoly_degree(__isl_keep struct isl_upoly *up, int first, int last)
3128 {
3129         int deg = -1;
3130         int i;
3131         struct isl_upoly_rec *rec;
3132
3133         if (!up)
3134                 return -2;
3135         if (isl_upoly_is_zero(up))
3136                 return -1;
3137         if (isl_upoly_is_cst(up) || up->var < first)
3138                 return 0;
3139
3140         rec = isl_upoly_as_rec(up);
3141         if (!rec)
3142                 return -2;
3143
3144         for (i = 0; i < rec->n; ++i) {
3145                 int d;
3146
3147                 if (isl_upoly_is_zero(rec->p[i]))
3148                         continue;
3149                 d = isl_upoly_degree(rec->p[i], first, last);
3150                 if (up->var < last)
3151                         d += i;
3152                 if (d > deg)
3153                         deg = d;
3154         }
3155
3156         return deg;
3157 }
3158
3159 /* Return total degree in set variables.
3160  */
3161 int isl_qpolynomial_degree(__isl_keep isl_qpolynomial *poly)
3162 {
3163         unsigned ovar;
3164         unsigned nvar;
3165
3166         if (!poly)
3167                 return -2;
3168
3169         ovar = isl_dim_offset(poly->dim, isl_dim_set);
3170         nvar = isl_dim_size(poly->dim, isl_dim_set);
3171         return isl_upoly_degree(poly->upoly, ovar, ovar + nvar);
3172 }
3173
3174 __isl_give struct isl_upoly *isl_upoly_coeff(__isl_keep struct isl_upoly *up,
3175         unsigned pos, int deg)
3176 {
3177         int i;
3178         struct isl_upoly_rec *rec;
3179
3180         if (!up)
3181                 return NULL;
3182
3183         if (isl_upoly_is_cst(up) || up->var < pos) {
3184                 if (deg == 0)
3185                         return isl_upoly_copy(up);
3186                 else
3187                         return isl_upoly_zero(up->ctx);
3188         }
3189
3190         rec = isl_upoly_as_rec(up);
3191         if (!rec)
3192                 return NULL;
3193
3194         if (up->var == pos) {
3195                 if (deg < rec->n)
3196                         return isl_upoly_copy(rec->p[deg]);
3197                 else
3198                         return isl_upoly_zero(up->ctx);
3199         }
3200
3201         up = isl_upoly_copy(up);
3202         up = isl_upoly_cow(up);
3203         rec = isl_upoly_as_rec(up);
3204         if (!rec)
3205                 goto error;
3206
3207         for (i = 0; i < rec->n; ++i) {
3208                 struct isl_upoly *t;
3209                 t = isl_upoly_coeff(rec->p[i], pos, deg);
3210                 if (!t)
3211                         goto error;
3212                 isl_upoly_free(rec->p[i]);
3213                 rec->p[i] = t;
3214         }
3215
3216         return up;
3217 error:
3218         isl_upoly_free(up);
3219         return NULL;
3220 }
3221
3222 /* Return coefficient of power "deg" of variable "t_pos" of type "type".
3223  */
3224 __isl_give isl_qpolynomial *isl_qpolynomial_coeff(
3225         __isl_keep isl_qpolynomial *qp,
3226         enum isl_dim_type type, unsigned t_pos, int deg)
3227 {
3228         unsigned g_pos;
3229         struct isl_upoly *up;
3230         isl_qpolynomial *c;
3231
3232         if (!qp)
3233                 return NULL;
3234
3235         isl_assert(qp->div->ctx, t_pos < isl_dim_size(qp->dim, type),
3236                         return NULL);
3237
3238         g_pos = pos(qp->dim, type) + t_pos;
3239         up = isl_upoly_coeff(qp->upoly, g_pos, deg);
3240
3241         c = isl_qpolynomial_alloc(isl_dim_copy(qp->dim), qp->div->n_row, up);
3242         if (!c)
3243                 return NULL;
3244         isl_mat_free(c->div);
3245         c->div = isl_mat_copy(qp->div);
3246         if (!c->div)
3247                 goto error;
3248         return c;
3249 error:
3250         isl_qpolynomial_free(c);
3251         return NULL;
3252 }
3253
3254 /* Homogenize the polynomial in the variables first (inclusive) up to
3255  * last (exclusive) by inserting powers of variable first.
3256  * Variable first is assumed not to appear in the input.
3257  */
3258 __isl_give struct isl_upoly *isl_upoly_homogenize(
3259         __isl_take struct isl_upoly *up, int deg, int target,
3260         int first, int last)
3261 {
3262         int i;
3263         struct isl_upoly_rec *rec;
3264
3265         if (!up)
3266                 return NULL;
3267         if (isl_upoly_is_zero(up))
3268                 return up;
3269         if (deg == target)
3270                 return up;
3271         if (isl_upoly_is_cst(up) || up->var < first) {
3272                 struct isl_upoly *hom;
3273
3274                 hom = isl_upoly_var_pow(up->ctx, first, target - deg);
3275                 if (!hom)
3276                         goto error;
3277                 rec = isl_upoly_as_rec(hom);
3278                 rec->p[target - deg] = isl_upoly_mul(rec->p[target - deg], up);
3279
3280                 return hom;
3281         }
3282
3283         up = isl_upoly_cow(up);
3284         rec = isl_upoly_as_rec(up);
3285         if (!rec)
3286                 goto error;
3287
3288         for (i = 0; i < rec->n; ++i) {
3289                 if (isl_upoly_is_zero(rec->p[i]))
3290                         continue;
3291                 rec->p[i] = isl_upoly_homogenize(rec->p[i],
3292                                 up->var < last ? deg + i : i, target,
3293                                 first, last);
3294                 if (!rec->p[i])
3295                         goto error;
3296         }
3297
3298         return up;
3299 error:
3300         isl_upoly_free(up);
3301         return NULL;
3302 }
3303
3304 /* Homogenize the polynomial in the set variables by introducing
3305  * powers of an extra set variable at position 0.
3306  */
3307 __isl_give isl_qpolynomial *isl_qpolynomial_homogenize(
3308         __isl_take isl_qpolynomial *poly)
3309 {
3310         unsigned ovar;
3311         unsigned nvar;
3312         int deg = isl_qpolynomial_degree(poly);
3313
3314         if (deg < -1)
3315                 goto error;
3316
3317         poly = isl_qpolynomial_insert_dims(poly, isl_dim_set, 0, 1);
3318         poly = isl_qpolynomial_cow(poly);
3319         if (!poly)
3320                 goto error;
3321
3322         ovar = isl_dim_offset(poly->dim, isl_dim_set);
3323         nvar = isl_dim_size(poly->dim, isl_dim_set);
3324         poly->upoly = isl_upoly_homogenize(poly->upoly, 0, deg,
3325                                                 ovar, ovar + nvar);
3326         if (!poly->upoly)
3327                 goto error;
3328
3329         return poly;
3330 error:
3331         isl_qpolynomial_free(poly);
3332         return NULL;
3333 }
3334
3335 __isl_give isl_term *isl_term_alloc(__isl_take isl_dim *dim,
3336         __isl_take isl_mat *div)
3337 {
3338         isl_term *term;
3339         int n;
3340
3341         if (!dim || !div)
3342                 goto error;
3343
3344         n = isl_dim_total(dim) + div->n_row;
3345
3346         term = isl_calloc(dim->ctx, struct isl_term,
3347                         sizeof(struct isl_term) + (n - 1) * sizeof(int));
3348         if (!term)
3349                 goto error;
3350
3351         term->ref = 1;
3352         term->dim = dim;
3353         term->div = div;
3354         isl_int_init(term->n);
3355         isl_int_init(term->d);
3356         
3357         return term;
3358 error:
3359         isl_dim_free(dim);
3360         isl_mat_free(div);
3361         return NULL;
3362 }
3363
3364 __isl_give isl_term *isl_term_copy(__isl_keep isl_term *term)
3365 {
3366         if (!term)
3367                 return NULL;
3368
3369         term->ref++;
3370         return term;
3371 }
3372
3373 __isl_give isl_term *isl_term_dup(__isl_keep isl_term *term)
3374 {
3375         int i;
3376         isl_term *dup;
3377         unsigned total;
3378
3379         if (term)
3380                 return NULL;
3381
3382         total = isl_dim_total(term->dim) + term->div->n_row;
3383
3384         dup = isl_term_alloc(isl_dim_copy(term->dim), isl_mat_copy(term->div));
3385         if (!dup)
3386                 return NULL;
3387
3388         isl_int_set(dup->n, term->n);
3389         isl_int_set(dup->d, term->d);
3390
3391         for (i = 0; i < total; ++i)
3392                 dup->pow[i] = term->pow[i];
3393
3394         return dup;
3395 }
3396
3397 __isl_give isl_term *isl_term_cow(__isl_take isl_term *term)
3398 {
3399         if (!term)
3400                 return NULL;
3401
3402         if (term->ref == 1)
3403                 return term;
3404         term->ref--;
3405         return isl_term_dup(term);
3406 }
3407
3408 void isl_term_free(__isl_take isl_term *term)
3409 {
3410         if (!term)
3411                 return;
3412
3413         if (--term->ref > 0)
3414                 return;
3415
3416         isl_dim_free(term->dim);
3417         isl_mat_free(term->div);
3418         isl_int_clear(term->n);
3419         isl_int_clear(term->d);
3420         free(term);
3421 }
3422
3423 unsigned isl_term_dim(__isl_keep isl_term *term, enum isl_dim_type type)
3424 {
3425         if (!term)
3426                 return 0;
3427
3428         switch (type) {
3429         case isl_dim_param:
3430         case isl_dim_in:
3431         case isl_dim_out:       return isl_dim_size(term->dim, type);
3432         case isl_dim_div:       return term->div->n_row;
3433         case isl_dim_all:       return isl_dim_total(term->dim) + term->div->n_row;
3434         default:                return 0;
3435         }
3436 }
3437
3438 isl_ctx *isl_term_get_ctx(__isl_keep isl_term *term)
3439 {
3440         return term ? term->dim->ctx : NULL;
3441 }
3442
3443 void isl_term_get_num(__isl_keep isl_term *term, isl_int *n)
3444 {
3445         if (!term)
3446                 return;
3447         isl_int_set(*n, term->n);
3448 }
3449
3450 void isl_term_get_den(__isl_keep isl_term *term, isl_int *d)
3451 {
3452         if (!term)
3453                 return;
3454         isl_int_set(*d, term->d);
3455 }
3456
3457 int isl_term_get_exp(__isl_keep isl_term *term,
3458         enum isl_dim_type type, unsigned pos)
3459 {
3460         if (!term)
3461                 return -1;
3462
3463         isl_assert(term->dim->ctx, pos < isl_term_dim(term, type), return -1);
3464
3465         if (type >= isl_dim_set)
3466                 pos += isl_dim_size(term->dim, isl_dim_param);
3467         if (type >= isl_dim_div)
3468                 pos += isl_dim_size(term->dim, isl_dim_set);
3469
3470         return term->pow[pos];
3471 }
3472
3473 __isl_give isl_div *isl_term_get_div(__isl_keep isl_term *term, unsigned pos)
3474 {
3475         isl_basic_map *bmap;
3476         unsigned total;
3477         int k;
3478
3479         if (!term)
3480                 return NULL;
3481
3482         isl_assert(term->dim->ctx, pos < isl_term_dim(term, isl_dim_div),
3483                         return NULL);
3484
3485         total = term->div->n_col - term->div->n_row - 2;
3486         /* No nested divs for now */
3487         isl_assert(term->dim->ctx,
3488                 isl_seq_first_non_zero(term->div->row[pos] + 2 + total,
3489                                         term->div->n_row) == -1,
3490                 return NULL);
3491
3492         bmap = isl_basic_map_alloc_dim(isl_dim_copy(term->dim), 1, 0, 0);
3493         if ((k = isl_basic_map_alloc_div(bmap)) < 0)
3494                 goto error;
3495
3496         isl_seq_cpy(bmap->div[k], term->div->row[pos], 2 + total);
3497
3498         return isl_basic_map_div(bmap, k);
3499 error:
3500         isl_basic_map_free(bmap);
3501         return NULL;
3502 }
3503
3504 __isl_give isl_term *isl_upoly_foreach_term(__isl_keep struct isl_upoly *up,
3505         int (*fn)(__isl_take isl_term *term, void *user),
3506         __isl_take isl_term *term, void *user)
3507 {
3508         int i;
3509         struct isl_upoly_rec *rec;
3510
3511         if (!up || !term)
3512                 goto error;
3513
3514         if (isl_upoly_is_zero(up))
3515                 return term;
3516
3517         isl_assert(up->ctx, !isl_upoly_is_nan(up), goto error);
3518         isl_assert(up->ctx, !isl_upoly_is_infty(up), goto error);
3519         isl_assert(up->ctx, !isl_upoly_is_neginfty(up), goto error);
3520
3521         if (isl_upoly_is_cst(up)) {
3522                 struct isl_upoly_cst *cst;
3523                 cst = isl_upoly_as_cst(up);
3524                 if (!cst)
3525                         goto error;
3526                 term = isl_term_cow(term);
3527                 if (!term)
3528                         goto error;
3529                 isl_int_set(term->n, cst->n);
3530                 isl_int_set(term->d, cst->d);
3531                 if (fn(isl_term_copy(term), user) < 0)
3532                         goto error;
3533                 return term;
3534         }
3535
3536         rec = isl_upoly_as_rec(up);
3537         if (!rec)
3538                 goto error;
3539
3540         for (i = 0; i < rec->n; ++i) {
3541                 term = isl_term_cow(term);
3542                 if (!term)
3543                         goto error;
3544                 term->pow[up->var] = i;
3545                 term = isl_upoly_foreach_term(rec->p[i], fn, term, user);
3546                 if (!term)
3547                         goto error;
3548         }
3549         term->pow[up->var] = 0;
3550
3551         return term;
3552 error:
3553         isl_term_free(term);
3554         return NULL;
3555 }
3556
3557 int isl_qpolynomial_foreach_term(__isl_keep isl_qpolynomial *qp,
3558         int (*fn)(__isl_take isl_term *term, void *user), void *user)
3559 {
3560         isl_term *term;
3561
3562         if (!qp)
3563                 return -1;
3564
3565         term = isl_term_alloc(isl_dim_copy(qp->dim), isl_mat_copy(qp->div));
3566         if (!term)
3567                 return -1;
3568
3569         term = isl_upoly_foreach_term(qp->upoly, fn, term, user);
3570
3571         isl_term_free(term);
3572
3573         return term ? 0 : -1;
3574 }
3575
3576 __isl_give isl_qpolynomial *isl_qpolynomial_from_term(__isl_take isl_term *term)
3577 {
3578         struct isl_upoly *up;
3579         isl_qpolynomial *qp;
3580         int i, n;
3581
3582         if (!term)
3583                 return NULL;
3584
3585         n = isl_dim_total(term->dim) + term->div->n_row;
3586
3587         up = isl_upoly_rat_cst(term->dim->ctx, term->n, term->d);
3588         for (i = 0; i < n; ++i) {
3589                 if (!term->pow[i])
3590                         continue;
3591                 up = isl_upoly_mul(up,
3592                         isl_upoly_var_pow(term->dim->ctx, i, term->pow[i]));
3593         }
3594
3595         qp = isl_qpolynomial_alloc(isl_dim_copy(term->dim), term->div->n_row, up);
3596         if (!qp)
3597                 goto error;
3598         isl_mat_free(qp->div);
3599         qp->div = isl_mat_copy(term->div);
3600         if (!qp->div)
3601                 goto error;
3602
3603         isl_term_free(term);
3604         return qp;
3605 error:
3606         isl_qpolynomial_free(qp);
3607         isl_term_free(term);
3608         return NULL;
3609 }
3610
3611 __isl_give isl_qpolynomial *isl_qpolynomial_lift(__isl_take isl_qpolynomial *qp,
3612         __isl_take isl_dim *dim)
3613 {
3614         int i;
3615         int extra;
3616         unsigned total;
3617
3618         if (!qp || !dim)
3619                 goto error;
3620
3621         if (isl_dim_equal(qp->dim, dim)) {
3622                 isl_dim_free(dim);
3623                 return qp;
3624         }
3625
3626         qp = isl_qpolynomial_cow(qp);
3627         if (!qp)
3628                 goto error;
3629
3630         extra = isl_dim_size(dim, isl_dim_set) -
3631                         isl_dim_size(qp->dim, isl_dim_set);
3632         total = isl_dim_total(qp->dim);
3633         if (qp->div->n_row) {
3634                 int *exp;
3635
3636                 exp = isl_alloc_array(qp->div->ctx, int, qp->div->n_row);
3637                 if (!exp)
3638                         goto error;
3639                 for (i = 0; i < qp->div->n_row; ++i)
3640                         exp[i] = extra + i;
3641                 qp->upoly = expand(qp->upoly, exp, total);
3642                 free(exp);
3643                 if (!qp->upoly)
3644                         goto error;
3645         }
3646         qp->div = isl_mat_insert_cols(qp->div, 2 + total, extra);
3647         if (!qp->div)
3648                 goto error;
3649         for (i = 0; i < qp->div->n_row; ++i)
3650                 isl_seq_clr(qp->div->row[i] + 2 + total, extra);
3651
3652         isl_dim_free(qp->dim);
3653         qp->dim = dim;
3654
3655         return qp;
3656 error:
3657         isl_dim_free(dim);
3658         isl_qpolynomial_free(qp);
3659         return NULL;
3660 }
3661
3662 /* For each parameter or variable that does not appear in qp,
3663  * first eliminate the variable from all constraints and then set it to zero.
3664  */
3665 static __isl_give isl_set *fix_inactive(__isl_take isl_set *set,
3666         __isl_keep isl_qpolynomial *qp)
3667 {
3668         int *active = NULL;
3669         int i;
3670         int d;
3671         unsigned nparam;
3672         unsigned nvar;
3673
3674         if (!set || !qp)
3675                 goto error;
3676
3677         d = isl_dim_total(set->dim);
3678         active = isl_calloc_array(set->ctx, int, d);
3679         if (set_active(qp, active) < 0)
3680                 goto error;
3681
3682         for (i = 0; i < d; ++i)
3683                 if (!active[i])
3684                         break;
3685
3686         if (i == d) {
3687                 free(active);
3688                 return set;
3689         }
3690
3691         nparam = isl_dim_size(set->dim, isl_dim_param);
3692         nvar = isl_dim_size(set->dim, isl_dim_set);
3693         for (i = 0; i < nparam; ++i) {
3694                 if (active[i])
3695                         continue;
3696                 set = isl_set_eliminate(set, isl_dim_param, i, 1);
3697                 set = isl_set_fix_si(set, isl_dim_param, i, 0);
3698         }
3699         for (i = 0; i < nvar; ++i) {
3700                 if (active[nparam + i])
3701                         continue;
3702                 set = isl_set_eliminate(set, isl_dim_set, i, 1);
3703                 set = isl_set_fix_si(set, isl_dim_set, i, 0);
3704         }
3705
3706         free(active);
3707
3708         return set;
3709 error:
3710         free(active);
3711         isl_set_free(set);
3712         return NULL;
3713 }
3714
3715 struct isl_opt_data {
3716         isl_qpolynomial *qp;
3717         int first;
3718         isl_qpolynomial *opt;
3719         int max;
3720 };
3721
3722 static int opt_fn(__isl_take isl_point *pnt, void *user)
3723 {
3724         struct isl_opt_data *data = (struct isl_opt_data *)user;
3725         isl_qpolynomial *val;
3726
3727         val = isl_qpolynomial_eval(isl_qpolynomial_copy(data->qp), pnt);
3728         if (data->first) {
3729                 data->first = 0;
3730                 data->opt = val;
3731         } else if (data->max) {
3732                 data->opt = isl_qpolynomial_max_cst(data->opt, val);
3733         } else {
3734                 data->opt = isl_qpolynomial_min_cst(data->opt, val);
3735         }
3736
3737         return 0;
3738 }
3739
3740 __isl_give isl_qpolynomial *isl_qpolynomial_opt_on_domain(
3741         __isl_take isl_qpolynomial *qp, __isl_take isl_set *set, int max)
3742 {
3743         struct isl_opt_data data = { NULL, 1, NULL, max };
3744
3745         if (!set || !qp)
3746                 goto error;
3747
3748         if (isl_upoly_is_cst(qp->upoly)) {
3749                 isl_set_free(set);
3750                 return qp;
3751         }
3752
3753         set = fix_inactive(set, qp);
3754
3755         data.qp = qp;
3756         if (isl_set_foreach_point(set, opt_fn, &data) < 0)
3757                 goto error;
3758
3759         if (data.first)
3760                 data.opt = isl_qpolynomial_zero(isl_qpolynomial_get_dim(qp));
3761
3762         isl_set_free(set);
3763         isl_qpolynomial_free(qp);
3764         return data.opt;
3765 error:
3766         isl_set_free(set);
3767         isl_qpolynomial_free(qp);
3768         isl_qpolynomial_free(data.opt);
3769         return NULL;
3770 }
3771
3772 __isl_give isl_qpolynomial *isl_qpolynomial_morph(__isl_take isl_qpolynomial *qp,
3773         __isl_take isl_morph *morph)
3774 {
3775         int i;
3776         int n_sub;
3777         isl_ctx *ctx;
3778         struct isl_upoly **subs;
3779         isl_mat *mat;
3780
3781         qp = isl_qpolynomial_cow(qp);
3782         if (!qp || !morph)
3783                 goto error;
3784
3785         ctx = qp->dim->ctx;
3786         isl_assert(ctx, isl_dim_equal(qp->dim, morph->dom->dim), goto error);
3787
3788         n_sub = morph->inv->n_row - 1;
3789         if (morph->inv->n_row != morph->inv->n_col)
3790                 n_sub += qp->div->n_row;
3791         subs = isl_calloc_array(ctx, struct isl_upoly *, n_sub);
3792         if (!subs)
3793                 goto error;
3794
3795         for (i = 0; 1 + i < morph->inv->n_row; ++i)
3796                 subs[i] = isl_upoly_from_affine(ctx, morph->inv->row[1 + i],
3797                                         morph->inv->row[0][0], morph->inv->n_col);
3798         if (morph->inv->n_row != morph->inv->n_col)
3799                 for (i = 0; i < qp->div->n_row; ++i)
3800                         subs[morph->inv->n_row - 1 + i] =
3801                             isl_upoly_var_pow(ctx, morph->inv->n_col - 1 + i, 1);
3802
3803         qp->upoly = isl_upoly_subs(qp->upoly, 0, n_sub, subs);
3804
3805         for (i = 0; i < n_sub; ++i)
3806                 isl_upoly_free(subs[i]);
3807         free(subs);
3808
3809         mat = isl_mat_diagonal(isl_mat_identity(ctx, 1), isl_mat_copy(morph->inv));
3810         mat = isl_mat_diagonal(mat, isl_mat_identity(ctx, qp->div->n_row));
3811         qp->div = isl_mat_product(qp->div, mat);
3812         isl_dim_free(qp->dim);
3813         qp->dim = isl_dim_copy(morph->ran->dim);
3814
3815         if (!qp->upoly || !qp->div || !qp->dim)
3816                 goto error;
3817
3818         isl_morph_free(morph);
3819
3820         return qp;
3821 error:
3822         isl_qpolynomial_free(qp);
3823         isl_morph_free(morph);
3824         return NULL;
3825 }
3826
3827 static int neg_entry(void **entry, void *user)
3828 {
3829         isl_pw_qpolynomial **pwqp = (isl_pw_qpolynomial **)entry;
3830
3831         *pwqp = isl_pw_qpolynomial_neg(*pwqp);
3832
3833         return *pwqp ? 0 : -1;
3834 }
3835
3836 __isl_give isl_union_pw_qpolynomial *isl_union_pw_qpolynomial_neg(
3837         __isl_take isl_union_pw_qpolynomial *upwqp)
3838 {
3839         upwqp = isl_union_pw_qpolynomial_cow(upwqp);
3840         if (!upwqp)
3841                 return NULL;
3842
3843         if (isl_hash_table_foreach(upwqp->dim->ctx, &upwqp->table,
3844                                    &neg_entry, NULL) < 0)
3845                 goto error;
3846
3847         return upwqp;
3848 error:
3849         isl_union_pw_qpolynomial_free(upwqp);
3850         return NULL;
3851 }
3852
3853 __isl_give isl_union_pw_qpolynomial *isl_union_pw_qpolynomial_sub(
3854         __isl_take isl_union_pw_qpolynomial *upwqp1,
3855         __isl_take isl_union_pw_qpolynomial *upwqp2)
3856 {
3857         return isl_union_pw_qpolynomial_add(upwqp1,
3858                                         isl_union_pw_qpolynomial_neg(upwqp2));
3859 }
3860
3861 static int mul_entry(void **entry, void *user)
3862 {
3863         struct isl_union_pw_qpolynomial_match_bin_data *data = user;
3864         uint32_t hash;
3865         struct isl_hash_table_entry *entry2;
3866         isl_pw_qpolynomial *pwpq = *entry;
3867         int empty;
3868
3869         hash = isl_dim_get_hash(pwpq->dim);
3870         entry2 = isl_hash_table_find(data->u2->dim->ctx, &data->u2->table,
3871                                      hash, &has_dim, pwpq->dim, 0);
3872         if (!entry2)
3873                 return 0;
3874
3875         pwpq = isl_pw_qpolynomial_copy(pwpq);
3876         pwpq = isl_pw_qpolynomial_mul(pwpq,
3877                                       isl_pw_qpolynomial_copy(entry2->data));
3878
3879         empty = isl_pw_qpolynomial_is_zero(pwpq);
3880         if (empty < 0) {
3881                 isl_pw_qpolynomial_free(pwpq);
3882                 return -1;
3883         }
3884         if (empty) {
3885                 isl_pw_qpolynomial_free(pwpq);
3886                 return 0;
3887         }
3888
3889         data->res = isl_union_pw_qpolynomial_add_pw_qpolynomial(data->res, pwpq);
3890
3891         return 0;
3892 }
3893
3894 __isl_give isl_union_pw_qpolynomial *isl_union_pw_qpolynomial_mul(
3895         __isl_take isl_union_pw_qpolynomial *upwqp1,
3896         __isl_take isl_union_pw_qpolynomial *upwqp2)
3897 {
3898         return match_bin_op(upwqp1, upwqp2, &mul_entry);
3899 }
3900
3901 /* Reorder the columns of the given div definitions according to the
3902  * given reordering.
3903  */
3904 static __isl_give isl_mat *reorder_divs(__isl_take isl_mat *div,
3905         __isl_take isl_reordering *r)
3906 {
3907         int i, j;
3908         isl_mat *mat;
3909         int extra;
3910
3911         if (!div || !r)
3912                 goto error;
3913
3914         extra = isl_dim_total(r->dim) + div->n_row - r->len;
3915         mat = isl_mat_alloc(div->ctx, div->n_row, div->n_col + extra);
3916         if (!mat)
3917                 goto error;
3918
3919         for (i = 0; i < div->n_row; ++i) {
3920                 isl_seq_cpy(mat->row[i], div->row[i], 2);
3921                 isl_seq_clr(mat->row[i] + 2, mat->n_col - 2);
3922                 for (j = 0; j < r->len; ++j)
3923                         isl_int_set(mat->row[i][2 + r->pos[j]],
3924                                     div->row[i][2 + j]);
3925         }
3926
3927         isl_reordering_free(r);
3928         isl_mat_free(div);
3929         return mat;
3930 error:
3931         isl_reordering_free(r);
3932         isl_mat_free(div);
3933         return NULL;
3934 }
3935
3936 /* Reorder the dimension of "qp" according to the given reordering.
3937  */
3938 __isl_give isl_qpolynomial *isl_qpolynomial_realign(
3939         __isl_take isl_qpolynomial *qp, __isl_take isl_reordering *r)
3940 {
3941         qp = isl_qpolynomial_cow(qp);
3942         if (!qp)
3943                 goto error;
3944
3945         r = isl_reordering_extend(r, qp->div->n_row);
3946         if (!r)
3947                 goto error;
3948
3949         qp->div = reorder_divs(qp->div, isl_reordering_copy(r));
3950         if (!qp->div)
3951                 goto error;
3952
3953         qp->upoly = reorder(qp->upoly, r->pos);
3954         if (!qp->upoly)
3955                 goto error;
3956
3957         qp = isl_qpolynomial_reset_dim(qp, isl_dim_copy(r->dim));
3958
3959         isl_reordering_free(r);
3960         return qp;
3961 error:
3962         isl_qpolynomial_free(qp);
3963         isl_reordering_free(r);
3964         return NULL;
3965 }
3966
3967 __isl_give isl_qpolynomial *isl_qpolynomial_align_params(
3968         __isl_take isl_qpolynomial *qp, __isl_take isl_dim *model)
3969 {
3970         if (!qp || !model)
3971                 goto error;
3972
3973         if (!isl_dim_match(qp->dim, isl_dim_param, model, isl_dim_param)) {
3974                 isl_reordering *exp;
3975
3976                 model = isl_dim_drop(model, isl_dim_in,
3977                                         0, isl_dim_size(model, isl_dim_in));
3978                 model = isl_dim_drop(model, isl_dim_out,
3979                                         0, isl_dim_size(model, isl_dim_out));
3980                 exp = isl_parameter_alignment_reordering(qp->dim, model);
3981                 exp = isl_reordering_extend_dim(exp,
3982                                                 isl_qpolynomial_get_dim(qp));
3983                 qp = isl_qpolynomial_realign(qp, exp);
3984         }
3985
3986         isl_dim_free(model);
3987         return qp;
3988 error:
3989         isl_dim_free(model);
3990         isl_qpolynomial_free(qp);
3991         return NULL;
3992 }
3993
3994 struct isl_split_periods_data {
3995         int max_periods;
3996         isl_pw_qpolynomial *res;
3997 };
3998
3999 /* Create a slice where the integer division "div" has the fixed value "v".
4000  * In particular, if "div" refers to floor(f/m), then create a slice
4001  *
4002  *      m v <= f <= m v + (m - 1)
4003  *
4004  * or
4005  *
4006  *      f - m v >= 0
4007  *      -f + m v + (m - 1) >= 0
4008  */
4009 static __isl_give isl_set *set_div_slice(__isl_take isl_dim *dim,
4010         __isl_keep isl_qpolynomial *qp, int div, isl_int v)
4011 {
4012         int total;
4013         isl_basic_set *bset = NULL;
4014         int k;
4015
4016         if (!dim || !qp)
4017                 goto error;
4018
4019         total = isl_dim_total(dim);
4020         bset = isl_basic_set_alloc_dim(isl_dim_copy(dim), 0, 0, 2);
4021
4022         k = isl_basic_set_alloc_inequality(bset);
4023         if (k < 0)
4024                 goto error;
4025         isl_seq_cpy(bset->ineq[k], qp->div->row[div] + 1, 1 + total);
4026         isl_int_submul(bset->ineq[k][0], v, qp->div->row[div][0]);
4027
4028         k = isl_basic_set_alloc_inequality(bset);
4029         if (k < 0)
4030                 goto error;
4031         isl_seq_neg(bset->ineq[k], qp->div->row[div] + 1, 1 + total);
4032         isl_int_addmul(bset->ineq[k][0], v, qp->div->row[div][0]);
4033         isl_int_add(bset->ineq[k][0], bset->ineq[k][0], qp->div->row[div][0]);
4034         isl_int_sub_ui(bset->ineq[k][0], bset->ineq[k][0], 1);
4035
4036         isl_dim_free(dim);
4037         return isl_set_from_basic_set(bset);
4038 error:
4039         isl_basic_set_free(bset);
4040         isl_dim_free(dim);
4041         return NULL;
4042 }
4043
4044 static int split_periods(__isl_take isl_set *set,
4045         __isl_take isl_qpolynomial *qp, void *user);
4046
4047 /* Create a slice of the domain "set" such that integer division "div"
4048  * has the fixed value "v" and add the results to data->res,
4049  * replacing the integer division by "v" in "qp".
4050  */
4051 static int set_div(__isl_take isl_set *set,
4052         __isl_take isl_qpolynomial *qp, int div, isl_int v,
4053         struct isl_split_periods_data *data)
4054 {
4055         int i;
4056         int total;
4057         isl_set *slice;
4058         struct isl_upoly *cst;
4059
4060         slice = set_div_slice(isl_set_get_dim(set), qp, div, v);
4061         set = isl_set_intersect(set, slice);
4062
4063         if (!qp)
4064                 goto error;
4065
4066         total = isl_dim_total(qp->dim);
4067
4068         for (i = div + 1; i < qp->div->n_row; ++i) {
4069                 if (isl_int_is_zero(qp->div->row[i][2 + total + div]))
4070                         continue;
4071                 isl_int_addmul(qp->div->row[i][1],
4072                                 qp->div->row[i][2 + total + div], v);
4073                 isl_int_set_si(qp->div->row[i][2 + total + div], 0);
4074         }
4075
4076         cst = isl_upoly_rat_cst(qp->dim->ctx, v, qp->dim->ctx->one);
4077         qp = substitute_div(qp, div, cst);
4078
4079         return split_periods(set, qp, data);
4080 error:
4081         isl_set_free(set);
4082         isl_qpolynomial_free(qp);
4083         return -1;
4084 }
4085
4086 /* Split the domain "set" such that integer division "div"
4087  * has a fixed value (ranging from "min" to "max") on each slice
4088  * and add the results to data->res.
4089  */
4090 static int split_div(__isl_take isl_set *set,
4091         __isl_take isl_qpolynomial *qp, int div, isl_int min, isl_int max,
4092         struct isl_split_periods_data *data)
4093 {
4094         for (; isl_int_le(min, max); isl_int_add_ui(min, min, 1)) {
4095                 isl_set *set_i = isl_set_copy(set);
4096                 isl_qpolynomial *qp_i = isl_qpolynomial_copy(qp);
4097
4098                 if (set_div(set_i, qp_i, div, min, data) < 0)
4099                         goto error;
4100         }
4101         isl_set_free(set);
4102         isl_qpolynomial_free(qp);
4103         return 0;
4104 error:
4105         isl_set_free(set);
4106         isl_qpolynomial_free(qp);
4107         return -1;
4108 }
4109
4110 /* If "qp" refers to any integer division
4111  * that can only attain "max_periods" distinct values on "set"
4112  * then split the domain along those distinct values.
4113  * Add the results (or the original if no splitting occurs)
4114  * to data->res.
4115  */
4116 static int split_periods(__isl_take isl_set *set,
4117         __isl_take isl_qpolynomial *qp, void *user)
4118 {
4119         int i;
4120         isl_pw_qpolynomial *pwqp;
4121         struct isl_split_periods_data *data;
4122         isl_int min, max;
4123         int total;
4124         int r = 0;
4125
4126         data = (struct isl_split_periods_data *)user;
4127
4128         if (!set || !qp)
4129                 goto error;
4130
4131         if (qp->div->n_row == 0) {
4132                 pwqp = isl_pw_qpolynomial_alloc(set, qp);
4133                 data->res = isl_pw_qpolynomial_add_disjoint(data->res, pwqp);
4134                 return 0;
4135         }
4136
4137         isl_int_init(min);
4138         isl_int_init(max);
4139         total = isl_dim_total(qp->dim);
4140         for (i = 0; i < qp->div->n_row; ++i) {
4141                 enum isl_lp_result lp_res;
4142
4143                 if (isl_seq_first_non_zero(qp->div->row[i] + 2 + total,
4144                                                 qp->div->n_row) != -1)
4145                         continue;
4146
4147                 lp_res = isl_set_solve_lp(set, 0, qp->div->row[i] + 1,
4148                                           set->ctx->one, &min, NULL, NULL);
4149                 if (lp_res == isl_lp_error)
4150                         goto error2;
4151                 if (lp_res == isl_lp_unbounded || lp_res == isl_lp_empty)
4152                         continue;
4153                 isl_int_fdiv_q(min, min, qp->div->row[i][0]);
4154
4155                 lp_res = isl_set_solve_lp(set, 1, qp->div->row[i] + 1,
4156                                           set->ctx->one, &max, NULL, NULL);
4157                 if (lp_res == isl_lp_error)
4158                         goto error2;
4159                 if (lp_res == isl_lp_unbounded || lp_res == isl_lp_empty)
4160                         continue;
4161                 isl_int_fdiv_q(max, max, qp->div->row[i][0]);
4162
4163                 isl_int_sub(max, max, min);
4164                 if (isl_int_cmp_si(max, data->max_periods) < 0) {
4165                         isl_int_add(max, max, min);
4166                         break;
4167                 }
4168         }
4169
4170         if (i < qp->div->n_row) {
4171                 r = split_div(set, qp, i, min, max, data);
4172         } else {
4173                 pwqp = isl_pw_qpolynomial_alloc(set, qp);
4174                 data->res = isl_pw_qpolynomial_add_disjoint(data->res, pwqp);
4175         }
4176
4177         isl_int_clear(max);
4178         isl_int_clear(min);
4179
4180         return r;
4181 error2:
4182         isl_int_clear(max);
4183         isl_int_clear(min);
4184 error:
4185         isl_set_free(set);
4186         isl_qpolynomial_free(qp);
4187         return -1;
4188 }
4189
4190 /* If any quasi-polynomial in pwqp refers to any integer division
4191  * that can only attain "max_periods" distinct values on its domain
4192  * then split the domain along those distinct values.
4193  */
4194 __isl_give isl_pw_qpolynomial *isl_pw_qpolynomial_split_periods(
4195         __isl_take isl_pw_qpolynomial *pwqp, int max_periods)
4196 {
4197         struct isl_split_periods_data data;
4198
4199         data.max_periods = max_periods;
4200         data.res = isl_pw_qpolynomial_zero(isl_pw_qpolynomial_get_dim(pwqp));
4201
4202         if (isl_pw_qpolynomial_foreach_piece(pwqp, &split_periods, &data) < 0)
4203                 goto error;
4204
4205         isl_pw_qpolynomial_free(pwqp);
4206
4207         return data.res;
4208 error:
4209         isl_pw_qpolynomial_free(data.res);
4210         isl_pw_qpolynomial_free(pwqp);
4211         return NULL;
4212 }
4213
4214 /* Construct a piecewise quasipolynomial that is constant on the given
4215  * domain.  In particular, it is
4216  *      0       if cst == 0
4217  *      1       if cst == 1
4218  *  infinity    if cst == -1
4219  */
4220 static __isl_give isl_pw_qpolynomial *constant_on_domain(
4221         __isl_take isl_basic_set *bset, int cst)
4222 {
4223         isl_dim *dim;
4224         isl_qpolynomial *qp;
4225
4226         if (!bset)
4227                 return NULL;
4228
4229         bset = isl_basic_map_domain(isl_basic_map_from_range(bset));
4230         dim = isl_basic_set_get_dim(bset);
4231         if (cst < 0)
4232                 qp = isl_qpolynomial_infty(dim);
4233         else if (cst == 0)
4234                 qp = isl_qpolynomial_zero(dim);
4235         else
4236                 qp = isl_qpolynomial_one(dim);
4237         return isl_pw_qpolynomial_alloc(isl_set_from_basic_set(bset), qp);
4238 }
4239
4240 /* Factor bset, call fn on each of the factors and return the product.
4241  *
4242  * If no factors can be found, simply call fn on the input.
4243  * Otherwise, construct the factors based on the factorizer,
4244  * call fn on each factor and compute the product.
4245  */
4246 static __isl_give isl_pw_qpolynomial *compressed_multiplicative_call(
4247         __isl_take isl_basic_set *bset,
4248         __isl_give isl_pw_qpolynomial *(*fn)(__isl_take isl_basic_set *bset))
4249 {
4250         int i, n;
4251         isl_dim *dim;
4252         isl_set *set;
4253         isl_factorizer *f;
4254         isl_qpolynomial *qp;
4255         isl_pw_qpolynomial *pwqp;
4256         unsigned nparam;
4257         unsigned nvar;
4258
4259         f = isl_basic_set_factorizer(bset);
4260         if (!f)
4261                 goto error;
4262         if (f->n_group == 0) {
4263                 isl_factorizer_free(f);
4264                 return fn(bset);
4265         }
4266
4267         nparam = isl_basic_set_dim(bset, isl_dim_param);
4268         nvar = isl_basic_set_dim(bset, isl_dim_set);
4269
4270         dim = isl_basic_set_get_dim(bset);
4271         dim = isl_dim_domain(dim);
4272         set = isl_set_universe(isl_dim_copy(dim));
4273         qp = isl_qpolynomial_one(dim);
4274         pwqp = isl_pw_qpolynomial_alloc(set, qp);
4275
4276         bset = isl_morph_basic_set(isl_morph_copy(f->morph), bset);
4277
4278         for (i = 0, n = 0; i < f->n_group; ++i) {
4279                 isl_basic_set *bset_i;
4280                 isl_pw_qpolynomial *pwqp_i;
4281
4282                 bset_i = isl_basic_set_copy(bset);
4283                 bset_i = isl_basic_set_drop_constraints_involving(bset_i,
4284                             nparam + n + f->len[i], nvar - n - f->len[i]);
4285                 bset_i = isl_basic_set_drop_constraints_involving(bset_i,
4286                             nparam, n);
4287                 bset_i = isl_basic_set_drop(bset_i, isl_dim_set,
4288                             n + f->len[i], nvar - n - f->len[i]);
4289                 bset_i = isl_basic_set_drop(bset_i, isl_dim_set, 0, n);
4290
4291                 pwqp_i = fn(bset_i);
4292                 pwqp = isl_pw_qpolynomial_mul(pwqp, pwqp_i);
4293
4294                 n += f->len[i];
4295         }
4296
4297         isl_basic_set_free(bset);
4298         isl_factorizer_free(f);
4299
4300         return pwqp;
4301 error:
4302         isl_basic_set_free(bset);
4303         return NULL;
4304 }
4305
4306 /* Factor bset, call fn on each of the factors and return the product.
4307  * The function is assumed to evaluate to zero on empty domains,
4308  * to one on zero-dimensional domains and to infinity on unbounded domains
4309  * and will not be called explicitly on zero-dimensional or unbounded domains.
4310  *
4311  * We first check for some special cases and remove all equalities.
4312  * Then we hand over control to compressed_multiplicative_call.
4313  */
4314 __isl_give isl_pw_qpolynomial *isl_basic_set_multiplicative_call(
4315         __isl_take isl_basic_set *bset,
4316         __isl_give isl_pw_qpolynomial *(*fn)(__isl_take isl_basic_set *bset))
4317 {
4318         int bounded;
4319         isl_morph *morph;
4320         isl_pw_qpolynomial *pwqp;
4321         unsigned orig_nvar, final_nvar;
4322
4323         if (!bset)
4324                 return NULL;
4325
4326         if (isl_basic_set_plain_is_empty(bset))
4327                 return constant_on_domain(bset, 0);
4328
4329         orig_nvar = isl_basic_set_dim(bset, isl_dim_set);
4330
4331         if (orig_nvar == 0)
4332                 return constant_on_domain(bset, 1);
4333
4334         bounded = isl_basic_set_is_bounded(bset);
4335         if (bounded < 0)
4336                 goto error;
4337         if (!bounded)
4338                 return constant_on_domain(bset, -1);
4339
4340         if (bset->n_eq == 0)
4341                 return compressed_multiplicative_call(bset, fn);
4342
4343         morph = isl_basic_set_full_compression(bset);
4344         bset = isl_morph_basic_set(isl_morph_copy(morph), bset);
4345
4346         final_nvar = isl_basic_set_dim(bset, isl_dim_set);
4347
4348         pwqp = compressed_multiplicative_call(bset, fn);
4349
4350         morph = isl_morph_remove_dom_dims(morph, isl_dim_set, 0, orig_nvar);
4351         morph = isl_morph_remove_ran_dims(morph, isl_dim_set, 0, final_nvar);
4352         morph = isl_morph_inverse(morph);
4353
4354         pwqp = isl_pw_qpolynomial_morph(pwqp, morph);
4355
4356         return pwqp;
4357 error:
4358         isl_basic_set_free(bset);
4359         return NULL;
4360 }
4361
4362 /* Drop all floors in "qp", turning each integer division [a/m] into
4363  * a rational division a/m.  If "down" is set, then the integer division
4364  * is replaces by (a-(m-1))/m instead.
4365  */
4366 static __isl_give isl_qpolynomial *qp_drop_floors(
4367         __isl_take isl_qpolynomial *qp, int down)
4368 {
4369         int i;
4370         struct isl_upoly *s;
4371
4372         if (!qp)
4373                 return NULL;
4374         if (qp->div->n_row == 0)
4375                 return qp;
4376
4377         qp = isl_qpolynomial_cow(qp);
4378         if (!qp)
4379                 return NULL;
4380
4381         for (i = qp->div->n_row - 1; i >= 0; --i) {
4382                 if (down) {
4383                         isl_int_sub(qp->div->row[i][1],
4384                                     qp->div->row[i][1], qp->div->row[i][0]);
4385                         isl_int_add_ui(qp->div->row[i][1],
4386                                        qp->div->row[i][1], 1);
4387                 }
4388                 s = isl_upoly_from_affine(qp->dim->ctx, qp->div->row[i] + 1,
4389                                         qp->div->row[i][0], qp->div->n_col - 1);
4390                 qp = substitute_div(qp, i, s);
4391                 if (!qp)
4392                         return NULL;
4393         }
4394
4395         return qp;
4396 }
4397
4398 /* Drop all floors in "pwqp", turning each integer division [a/m] into
4399  * a rational division a/m.
4400  */
4401 static __isl_give isl_pw_qpolynomial *pwqp_drop_floors(
4402         __isl_take isl_pw_qpolynomial *pwqp)
4403 {
4404         int i;
4405
4406         if (!pwqp)
4407                 return NULL;
4408
4409         if (isl_pw_qpolynomial_is_zero(pwqp))
4410                 return pwqp;
4411
4412         pwqp = isl_pw_qpolynomial_cow(pwqp);
4413         if (!pwqp)
4414                 return NULL;
4415
4416         for (i = 0; i < pwqp->n; ++i) {
4417                 pwqp->p[i].qp = qp_drop_floors(pwqp->p[i].qp, 0);
4418                 if (!pwqp->p[i].qp)
4419                         goto error;
4420         }
4421
4422         return pwqp;
4423 error:
4424         isl_pw_qpolynomial_free(pwqp);
4425         return NULL;
4426 }
4427
4428 /* Adjust all the integer divisions in "qp" such that they are at least
4429  * one over the given orthant (identified by "signs").  This ensures
4430  * that they will still be non-negative even after subtracting (m-1)/m.
4431  *
4432  * In particular, f is replaced by f' + v, changing f = [a/m]
4433  * to f' = [(a - m v)/m].
4434  * If the constant term k in a is smaller than m,
4435  * the constant term of v is set to floor(k/m) - 1.
4436  * For any other term, if the coefficient c and the variable x have
4437  * the same sign, then no changes are needed.
4438  * Otherwise, if the variable is positive (and c is negative),
4439  * then the coefficient of x in v is set to floor(c/m).
4440  * If the variable is negative (and c is positive),
4441  * then the coefficient of x in v is set to ceil(c/m).
4442  */
4443 static __isl_give isl_qpolynomial *make_divs_pos(__isl_take isl_qpolynomial *qp,
4444         int *signs)
4445 {
4446         int i, j;
4447         int total;
4448         isl_vec *v = NULL;
4449         struct isl_upoly *s;
4450
4451         qp = isl_qpolynomial_cow(qp);
4452         if (!qp)
4453                 return NULL;
4454         qp->div = isl_mat_cow(qp->div);
4455         if (!qp->div)
4456                 goto error;
4457
4458         total = isl_dim_total(qp->dim);
4459         v = isl_vec_alloc(qp->div->ctx, qp->div->n_col - 1);
4460
4461         for (i = 0; i < qp->div->n_row; ++i) {
4462                 isl_int *row = qp->div->row[i];
4463                 v = isl_vec_clr(v);
4464                 if (!v)
4465                         goto error;
4466                 if (isl_int_lt(row[1], row[0])) {
4467                         isl_int_fdiv_q(v->el[0], row[1], row[0]);
4468                         isl_int_sub_ui(v->el[0], v->el[0], 1);
4469                         isl_int_submul(row[1], row[0], v->el[0]);
4470                 }
4471                 for (j = 0; j < total; ++j) {
4472                         if (isl_int_sgn(row[2 + j]) * signs[j] >= 0)
4473                                 continue;
4474                         if (signs[j] < 0)
4475                                 isl_int_cdiv_q(v->el[1 + j], row[2 + j], row[0]);
4476                         else
4477                                 isl_int_fdiv_q(v->el[1 + j], row[2 + j], row[0]);
4478                         isl_int_submul(row[2 + j], row[0], v->el[1 + j]);
4479                 }
4480                 for (j = 0; j < i; ++j) {
4481                         if (isl_int_sgn(row[2 + total + j]) >= 0)
4482                                 continue;
4483                         isl_int_fdiv_q(v->el[1 + total + j],
4484                                         row[2 + total + j], row[0]);
4485                         isl_int_submul(row[2 + total + j],
4486                                         row[0], v->el[1 + total + j]);
4487                 }
4488                 for (j = i + 1; j < qp->div->n_row; ++j) {
4489                         if (isl_int_is_zero(qp->div->row[j][2 + total + i]))
4490                                 continue;
4491                         isl_seq_combine(qp->div->row[j] + 1,
4492                                 qp->div->ctx->one, qp->div->row[j] + 1,
4493                                 qp->div->row[j][2 + total + i], v->el, v->size);
4494                 }
4495                 isl_int_set_si(v->el[1 + total + i], 1);
4496                 s = isl_upoly_from_affine(qp->dim->ctx, v->el,
4497                                         qp->div->ctx->one, v->size);
4498                 qp->upoly = isl_upoly_subs(qp->upoly, total + i, 1, &s);
4499                 isl_upoly_free(s);
4500                 if (!qp->upoly)
4501                         goto error;
4502         }
4503
4504         isl_vec_free(v);
4505         return qp;
4506 error:
4507         isl_vec_free(v);
4508         isl_qpolynomial_free(qp);
4509         return NULL;
4510 }
4511
4512 struct isl_to_poly_data {
4513         int sign;
4514         isl_pw_qpolynomial *res;
4515         isl_qpolynomial *qp;
4516 };
4517
4518 /* Appoximate data->qp by a polynomial on the orthant identified by "signs".
4519  * We first make all integer divisions positive and then split the
4520  * quasipolynomials into terms with sign data->sign (the direction
4521  * of the requested approximation) and terms with the opposite sign.
4522  * In the first set of terms, each integer division [a/m] is
4523  * overapproximated by a/m, while in the second it is underapproximated
4524  * by (a-(m-1))/m.
4525  */
4526 static int to_polynomial_on_orthant(__isl_take isl_set *orthant, int *signs,
4527         void *user)
4528 {
4529         struct isl_to_poly_data *data = user;
4530         isl_pw_qpolynomial *t;
4531         isl_qpolynomial *qp, *up, *down;
4532
4533         qp = isl_qpolynomial_copy(data->qp);
4534         qp = make_divs_pos(qp, signs);
4535
4536         up = isl_qpolynomial_terms_of_sign(qp, signs, data->sign);
4537         up = qp_drop_floors(up, 0);
4538         down = isl_qpolynomial_terms_of_sign(qp, signs, -data->sign);
4539         down = qp_drop_floors(down, 1);
4540
4541         isl_qpolynomial_free(qp);
4542         qp = isl_qpolynomial_add(up, down);
4543
4544         t = isl_pw_qpolynomial_alloc(orthant, qp);
4545         data->res = isl_pw_qpolynomial_add_disjoint(data->res, t);
4546
4547         return 0;
4548 }
4549
4550 /* Approximate each quasipolynomial by a polynomial.  If "sign" is positive,
4551  * the polynomial will be an overapproximation.  If "sign" is negative,
4552  * it will be an underapproximation.  If "sign" is zero, the approximation
4553  * will lie somewhere in between.
4554  *
4555  * In particular, is sign == 0, we simply drop the floors, turning
4556  * the integer divisions into rational divisions.
4557  * Otherwise, we split the domains into orthants, make all integer divisions
4558  * positive and then approximate each [a/m] by either a/m or (a-(m-1))/m,
4559  * depending on the requested sign and the sign of the term in which
4560  * the integer division appears.
4561  */
4562 __isl_give isl_pw_qpolynomial *isl_pw_qpolynomial_to_polynomial(
4563         __isl_take isl_pw_qpolynomial *pwqp, int sign)
4564 {
4565         int i;
4566         struct isl_to_poly_data data;
4567
4568         if (sign == 0)
4569                 return pwqp_drop_floors(pwqp);
4570
4571         if (!pwqp)
4572                 return NULL;
4573
4574         data.sign = sign;
4575         data.res = isl_pw_qpolynomial_zero(isl_pw_qpolynomial_get_dim(pwqp));
4576
4577         for (i = 0; i < pwqp->n; ++i) {
4578                 if (pwqp->p[i].qp->div->n_row == 0) {
4579                         isl_pw_qpolynomial *t;
4580                         t = isl_pw_qpolynomial_alloc(
4581                                         isl_set_copy(pwqp->p[i].set),
4582                                         isl_qpolynomial_copy(pwqp->p[i].qp));
4583                         data.res = isl_pw_qpolynomial_add_disjoint(data.res, t);
4584                         continue;
4585                 }
4586                 data.qp = pwqp->p[i].qp;
4587                 if (isl_set_foreach_orthant(pwqp->p[i].set,
4588                                         &to_polynomial_on_orthant, &data) < 0)
4589                         goto error;
4590         }
4591
4592         isl_pw_qpolynomial_free(pwqp);
4593
4594         return data.res;
4595 error:
4596         isl_pw_qpolynomial_free(pwqp);
4597         isl_pw_qpolynomial_free(data.res);
4598         return NULL;
4599 }
4600
4601 static int poly_entry(void **entry, void *user)
4602 {
4603         int *sign = user;
4604         isl_pw_qpolynomial **pwqp = (isl_pw_qpolynomial **)entry;
4605
4606         *pwqp = isl_pw_qpolynomial_to_polynomial(*pwqp, *sign);
4607
4608         return *pwqp ? 0 : -1;
4609 }
4610
4611 __isl_give isl_union_pw_qpolynomial *isl_union_pw_qpolynomial_to_polynomial(
4612         __isl_take isl_union_pw_qpolynomial *upwqp, int sign)
4613 {
4614         upwqp = isl_union_pw_qpolynomial_cow(upwqp);
4615         if (!upwqp)
4616                 return NULL;
4617
4618         if (isl_hash_table_foreach(upwqp->dim->ctx, &upwqp->table,
4619                                    &poly_entry, &sign) < 0)
4620                 goto error;
4621
4622         return upwqp;
4623 error:
4624         isl_union_pw_qpolynomial_free(upwqp);
4625         return NULL;
4626 }
4627
4628 __isl_give isl_basic_map *isl_basic_map_from_qpolynomial(
4629         __isl_take isl_qpolynomial *qp)
4630 {
4631         int i, k;
4632         isl_dim *dim;
4633         isl_vec *aff = NULL;
4634         isl_basic_map *bmap = NULL;
4635         unsigned pos;
4636         unsigned n_div;
4637
4638         if (!qp)
4639                 return NULL;
4640         if (!isl_upoly_is_affine(qp->upoly))
4641                 isl_die(qp->dim->ctx, isl_error_invalid,
4642                         "input quasi-polynomial not affine", goto error);
4643         aff = isl_qpolynomial_extract_affine(qp);
4644         if (!aff)
4645                 goto error;
4646         dim = isl_qpolynomial_get_dim(qp);
4647         dim = isl_dim_from_domain(dim);
4648         pos = 1 + isl_dim_offset(dim, isl_dim_out);
4649         dim = isl_dim_add(dim, isl_dim_out, 1);
4650         n_div = qp->div->n_row;
4651         bmap = isl_basic_map_alloc_dim(dim, n_div, 1, 2 * n_div);
4652
4653         for (i = 0; i < n_div; ++i) {
4654                 k = isl_basic_map_alloc_div(bmap);
4655                 if (k < 0)
4656                         goto error;
4657                 isl_seq_cpy(bmap->div[k], qp->div->row[i], qp->div->n_col);
4658                 isl_int_set_si(bmap->div[k][qp->div->n_col], 0);
4659                 if (isl_basic_map_add_div_constraints(bmap, k) < 0)
4660                         goto error;
4661         }
4662         k = isl_basic_map_alloc_equality(bmap);
4663         if (k < 0)
4664                 goto error;
4665         isl_int_neg(bmap->eq[k][pos], aff->el[0]);
4666         isl_seq_cpy(bmap->eq[k], aff->el + 1, pos);
4667         isl_seq_cpy(bmap->eq[k] + pos + 1, aff->el + 1 + pos, n_div);
4668
4669         isl_vec_free(aff);
4670         isl_qpolynomial_free(qp);
4671         bmap = isl_basic_map_finalize(bmap);
4672         return bmap;
4673 error:
4674         isl_vec_free(aff);
4675         isl_qpolynomial_free(qp);
4676         isl_basic_map_free(bmap);
4677         return NULL;
4678 }