isl_basic_set_reduced_basis: fix value in directions with only one integer value
[platform/upstream/isl.git] / basis_reduction_tab.c
1 #include <assert.h>
2 #include "isl_seq.h"
3 #include "isl_tab.h"
4
5 struct tab_lp {
6         struct isl_ctx  *ctx;
7         struct isl_vec  *row;
8         struct isl_tab  *tab;
9         struct isl_tab_undo     **stack;
10         isl_int         *obj;
11         isl_int          opt;
12         isl_int          opt_denom;
13         isl_int          tmp;
14         isl_int          tmp2;
15         int              neq;
16         unsigned         dim;
17         /* number of constraints in initial product tableau */
18         int              con_offset;
19         /* objective function has fixed or no integer value */
20         int              is_fixed;
21 };
22
23 static struct tab_lp *init_lp(struct isl_basic_set *bset);
24 static void set_lp_obj(struct tab_lp *lp, isl_int *row, int dim);
25 static int solve_lp(struct tab_lp *lp);
26 static void get_obj_val(struct tab_lp* lp, mpq_t *F);
27 static void delete_lp(struct tab_lp *lp);
28 static int add_lp_row(struct tab_lp *lp, isl_int *row, int dim);
29 static void get_alpha(struct tab_lp* lp, int row, mpq_t *alpha);
30 static void del_lp_row(struct tab_lp *lp);
31 static int cut_lp_to_hyperplane(struct tab_lp *lp, isl_int *row);
32
33 #define GBR_LP                              struct tab_lp
34 #define GBR_type                            mpq_t
35 #define GBR_init(v)                         mpq_init(v)
36 #define GBR_clear(v)                        mpq_clear(v)
37 #define GBR_set(a,b)                        mpq_set(a,b)
38 #define GBR_set_ui(a,b)                     mpq_set_ui(a,b,1)
39 #define GBR_mul(a,b,c)                      mpq_mul(a,b,c)
40 #define GBR_lt(a,b)                         (mpq_cmp(a,b) < 0)
41 #define GBR_is_zero(a)                      (mpq_sgn(a) == 0)
42 #define GBR_floor(a,b)                      mpz_fdiv_q(a,mpq_numref(b),mpq_denref(b))
43 #define GBR_ceil(a,b)                       mpz_cdiv_q(a,mpq_numref(b),mpq_denref(b))
44 #define GBR_lp_init(P)                      init_lp(P)
45 #define GBR_lp_set_obj(lp, obj, dim)        set_lp_obj(lp, obj, dim)
46 #define GBR_lp_solve(lp)                    solve_lp(lp)
47 #define GBR_lp_get_obj_val(lp, F)           get_obj_val(lp, F)
48 #define GBR_lp_delete(lp)                   delete_lp(lp)
49 #define GBR_lp_next_row(lp)                 lp->neq
50 #define GBR_lp_add_row(lp, row, dim)        add_lp_row(lp, row, dim)
51 #define GBR_lp_get_alpha(lp, row, alpha)    get_alpha(lp, row, alpha)
52 #define GBR_lp_del_row(lp)                  del_lp_row(lp)
53 #define GBR_lp_is_fixed(lp)                 (lp)->is_fixed
54 #define GBR_lp_cut(lp, obj)                 cut_lp_to_hyperplane(lp, obj)
55 #include "basis_reduction_templ.c"
56
57 /* Set up a tableau for the Cartesian product of bset with itself.
58  * This could be optimized by first setting up a tableau for bset
59  * and then performing the Cartesian product on the tableau.
60  */
61 static struct isl_tab *gbr_tab(struct isl_basic_set *bset,
62         struct isl_vec *row)
63 {
64         int i, j;
65         unsigned dim;
66         struct isl_tab *tab;
67
68         if (!bset || !row)
69                 return NULL;
70
71         dim = isl_basic_set_total_dim(bset);
72         tab = isl_tab_alloc(bset->ctx, 2 * bset->n_ineq + 3 * dim + 1, 2 * dim, 0);
73
74         for (i = 0; i < 2; ++i) {
75                 isl_seq_clr(row->el + 1 + (1 - i) * dim, dim);
76                 for (j = 0; j < bset->n_ineq; ++j) {
77                         isl_int_set(row->el[0], bset->ineq[j][0]);
78                         isl_seq_cpy(row->el + 1 + i * dim,
79                                     bset->ineq[j] + 1, dim);
80                         tab = isl_tab_add_ineq(tab, row->el);
81                         if (!tab || tab->empty)
82                                 return tab;
83                 }
84         }
85
86         return tab;
87 }
88
89 static struct tab_lp *init_lp(struct isl_basic_set *bset)
90 {
91         struct tab_lp *lp = NULL;
92
93         if (!bset)
94                 return NULL;
95
96         isl_assert(bset->ctx, bset->n_eq == 0, return NULL);
97
98         lp = isl_calloc_type(bset->ctx, struct tab_lp);
99         if (!lp)
100                 return NULL;
101
102         isl_int_init(lp->opt);
103         isl_int_init(lp->opt_denom);
104         isl_int_init(lp->tmp);
105         isl_int_init(lp->tmp2);
106
107         lp->dim = isl_basic_set_total_dim(bset);
108
109         lp->ctx = bset->ctx;
110         isl_ctx_ref(lp->ctx);
111
112         lp->stack = isl_alloc_array(lp->ctx, struct isl_tab_undo *, lp->dim);
113
114         lp->row = isl_vec_alloc(lp->ctx, 1 + 2 * lp->dim);
115         if (!lp->row)
116                 goto error;
117         lp->tab = gbr_tab(bset, lp->row);
118         if (!lp->tab)
119                 goto error;
120         lp->con_offset = lp->tab->n_con;
121         lp->obj = NULL;
122         lp->neq = 0;
123
124         return lp;
125 error:
126         delete_lp(lp);
127         return NULL;
128 }
129
130 static void set_lp_obj(struct tab_lp *lp, isl_int *row, int dim)
131 {
132         lp->obj = row;
133 }
134
135 static int solve_lp(struct tab_lp *lp)
136 {
137         enum isl_lp_result res;
138         unsigned flags = 0;
139
140         lp->is_fixed = 0;
141
142         isl_int_set_si(lp->row->el[0], 0);
143         isl_seq_cpy(lp->row->el + 1, lp->obj, lp->dim);
144         isl_seq_neg(lp->row->el + 1 + lp->dim, lp->obj, lp->dim);
145         if (lp->neq)
146                 flags = ISL_TAB_SAVE_DUAL;
147         res = isl_tab_min(lp->tab, lp->row->el, lp->ctx->one,
148                           &lp->opt, &lp->opt_denom, flags);
149         isl_int_mul_ui(lp->opt_denom, lp->opt_denom, 2);
150         if (isl_int_abs_lt(lp->opt, lp->opt_denom)) {
151                 struct isl_vec *sample = isl_tab_get_sample_value(lp->tab);
152                 if (!sample)
153                         return -1;
154                 isl_seq_inner_product(lp->obj, sample->el + 1, lp->dim, &lp->tmp);
155                 isl_seq_inner_product(lp->obj, sample->el + 1 + lp->dim, lp->dim, &lp->tmp2);
156                 isl_int_cdiv_q(lp->tmp, lp->tmp, sample->el[0]);
157                 isl_int_fdiv_q(lp->tmp2, lp->tmp2, sample->el[0]);
158                 if (isl_int_ge(lp->tmp, lp->tmp2))
159                         lp->is_fixed = 1;
160                 isl_vec_free(sample);
161         }
162         isl_int_divexact_ui(lp->opt_denom, lp->opt_denom, 2);
163         if (res != isl_lp_ok)
164                 return -1;
165         return 0;
166 }
167
168 /* The current objective function has a fixed (or no) integer value.
169  * Cut the tableau to the hyperplane that fixes this value in
170  * both halves of the tableau.
171  * Return 1 if the resulting tableau is empty.
172  */
173 static int cut_lp_to_hyperplane(struct tab_lp *lp, isl_int *row)
174 {
175         enum isl_lp_result res;
176
177         isl_int_set_si(lp->row->el[0], 0);
178         isl_seq_cpy(lp->row->el + 1, row, lp->dim);
179         isl_seq_clr(lp->row->el + 1 + lp->dim, lp->dim);
180         res = isl_tab_min(lp->tab, lp->row->el, lp->ctx->one,
181                           &lp->tmp, NULL, 0);
182         if (res != isl_lp_ok)
183                 return -1;
184
185         isl_int_neg(lp->row->el[0], lp->tmp);
186         lp->tab = isl_tab_add_eq(lp->tab, lp->row->el);
187
188         isl_seq_cpy(lp->row->el + 1 + lp->dim, row, lp->dim);
189         isl_seq_clr(lp->row->el + 1, lp->dim);
190         lp->tab = isl_tab_add_eq(lp->tab, lp->row->el);
191
192         lp->con_offset += 2;
193
194         return lp->tab->empty;
195 }
196
197 static void get_obj_val(struct tab_lp* lp, mpq_t *F)
198 {
199         isl_int_neg(mpq_numref(*F), lp->opt);
200         isl_int_set(mpq_denref(*F), lp->opt_denom);
201 }
202
203 static void delete_lp(struct tab_lp *lp)
204 {
205         if (!lp)
206                 return;
207
208         isl_int_clear(lp->opt);
209         isl_int_clear(lp->opt_denom);
210         isl_int_clear(lp->tmp);
211         isl_int_clear(lp->tmp2);
212         isl_vec_free(lp->row);
213         free(lp->stack);
214         isl_tab_free(lp->tab);
215         isl_ctx_deref(lp->ctx);
216         free(lp);
217 }
218
219 static int add_lp_row(struct tab_lp *lp, isl_int *row, int dim)
220 {
221         lp->stack[lp->neq] = isl_tab_snap(lp->tab);
222
223         isl_int_set_si(lp->row->el[0], 0);
224         isl_seq_cpy(lp->row->el + 1, row, lp->dim);
225         isl_seq_neg(lp->row->el + 1 + lp->dim, row, lp->dim);
226
227         lp->tab = isl_tab_add_valid_eq(lp->tab, lp->row->el);
228
229         return lp->neq++;
230 }
231
232 static void get_alpha(struct tab_lp* lp, int row, mpq_t *alpha)
233 {
234         row += lp->con_offset;
235         isl_int_neg(mpq_numref(*alpha), lp->tab->dual->el[1 + row]);
236         isl_int_set(mpq_denref(*alpha), lp->tab->dual->el[0]);
237 }
238
239 static void del_lp_row(struct tab_lp *lp)
240 {
241         lp->neq--;
242         isl_tab_rollback(lp->tab, lp->stack[lp->neq]);
243 }