isl_mat.c

   1 #include "isl_dim.h"
   2 #include "isl_seq.h"
   3 #include "isl_mat.h"
   4 #include "isl_map_private.h"
   5
   6 struct isl_mat *isl_mat_alloc(struct isl_ctx *ctx,
   7         unsigned n_row, unsigned n_col)
   8 {
   9         int i;
  10         struct isl_mat *mat;
  11
  12         mat = isl_alloc_type(ctx, struct isl_mat);
  13         if (!mat)
  14                 return NULL;
  15
  16         mat->row = NULL;
  17         mat->block = isl_blk_alloc(ctx, n_row * n_col);
  18         if (isl_blk_is_error(mat->block))
  19                 goto error;
  20         mat->row = isl_alloc_array(ctx, isl_int *, n_row);
  21         if (!mat->row)
  22                 goto error;
  23
  24         for (i = 0; i < n_row; ++i)
  25                 mat->row[i] = mat->block.data + i * n_col;
  26
  27         mat->ctx = ctx;
  28         isl_ctx_ref(ctx);
  29         mat->ref = 1;
  30         mat->n_row = n_row;
  31         mat->n_col = n_col;
  32         mat->max_col = n_col;
  33         mat->flags = 0;
  34
  35         return mat;
  36 error:
  37         isl_blk_free(ctx, mat->block);
  38         free(mat);
  39         return NULL;
  40 }
  41
  42 struct isl_mat *isl_mat_extend(struct isl_mat *mat,
  43         unsigned n_row, unsigned n_col)
  44 {
  45         int i;
  46         isl_int *old;
  47
  48         if (!mat)
  49                 return NULL;
  50
  51         if (mat->max_col >= n_col && mat->n_row >= n_row) {
  52                 if (mat->n_col < n_col)
  53                         mat->n_col = n_col;
  54                 return mat;
  55         }
  56
  57         if (mat->max_col < n_col) {
  58                 struct isl_mat *new_mat;
  59
  60                 new_mat = isl_mat_alloc(mat->ctx, n_row, n_col);
  61                 if (!new_mat)
  62                         goto error;
  63                 for (i = 0; i < mat->n_row; ++i)
  64                         isl_seq_cpy(new_mat->row[i], mat->row[i], mat->n_col);
  65                 isl_mat_free(mat);
  66                 return new_mat;
  67         }
  68
  69         mat = isl_mat_cow(mat);
  70         if (!mat)
  71                 goto error;
  72
  73         assert(mat->ref == 1);
  74         old = mat->block.data;
  75         mat->block = isl_blk_extend(mat->ctx, mat->block, n_row * mat->max_col);
  76         if (isl_blk_is_error(mat->block))
  77                 goto error;
  78         mat->row = isl_realloc_array(mat->ctx, mat->row, isl_int *, n_row);
  79         if (!mat->row)
  80                 goto error;
  81
  82         for (i = 0; i < mat->n_row; ++i)
  83                 mat->row[i] = mat->block.data + (mat->row[i] - old);
  84         for (i = mat->n_row; i < n_row; ++i)
  85                 mat->row[i] = mat->block.data + i * mat->max_col;
  86         mat->n_row = n_row;
  87         if (mat->n_col < n_col)
  88                 mat->n_col = n_col;
  89
  90         return mat;
  91 error:
  92         isl_mat_free(mat);
  93         return NULL;
  94 }
  95
  96 struct isl_mat *isl_mat_sub_alloc(struct isl_ctx *ctx, isl_int **row,
  97         unsigned first_row, unsigned n_row, unsigned first_col, unsigned n_col)
  98 {
  99         int i;
 100         struct isl_mat *mat;
 101
 102         mat = isl_alloc_type(ctx, struct isl_mat);
 103         if (!mat)
 104                 return NULL;
 105         mat->row = isl_alloc_array(ctx, isl_int *, n_row);
 106         if (!mat->row)
 107                 goto error;
 108         for (i = 0; i < n_row; ++i)
 109                 mat->row[i] = row[first_row+i] + first_col;
 110         mat->ctx = ctx;
 111         isl_ctx_ref(ctx);
 112         mat->ref = 1;
 113         mat->n_row = n_row;
 114         mat->n_col = n_col;
 115         mat->block = isl_blk_empty();
 116         mat->flags = ISL_MAT_BORROWED;
 117         return mat;
 118 error:
 119         free(mat);
 120         return NULL;
 121 }
 122
 123 void isl_mat_sub_copy(struct isl_ctx *ctx, isl_int **dst, isl_int **src,
 124         unsigned n_row, unsigned dst_col, unsigned src_col, unsigned n_col)
 125 {
 126         int i;
 127
 128         for (i = 0; i < n_row; ++i)
 129                 isl_seq_cpy(dst[i]+dst_col, src[i]+src_col, n_col);
 130 }
 131
 132 void isl_mat_sub_neg(struct isl_ctx *ctx, isl_int **dst, isl_int **src,
 133         unsigned n_row, unsigned dst_col, unsigned src_col, unsigned n_col)
 134 {
 135         int i;
 136
 137         for (i = 0; i < n_row; ++i)
 138                 isl_seq_neg(dst[i]+dst_col, src[i]+src_col, n_col);
 139 }
 140
 141 struct isl_mat *isl_mat_copy(struct isl_mat *mat)
 142 {
 143         if (!mat)
 144                 return NULL;
 145
 146         mat->ref++;
 147         return mat;
 148 }
 149
 150 struct isl_mat *isl_mat_dup(struct isl_mat *mat)
 151 {
 152         int i;
 153         struct isl_mat *mat2;
 154
 155         if (!mat)
 156                 return NULL;
 157         mat2 = isl_mat_alloc(mat->ctx, mat->n_row, mat->n_col);
 158         if (!mat2)
 159                 return NULL;
 160         for (i = 0; i < mat->n_row; ++i)
 161                 isl_seq_cpy(mat2->row[i], mat->row[i], mat->n_col);
 162         return mat2;
 163 }
 164
 165 struct isl_mat *isl_mat_cow(struct isl_mat *mat)
 166 {
 167         struct isl_mat *mat2;
 168         if (!mat)
 169                 return NULL;
 170
 171         if (mat->ref == 1 && !ISL_F_ISSET(mat, ISL_MAT_BORROWED))
 172                 return mat;
 173
 174         mat2 = isl_mat_dup(mat);
 175         isl_mat_free(mat);
 176         return mat2;
 177 }
 178
 179 void isl_mat_free(struct isl_mat *mat)
 180 {
 181         if (!mat)
 182                 return;
 183
 184         if (--mat->ref > 0)
 185                 return;
 186
 187         if (!ISL_F_ISSET(mat, ISL_MAT_BORROWED))
 188                 isl_blk_free(mat->ctx, mat->block);
 189         isl_ctx_deref(mat->ctx);
 190         free(mat->row);
 191         free(mat);
 192 }
 193
 194 struct isl_mat *isl_mat_identity(struct isl_ctx *ctx, unsigned n_row)
 195 {
 196         int i;
 197         struct isl_mat *mat;
 198
 199         mat = isl_mat_alloc(ctx, n_row, n_row);
 200         if (!mat)
 201                 return NULL;
 202         for (i = 0; i < n_row; ++i) {
 203                 isl_seq_clr(mat->row[i], i);
 204                 isl_int_set_si(mat->row[i][i], 1);
 205                 isl_seq_clr(mat->row[i]+i+1, n_row-(i+1));
 206         }
 207
 208         return mat;
 209 }
 210
 211 struct isl_vec *isl_mat_vec_product(struct isl_mat *mat, struct isl_vec *vec)
 212 {
 213         int i;
 214         struct isl_vec *prod;
 215
 216         if (!mat || !vec)
 217                 goto error;
 218
 219         isl_assert(ctx, mat->n_col == vec->size, goto error);
 220
 221         prod = isl_vec_alloc(mat->ctx, mat->n_row);
 222         if (!prod)
 223                 goto error;
 224
 225         for (i = 0; i < prod->size; ++i)
 226                 isl_seq_inner_product(mat->row[i], vec->el, vec->size,
 227                                         &prod->block.data[i]);
 228         isl_mat_free(mat);
 229         isl_vec_free(vec);
 230         return prod;
 231 error:
 232         isl_mat_free(mat);
 233         isl_vec_free(vec);
 234         return NULL;
 235 }
 236
 237 struct isl_mat *isl_mat_aff_direct_sum(struct isl_mat *left,
 238         struct isl_mat *right)
 239 {
 240         int i;
 241         struct isl_mat *sum;
 242
 243         if (!left || !right)
 244                 goto error;
 245
 246         isl_assert(ctx, left->n_row == right->n_row, goto error);
 247         isl_assert(ctx, left->n_row >= 1, goto error);
 248         isl_assert(ctx, left->n_col >= 1, goto error);
 249         isl_assert(ctx, right->n_col >= 1, goto error);
 250         isl_assert(ctx,
 251             isl_seq_first_non_zero(left->row[0]+1, left->n_col-1) == -1,
 252             goto error);
 253         isl_assert(ctx,
 254             isl_seq_first_non_zero(right->row[0]+1, right->n_col-1) == -1,
 255             goto error);
 256
 257         sum = isl_mat_alloc(left->ctx, left->n_row, left->n_col + right->n_col - 1);
 258         if (!sum)
 259                 goto error;
 260         isl_int_lcm(sum->row[0][0], left->row[0][0], right->row[0][0]);
 261         isl_int_divexact(left->row[0][0], sum->row[0][0], left->row[0][0]);
 262         isl_int_divexact(right->row[0][0], sum->row[0][0], right->row[0][0]);
 263
 264         isl_seq_clr(sum->row[0]+1, sum->n_col-1);
 265         for (i = 1; i < sum->n_row; ++i) {
 266                 isl_int_mul(sum->row[i][0], left->row[0][0], left->row[i][0]);
 267                 isl_int_addmul(sum->row[i][0],
 268                                 right->row[0][0], right->row[i][0]);
 269                 isl_seq_scale(sum->row[i]+1, left->row[i]+1, left->row[0][0],
 270                                 left->n_col-1);
 271                 isl_seq_scale(sum->row[i]+left->n_col,
 272                                 right->row[i]+1, right->row[0][0],
 273                                 right->n_col-1);
 274         }
 275
 276         isl_int_divexact(left->row[0][0], sum->row[0][0], left->row[0][0]);
 277         isl_int_divexact(right->row[0][0], sum->row[0][0], right->row[0][0]);
 278         isl_mat_free(left);
 279         isl_mat_free(right);
 280         return sum;
 281 error:
 282         isl_mat_free(left);
 283         isl_mat_free(right);
 284         return NULL;
 285 }
 286
 287 static void exchange(struct isl_mat *M, struct isl_mat **U,
 288         struct isl_mat **Q, unsigned row, unsigned i, unsigned j)
 289 {
 290         int r;
 291         for (r = row; r < M->n_row; ++r)
 292                 isl_int_swap(M->row[r][i], M->row[r][j]);
 293         if (U) {
 294                 for (r = 0; r < (*U)->n_row; ++r)
 295                         isl_int_swap((*U)->row[r][i], (*U)->row[r][j]);
 296         }
 297         if (Q)
 298                 isl_mat_swap_rows(*Q, i, j);
 299 }
 300
 301 static void subtract(struct isl_mat *M, struct isl_mat **U,
 302         struct isl_mat **Q, unsigned row, unsigned i, unsigned j, isl_int m)
 303 {
 304         int r;
 305         for (r = row; r < M->n_row; ++r)
 306                 isl_int_submul(M->row[r][j], m, M->row[r][i]);
 307         if (U) {
 308                 for (r = 0; r < (*U)->n_row; ++r)
 309                         isl_int_submul((*U)->row[r][j], m, (*U)->row[r][i]);
 310         }
 311         if (Q) {
 312                 for (r = 0; r < (*Q)->n_col; ++r)
 313                         isl_int_addmul((*Q)->row[i][r], m, (*Q)->row[j][r]);
 314         }
 315 }
 316
 317 static void oppose(struct isl_mat *M, struct isl_mat **U,
 318         struct isl_mat **Q, unsigned row, unsigned col)
 319 {
 320         int r;
 321         for (r = row; r < M->n_row; ++r)
 322                 isl_int_neg(M->row[r][col], M->row[r][col]);
 323         if (U) {
 324                 for (r = 0; r < (*U)->n_row; ++r)
 325                         isl_int_neg((*U)->row[r][col], (*U)->row[r][col]);
 326         }
 327         if (Q)
 328                 isl_seq_neg((*Q)->row[col], (*Q)->row[col], (*Q)->n_col);
 329 }
 330
 331 /* Given matrix M, compute
 332  *
 333  *              M U = H
 334  *              M   = H Q
 335  *
 336  * with U and Q unimodular matrices and H a matrix in column echelon form
 337  * such that on each echelon row the entries in the non-echelon column
 338  * are non-negative (if neg == 0) or non-positive (if neg == 1)
 339  * and stricly smaller (in absolute value) than the entries in the echelon
 340  * column.
 341  * If U or Q are NULL, then these matrices are not computed.
 342  */
 343 struct isl_mat *isl_mat_left_hermite(struct isl_mat *M, int neg,
 344         struct isl_mat **U, struct isl_mat **Q)
 345 {
 346         isl_int c;
 347         int row, col;
 348
 349         if (U)
 350                 *U = NULL;
 351         if (Q)
 352                 *Q = NULL;
 353         if (!M)
 354                 goto error;
 355         M = isl_mat_cow(M);
 356         if (!M)
 357                 goto error;
 358         if (U) {
 359                 *U = isl_mat_identity(M->ctx, M->n_col);
 360                 if (!*U)
 361                         goto error;
 362         }
 363         if (Q) {
 364                 *Q = isl_mat_identity(M->ctx, M->n_col);
 365                 if (!*Q)
 366                         goto error;
 367         }
 368
 369         col = 0;
 370         isl_int_init(c);
 371         for (row = 0; row < M->n_row; ++row) {
 372                 int first, i, off;
 373                 first = isl_seq_abs_min_non_zero(M->row[row]+col, M->n_col-col);
 374                 if (first == -1)
 375                         continue;
 376                 first += col;
 377                 if (first != col)
 378                         exchange(M, U, Q, row, first, col);
 379                 if (isl_int_is_neg(M->row[row][col]))
 380                         oppose(M, U, Q, row, col);
 381                 first = col+1;
 382                 while ((off = isl_seq_first_non_zero(M->row[row]+first,
 383                                                        M->n_col-first)) != -1) {
 384                         first += off;
 385                         isl_int_fdiv_q(c, M->row[row][first], M->row[row][col]);
 386                         subtract(M, U, Q, row, col, first, c);
 387                         if (!isl_int_is_zero(M->row[row][first]))
 388                                 exchange(M, U, Q, row, first, col);
 389                         else
 390                                 ++first;
 391                 }
 392                 for (i = 0; i < col; ++i) {
 393                         if (isl_int_is_zero(M->row[row][i]))
 394                                 continue;
 395                         if (neg)
 396                                 isl_int_cdiv_q(c, M->row[row][i], M->row[row][col]);
 397                         else
 398                                 isl_int_fdiv_q(c, M->row[row][i], M->row[row][col]);
 399                         if (isl_int_is_zero(c))
 400                                 continue;
 401                         subtract(M, U, Q, row, col, i, c);
 402                 }
 403                 ++col;
 404         }
 405         isl_int_clear(c);
 406
 407         return M;
 408 error:
 409         if (Q) {
 410                 isl_mat_free(*Q);
 411                 *Q = NULL;
 412         }
 413         if (U) {
 414                 isl_mat_free(*U);
 415                 *U = NULL;
 416         }
 417         return NULL;
 418 }
 419
 420 struct isl_mat *isl_mat_right_kernel(struct isl_mat *mat)
 421 {
 422         int i, rank;
 423         struct isl_mat *U = NULL;
 424         struct isl_mat *K;
 425
 426         mat = isl_mat_left_hermite(mat, 0, &U, NULL);
 427         if (!mat || !U)
 428                 goto error;
 429
 430         for (i = 0, rank = 0; rank < mat->n_col; ++rank) {
 431                 while (i < mat->n_row && isl_int_is_zero(mat->row[i][rank]))
 432                         ++i;
 433                 if (i >= mat->n_row)
 434                         break;
 435         }
 436         K = isl_mat_alloc(U->ctx, U->n_row, U->n_col - rank);
 437         if (!K)
 438                 goto error;
 439         isl_mat_sub_copy(K->ctx, K->row, U->row, U->n_row, 0, rank, U->n_col-rank);
 440         isl_mat_free(mat);
 441         isl_mat_free(U);
 442         return K;
 443 error:
 444         isl_mat_free(mat);
 445         isl_mat_free(U);
 446         return NULL;
 447 }
 448
 449 struct isl_mat *isl_mat_lin_to_aff(struct isl_mat *mat)
 450 {
 451         int i;
 452         struct isl_mat *mat2;
 453
 454         if (!mat)
 455                 return NULL;
 456         mat2 = isl_mat_alloc(mat->ctx, 1+mat->n_row, 1+mat->n_col);
 457         if (!mat2)
 458                 return NULL;
 459         isl_int_set_si(mat2->row[0][0], 1);
 460         isl_seq_clr(mat2->row[0]+1, mat->n_col);
 461         for (i = 0; i < mat->n_row; ++i) {
 462                 isl_int_set_si(mat2->row[1+i][0], 0);
 463                 isl_seq_cpy(mat2->row[1+i]+1, mat->row[i], mat->n_col);
 464         }
 465         isl_mat_free(mat);
 466         return mat2;
 467 }
 468
 469 static int row_first_non_zero(isl_int **row, unsigned n_row, unsigned col)
 470 {
 471         int i;
 472
 473         for (i = 0; i < n_row; ++i)
 474                 if (!isl_int_is_zero(row[i][col]))
 475                         return i;
 476         return -1;
 477 }
 478
 479 static int row_abs_min_non_zero(isl_int **row, unsigned n_row, unsigned col)
 480 {
 481         int i, min = row_first_non_zero(row, n_row, col);
 482         if (min < 0)
 483                 return -1;
 484         for (i = min + 1; i < n_row; ++i) {
 485                 if (isl_int_is_zero(row[i][col]))
 486                         continue;
 487                 if (isl_int_abs_lt(row[i][col], row[min][col]))
 488                         min = i;
 489         }
 490         return min;
 491 }
 492
 493 static void inv_exchange(struct isl_mat *left, struct isl_mat *right,
 494         unsigned i, unsigned j)
 495 {
 496         left = isl_mat_swap_rows(left, i, j);
 497         right = isl_mat_swap_rows(right, i, j);
 498 }
 499
 500 static void inv_oppose(
 501         struct isl_mat *left, struct isl_mat *right, unsigned row)
 502 {
 503         isl_seq_neg(left->row[row]+row, left->row[row]+row, left->n_col-row);
 504         isl_seq_neg(right->row[row], right->row[row], right->n_col);
 505 }
 506
 507 static void inv_subtract(struct isl_mat *left, struct isl_mat *right,
 508         unsigned row, unsigned i, isl_int m)
 509 {
 510         isl_int_neg(m, m);
 511         isl_seq_combine(left->row[i]+row,
 512                         left->ctx->one, left->row[i]+row,
 513                         m, left->row[row]+row,
 514                         left->n_col-row);
 515         isl_seq_combine(right->row[i], right->ctx->one, right->row[i],
 516                         m, right->row[row], right->n_col);
 517 }
 518
 519 /* Compute inv(left)*right
 520  */
 521 struct isl_mat *isl_mat_inverse_product(struct isl_mat *left,
 522         struct isl_mat *right)
 523 {
 524         int row;
 525         isl_int a, b;
 526
 527         if (!left || !right)
 528                 goto error;
 529
 530         isl_assert(left->ctx, left->n_row == left->n_col, goto error);
 531         isl_assert(left->ctx, left->n_row == right->n_row, goto error);
 532
 533         if (left->n_row == 0) {
 534                 isl_mat_free(left);
 535                 return right;
 536         }
 537
 538         left = isl_mat_cow(left);
 539         right = isl_mat_cow(right);
 540         if (!left || !right)
 541                 goto error;
 542
 543         isl_int_init(a);
 544         isl_int_init(b);
 545         for (row = 0; row < left->n_row; ++row) {
 546                 int pivot, first, i, off;
 547                 pivot = row_abs_min_non_zero(left->row+row, left->n_row-row, row);
 548                 if (pivot < 0) {
 549                         isl_int_clear(a);
 550                         isl_int_clear(b);
 551                         isl_assert(ctx, pivot >= 0, goto error);
 552                 }
 553                 pivot += row;
 554                 if (pivot != row)
 555                         inv_exchange(left, right, pivot, row);
 556                 if (isl_int_is_neg(left->row[row][row]))
 557                         inv_oppose(left, right, row);
 558                 first = row+1;
 559                 while ((off = row_first_non_zero(left->row+first,
 560                                         left->n_row-first, row)) != -1) {
 561                         first += off;
 562                         isl_int_fdiv_q(a, left->row[first][row],
 563                                         left->row[row][row]);
 564                         inv_subtract(left, right, row, first, a);
 565                         if (!isl_int_is_zero(left->row[first][row]))
 566                                 inv_exchange(left, right, row, first);
 567                         else
 568                                 ++first;
 569                 }
 570                 for (i = 0; i < row; ++i) {
 571                         if (isl_int_is_zero(left->row[i][row]))
 572                                 continue;
 573                         isl_int_gcd(a, left->row[row][row], left->row[i][row]);
 574                         isl_int_divexact(b, left->row[i][row], a);
 575                         isl_int_divexact(a, left->row[row][row], a);
 576                         isl_int_neg(a, a);
 577                         isl_seq_combine(left->row[i]+row,
 578                                         a, left->row[i]+row,
 579                                         b, left->row[row]+row,
 580                                         left->n_col-row);
 581                         isl_seq_combine(right->row[i], a, right->row[i],
 582                                         b, right->row[row], right->n_col);
 583                 }
 584         }
 585         isl_int_clear(b);
 586
 587         isl_int_set(a, left->row[0][0]);
 588         for (row = 1; row < left->n_row; ++row)
 589                 isl_int_lcm(a, a, left->row[row][row]);
 590         if (isl_int_is_zero(a)){
 591                 isl_int_clear(a);
 592                 isl_assert(ctx, 0, goto error);
 593         }
 594         for (row = 0; row < left->n_row; ++row) {
 595                 isl_int_divexact(left->row[row][row], a, left->row[row][row]);
 596                 if (isl_int_is_one(left->row[row][row]))
 597                         continue;
 598                 isl_seq_scale(right->row[row], right->row[row],
 599                                 left->row[row][row], right->n_col);
 600         }
 601         isl_int_clear(a);
 602
 603         isl_mat_free(left);
 604         return right;
 605 error:
 606         isl_mat_free(left);
 607         isl_mat_free(right);
 608         return NULL;
 609 }
 610
 611 void isl_mat_col_scale(struct isl_mat *mat, unsigned col, isl_int m)
 612 {
 613         int i;
 614
 615         for (i = 0; i < mat->n_row; ++i)
 616                 isl_int_mul(mat->row[i][col], mat->row[i][col], m);
 617 }
 618
 619 void isl_mat_col_combine(struct isl_mat *mat, unsigned dst,
 620         isl_int m1, unsigned src1, isl_int m2, unsigned src2)
 621 {
 622         int i;
 623         isl_int tmp;
 624
 625         isl_int_init(tmp);
 626         for (i = 0; i < mat->n_row; ++i) {
 627                 isl_int_mul(tmp, m1, mat->row[i][src1]);
 628                 isl_int_addmul(tmp, m2, mat->row[i][src2]);
 629                 isl_int_set(mat->row[i][dst], tmp);
 630         }
 631         isl_int_clear(tmp);
 632 }
 633
 634 struct isl_mat *isl_mat_right_inverse(struct isl_mat *mat)
 635 {
 636         struct isl_mat *inv;
 637         int row;
 638         isl_int a, b;
 639
 640         mat = isl_mat_cow(mat);
 641         if (!mat)
 642                 return NULL;
 643
 644         inv = isl_mat_identity(mat->ctx, mat->n_col);
 645         inv = isl_mat_cow(inv);
 646         if (!inv)
 647                 goto error;
 648
 649         isl_int_init(a);
 650         isl_int_init(b);
 651         for (row = 0; row < mat->n_row; ++row) {
 652                 int pivot, first, i, off;
 653                 pivot = isl_seq_abs_min_non_zero(mat->row[row]+row, mat->n_col-row);
 654                 if (pivot < 0) {
 655                         isl_int_clear(a);
 656                         isl_int_clear(b);
 657                         goto error;
 658                 }
 659                 pivot += row;
 660                 if (pivot != row)
 661                         exchange(mat, &inv, NULL, row, pivot, row);
 662                 if (isl_int_is_neg(mat->row[row][row]))
 663                         oppose(mat, &inv, NULL, row, row);
 664                 first = row+1;
 665                 while ((off = isl_seq_first_non_zero(mat->row[row]+first,
 666                                                     mat->n_col-first)) != -1) {
 667                         first += off;
 668                         isl_int_fdiv_q(a, mat->row[row][first],
 669                                                     mat->row[row][row]);
 670                         subtract(mat, &inv, NULL, row, row, first, a);
 671                         if (!isl_int_is_zero(mat->row[row][first]))
 672                                 exchange(mat, &inv, NULL, row, row, first);
 673                         else
 674                                 ++first;
 675                 }
 676                 for (i = 0; i < row; ++i) {
 677                         if (isl_int_is_zero(mat->row[row][i]))
 678                                 continue;
 679                         isl_int_gcd(a, mat->row[row][row], mat->row[row][i]);
 680                         isl_int_divexact(b, mat->row[row][i], a);
 681                         isl_int_divexact(a, mat->row[row][row], a);
 682                         isl_int_neg(a, a);
 683                         isl_mat_col_combine(mat, i, a, i, b, row);
 684                         isl_mat_col_combine(inv, i, a, i, b, row);
 685                 }
 686         }
 687         isl_int_clear(b);
 688
 689         isl_int_set(a, mat->row[0][0]);
 690         for (row = 1; row < mat->n_row; ++row)
 691                 isl_int_lcm(a, a, mat->row[row][row]);
 692         if (isl_int_is_zero(a)){
 693                 isl_int_clear(a);
 694                 goto error;
 695         }
 696         for (row = 0; row < mat->n_row; ++row) {
 697                 isl_int_divexact(mat->row[row][row], a, mat->row[row][row]);
 698                 if (isl_int_is_one(mat->row[row][row]))
 699                         continue;
 700                 isl_mat_col_scale(inv, row, mat->row[row][row]);
 701         }
 702         isl_int_clear(a);
 703
 704         isl_mat_free(mat);
 705
 706         return inv;
 707 error:
 708         isl_mat_free(mat);
 709         return NULL;
 710 }
 711
 712 struct isl_mat *isl_mat_transpose(struct isl_mat *mat)
 713 {
 714         struct isl_mat *transpose = NULL;
 715         int i, j;
 716
 717         if (mat->n_col == mat->n_row) {
 718                 mat = isl_mat_cow(mat);
 719                 if (!mat)
 720                         return NULL;
 721                 for (i = 0; i < mat->n_row; ++i)
 722                         for (j = i + 1; j < mat->n_col; ++j)
 723                                 isl_int_swap(mat->row[i][j], mat->row[j][i]);
 724                 return mat;
 725         }
 726         transpose = isl_mat_alloc(mat->ctx, mat->n_col, mat->n_row);
 727         if (!transpose)
 728                 goto error;
 729         for (i = 0; i < mat->n_row; ++i)
 730                 for (j = 0; j < mat->n_col; ++j)
 731                         isl_int_set(transpose->row[j][i], mat->row[i][j]);
 732         isl_mat_free(mat);
 733         return transpose;
 734 error:
 735         isl_mat_free(mat);
 736         return NULL;
 737 }
 738
 739 struct isl_mat *isl_mat_swap_cols(struct isl_mat *mat, unsigned i, unsigned j)
 740 {
 741         int r;
 742
 743         mat = isl_mat_cow(mat);
 744         if (!mat)
 745                 return NULL;
 746         isl_assert(ctx, i < mat->n_col, goto error);
 747         isl_assert(ctx, j < mat->n_col, goto error);
 748
 749         for (r = 0; r < mat->n_row; ++r)
 750                 isl_int_swap(mat->row[r][i], mat->row[r][j]);
 751         return mat;
 752 error:
 753         isl_mat_free(mat);
 754         return NULL;
 755 }
 756
 757 struct isl_mat *isl_mat_swap_rows(struct isl_mat *mat, unsigned i, unsigned j)
 758 {
 759         isl_int *t;
 760
 761         if (!mat)
 762                 return NULL;
 763         mat = isl_mat_cow(mat);
 764         if (!mat)
 765                 return NULL;
 766         t = mat->row[i];
 767         mat->row[i] = mat->row[j];
 768         mat->row[j] = t;
 769         return mat;
 770 }
 771
 772 struct isl_mat *isl_mat_product(struct isl_mat *left, struct isl_mat *right)
 773 {
 774         int i, j, k;
 775         struct isl_mat *prod;
 776
 777         if (!left || !right)
 778                 goto error;
 779         isl_assert(ctx, left->n_col == right->n_row, goto error);
 780         prod = isl_mat_alloc(left->ctx, left->n_row, right->n_col);
 781         if (!prod)
 782                 goto error;
 783         if (left->n_col == 0) {
 784                 for (i = 0; i < prod->n_row; ++i)
 785                         isl_seq_clr(prod->row[i], prod->n_col);
 786                 return prod;
 787         }
 788         for (i = 0; i < prod->n_row; ++i) {
 789                 for (j = 0; j < prod->n_col; ++j) {
 790                         isl_int_mul(prod->row[i][j],
 791                                     left->row[i][0], right->row[0][j]);
 792                         for (k = 1; k < left->n_col; ++k)
 793                                 isl_int_addmul(prod->row[i][j],
 794                                             left->row[i][k], right->row[k][j]);
 795                 }
 796         }
 797         isl_mat_free(left);
 798         isl_mat_free(right);
 799         return prod;
 800 error:
 801         isl_mat_free(left);
 802         isl_mat_free(right);
 803         return NULL;
 804 }
 805
 806 /* Replace the variables x in the rows q by x' given by x = M x',
 807  * with M the matrix mat.
 808  *
 809  * If the number of new variables is greater than the original
 810  * number of variables, then the rows q have already been
 811  * preextended.  If the new number is smaller, then the coefficients
 812  * of the divs, which are not changed, need to be shifted down.
 813  * The row q may be the equalities, the inequalities or the
 814  * div expressions.  In the latter case, has_div is true and
 815  * we need to take into account the extra denominator column.
 816  */
 817 static int preimage(struct isl_ctx *ctx, isl_int **q, unsigned n,
 818         unsigned n_div, int has_div, struct isl_mat *mat)
 819 {
 820         int i;
 821         struct isl_mat *t;
 822         int e;
 823
 824         if (mat->n_col >= mat->n_row)
 825                 e = 0;
 826         else
 827                 e = mat->n_row - mat->n_col;
 828         if (has_div)
 829                 for (i = 0; i < n; ++i)
 830                         isl_int_mul(q[i][0], q[i][0], mat->row[0][0]);
 831         t = isl_mat_sub_alloc(mat->ctx, q, 0, n, has_div, mat->n_row);
 832         t = isl_mat_product(t, mat);
 833         if (!t)
 834                 return -1;
 835         for (i = 0; i < n; ++i) {
 836                 isl_seq_swp_or_cpy(q[i] + has_div, t->row[i], t->n_col);
 837                 isl_seq_cpy(q[i] + has_div + t->n_col,
 838                             q[i] + has_div + t->n_col + e, n_div);
 839                 isl_seq_clr(q[i] + has_div + t->n_col + n_div, e);
 840         }
 841         isl_mat_free(t);
 842         return 0;
 843 }
 844
 845 /* Replace the variables x in bset by x' given by x = M x', with
 846  * M the matrix mat.
 847  *
 848  * If there are fewer variables x' then there are x, then we perform
 849  * the transformation in place, which that, in principle,
 850  * this frees up some extra variables as the number
 851  * of columns remains constant, but we would have to extend
 852  * the div array too as the number of rows in this array is assumed
 853  * to be equal to extra.
 854  */
 855 struct isl_basic_set *isl_basic_set_preimage(struct isl_basic_set *bset,
 856         struct isl_mat *mat)
 857 {
 858         struct isl_ctx *ctx;
 859
 860         if (!bset || !mat)
 861                 goto error;
 862
 863         ctx = bset->ctx;
 864         bset = isl_basic_set_cow(bset);
 865         if (!bset)
 866                 goto error;
 867
 868         isl_assert(ctx, bset->dim->nparam == 0, goto error);
 869         isl_assert(ctx, 1+bset->dim->n_out == mat->n_row, goto error);
 870
 871         if (mat->n_col > mat->n_row)
 872                 bset = isl_basic_set_extend(bset, 0, mat->n_col-1, 0,
 873                                                 0, 0);
 874         else if (mat->n_col < mat->n_row) {
 875                 bset->dim = isl_dim_cow(bset->dim);
 876                 if (!bset->dim)
 877                         goto error;
 878                 bset->dim->n_out -= mat->n_row - mat->n_col;
 879         }
 880
 881         if (preimage(ctx, bset->eq, bset->n_eq, bset->n_div, 0,
 882                         isl_mat_copy(mat)) < 0)
 883                 goto error;
 884
 885         if (preimage(ctx, bset->ineq, bset->n_ineq, bset->n_div, 0,
 886                         isl_mat_copy(mat)) < 0)
 887                 goto error;
 888
 889         if (preimage(ctx, bset->div, bset->n_div, bset->n_div, 1, mat) < 0)
 890                 goto error2;
 891
 892         ISL_F_CLR(bset, ISL_BASIC_SET_NO_IMPLICIT);
 893         ISL_F_CLR(bset, ISL_BASIC_SET_NO_REDUNDANT);
 894         ISL_F_CLR(bset, ISL_BASIC_SET_NORMALIZED);
 895         ISL_F_CLR(bset, ISL_BASIC_SET_NORMALIZED_DIVS);
 896         ISL_F_CLR(bset, ISL_BASIC_SET_ALL_EQUALITIES);
 897
 898         bset = isl_basic_set_simplify(bset);
 899         bset = isl_basic_set_finalize(bset);
 900
 901         return bset;
 902 error:
 903         isl_mat_free(mat);
 904 error2:
 905         isl_basic_set_free(bset);
 906         return NULL;
 907 }
 908
 909 struct isl_set *isl_set_preimage(struct isl_set *set, struct isl_mat *mat)
 910 {
 911         struct isl_ctx *ctx;
 912         int i;
 913
 914         set = isl_set_cow(set);
 915         if (!set)
 916                 return NULL;
 917
 918         ctx = set->ctx;
 919         for (i = 0; i < set->n; ++i) {
 920                 set->p[i] = isl_basic_set_preimage(set->p[i],
 921                                                     isl_mat_copy(mat));
 922                 if (!set->p[i])
 923                         goto error;
 924         }
 925         if (mat->n_col != mat->n_row) {
 926                 set->dim = isl_dim_cow(set->dim);
 927                 if (!set->dim)
 928                         goto error;
 929                 set->dim->n_out += mat->n_col;
 930                 set->dim->n_out -= mat->n_row;
 931         }
 932         isl_mat_free(mat);
 933         ISL_F_CLR(set, ISL_SET_NORMALIZED);
 934         return set;
 935 error:
 936         isl_set_free(set);
 937         isl_mat_free(mat);
 938         return NULL;
 939 }
 940
 941 void isl_mat_dump(struct isl_mat *mat, FILE *out, int indent)
 942 {
 943         int i, j;
 944
 945         if (!mat) {
 946                 fprintf(out, "%*snull mat\n", indent, "");
 947                 return;
 948         }
 949
 950         if (mat->n_row == 0)
 951                 fprintf(out, "%*s[]\n", indent, "");
 952
 953         for (i = 0; i < mat->n_row; ++i) {
 954                 if (!i)
 955                         fprintf(out, "%*s[[", indent, "");
 956                 else
 957                         fprintf(out, "%*s[", indent+1, "");
 958                 for (j = 0; j < mat->n_col; ++j) {
 959                         if (j)
 960                             fprintf(out, ",");
 961                         isl_int_print(out, mat->row[i][j], 0);
 962                 }
 963                 if (i == mat->n_row-1)
 964                         fprintf(out, "]]\n");
 965                 else
 966                         fprintf(out, "]\n");
 967         }
 968 }
 969
 970 struct isl_mat *isl_mat_drop_cols(struct isl_mat *mat, unsigned col, unsigned n)
 971 {
 972         int r;
 973
 974         mat = isl_mat_cow(mat);
 975         if (!mat)
 976                 return NULL;
 977
 978         if (col != mat->n_col-n) {
 979                 for (r = 0; r < mat->n_row; ++r)
 980                         isl_seq_cpy(mat->row[r]+col, mat->row[r]+col+n,
 981                                         mat->n_col - col - n);
 982         }
 983         mat->n_col -= n;
 984         return mat;
 985 }
 986
 987 struct isl_mat *isl_mat_drop_rows(struct isl_mat *mat, unsigned row, unsigned n)
 988 {
 989         int r;
 990
 991         mat = isl_mat_cow(mat);
 992         if (!mat)
 993                 return NULL;
 994
 995         for (r = row; r+n < mat->n_row; ++r)
 996                 mat->row[r] = mat->row[r+n];
 997
 998         mat->n_row -= n;
 999         return mat;
1000 }
1001
1002 void isl_mat_col_submul(struct isl_mat *mat,
1003                         int dst_col, isl_int f, int src_col)
1004 {
1005         int i;
1006
1007         for (i = 0; i < mat->n_row; ++i)
1008                 isl_int_submul(mat->row[i][dst_col], f, mat->row[i][src_col]);
1009 }
1010
1011 void isl_mat_col_mul(struct isl_mat *mat, int dst_col, isl_int f, int src_col)
1012 {
1013         int i;
1014
1015         for (i = 0; i < mat->n_row; ++i)
1016                 isl_int_mul(mat->row[i][dst_col], f, mat->row[i][src_col]);
1017 }
1018
1019 struct isl_mat *isl_mat_unimodular_complete(struct isl_mat *M, int row)
1020 {
1021         int r;
1022         struct isl_mat *H = NULL, *Q = NULL;
1023
1024         isl_assert(ctx, M->n_row == M->n_col, goto error);
1025         M->n_row = row;
1026         H = isl_mat_left_hermite(isl_mat_copy(M), 0, NULL, &Q);
1027         M->n_row = M->n_col;
1028         if (!H)
1029                 goto error;
1030         for (r = 0; r < row; ++r)
1031                 isl_assert(ctx, isl_int_is_one(H->row[r][r]), goto error);
1032         for (r = row; r < M->n_row; ++r)
1033                 isl_seq_cpy(M->row[r], Q->row[r], M->n_col);
1034         isl_mat_free(H);
1035         isl_mat_free(Q);
1036         return M;
1037 error:
1038         isl_mat_free(H);
1039         isl_mat_free(Q);
1040         isl_mat_free(M);
1041         return NULL;
1042 }