C_LAPACK: Fixes to make it compile with MSVC (#3605)
[platform/upstream/openblas.git] / lapack-netlib / SRC / zbdsqr.c
1 #include <math.h>
2 #include <stdlib.h>
3 #include <string.h>
4 #include <stdio.h>
5 #include <complex.h>
6 #ifdef complex
7 #undef complex
8 #endif
9 #ifdef I
10 #undef I
11 #endif
12
13 #if defined(_WIN64)
14 typedef long long BLASLONG;
15 typedef unsigned long long BLASULONG;
16 #else
17 typedef long BLASLONG;
18 typedef unsigned long BLASULONG;
19 #endif
20
21 #ifdef LAPACK_ILP64
22 typedef BLASLONG blasint;
23 #if defined(_WIN64)
24 #define blasabs(x) llabs(x)
25 #else
26 #define blasabs(x) labs(x)
27 #endif
28 #else
29 typedef int blasint;
30 #define blasabs(x) abs(x)
31 #endif
32
33 typedef blasint integer;
34
35 typedef unsigned int uinteger;
36 typedef char *address;
37 typedef short int shortint;
38 typedef float real;
39 typedef double doublereal;
40 typedef struct { real r, i; } complex;
41 typedef struct { doublereal r, i; } doublecomplex;
42 #ifdef _MSC_VER
43 static inline _Fcomplex Cf(complex *z) {_Fcomplex zz={z->r , z->i}; return zz;}
44 static inline _Dcomplex Cd(doublecomplex *z) {_Dcomplex zz={z->r , z->i};return zz;}
45 static inline _Fcomplex * _pCf(complex *z) {return (_Fcomplex*)z;}
46 static inline _Dcomplex * _pCd(doublecomplex *z) {return (_Dcomplex*)z;}
47 #else
48 static inline _Complex float Cf(complex *z) {return z->r + z->i*_Complex_I;}
49 static inline _Complex double Cd(doublecomplex *z) {return z->r + z->i*_Complex_I;}
50 static inline _Complex float * _pCf(complex *z) {return (_Complex float*)z;}
51 static inline _Complex double * _pCd(doublecomplex *z) {return (_Complex double*)z;}
52 #endif
53 #define pCf(z) (*_pCf(z))
54 #define pCd(z) (*_pCd(z))
55 typedef int logical;
56 typedef short int shortlogical;
57 typedef char logical1;
58 typedef char integer1;
59
60 #define TRUE_ (1)
61 #define FALSE_ (0)
62
63 /* Extern is for use with -E */
64 #ifndef Extern
65 #define Extern extern
66 #endif
67
68 /* I/O stuff */
69
70 typedef int flag;
71 typedef int ftnlen;
72 typedef int ftnint;
73
74 /*external read, write*/
75 typedef struct
76 {       flag cierr;
77         ftnint ciunit;
78         flag ciend;
79         char *cifmt;
80         ftnint cirec;
81 } cilist;
82
83 /*internal read, write*/
84 typedef struct
85 {       flag icierr;
86         char *iciunit;
87         flag iciend;
88         char *icifmt;
89         ftnint icirlen;
90         ftnint icirnum;
91 } icilist;
92
93 /*open*/
94 typedef struct
95 {       flag oerr;
96         ftnint ounit;
97         char *ofnm;
98         ftnlen ofnmlen;
99         char *osta;
100         char *oacc;
101         char *ofm;
102         ftnint orl;
103         char *oblnk;
104 } olist;
105
106 /*close*/
107 typedef struct
108 {       flag cerr;
109         ftnint cunit;
110         char *csta;
111 } cllist;
112
113 /*rewind, backspace, endfile*/
114 typedef struct
115 {       flag aerr;
116         ftnint aunit;
117 } alist;
118
119 /* inquire */
120 typedef struct
121 {       flag inerr;
122         ftnint inunit;
123         char *infile;
124         ftnlen infilen;
125         ftnint  *inex;  /*parameters in standard's order*/
126         ftnint  *inopen;
127         ftnint  *innum;
128         ftnint  *innamed;
129         char    *inname;
130         ftnlen  innamlen;
131         char    *inacc;
132         ftnlen  inacclen;
133         char    *inseq;
134         ftnlen  inseqlen;
135         char    *indir;
136         ftnlen  indirlen;
137         char    *infmt;
138         ftnlen  infmtlen;
139         char    *inform;
140         ftnint  informlen;
141         char    *inunf;
142         ftnlen  inunflen;
143         ftnint  *inrecl;
144         ftnint  *innrec;
145         char    *inblank;
146         ftnlen  inblanklen;
147 } inlist;
148
149 #define VOID void
150
151 union Multitype {       /* for multiple entry points */
152         integer1 g;
153         shortint h;
154         integer i;
155         /* longint j; */
156         real r;
157         doublereal d;
158         complex c;
159         doublecomplex z;
160         };
161
162 typedef union Multitype Multitype;
163
164 struct Vardesc {        /* for Namelist */
165         char *name;
166         char *addr;
167         ftnlen *dims;
168         int  type;
169         };
170 typedef struct Vardesc Vardesc;
171
172 struct Namelist {
173         char *name;
174         Vardesc **vars;
175         int nvars;
176         };
177 typedef struct Namelist Namelist;
178
179 #define abs(x) ((x) >= 0 ? (x) : -(x))
180 #define dabs(x) (fabs(x))
181 #define f2cmin(a,b) ((a) <= (b) ? (a) : (b))
182 #define f2cmax(a,b) ((a) >= (b) ? (a) : (b))
183 #define dmin(a,b) (f2cmin(a,b))
184 #define dmax(a,b) (f2cmax(a,b))
185 #define bit_test(a,b)   ((a) >> (b) & 1)
186 #define bit_clear(a,b)  ((a) & ~((uinteger)1 << (b)))
187 #define bit_set(a,b)    ((a) |  ((uinteger)1 << (b)))
188
189 #define abort_() { sig_die("Fortran abort routine called", 1); }
190 #define c_abs(z) (cabsf(Cf(z)))
191 #define c_cos(R,Z) { pCf(R)=ccos(Cf(Z)); }
192 #ifdef _MSC_VER
193 #define c_div(c, a, b) {Cf(c)._Val[0] = (Cf(a)._Val[0]/Cf(b)._Val[0]); Cf(c)._Val[1]=(Cf(a)._Val[1]/Cf(b)._Val[1]);}
194 #define z_div(c, a, b) {Cd(c)._Val[0] = (Cd(a)._Val[0]/Cd(b)._Val[0]); Cd(c)._Val[1]=(Cd(a)._Val[1]/df(b)._Val[1]);}
195 #else
196 #define c_div(c, a, b) {pCf(c) = Cf(a)/Cf(b);}
197 #define z_div(c, a, b) {pCd(c) = Cd(a)/Cd(b);}
198 #endif
199 #define c_exp(R, Z) {pCf(R) = cexpf(Cf(Z));}
200 #define c_log(R, Z) {pCf(R) = clogf(Cf(Z));}
201 #define c_sin(R, Z) {pCf(R) = csinf(Cf(Z));}
202 //#define c_sqrt(R, Z) {*(R) = csqrtf(Cf(Z));}
203 #define c_sqrt(R, Z) {pCf(R) = csqrtf(Cf(Z));}
204 #define d_abs(x) (fabs(*(x)))
205 #define d_acos(x) (acos(*(x)))
206 #define d_asin(x) (asin(*(x)))
207 #define d_atan(x) (atan(*(x)))
208 #define d_atn2(x, y) (atan2(*(x),*(y)))
209 #define d_cnjg(R, Z) { pCd(R) = conj(Cd(Z)); }
210 #define r_cnjg(R, Z) { pCf(R) = conjf(Cf(Z)); }
211 #define d_cos(x) (cos(*(x)))
212 #define d_cosh(x) (cosh(*(x)))
213 #define d_dim(__a, __b) ( *(__a) > *(__b) ? *(__a) - *(__b) : 0.0 )
214 #define d_exp(x) (exp(*(x)))
215 #define d_imag(z) (cimag(Cd(z)))
216 #define r_imag(z) (cimagf(Cf(z)))
217 #define d_int(__x) (*(__x)>0 ? floor(*(__x)) : -floor(- *(__x)))
218 #define r_int(__x) (*(__x)>0 ? floor(*(__x)) : -floor(- *(__x)))
219 #define d_lg10(x) ( 0.43429448190325182765 * log(*(x)) )
220 #define r_lg10(x) ( 0.43429448190325182765 * log(*(x)) )
221 #define d_log(x) (log(*(x)))
222 #define d_mod(x, y) (fmod(*(x), *(y)))
223 #define u_nint(__x) ((__x)>=0 ? floor((__x) + .5) : -floor(.5 - (__x)))
224 #define d_nint(x) u_nint(*(x))
225 #define u_sign(__a,__b) ((__b) >= 0 ? ((__a) >= 0 ? (__a) : -(__a)) : -((__a) >= 0 ? (__a) : -(__a)))
226 #define d_sign(a,b) u_sign(*(a),*(b))
227 #define r_sign(a,b) u_sign(*(a),*(b))
228 #define d_sin(x) (sin(*(x)))
229 #define d_sinh(x) (sinh(*(x)))
230 #define d_sqrt(x) (sqrt(*(x)))
231 #define d_tan(x) (tan(*(x)))
232 #define d_tanh(x) (tanh(*(x)))
233 #define i_abs(x) abs(*(x))
234 #define i_dnnt(x) ((integer)u_nint(*(x)))
235 #define i_len(s, n) (n)
236 #define i_nint(x) ((integer)u_nint(*(x)))
237 #define i_sign(a,b) ((integer)u_sign((integer)*(a),(integer)*(b)))
238 #define pow_dd(ap, bp) ( pow(*(ap), *(bp)))
239 #define pow_si(B,E) spow_ui(*(B),*(E))
240 #define pow_ri(B,E) spow_ui(*(B),*(E))
241 #define pow_di(B,E) dpow_ui(*(B),*(E))
242 #define pow_zi(p, a, b) {pCd(p) = zpow_ui(Cd(a), *(b));}
243 #define pow_ci(p, a, b) {pCf(p) = cpow_ui(Cf(a), *(b));}
244 #define pow_zz(R,A,B) {pCd(R) = cpow(Cd(A),*(B));}
245 #define s_cat(lpp, rpp, rnp, np, llp) {         ftnlen i, nc, ll; char *f__rp, *lp;     ll = (llp); lp = (lpp);         for(i=0; i < (int)*(np); ++i) {                 nc = ll;                if((rnp)[i] < nc) nc = (rnp)[i];                ll -= nc;               f__rp = (rpp)[i];               while(--nc >= 0) *lp++ = *(f__rp)++;         }  while(--ll >= 0) *lp++ = ' '; }
246 #define s_cmp(a,b,c,d) ((integer)strncmp((a),(b),f2cmin((c),(d))))
247 #define s_copy(A,B,C,D) { int __i,__m; for (__i=0, __m=f2cmin((C),(D)); __i<__m && (B)[__i] != 0; ++__i) (A)[__i] = (B)[__i]; }
248 #define sig_die(s, kill) { exit(1); }
249 #define s_stop(s, n) {exit(0);}
250 static char junk[] = "\n@(#)LIBF77 VERSION 19990503\n";
251 #define z_abs(z) (cabs(Cd(z)))
252 #define z_exp(R, Z) {pCd(R) = cexp(Cd(Z));}
253 #define z_sqrt(R, Z) {pCd(R) = csqrt(Cd(Z));}
254 #define myexit_() break;
255 #define mycycle() continue;
256 #define myceiling(w) {ceil(w)}
257 #define myhuge(w) {HUGE_VAL}
258 //#define mymaxloc_(w,s,e,n) {if (sizeof(*(w)) == sizeof(double)) dmaxloc_((w),*(s),*(e),n); else dmaxloc_((w),*(s),*(e),n);}
259 #define mymaxloc(w,s,e,n) {dmaxloc_(w,*(s),*(e),n)}
260
261 /* procedure parameter types for -A and -C++ */
262
263 #define F2C_proc_par_types 1
264 #ifdef __cplusplus
265 typedef logical (*L_fp)(...);
266 #else
267 typedef logical (*L_fp)();
268 #endif
269
270 static float spow_ui(float x, integer n) {
271         float pow=1.0; unsigned long int u;
272         if(n != 0) {
273                 if(n < 0) n = -n, x = 1/x;
274                 for(u = n; ; ) {
275                         if(u & 01) pow *= x;
276                         if(u >>= 1) x *= x;
277                         else break;
278                 }
279         }
280         return pow;
281 }
282 static double dpow_ui(double x, integer n) {
283         double pow=1.0; unsigned long int u;
284         if(n != 0) {
285                 if(n < 0) n = -n, x = 1/x;
286                 for(u = n; ; ) {
287                         if(u & 01) pow *= x;
288                         if(u >>= 1) x *= x;
289                         else break;
290                 }
291         }
292         return pow;
293 }
294 #ifdef _MSC_VER
295 static _Fcomplex cpow_ui(complex x, integer n) {
296         complex pow={1.0,0.0}; unsigned long int u;
297                 if(n != 0) {
298                 if(n < 0) n = -n, x.r = 1/x.r, x.i=1/x.i;
299                 for(u = n; ; ) {
300                         if(u & 01) pow.r *= x.r, pow.i *= x.i;
301                         if(u >>= 1) x.r *= x.r, x.i *= x.i;
302                         else break;
303                 }
304         }
305         _Fcomplex p={pow.r, pow.i};
306         return p;
307 }
308 #else
309 static _Complex float cpow_ui(_Complex float x, integer n) {
310         _Complex float pow=1.0; unsigned long int u;
311         if(n != 0) {
312                 if(n < 0) n = -n, x = 1/x;
313                 for(u = n; ; ) {
314                         if(u & 01) pow *= x;
315                         if(u >>= 1) x *= x;
316                         else break;
317                 }
318         }
319         return pow;
320 }
321 #endif
322 #ifdef _MSC_VER
323 static _Dcomplex zpow_ui(_Dcomplex x, integer n) {
324         _Dcomplex pow={1.0,0.0}; unsigned long int u;
325         if(n != 0) {
326                 if(n < 0) n = -n, x._Val[0] = 1/x._Val[0], x._Val[1] =1/x._Val[1];
327                 for(u = n; ; ) {
328                         if(u & 01) pow._Val[0] *= x._Val[0], pow._Val[1] *= x._Val[1];
329                         if(u >>= 1) x._Val[0] *= x._Val[0], x._Val[1] *= x._Val[1];
330                         else break;
331                 }
332         }
333         _Dcomplex p = {pow._Val[0], pow._Val[1]};
334         return p;
335 }
336 #else
337 static _Complex double zpow_ui(_Complex double x, integer n) {
338         _Complex double pow=1.0; unsigned long int u;
339         if(n != 0) {
340                 if(n < 0) n = -n, x = 1/x;
341                 for(u = n; ; ) {
342                         if(u & 01) pow *= x;
343                         if(u >>= 1) x *= x;
344                         else break;
345                 }
346         }
347         return pow;
348 }
349 #endif
350 static integer pow_ii(integer x, integer n) {
351         integer pow; unsigned long int u;
352         if (n <= 0) {
353                 if (n == 0 || x == 1) pow = 1;
354                 else if (x != -1) pow = x == 0 ? 1/x : 0;
355                 else n = -n;
356         }
357         if ((n > 0) || !(n == 0 || x == 1 || x != -1)) {
358                 u = n;
359                 for(pow = 1; ; ) {
360                         if(u & 01) pow *= x;
361                         if(u >>= 1) x *= x;
362                         else break;
363                 }
364         }
365         return pow;
366 }
367 static integer dmaxloc_(double *w, integer s, integer e, integer *n)
368 {
369         double m; integer i, mi;
370         for(m=w[s-1], mi=s, i=s+1; i<=e; i++)
371                 if (w[i-1]>m) mi=i ,m=w[i-1];
372         return mi-s+1;
373 }
374 static integer smaxloc_(float *w, integer s, integer e, integer *n)
375 {
376         float m; integer i, mi;
377         for(m=w[s-1], mi=s, i=s+1; i<=e; i++)
378                 if (w[i-1]>m) mi=i ,m=w[i-1];
379         return mi-s+1;
380 }
381 static inline void cdotc_(complex *z, integer *n_, complex *x, integer *incx_, complex *y, integer *incy_) {
382         integer n = *n_, incx = *incx_, incy = *incy_, i;
383 #ifdef _MSC_VER
384         _Fcomplex zdotc = {0.0, 0.0};
385         if (incx == 1 && incy == 1) {
386                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
387                         zdotc._Val[0] += conjf(Cf(&x[i]))._Val[0] * Cf(&y[i])._Val[0];
388                         zdotc._Val[1] += conjf(Cf(&x[i]))._Val[1] * Cf(&y[i])._Val[1];
389                 }
390         } else {
391                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
392                         zdotc._Val[0] += conjf(Cf(&x[i*incx]))._Val[0] * Cf(&y[i*incy])._Val[0];
393                         zdotc._Val[1] += conjf(Cf(&x[i*incx]))._Val[1] * Cf(&y[i*incy])._Val[1];
394                 }
395         }
396         pCf(z) = zdotc;
397 }
398 #else
399         _Complex float zdotc = 0.0;
400         if (incx == 1 && incy == 1) {
401                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
402                         zdotc += conjf(Cf(&x[i])) * Cf(&y[i]);
403                 }
404         } else {
405                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
406                         zdotc += conjf(Cf(&x[i*incx])) * Cf(&y[i*incy]);
407                 }
408         }
409         pCf(z) = zdotc;
410 }
411 #endif
412 static inline void zdotc_(doublecomplex *z, integer *n_, doublecomplex *x, integer *incx_, doublecomplex *y, integer *incy_) {
413         integer n = *n_, incx = *incx_, incy = *incy_, i;
414 #ifdef _MSC_VER
415         _Dcomplex zdotc = {0.0, 0.0};
416         if (incx == 1 && incy == 1) {
417                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
418                         zdotc._Val[0] += conj(Cd(&x[i]))._Val[0] * Cd(&y[i])._Val[0];
419                         zdotc._Val[1] += conj(Cd(&x[i]))._Val[1] * Cd(&y[i])._Val[1];
420                 }
421         } else {
422                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
423                         zdotc._Val[0] += conj(Cd(&x[i*incx]))._Val[0] * Cd(&y[i*incy])._Val[0];
424                         zdotc._Val[1] += conj(Cd(&x[i*incx]))._Val[1] * Cd(&y[i*incy])._Val[1];
425                 }
426         }
427         pCd(z) = zdotc;
428 }
429 #else
430         _Complex double zdotc = 0.0;
431         if (incx == 1 && incy == 1) {
432                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
433                         zdotc += conj(Cd(&x[i])) * Cd(&y[i]);
434                 }
435         } else {
436                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
437                         zdotc += conj(Cd(&x[i*incx])) * Cd(&y[i*incy]);
438                 }
439         }
440         pCd(z) = zdotc;
441 }
442 #endif  
443 static inline void cdotu_(complex *z, integer *n_, complex *x, integer *incx_, complex *y, integer *incy_) {
444         integer n = *n_, incx = *incx_, incy = *incy_, i;
445 #ifdef _MSC_VER
446         _Fcomplex zdotc = {0.0, 0.0};
447         if (incx == 1 && incy == 1) {
448                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
449                         zdotc._Val[0] += Cf(&x[i])._Val[0] * Cf(&y[i])._Val[0];
450                         zdotc._Val[1] += Cf(&x[i])._Val[1] * Cf(&y[i])._Val[1];
451                 }
452         } else {
453                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
454                         zdotc._Val[0] += Cf(&x[i*incx])._Val[0] * Cf(&y[i*incy])._Val[0];
455                         zdotc._Val[1] += Cf(&x[i*incx])._Val[1] * Cf(&y[i*incy])._Val[1];
456                 }
457         }
458         pCf(z) = zdotc;
459 }
460 #else
461         _Complex float zdotc = 0.0;
462         if (incx == 1 && incy == 1) {
463                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
464                         zdotc += Cf(&x[i]) * Cf(&y[i]);
465                 }
466         } else {
467                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
468                         zdotc += Cf(&x[i*incx]) * Cf(&y[i*incy]);
469                 }
470         }
471         pCf(z) = zdotc;
472 }
473 #endif
474 static inline void zdotu_(doublecomplex *z, integer *n_, doublecomplex *x, integer *incx_, doublecomplex *y, integer *incy_) {
475         integer n = *n_, incx = *incx_, incy = *incy_, i;
476 #ifdef _MSC_VER
477         _Dcomplex zdotc = {0.0, 0.0};
478         if (incx == 1 && incy == 1) {
479                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
480                         zdotc._Val[0] += Cd(&x[i])._Val[0] * Cd(&y[i])._Val[0];
481                         zdotc._Val[1] += Cd(&x[i])._Val[1] * Cd(&y[i])._Val[1];
482                 }
483         } else {
484                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
485                         zdotc._Val[0] += Cd(&x[i*incx])._Val[0] * Cd(&y[i*incy])._Val[0];
486                         zdotc._Val[1] += Cd(&x[i*incx])._Val[1] * Cd(&y[i*incy])._Val[1];
487                 }
488         }
489         pCd(z) = zdotc;
490 }
491 #else
492         _Complex double zdotc = 0.0;
493         if (incx == 1 && incy == 1) {
494                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
495                         zdotc += Cd(&x[i]) * Cd(&y[i]);
496                 }
497         } else {
498                 for (i=0;i<n;i++) { /* zdotc = zdotc + dconjg(x(i))* y(i) */
499                         zdotc += Cd(&x[i*incx]) * Cd(&y[i*incy]);
500                 }
501         }
502         pCd(z) = zdotc;
503 }
504 #endif
505 /*  -- translated by f2c (version 20000121).
506    You must link the resulting object file with the libraries:
507         -lf2c -lm   (in that order)
508 */
509
510
511
512
513 /* Table of constant values */
514
515 static doublereal c_b15 = -.125;
516 static integer c__1 = 1;
517 static doublereal c_b49 = 1.;
518 static doublereal c_b72 = -1.;
519
520 /* > \brief \b ZBDSQR */
521
522 /*  =========== DOCUMENTATION =========== */
523
524 /* Online html documentation available at */
525 /*            http://www.netlib.org/lapack/explore-html/ */
526
527 /* > \htmlonly */
528 /* > Download ZBDSQR + dependencies */
529 /* > <a href="http://www.netlib.org/cgi-bin/netlibfiles.tgz?format=tgz&filename=/lapack/lapack_routine/zbdsqr.
530 f"> */
531 /* > [TGZ]</a> */
532 /* > <a href="http://www.netlib.org/cgi-bin/netlibfiles.zip?format=zip&filename=/lapack/lapack_routine/zbdsqr.
533 f"> */
534 /* > [ZIP]</a> */
535 /* > <a href="http://www.netlib.org/cgi-bin/netlibfiles.txt?format=txt&filename=/lapack/lapack_routine/zbdsqr.
536 f"> */
537 /* > [TXT]</a> */
538 /* > \endhtmlonly */
539
540 /*  Definition: */
541 /*  =========== */
542
543 /*       SUBROUTINE ZBDSQR( UPLO, N, NCVT, NRU, NCC, D, E, VT, LDVT, U, */
544 /*                          LDU, C, LDC, RWORK, INFO ) */
545
546 /*       CHARACTER          UPLO */
547 /*       INTEGER            INFO, LDC, LDU, LDVT, N, NCC, NCVT, NRU */
548 /*       DOUBLE PRECISION   D( * ), E( * ), RWORK( * ) */
549 /*       COMPLEX*16         C( LDC, * ), U( LDU, * ), VT( LDVT, * ) */
550
551
552 /* > \par Purpose: */
553 /*  ============= */
554 /* > */
555 /* > \verbatim */
556 /* > */
557 /* > ZBDSQR computes the singular values and, optionally, the right and/or */
558 /* > left singular vectors from the singular value decomposition (SVD) of */
559 /* > a real N-by-N (upper or lower) bidiagonal matrix B using the implicit */
560 /* > zero-shift QR algorithm.  The SVD of B has the form */
561 /* > */
562 /* >    B = Q * S * P**H */
563 /* > */
564 /* > where S is the diagonal matrix of singular values, Q is an orthogonal */
565 /* > matrix of left singular vectors, and P is an orthogonal matrix of */
566 /* > right singular vectors.  If left singular vectors are requested, this */
567 /* > subroutine actually returns U*Q instead of Q, and, if right singular */
568 /* > vectors are requested, this subroutine returns P**H*VT instead of */
569 /* > P**H, for given complex input matrices U and VT.  When U and VT are */
570 /* > the unitary matrices that reduce a general matrix A to bidiagonal */
571 /* > form: A = U*B*VT, as computed by ZGEBRD, then */
572 /* > */
573 /* >    A = (U*Q) * S * (P**H*VT) */
574 /* > */
575 /* > is the SVD of A.  Optionally, the subroutine may also compute Q**H*C */
576 /* > for a given complex input matrix C. */
577 /* > */
578 /* > See "Computing  Small Singular Values of Bidiagonal Matrices With */
579 /* > Guaranteed High Relative Accuracy," by J. Demmel and W. Kahan, */
580 /* > LAPACK Working Note #3 (or SIAM J. Sci. Statist. Comput. vol. 11, */
581 /* > no. 5, pp. 873-912, Sept 1990) and */
582 /* > "Accurate singular values and differential qd algorithms," by */
583 /* > B. Parlett and V. Fernando, Technical Report CPAM-554, Mathematics */
584 /* > Department, University of California at Berkeley, July 1992 */
585 /* > for a detailed description of the algorithm. */
586 /* > \endverbatim */
587
588 /*  Arguments: */
589 /*  ========== */
590
591 /* > \param[in] UPLO */
592 /* > \verbatim */
593 /* >          UPLO is CHARACTER*1 */
594 /* >          = 'U':  B is upper bidiagonal; */
595 /* >          = 'L':  B is lower bidiagonal. */
596 /* > \endverbatim */
597 /* > */
598 /* > \param[in] N */
599 /* > \verbatim */
600 /* >          N is INTEGER */
601 /* >          The order of the matrix B.  N >= 0. */
602 /* > \endverbatim */
603 /* > */
604 /* > \param[in] NCVT */
605 /* > \verbatim */
606 /* >          NCVT is INTEGER */
607 /* >          The number of columns of the matrix VT. NCVT >= 0. */
608 /* > \endverbatim */
609 /* > */
610 /* > \param[in] NRU */
611 /* > \verbatim */
612 /* >          NRU is INTEGER */
613 /* >          The number of rows of the matrix U. NRU >= 0. */
614 /* > \endverbatim */
615 /* > */
616 /* > \param[in] NCC */
617 /* > \verbatim */
618 /* >          NCC is INTEGER */
619 /* >          The number of columns of the matrix C. NCC >= 0. */
620 /* > \endverbatim */
621 /* > */
622 /* > \param[in,out] D */
623 /* > \verbatim */
624 /* >          D is DOUBLE PRECISION array, dimension (N) */
625 /* >          On entry, the n diagonal elements of the bidiagonal matrix B. */
626 /* >          On exit, if INFO=0, the singular values of B in decreasing */
627 /* >          order. */
628 /* > \endverbatim */
629 /* > */
630 /* > \param[in,out] E */
631 /* > \verbatim */
632 /* >          E is DOUBLE PRECISION array, dimension (N-1) */
633 /* >          On entry, the N-1 offdiagonal elements of the bidiagonal */
634 /* >          matrix B. */
635 /* >          On exit, if INFO = 0, E is destroyed; if INFO > 0, D and E */
636 /* >          will contain the diagonal and superdiagonal elements of a */
637 /* >          bidiagonal matrix orthogonally equivalent to the one given */
638 /* >          as input. */
639 /* > \endverbatim */
640 /* > */
641 /* > \param[in,out] VT */
642 /* > \verbatim */
643 /* >          VT is COMPLEX*16 array, dimension (LDVT, NCVT) */
644 /* >          On entry, an N-by-NCVT matrix VT. */
645 /* >          On exit, VT is overwritten by P**H * VT. */
646 /* >          Not referenced if NCVT = 0. */
647 /* > \endverbatim */
648 /* > */
649 /* > \param[in] LDVT */
650 /* > \verbatim */
651 /* >          LDVT is INTEGER */
652 /* >          The leading dimension of the array VT. */
653 /* >          LDVT >= f2cmax(1,N) if NCVT > 0; LDVT >= 1 if NCVT = 0. */
654 /* > \endverbatim */
655 /* > */
656 /* > \param[in,out] U */
657 /* > \verbatim */
658 /* >          U is COMPLEX*16 array, dimension (LDU, N) */
659 /* >          On entry, an NRU-by-N matrix U. */
660 /* >          On exit, U is overwritten by U * Q. */
661 /* >          Not referenced if NRU = 0. */
662 /* > \endverbatim */
663 /* > */
664 /* > \param[in] LDU */
665 /* > \verbatim */
666 /* >          LDU is INTEGER */
667 /* >          The leading dimension of the array U.  LDU >= f2cmax(1,NRU). */
668 /* > \endverbatim */
669 /* > */
670 /* > \param[in,out] C */
671 /* > \verbatim */
672 /* >          C is COMPLEX*16 array, dimension (LDC, NCC) */
673 /* >          On entry, an N-by-NCC matrix C. */
674 /* >          On exit, C is overwritten by Q**H * C. */
675 /* >          Not referenced if NCC = 0. */
676 /* > \endverbatim */
677 /* > */
678 /* > \param[in] LDC */
679 /* > \verbatim */
680 /* >          LDC is INTEGER */
681 /* >          The leading dimension of the array C. */
682 /* >          LDC >= f2cmax(1,N) if NCC > 0; LDC >=1 if NCC = 0. */
683 /* > \endverbatim */
684 /* > */
685 /* > \param[out] RWORK */
686 /* > \verbatim */
687 /* >          RWORK is DOUBLE PRECISION array, dimension (4*N) */
688 /* > \endverbatim */
689 /* > */
690 /* > \param[out] INFO */
691 /* > \verbatim */
692 /* >          INFO is INTEGER */
693 /* >          = 0:  successful exit */
694 /* >          < 0:  If INFO = -i, the i-th argument had an illegal value */
695 /* >          > 0:  the algorithm did not converge; D and E contain the */
696 /* >                elements of a bidiagonal matrix which is orthogonally */
697 /* >                similar to the input matrix B;  if INFO = i, i */
698 /* >                elements of E have not converged to zero. */
699 /* > \endverbatim */
700
701 /* > \par Internal Parameters: */
702 /*  ========================= */
703 /* > */
704 /* > \verbatim */
705 /* >  TOLMUL  DOUBLE PRECISION, default = f2cmax(10,f2cmin(100,EPS**(-1/8))) */
706 /* >          TOLMUL controls the convergence criterion of the QR loop. */
707 /* >          If it is positive, TOLMUL*EPS is the desired relative */
708 /* >             precision in the computed singular values. */
709 /* >          If it is negative, abs(TOLMUL*EPS*sigma_max) is the */
710 /* >             desired absolute accuracy in the computed singular */
711 /* >             values (corresponds to relative accuracy */
712 /* >             abs(TOLMUL*EPS) in the largest singular value. */
713 /* >          abs(TOLMUL) should be between 1 and 1/EPS, and preferably */
714 /* >             between 10 (for fast convergence) and .1/EPS */
715 /* >             (for there to be some accuracy in the results). */
716 /* >          Default is to lose at either one eighth or 2 of the */
717 /* >             available decimal digits in each computed singular value */
718 /* >             (whichever is smaller). */
719 /* > */
720 /* >  MAXITR  INTEGER, default = 6 */
721 /* >          MAXITR controls the maximum number of passes of the */
722 /* >          algorithm through its inner loop. The algorithms stops */
723 /* >          (and so fails to converge) if the number of passes */
724 /* >          through the inner loop exceeds MAXITR*N**2. */
725 /* > \endverbatim */
726
727 /*  Authors: */
728 /*  ======== */
729
730 /* > \author Univ. of Tennessee */
731 /* > \author Univ. of California Berkeley */
732 /* > \author Univ. of Colorado Denver */
733 /* > \author NAG Ltd. */
734
735 /* > \date December 2016 */
736
737 /* > \ingroup complex16OTHERcomputational */
738
739 /*  ===================================================================== */
740 /* Subroutine */ int zbdsqr_(char *uplo, integer *n, integer *ncvt, integer *
741         nru, integer *ncc, doublereal *d__, doublereal *e, doublecomplex *vt, 
742         integer *ldvt, doublecomplex *u, integer *ldu, doublecomplex *c__, 
743         integer *ldc, doublereal *rwork, integer *info)
744 {
745     /* System generated locals */
746     integer c_dim1, c_offset, u_dim1, u_offset, vt_dim1, vt_offset, i__1, 
747             i__2;
748     doublereal d__1, d__2, d__3, d__4;
749
750     /* Local variables */
751     doublereal abse;
752     integer idir;
753     doublereal abss;
754     integer oldm;
755     doublereal cosl;
756     integer isub, iter;
757     doublereal unfl, sinl, cosr, smin, smax, sinr;
758     extern /* Subroutine */ int dlas2_(doublereal *, doublereal *, doublereal 
759             *, doublereal *, doublereal *);
760     doublereal f, g, h__;
761     integer i__, j, m;
762     doublereal r__;
763     extern logical lsame_(char *, char *);
764     doublereal oldcs;
765     integer oldll;
766     doublereal shift, sigmn, oldsn;
767     integer maxit;
768     doublereal sminl, sigmx;
769     logical lower;
770     extern /* Subroutine */ int zlasr_(char *, char *, char *, integer *, 
771             integer *, doublereal *, doublereal *, doublecomplex *, integer *), zdrot_(integer *, doublecomplex *, 
772             integer *, doublecomplex *, integer *, doublereal *, doublereal *)
773             , zswap_(integer *, doublecomplex *, integer *, doublecomplex *, 
774             integer *), dlasq1_(integer *, doublereal *, doublereal *, 
775             doublereal *, integer *), dlasv2_(doublereal *, doublereal *, 
776             doublereal *, doublereal *, doublereal *, doublereal *, 
777             doublereal *, doublereal *, doublereal *);
778     doublereal cs;
779     integer ll;
780     extern doublereal dlamch_(char *);
781     doublereal sn, mu;
782     extern /* Subroutine */ int dlartg_(doublereal *, doublereal *, 
783             doublereal *, doublereal *, doublereal *), xerbla_(char *, 
784             integer *, ftnlen), zdscal_(integer *, doublereal *, 
785             doublecomplex *, integer *);
786     doublereal sminoa, thresh;
787     logical rotate;
788     integer nm1;
789     doublereal tolmul;
790     integer nm12, nm13, lll;
791     doublereal eps, sll, tol;
792
793
794 /*  -- LAPACK computational routine (version 3.7.0) -- */
795 /*  -- LAPACK is a software package provided by Univ. of Tennessee,    -- */
796 /*  -- Univ. of California Berkeley, Univ. of Colorado Denver and NAG Ltd..-- */
797 /*     December 2016 */
798
799
800 /*  ===================================================================== */
801
802
803 /*     Test the input parameters. */
804
805     /* Parameter adjustments */
806     --d__;
807     --e;
808     vt_dim1 = *ldvt;
809     vt_offset = 1 + vt_dim1 * 1;
810     vt -= vt_offset;
811     u_dim1 = *ldu;
812     u_offset = 1 + u_dim1 * 1;
813     u -= u_offset;
814     c_dim1 = *ldc;
815     c_offset = 1 + c_dim1 * 1;
816     c__ -= c_offset;
817     --rwork;
818
819     /* Function Body */
820     *info = 0;
821     lower = lsame_(uplo, "L");
822     if (! lsame_(uplo, "U") && ! lower) {
823         *info = -1;
824     } else if (*n < 0) {
825         *info = -2;
826     } else if (*ncvt < 0) {
827         *info = -3;
828     } else if (*nru < 0) {
829         *info = -4;
830     } else if (*ncc < 0) {
831         *info = -5;
832     } else if (*ncvt == 0 && *ldvt < 1 || *ncvt > 0 && *ldvt < f2cmax(1,*n)) {
833         *info = -9;
834     } else if (*ldu < f2cmax(1,*nru)) {
835         *info = -11;
836     } else if (*ncc == 0 && *ldc < 1 || *ncc > 0 && *ldc < f2cmax(1,*n)) {
837         *info = -13;
838     }
839     if (*info != 0) {
840         i__1 = -(*info);
841         xerbla_("ZBDSQR", &i__1, (ftnlen)6);
842         return 0;
843     }
844     if (*n == 0) {
845         return 0;
846     }
847     if (*n == 1) {
848         goto L160;
849     }
850
851 /*     ROTATE is true if any singular vectors desired, false otherwise */
852
853     rotate = *ncvt > 0 || *nru > 0 || *ncc > 0;
854
855 /*     If no singular vectors desired, use qd algorithm */
856
857     if (! rotate) {
858         dlasq1_(n, &d__[1], &e[1], &rwork[1], info);
859
860 /*     If INFO equals 2, dqds didn't finish, try to finish */
861
862         if (*info != 2) {
863             return 0;
864         }
865         *info = 0;
866     }
867
868     nm1 = *n - 1;
869     nm12 = nm1 + nm1;
870     nm13 = nm12 + nm1;
871     idir = 0;
872
873 /*     Get machine constants */
874
875     eps = dlamch_("Epsilon");
876     unfl = dlamch_("Safe minimum");
877
878 /*     If matrix lower bidiagonal, rotate to be upper bidiagonal */
879 /*     by applying Givens rotations on the left */
880
881     if (lower) {
882         i__1 = *n - 1;
883         for (i__ = 1; i__ <= i__1; ++i__) {
884             dlartg_(&d__[i__], &e[i__], &cs, &sn, &r__);
885             d__[i__] = r__;
886             e[i__] = sn * d__[i__ + 1];
887             d__[i__ + 1] = cs * d__[i__ + 1];
888             rwork[i__] = cs;
889             rwork[nm1 + i__] = sn;
890 /* L10: */
891         }
892
893 /*        Update singular vectors if desired */
894
895         if (*nru > 0) {
896             zlasr_("R", "V", "F", nru, n, &rwork[1], &rwork[*n], &u[u_offset],
897                      ldu);
898         }
899         if (*ncc > 0) {
900             zlasr_("L", "V", "F", n, ncc, &rwork[1], &rwork[*n], &c__[
901                     c_offset], ldc);
902         }
903     }
904
905 /*     Compute singular values to relative accuracy TOL */
906 /*     (By setting TOL to be negative, algorithm will compute */
907 /*     singular values to absolute accuracy ABS(TOL)*norm(input matrix)) */
908
909 /* Computing MAX */
910 /* Computing MIN */
911     d__3 = 100., d__4 = pow_dd(&eps, &c_b15);
912     d__1 = 10., d__2 = f2cmin(d__3,d__4);
913     tolmul = f2cmax(d__1,d__2);
914     tol = tolmul * eps;
915
916 /*     Compute approximate maximum, minimum singular values */
917
918     smax = 0.;
919     i__1 = *n;
920     for (i__ = 1; i__ <= i__1; ++i__) {
921 /* Computing MAX */
922         d__2 = smax, d__3 = (d__1 = d__[i__], abs(d__1));
923         smax = f2cmax(d__2,d__3);
924 /* L20: */
925     }
926     i__1 = *n - 1;
927     for (i__ = 1; i__ <= i__1; ++i__) {
928 /* Computing MAX */
929         d__2 = smax, d__3 = (d__1 = e[i__], abs(d__1));
930         smax = f2cmax(d__2,d__3);
931 /* L30: */
932     }
933     sminl = 0.;
934     if (tol >= 0.) {
935
936 /*        Relative accuracy desired */
937
938         sminoa = abs(d__[1]);
939         if (sminoa == 0.) {
940             goto L50;
941         }
942         mu = sminoa;
943         i__1 = *n;
944         for (i__ = 2; i__ <= i__1; ++i__) {
945             mu = (d__2 = d__[i__], abs(d__2)) * (mu / (mu + (d__1 = e[i__ - 1]
946                     , abs(d__1))));
947             sminoa = f2cmin(sminoa,mu);
948             if (sminoa == 0.) {
949                 goto L50;
950             }
951 /* L40: */
952         }
953 L50:
954         sminoa /= sqrt((doublereal) (*n));
955 /* Computing MAX */
956         d__1 = tol * sminoa, d__2 = *n * 6 * *n * unfl;
957         thresh = f2cmax(d__1,d__2);
958     } else {
959
960 /*        Absolute accuracy desired */
961
962 /* Computing MAX */
963         d__1 = abs(tol) * smax, d__2 = *n * 6 * *n * unfl;
964         thresh = f2cmax(d__1,d__2);
965     }
966
967 /*     Prepare for main iteration loop for the singular values */
968 /*     (MAXIT is the maximum number of passes through the inner */
969 /*     loop permitted before nonconvergence signalled.) */
970
971     maxit = *n * 6 * *n;
972     iter = 0;
973     oldll = -1;
974     oldm = -1;
975
976 /*     M points to last element of unconverged part of matrix */
977
978     m = *n;
979
980 /*     Begin main iteration loop */
981
982 L60:
983
984 /*     Check for convergence or exceeding iteration count */
985
986     if (m <= 1) {
987         goto L160;
988     }
989     if (iter > maxit) {
990         goto L200;
991     }
992
993 /*     Find diagonal block of matrix to work on */
994
995     if (tol < 0. && (d__1 = d__[m], abs(d__1)) <= thresh) {
996         d__[m] = 0.;
997     }
998     smax = (d__1 = d__[m], abs(d__1));
999     smin = smax;
1000     i__1 = m - 1;
1001     for (lll = 1; lll <= i__1; ++lll) {
1002         ll = m - lll;
1003         abss = (d__1 = d__[ll], abs(d__1));
1004         abse = (d__1 = e[ll], abs(d__1));
1005         if (tol < 0. && abss <= thresh) {
1006             d__[ll] = 0.;
1007         }
1008         if (abse <= thresh) {
1009             goto L80;
1010         }
1011         smin = f2cmin(smin,abss);
1012 /* Computing MAX */
1013         d__1 = f2cmax(smax,abss);
1014         smax = f2cmax(d__1,abse);
1015 /* L70: */
1016     }
1017     ll = 0;
1018     goto L90;
1019 L80:
1020     e[ll] = 0.;
1021
1022 /*     Matrix splits since E(LL) = 0 */
1023
1024     if (ll == m - 1) {
1025
1026 /*        Convergence of bottom singular value, return to top of loop */
1027
1028         --m;
1029         goto L60;
1030     }
1031 L90:
1032     ++ll;
1033
1034 /*     E(LL) through E(M-1) are nonzero, E(LL-1) is zero */
1035
1036     if (ll == m - 1) {
1037
1038 /*        2 by 2 block, handle separately */
1039
1040         dlasv2_(&d__[m - 1], &e[m - 1], &d__[m], &sigmn, &sigmx, &sinr, &cosr,
1041                  &sinl, &cosl);
1042         d__[m - 1] = sigmx;
1043         e[m - 1] = 0.;
1044         d__[m] = sigmn;
1045
1046 /*        Compute singular vectors, if desired */
1047
1048         if (*ncvt > 0) {
1049             zdrot_(ncvt, &vt[m - 1 + vt_dim1], ldvt, &vt[m + vt_dim1], ldvt, &
1050                     cosr, &sinr);
1051         }
1052         if (*nru > 0) {
1053             zdrot_(nru, &u[(m - 1) * u_dim1 + 1], &c__1, &u[m * u_dim1 + 1], &
1054                     c__1, &cosl, &sinl);
1055         }
1056         if (*ncc > 0) {
1057             zdrot_(ncc, &c__[m - 1 + c_dim1], ldc, &c__[m + c_dim1], ldc, &
1058                     cosl, &sinl);
1059         }
1060         m += -2;
1061         goto L60;
1062     }
1063
1064 /*     If working on new submatrix, choose shift direction */
1065 /*     (from larger end diagonal element towards smaller) */
1066
1067     if (ll > oldm || m < oldll) {
1068         if ((d__1 = d__[ll], abs(d__1)) >= (d__2 = d__[m], abs(d__2))) {
1069
1070 /*           Chase bulge from top (big end) to bottom (small end) */
1071
1072             idir = 1;
1073         } else {
1074
1075 /*           Chase bulge from bottom (big end) to top (small end) */
1076
1077             idir = 2;
1078         }
1079     }
1080
1081 /*     Apply convergence tests */
1082
1083     if (idir == 1) {
1084
1085 /*        Run convergence test in forward direction */
1086 /*        First apply standard test to bottom of matrix */
1087
1088         if ((d__2 = e[m - 1], abs(d__2)) <= abs(tol) * (d__1 = d__[m], abs(
1089                 d__1)) || tol < 0. && (d__3 = e[m - 1], abs(d__3)) <= thresh) 
1090                 {
1091             e[m - 1] = 0.;
1092             goto L60;
1093         }
1094
1095         if (tol >= 0.) {
1096
1097 /*           If relative accuracy desired, */
1098 /*           apply convergence criterion forward */
1099
1100             mu = (d__1 = d__[ll], abs(d__1));
1101             sminl = mu;
1102             i__1 = m - 1;
1103             for (lll = ll; lll <= i__1; ++lll) {
1104                 if ((d__1 = e[lll], abs(d__1)) <= tol * mu) {
1105                     e[lll] = 0.;
1106                     goto L60;
1107                 }
1108                 mu = (d__2 = d__[lll + 1], abs(d__2)) * (mu / (mu + (d__1 = e[
1109                         lll], abs(d__1))));
1110                 sminl = f2cmin(sminl,mu);
1111 /* L100: */
1112             }
1113         }
1114
1115     } else {
1116
1117 /*        Run convergence test in backward direction */
1118 /*        First apply standard test to top of matrix */
1119
1120         if ((d__2 = e[ll], abs(d__2)) <= abs(tol) * (d__1 = d__[ll], abs(d__1)
1121                 ) || tol < 0. && (d__3 = e[ll], abs(d__3)) <= thresh) {
1122             e[ll] = 0.;
1123             goto L60;
1124         }
1125
1126         if (tol >= 0.) {
1127
1128 /*           If relative accuracy desired, */
1129 /*           apply convergence criterion backward */
1130
1131             mu = (d__1 = d__[m], abs(d__1));
1132             sminl = mu;
1133             i__1 = ll;
1134             for (lll = m - 1; lll >= i__1; --lll) {
1135                 if ((d__1 = e[lll], abs(d__1)) <= tol * mu) {
1136                     e[lll] = 0.;
1137                     goto L60;
1138                 }
1139                 mu = (d__2 = d__[lll], abs(d__2)) * (mu / (mu + (d__1 = e[lll]
1140                         , abs(d__1))));
1141                 sminl = f2cmin(sminl,mu);
1142 /* L110: */
1143             }
1144         }
1145     }
1146     oldll = ll;
1147     oldm = m;
1148
1149 /*     Compute shift.  First, test if shifting would ruin relative */
1150 /*     accuracy, and if so set the shift to zero. */
1151
1152 /* Computing MAX */
1153     d__1 = eps, d__2 = tol * .01;
1154     if (tol >= 0. && *n * tol * (sminl / smax) <= f2cmax(d__1,d__2)) {
1155
1156 /*        Use a zero shift to avoid loss of relative accuracy */
1157
1158         shift = 0.;
1159     } else {
1160
1161 /*        Compute the shift from 2-by-2 block at end of matrix */
1162
1163         if (idir == 1) {
1164             sll = (d__1 = d__[ll], abs(d__1));
1165             dlas2_(&d__[m - 1], &e[m - 1], &d__[m], &shift, &r__);
1166         } else {
1167             sll = (d__1 = d__[m], abs(d__1));
1168             dlas2_(&d__[ll], &e[ll], &d__[ll + 1], &shift, &r__);
1169         }
1170
1171 /*        Test if shift negligible, and if so set to zero */
1172
1173         if (sll > 0.) {
1174 /* Computing 2nd power */
1175             d__1 = shift / sll;
1176             if (d__1 * d__1 < eps) {
1177                 shift = 0.;
1178             }
1179         }
1180     }
1181
1182 /*     Increment iteration count */
1183
1184     iter = iter + m - ll;
1185
1186 /*     If SHIFT = 0, do simplified QR iteration */
1187
1188     if (shift == 0.) {
1189         if (idir == 1) {
1190
1191 /*           Chase bulge from top to bottom */
1192 /*           Save cosines and sines for later singular vector updates */
1193
1194             cs = 1.;
1195             oldcs = 1.;
1196             i__1 = m - 1;
1197             for (i__ = ll; i__ <= i__1; ++i__) {
1198                 d__1 = d__[i__] * cs;
1199                 dlartg_(&d__1, &e[i__], &cs, &sn, &r__);
1200                 if (i__ > ll) {
1201                     e[i__ - 1] = oldsn * r__;
1202                 }
1203                 d__1 = oldcs * r__;
1204                 d__2 = d__[i__ + 1] * sn;
1205                 dlartg_(&d__1, &d__2, &oldcs, &oldsn, &d__[i__]);
1206                 rwork[i__ - ll + 1] = cs;
1207                 rwork[i__ - ll + 1 + nm1] = sn;
1208                 rwork[i__ - ll + 1 + nm12] = oldcs;
1209                 rwork[i__ - ll + 1 + nm13] = oldsn;
1210 /* L120: */
1211             }
1212             h__ = d__[m] * cs;
1213             d__[m] = h__ * oldcs;
1214             e[m - 1] = h__ * oldsn;
1215
1216 /*           Update singular vectors */
1217
1218             if (*ncvt > 0) {
1219                 i__1 = m - ll + 1;
1220                 zlasr_("L", "V", "F", &i__1, ncvt, &rwork[1], &rwork[*n], &vt[
1221                         ll + vt_dim1], ldvt);
1222             }
1223             if (*nru > 0) {
1224                 i__1 = m - ll + 1;
1225                 zlasr_("R", "V", "F", nru, &i__1, &rwork[nm12 + 1], &rwork[
1226                         nm13 + 1], &u[ll * u_dim1 + 1], ldu);
1227             }
1228             if (*ncc > 0) {
1229                 i__1 = m - ll + 1;
1230                 zlasr_("L", "V", "F", &i__1, ncc, &rwork[nm12 + 1], &rwork[
1231                         nm13 + 1], &c__[ll + c_dim1], ldc);
1232             }
1233
1234 /*           Test convergence */
1235
1236             if ((d__1 = e[m - 1], abs(d__1)) <= thresh) {
1237                 e[m - 1] = 0.;
1238             }
1239
1240         } else {
1241
1242 /*           Chase bulge from bottom to top */
1243 /*           Save cosines and sines for later singular vector updates */
1244
1245             cs = 1.;
1246             oldcs = 1.;
1247             i__1 = ll + 1;
1248             for (i__ = m; i__ >= i__1; --i__) {
1249                 d__1 = d__[i__] * cs;
1250                 dlartg_(&d__1, &e[i__ - 1], &cs, &sn, &r__);
1251                 if (i__ < m) {
1252                     e[i__] = oldsn * r__;
1253                 }
1254                 d__1 = oldcs * r__;
1255                 d__2 = d__[i__ - 1] * sn;
1256                 dlartg_(&d__1, &d__2, &oldcs, &oldsn, &d__[i__]);
1257                 rwork[i__ - ll] = cs;
1258                 rwork[i__ - ll + nm1] = -sn;
1259                 rwork[i__ - ll + nm12] = oldcs;
1260                 rwork[i__ - ll + nm13] = -oldsn;
1261 /* L130: */
1262             }
1263             h__ = d__[ll] * cs;
1264             d__[ll] = h__ * oldcs;
1265             e[ll] = h__ * oldsn;
1266
1267 /*           Update singular vectors */
1268
1269             if (*ncvt > 0) {
1270                 i__1 = m - ll + 1;
1271                 zlasr_("L", "V", "B", &i__1, ncvt, &rwork[nm12 + 1], &rwork[
1272                         nm13 + 1], &vt[ll + vt_dim1], ldvt);
1273             }
1274             if (*nru > 0) {
1275                 i__1 = m - ll + 1;
1276                 zlasr_("R", "V", "B", nru, &i__1, &rwork[1], &rwork[*n], &u[
1277                         ll * u_dim1 + 1], ldu);
1278             }
1279             if (*ncc > 0) {
1280                 i__1 = m - ll + 1;
1281                 zlasr_("L", "V", "B", &i__1, ncc, &rwork[1], &rwork[*n], &c__[
1282                         ll + c_dim1], ldc);
1283             }
1284
1285 /*           Test convergence */
1286
1287             if ((d__1 = e[ll], abs(d__1)) <= thresh) {
1288                 e[ll] = 0.;
1289             }
1290         }
1291     } else {
1292
1293 /*        Use nonzero shift */
1294
1295         if (idir == 1) {
1296
1297 /*           Chase bulge from top to bottom */
1298 /*           Save cosines and sines for later singular vector updates */
1299
1300             f = ((d__1 = d__[ll], abs(d__1)) - shift) * (d_sign(&c_b49, &d__[
1301                     ll]) + shift / d__[ll]);
1302             g = e[ll];
1303             i__1 = m - 1;
1304             for (i__ = ll; i__ <= i__1; ++i__) {
1305                 dlartg_(&f, &g, &cosr, &sinr, &r__);
1306                 if (i__ > ll) {
1307                     e[i__ - 1] = r__;
1308                 }
1309                 f = cosr * d__[i__] + sinr * e[i__];
1310                 e[i__] = cosr * e[i__] - sinr * d__[i__];
1311                 g = sinr * d__[i__ + 1];
1312                 d__[i__ + 1] = cosr * d__[i__ + 1];
1313                 dlartg_(&f, &g, &cosl, &sinl, &r__);
1314                 d__[i__] = r__;
1315                 f = cosl * e[i__] + sinl * d__[i__ + 1];
1316                 d__[i__ + 1] = cosl * d__[i__ + 1] - sinl * e[i__];
1317                 if (i__ < m - 1) {
1318                     g = sinl * e[i__ + 1];
1319                     e[i__ + 1] = cosl * e[i__ + 1];
1320                 }
1321                 rwork[i__ - ll + 1] = cosr;
1322                 rwork[i__ - ll + 1 + nm1] = sinr;
1323                 rwork[i__ - ll + 1 + nm12] = cosl;
1324                 rwork[i__ - ll + 1 + nm13] = sinl;
1325 /* L140: */
1326             }
1327             e[m - 1] = f;
1328
1329 /*           Update singular vectors */
1330
1331             if (*ncvt > 0) {
1332                 i__1 = m - ll + 1;
1333                 zlasr_("L", "V", "F", &i__1, ncvt, &rwork[1], &rwork[*n], &vt[
1334                         ll + vt_dim1], ldvt);
1335             }
1336             if (*nru > 0) {
1337                 i__1 = m - ll + 1;
1338                 zlasr_("R", "V", "F", nru, &i__1, &rwork[nm12 + 1], &rwork[
1339                         nm13 + 1], &u[ll * u_dim1 + 1], ldu);
1340             }
1341             if (*ncc > 0) {
1342                 i__1 = m - ll + 1;
1343                 zlasr_("L", "V", "F", &i__1, ncc, &rwork[nm12 + 1], &rwork[
1344                         nm13 + 1], &c__[ll + c_dim1], ldc);
1345             }
1346
1347 /*           Test convergence */
1348
1349             if ((d__1 = e[m - 1], abs(d__1)) <= thresh) {
1350                 e[m - 1] = 0.;
1351             }
1352
1353         } else {
1354
1355 /*           Chase bulge from bottom to top */
1356 /*           Save cosines and sines for later singular vector updates */
1357
1358             f = ((d__1 = d__[m], abs(d__1)) - shift) * (d_sign(&c_b49, &d__[m]
1359                     ) + shift / d__[m]);
1360             g = e[m - 1];
1361             i__1 = ll + 1;
1362             for (i__ = m; i__ >= i__1; --i__) {
1363                 dlartg_(&f, &g, &cosr, &sinr, &r__);
1364                 if (i__ < m) {
1365                     e[i__] = r__;
1366                 }
1367                 f = cosr * d__[i__] + sinr * e[i__ - 1];
1368                 e[i__ - 1] = cosr * e[i__ - 1] - sinr * d__[i__];
1369                 g = sinr * d__[i__ - 1];
1370                 d__[i__ - 1] = cosr * d__[i__ - 1];
1371                 dlartg_(&f, &g, &cosl, &sinl, &r__);
1372                 d__[i__] = r__;
1373                 f = cosl * e[i__ - 1] + sinl * d__[i__ - 1];
1374                 d__[i__ - 1] = cosl * d__[i__ - 1] - sinl * e[i__ - 1];
1375                 if (i__ > ll + 1) {
1376                     g = sinl * e[i__ - 2];
1377                     e[i__ - 2] = cosl * e[i__ - 2];
1378                 }
1379                 rwork[i__ - ll] = cosr;
1380                 rwork[i__ - ll + nm1] = -sinr;
1381                 rwork[i__ - ll + nm12] = cosl;
1382                 rwork[i__ - ll + nm13] = -sinl;
1383 /* L150: */
1384             }
1385             e[ll] = f;
1386
1387 /*           Test convergence */
1388
1389             if ((d__1 = e[ll], abs(d__1)) <= thresh) {
1390                 e[ll] = 0.;
1391             }
1392
1393 /*           Update singular vectors if desired */
1394
1395             if (*ncvt > 0) {
1396                 i__1 = m - ll + 1;
1397                 zlasr_("L", "V", "B", &i__1, ncvt, &rwork[nm12 + 1], &rwork[
1398                         nm13 + 1], &vt[ll + vt_dim1], ldvt);
1399             }
1400             if (*nru > 0) {
1401                 i__1 = m - ll + 1;
1402                 zlasr_("R", "V", "B", nru, &i__1, &rwork[1], &rwork[*n], &u[
1403                         ll * u_dim1 + 1], ldu);
1404             }
1405             if (*ncc > 0) {
1406                 i__1 = m - ll + 1;
1407                 zlasr_("L", "V", "B", &i__1, ncc, &rwork[1], &rwork[*n], &c__[
1408                         ll + c_dim1], ldc);
1409             }
1410         }
1411     }
1412
1413 /*     QR iteration finished, go back and check convergence */
1414
1415     goto L60;
1416
1417 /*     All singular values converged, so make them positive */
1418
1419 L160:
1420     i__1 = *n;
1421     for (i__ = 1; i__ <= i__1; ++i__) {
1422         if (d__[i__] < 0.) {
1423             d__[i__] = -d__[i__];
1424
1425 /*           Change sign of singular vectors, if desired */
1426
1427             if (*ncvt > 0) {
1428                 zdscal_(ncvt, &c_b72, &vt[i__ + vt_dim1], ldvt);
1429             }
1430         }
1431 /* L170: */
1432     }
1433
1434 /*     Sort the singular values into decreasing order (insertion sort on */
1435 /*     singular values, but only one transposition per singular vector) */
1436
1437     i__1 = *n - 1;
1438     for (i__ = 1; i__ <= i__1; ++i__) {
1439
1440 /*        Scan for smallest D(I) */
1441
1442         isub = 1;
1443         smin = d__[1];
1444         i__2 = *n + 1 - i__;
1445         for (j = 2; j <= i__2; ++j) {
1446             if (d__[j] <= smin) {
1447                 isub = j;
1448                 smin = d__[j];
1449             }
1450 /* L180: */
1451         }
1452         if (isub != *n + 1 - i__) {
1453
1454 /*           Swap singular values and vectors */
1455
1456             d__[isub] = d__[*n + 1 - i__];
1457             d__[*n + 1 - i__] = smin;
1458             if (*ncvt > 0) {
1459                 zswap_(ncvt, &vt[isub + vt_dim1], ldvt, &vt[*n + 1 - i__ + 
1460                         vt_dim1], ldvt);
1461             }
1462             if (*nru > 0) {
1463                 zswap_(nru, &u[isub * u_dim1 + 1], &c__1, &u[(*n + 1 - i__) * 
1464                         u_dim1 + 1], &c__1);
1465             }
1466             if (*ncc > 0) {
1467                 zswap_(ncc, &c__[isub + c_dim1], ldc, &c__[*n + 1 - i__ + 
1468                         c_dim1], ldc);
1469             }
1470         }
1471 /* L190: */
1472     }
1473     goto L220;
1474
1475 /*     Maximum number of iterations exceeded, failure to converge */
1476
1477 L200:
1478     *info = 0;
1479     i__1 = *n - 1;
1480     for (i__ = 1; i__ <= i__1; ++i__) {
1481         if (e[i__] != 0.) {
1482             ++(*info);
1483         }
1484 /* L210: */
1485     }
1486 L220:
1487     return 0;
1488
1489 /*     End of ZBDSQR */
1490
1491 } /* zbdsqr_ */
1492