fabs -> fabsl
authorSteven G. Johnson <stevenj@mit.edu>
Fri, 3 Aug 2018 17:00:10 +0000 (13:00 -0400)
committerGitHub <noreply@github.com>
Fri, 3 Aug 2018 17:00:10 +0000 (13:00 -0400)
Fixes two calls that were using `fabs` on a `long double` argument rather than `fabsl`, which looks like it is doing an unintentional truncation to `double` precision.

interface/rotg.c

index 0925542..69443a5 100644 (file)
@@ -22,8 +22,8 @@ void CNAME(FLOAT *DA, FLOAT *DB, FLOAT *C, FLOAT *S){
   long double s;
   long double r, roe, z;
 
-  long double ada = fabs(da);
-  long double adb = fabs(db);
+  long double ada = fabsl(da);
+  long double adb = fabsl(db);
   long double scale = ada + adb;
 
 #ifndef CBLAS