quant fix
authorMonty <xiphmont@xiph.org>
Wed, 15 Dec 1999 08:42:47 +0000 (08:42 +0000)
committerMonty <xiphmont@xiph.org>
Wed, 15 Dec 1999 08:42:47 +0000 (08:42 +0000)
svn path=/trunk/vorbis/; revision=195

vq/vqgen.c

index 552cf18..46edeeb 100644 (file)
@@ -268,10 +268,10 @@ double vqgen_iterate(vqgen *v){
     }
     for(k=0;k<v->elements;k++){
       double base=min[k];
-      double delta=max[k]-min[k]/((1<<v->quantbits)-1);
+      double delta=(max[k]-min[k])/((1<<v->quantbits)-1);
       for(j=0;j<v->entries;j++){
        double val=_now(v,j)[k];
-       _now(v,j)[k]=rint((val-base)/delta);
+       _now(v,j)[k]=base+delta*rint((val-base)/delta);
       }
     }
   }