Fix decoder handling of floor0 when the LSP order is 1.
authorTim Terriberry <tterribe@xiph.org>
Fri, 15 Oct 2010 02:52:29 +0000 (02:52 +0000)
committerTim Terriberry <tterribe@xiph.org>
Fri, 15 Oct 2010 02:52:29 +0000 (02:52 +0000)
commit3da72d999e885b7050edd3bc0b81cc82d20ba5e3
treeaf56a6e9b14b2ffda8b830169c6426310cd81280
parentc563d6fe5a511dd4950497206f7f11be45f3f78d
Fix decoder handling of floor0 when the LSP order is 1.

Header setup allows the LSP order to be as low as one, but the code in
 vorbis_lsp_to_curve() assumed it was at least two.
This wasn't terrible in libvorbis... it would multiply a nonsense (but defined)
 value into the output, and nothing more.
In Tremor, it referenced several completely undefined (stack) values, which
 could cause out-of-bounds lookup table accesses and crashes.

svn path=/trunk/vorbis/; revision=17538
lib/lsp.c