orcc: program-c: fix 64-bit parameter loading (loadpq) on big-endian systems
authorTim-Philipp Müller <tim@centricular.com>
Sat, 8 Nov 2014 13:23:12 +0000 (13:23 +0000)
committerTim-Philipp Müller <tim@centricular.com>
Sat, 8 Nov 2014 13:48:42 +0000 (13:48 +0000)
commit463295f6486badafa389008c0339386e2bf9d4c9
treedd71385d3bffca4bceb75f15f9b00d44364933cc
parent85f79a8a4ecf6f22e5c334d6ad0222502e37a5eb
orcc: program-c: fix 64-bit parameter loading (loadpq) on big-endian systems

When passing 64-bit parameters through OrcExecutor, we
have to split them up into two 32-bit parameters for
backwards compatibility reasons. When generating C code,
make sure that we split up 64-bit parameters in the same
way as loadpq will read them back later. The lower 32 bits
should end up in params[ORC_VAR_D1+i] and the higher bits
should end up in params[ORC_VAR_T1+i]. The way it was done
so far, the higher/lower bits ended up swapped on big endian
systems, and then got deserialised in swapped order by loadpq.
This resulted in bogus parameters being used.

In particular, this broke the gstreamer volume element and
its unit tests on big endian systems when handling samples
in F64 format (i.e. doubles).

https://bugzilla.gnome.org/show_bug.cgi?id=739354
tools/orcc.c