AAC: Compress codebook tables and optimise sign bit handling
authorMåns Rullgård <mans@mansr.com>
Wed, 13 Jan 2010 16:46:28 +0000 (16:46 +0000)
committerMåns Rullgård <mans@mansr.com>
Wed, 13 Jan 2010 16:46:28 +0000 (16:46 +0000)
commitc816d3d0425b94e95e182d53d94b528244d1f133
treec6add8eb7a684ee6f9bbcd12eaaa32182ecc423d
parent9d50d3962905b3938e184932f4451e807c0f43fb
AAC: Compress codebook tables and optimise sign bit handling

The codebooks each consist of small number of values repeated in
groups of 2 or 4.  Storing the codebooks as a packed list of 2- or
4-bit indexes into a table reduces their size substantially (from 7.5k
to 1.5k), resulting in less cache pressure.

For the band types with sign bits in the bitstream, storing the number
and position of non-zero codebook values using a few bits avoids
multiple get_bits() calls and floating-point comparisons which gcc
handles miserably.

Some float/int type punning also avoids gcc brain damage.

Overall speedup 20-35% on Cortex-A8, 20% on Core i7.

Originally committed as revision 21188 to svn://svn.ffmpeg.org/ffmpeg/trunk
libavcodec/aac.c
libavcodec/aactab.c
libavcodec/aactab.h