Lines Matching defs:NMSEDEC_BITS
81 #define NMSEDEC_BITS 7
82 #define NMSEDEC_FRACBITS (NMSEDEC_BITS-1)
89 static int lut_nmsedec_ref [1<<NMSEDEC_BITS],
90 lut_nmsedec_ref0[1<<NMSEDEC_BITS],
91 lut_nmsedec_sig [1<<NMSEDEC_BITS],
92 lut_nmsedec_sig0[1<<NMSEDEC_BITS];
585 for (i = 0; i < (1 << NMSEDEC_BITS); i++){
589 a = (i >> (NMSEDEC_BITS-2)&2) + 1;
592 lut_nmsedec_ref0[i] = FFMAX(((i * i - (i << NMSEDEC_BITS) + (1 << 2 * NMSEDEC_FRACBITS) + (1 << (NMSEDEC_FRACBITS - 1))) & mask)
602 return lut_nmsedec_sig[(x >> (bpno - NMSEDEC_FRACBITS)) & ((1 << NMSEDEC_BITS) - 1)];
603 return lut_nmsedec_sig0[x & ((1 << NMSEDEC_BITS) - 1)];
609 return lut_nmsedec_ref[(x >> (bpno - NMSEDEC_FRACBITS)) & ((1 << NMSEDEC_BITS) - 1)];
610 return lut_nmsedec_ref0[x & ((1 << NMSEDEC_BITS) - 1)];