output.c - OpenGrok cross reference for /third_party/ffmpeg/libswscale/output.c

Lines Matching defs:err
589     int err = 0;
607             Y1 += (7*err + 1*c->dither_error[0][i] + 5*c->dither_error[0][i+1] + 3*c->dither_error[0][i+2] + 8 - 256)>>4;
608             c->dither_error[0][i] = err;
612             err = Y2 + ((7*Y1 + 1*c->dither_error[0][i+1] + 5*c->dither_error[0][i+2] + 3*c->dither_error[0][i+3] + 8 - 256)>>4);
614             acc = 2*acc + (err >= 128);
615             err -= 220*(acc&1);
624     c->dither_error[0][i] = err;
645         int err = 0;
651             Y += (7*err + 1*c->dither_error[0][i] + 5*c->dither_error[0][i+1] + 3*c->dither_error[0][i+2] + 8 - 256)>>4;
652             c->dither_error[0][i] = err;
656             err = (buf0[i + 1] * yalpha1 + buf1[i + 1] * yalpha) >> 19;
657             err += (7*Y + 1*c->dither_error[0][i+1] + 5*c->dither_error[0][i+2] + 3*c->dither_error[0][i+3] + 8 - 256)>>4;
659             acc = 2*acc + (err >= 128);
660             err -= 220*(acc&1);
665         c->dither_error[0][i] = err;
702         int err = 0;
708             Y += (7*err + 1*c->dither_error[0][i] + 5*c->dither_error[0][i+1] + 3*c->dither_error[0][i+2] + 8 - 256)>>4;
709             c->dither_error[0][i] = err;
713             err = ((buf0[i + 1] + 64) >> 7);
714             err += (7*Y + 1*c->dither_error[0][i+1] + 5*c->dither_error[0][i+2] + 3*c->dither_error[0][i+3] + 8 - 256)>>4;
716             acc = 2*acc + (err >= 128);
717             err -= 220*(acc&1);
722         c->dither_error[0][i] = err;
1888     int y, enum AVPixelFormat target, int hasAlpha, int err[4])
1965             R += (7*err[0] + 1*c->dither_error[0][i] + 5*c->dither_error[0][i+1] + 3*c->dither_error[0][i+2])>>4;
1966             G += (7*err[1] + 1*c->dither_error[1][i] + 5*c->dither_error[1][i+1] + 3*c->dither_error[1][i+2])>>4;
1967             B += (7*err[2] + 1*c->dither_error[2][i] + 5*c->dither_error[2][i+1] + 3*c->dither_error[2][i+2])>>4;
1968             c->dither_error[0][i] = err[0];
1969             c->dither_error[1][i] = err[1];
1970             c->dither_error[2][i] = err[2];
1977             err[0] = R - r*(isrgb8 ? 36 : 255);
1978             err[1] = G - g*(isrgb8 ? 36 : 85);
1979             err[2] = B - b*(isrgb8 ? 85 : 255);
2046     int err[4] = {0};
2078         yuv2rgb_write_full(c, dest, i, Y, A, U, V, y, target, hasAlpha, err);
2081     c->dither_error[0][i] = err[0];
2082     c->dither_error[1][i] = err[1];
2083     c->dither_error[2][i] = err[2];
2102     int err[4] = {0};
2123         yuv2rgb_write_full(c, dest, i, Y, A, U, V, y, target, hasAlpha, err);
2126     c->dither_error[0][i] = err[0];
2127     c->dither_error[1][i] = err[1];
2128     c->dither_error[2][i] = err[2];
2141     int err[4] = {0};
2160             yuv2rgb_write_full(c, dest, i, Y, A, U, V, y, target, hasAlpha, err);
2177             yuv2rgb_write_full(c, dest, i, Y, A, U, V, y, target, hasAlpha, err);
2182     c->dither_error[0][i] = err[0];
2183     c->dither_error[1][i] = err[1];
2184     c->dither_error[2][i] = err[2];