Lines Matching refs:dstFormat
152 if (c->dstFormat == AV_PIX_FMT_NV12)
193 if (c->dstFormat == AV_PIX_FMT_NV24)
230 const AVPixFmtDescriptor *dst_format = av_pix_fmt_desc_get(c->dstFormat);
527 const enum AVPixelFormat dstFormat = c->dstFormat;
535 switch (dstFormat) {
544 switch (dstFormat) {
556 av_get_pix_fmt_name(srcFormat), av_get_pix_fmt_name(dstFormat));
711 const AVPixFmtDescriptor *dst_format = av_pix_fmt_desc_get(c->dstFormat);
890 const AVPixFmtDescriptor *dst_format = av_pix_fmt_desc_get(c->dstFormat);
907 switch (c->dstFormat) {
1030 av_get_pix_fmt_name(c->dstFormat));
1034 switch (c->dstFormat) {
1067 av_get_pix_fmt_name(c->dstFormat));
1086 av_get_pix_fmt_name(c->dstFormat));
1090 switch (c->dstFormat) {
1123 av_get_pix_fmt_name(c->dstFormat));
1214 av_get_pix_fmt_name(c->dstFormat));
1459 const enum AVPixelFormat dstFormat = c->dstFormat;
1468 #define CONV_IS(src, dst) (srcFormat == AV_PIX_FMT_##src && dstFormat == AV_PIX_FMT_##dst)
1470 if (isRGBA32(srcFormat) && isRGBA32(dstFormat)) {
1483 } else if (isRGB48(srcFormat) && isRGB48(dstFormat)) {
1492 } else if (isRGB48(srcFormat) && isRGBA64(dstFormat)) {
1509 } else if (isRGBA64(srcFormat) && isRGB48(dstFormat)) {
1528 if ((isBGRinInt(srcFormat) && isBGRinInt(dstFormat)) ||
1529 (isRGBinInt(srcFormat) && isRGBinInt(dstFormat))) {
1545 } else if ((isBGRinInt(srcFormat) && isRGBinInt(dstFormat)) ||
1546 (isRGBinInt(srcFormat) && isBGRinInt(dstFormat))) {
1567 if ((dstFormat == AV_PIX_FMT_RGB32_1 || dstFormat == AV_PIX_FMT_BGR32_1) && !isRGBA32(srcFormat) && ALT32_CORR<0)
1572 if ((dstFormat == AV_PIX_FMT_RGB32 || dstFormat == AV_PIX_FMT_BGR32 ) && !isRGBA32(srcFormat) && ALT32_CORR>0)
1585 const enum AVPixelFormat dstFormat = c->dstFormat;
1587 const AVPixFmtDescriptor *desc_dst = av_pix_fmt_desc_get(c->dstFormat);
1594 av_get_pix_fmt_name(srcFormat), av_get_pix_fmt_name(dstFormat));
1602 !isRGBA32(dstFormat))
1605 if ((dstFormat == AV_PIX_FMT_RGB32_1 || dstFormat == AV_PIX_FMT_BGR32_1) &&
1806 const AVPixFmtDescriptor *desc_dst = av_pix_fmt_desc_get(c->dstFormat);
1819 if (is16BPS(c->dstFormat) || isNBPS(c->dstFormat)) {
1822 isBE(c->dstFormat));
1828 if(isNBPS(c->srcFormat) || isNBPS(c->dstFormat)
1829 || (is16BPS(c->srcFormat) != is16BPS(c->dstFormat))
1853 if(isBE(c->dstFormat)){
1865 isBE(c->dstFormat) == HAVE_BIGENDIAN &&
1901 if(isBE(c->dstFormat)){
1907 if(isBE(c->dstFormat)){
1918 if(isBE(c->dstFormat) == HAVE_BIGENDIAN){
1924 if(isBE(c->dstFormat) == HAVE_BIGENDIAN){
1931 } else if (is16BPS(c->srcFormat) && is16BPS(c->dstFormat) &&
1932 isBE(c->srcFormat) != isBE(c->dstFormat)) {
1940 } else if (isFloat(c->srcFormat) && isFloat(c->dstFormat) &&
1941 isBE(c->srcFormat) != isBE(c->dstFormat)) { /* swap float plane */
1953 if (is16BPS(c->srcFormat) && is16BPS(c->dstFormat))
1977 const enum AVPixelFormat dstFormat = c->dstFormat;
1983 needsDither = isAnyRGB(dstFormat) &&
1989 (dstFormat == AV_PIX_FMT_NV12 || dstFormat == AV_PIX_FMT_NV21)) {
1994 (dstFormat == AV_PIX_FMT_NV24 || dstFormat == AV_PIX_FMT_NV42)) {
1998 if (dstFormat == AV_PIX_FMT_YUV420P &&
2003 if (dstFormat == AV_PIX_FMT_YUV444P &&
2009 srcFormat == AV_PIX_FMT_YUVA420P) && isAnyRGB(dstFormat) &&
2019 (dstFormat == AV_PIX_FMT_P010 || dstFormat == AV_PIX_FMT_P016)) {
2024 (dstFormat == AV_PIX_FMT_P010LE || dstFormat == AV_PIX_FMT_P016LE)) {
2029 (dstFormat == AV_PIX_FMT_YUV420P || dstFormat == AV_PIX_FMT_YUVA420P) &&
2037 (dstFormat == AV_PIX_FMT_YUV420P || dstFormat == AV_PIX_FMT_YUVA420P) &&
2042 if (isAnyRGB(srcFormat) && isAnyRGB(dstFormat) && findRgbConvFn(c)
2047 if ((srcFormat == AV_PIX_FMT_GBRP && dstFormat == AV_PIX_FMT_GBRAP) ||
2048 (srcFormat == AV_PIX_FMT_GBRAP && dstFormat == AV_PIX_FMT_GBRP))
2059 if (srcFormat == AV_PIX_FMT_GBRP && isPlanar(srcFormat) && isByteRGB(dstFormat))
2062 if (srcFormat == AV_PIX_FMT_GBRAP && isByteRGB(dstFormat))
2069 (dstFormat == AV_PIX_FMT_GBRP9LE || dstFormat == AV_PIX_FMT_GBRP9BE ||
2070 dstFormat == AV_PIX_FMT_GBRP10LE || dstFormat == AV_PIX_FMT_GBRP10BE ||
2071 dstFormat == AV_PIX_FMT_GBRP12LE || dstFormat == AV_PIX_FMT_GBRP12BE ||
2072 dstFormat == AV_PIX_FMT_GBRP14LE || dstFormat == AV_PIX_FMT_GBRP14BE ||
2073 dstFormat == AV_PIX_FMT_GBRP16LE || dstFormat == AV_PIX_FMT_GBRP16BE ||
2074 dstFormat == AV_PIX_FMT_GBRAP10LE || dstFormat == AV_PIX_FMT_GBRAP10BE ||
2075 dstFormat == AV_PIX_FMT_GBRAP12LE || dstFormat == AV_PIX_FMT_GBRAP12BE ||
2076 dstFormat == AV_PIX_FMT_GBRAP16LE || dstFormat == AV_PIX_FMT_GBRAP16BE ))
2087 (dstFormat == AV_PIX_FMT_RGB48LE || dstFormat == AV_PIX_FMT_RGB48BE ||
2088 dstFormat == AV_PIX_FMT_BGR48LE || dstFormat == AV_PIX_FMT_BGR48BE ||
2089 dstFormat == AV_PIX_FMT_RGBA64LE || dstFormat == AV_PIX_FMT_RGBA64BE ||
2090 dstFormat == AV_PIX_FMT_BGRA64LE || dstFormat == AV_PIX_FMT_BGRA64BE))
2094 isPackedRGB(srcFormat) && dstFormat == AV_PIX_FMT_GBRP)
2099 if (dstFormat == AV_PIX_FMT_RGB24)
2101 else if (dstFormat == AV_PIX_FMT_RGB48)
2103 else if (dstFormat == AV_PIX_FMT_YUV420P)
2105 else if (!isBayer(dstFormat)) {
2112 if (IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BAYER_BGGR16) ||
2113 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BAYER_RGGB16) ||
2114 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BAYER_GBRG16) ||
2115 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BAYER_GRBG16) ||
2116 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BGR444) ||
2117 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BGR48) ||
2118 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BGR555) ||
2119 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BGR565) ||
2120 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_BGRA64) ||
2121 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GRAY9) ||
2122 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GRAY10) ||
2123 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GRAY12) ||
2124 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GRAY14) ||
2125 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GRAY16) ||
2126 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YA16) ||
2127 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_AYUV64) ||
2128 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRP9) ||
2129 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRP10) ||
2130 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRP12) ||
2131 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRP14) ||
2132 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRP16) ||
2133 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRAP10) ||
2134 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRAP12) ||
2135 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRAP16) ||
2136 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_RGB444) ||
2137 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_RGB48) ||
2138 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_RGB555) ||
2139 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_RGB565) ||
2140 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_RGBA64) ||
2141 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_XYZ12) ||
2142 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV420P9) ||
2143 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV420P10) ||
2144 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV420P12) ||
2145 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV420P14) ||
2146 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV420P16) ||
2147 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV422P9) ||
2148 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV422P10) ||
2149 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV422P12) ||
2150 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV422P14) ||
2151 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV422P16) ||
2152 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV440P10) ||
2153 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV440P12) ||
2154 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV444P9) ||
2155 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV444P10) ||
2156 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV444P12) ||
2157 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV444P14) ||
2158 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_YUV444P16))
2162 if (IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRPF32) ||
2163 IS_DIFFERENT_ENDIANESS(srcFormat, dstFormat, AV_PIX_FMT_GBRAPF32))
2166 if (usePal(srcFormat) && isByteRGB(dstFormat))
2170 if (dstFormat == AV_PIX_FMT_YUYV422)
2172 else if (dstFormat == AV_PIX_FMT_UYVY422)
2177 if (srcFormat == AV_PIX_FMT_GRAY8 && dstFormat == AV_PIX_FMT_GRAYF32){
2182 if (srcFormat == AV_PIX_FMT_GRAYF32 && dstFormat == AV_PIX_FMT_GRAY8){
2190 if (dstFormat == AV_PIX_FMT_YUYV422)
2192 else if (dstFormat == AV_PIX_FMT_UYVY422)
2197 (dstFormat == AV_PIX_FMT_YUV420P || dstFormat == AV_PIX_FMT_YUVA420P))
2200 (dstFormat == AV_PIX_FMT_YUV420P || dstFormat == AV_PIX_FMT_YUVA420P))
2202 if (srcFormat == AV_PIX_FMT_YUYV422 && dstFormat == AV_PIX_FMT_YUV422P)
2204 if (srcFormat == AV_PIX_FMT_UYVY422 && dstFormat == AV_PIX_FMT_YUV422P)
2209 if ( srcFormat == dstFormat ||
2210 (srcFormat == AV_PIX_FMT_YUVA420P && dstFormat == AV_PIX_FMT_YUV420P) ||
2211 (srcFormat == AV_PIX_FMT_YUV420P && dstFormat == AV_PIX_FMT_YUVA420P) ||
2212 (isFloat(srcFormat) == isFloat(dstFormat)) && ((isPlanarYUV(srcFormat) && isPlanarGray(dstFormat)) ||
2213 (isPlanarYUV(dstFormat) && isPlanarGray(srcFormat)) ||
2214 (isPlanarGray(dstFormat) && isPlanarGray(srcFormat)) ||
2215 (isPlanarYUV(srcFormat) && isPlanarYUV(dstFormat) &&
2218 !isSemiPlanarYUV(srcFormat) && !isSemiPlanarYUV(dstFormat))))