Lines Matching defs:format
628 : format (format_)
633 FloatFormat format;
881 EvalContext newCtx (ctx.format, ctx.floatPrecision,
1515 EvalContext funCtx(ctx.format, ctx.floatPrecision, funEnv, ctx.callDepth);
1716 return ctx.format.convert(ret);
1788 return ctx.format.convert(reti);
1861 return ctx.format.roundOut(exact, !deIsInf(x) && !deIsInf(y));
1887 return ctx.format.convert(reti);
1930 if (iargs.a.isOrdinary(ctx.format.getMaxValue()) && iargs.b.isOrdinary(ctx.format.getMaxValue()))
1936 return ctx.format.convert(ctx.format.roundOut(ret, true));
1957 if (a.isOrdinary(ctx.format.getMaxValue()) && b.isOrdinary(ctx.format.getMaxValue()))
1970 return ctx.format.convert(ctx.format.roundOut(ret, true));
1977 return ctx.format.convert(ctx.format.roundOut(ret, true));
2005 if (iargs.a.isOrdinary(ctx.format.getMaxValue()) && iargs.b.isOrdinary(ctx.format.getMaxValue()))
2012 return ctx.format.convert(ctx.format.roundOut(ret, true));
2070 const Interval dst = ctx.format.convert(ret);
2071 if (dst.contains(-TCU_INFINITY)) ret |= -ctx.format.getMaxValue();
2072 if (dst.contains(+TCU_INFINITY)) ret |= +ctx.format.getMaxValue();
2080 const FloatFormat& fmt = ctx.format;
2107 return x <= 0 ? TCU_NAN : ctx.format.ulp(ret, 2.0);
2127 return ctx.format.ulp(ret, 3.0 + 2.0 * deAbs(x));
2129 return ctx.format.ulp(ret, 2.0 + 2.0 * deAbs(x));
2131 return ctx.format.ulp(ret, 2.0);
2165 return (0.5 <= x && x <= 2.0) ? deLdExp(1.0, -21) : ctx.format.ulp(ret, 3.0);
2167 return (0.5 <= x && x <= 2.0) ? deLdExp(1.0, -7) : ctx.format.ulp(ret, 2.0);
2169 return ctx.format.ulp(ret, 2.0);
2183 return (0.5 <= x && x <= 2.0) ? deLdExp(1.0, -21) : ctx.format.ulp(ret, 4.0);
2357 return ctx.format.ulp(ret, 2.0);
2370 return ctx.format.ulp(ret, 2.0);
2451 return ctx.format.ulp(ret, m_precision);
2456 return ctx.format.ulp(ret, 2.0);
2504 if (!yi.isFinite(ctx.format.getMaxValue()) || !xi.isFinite(ctx.format.getMaxValue()))
2516 return ctx.format.ulp(ret, 4096.0);
2518 return ctx.format.ulp(ret, 2.0);
3333 if (!iargs.a.isFinite(ctx.format.getMaxValue()))
3351 if (ctx.format.hasSubnormal() != tcu::YES)
3353 const int minExp = ctx.format.getMinExp();
3354 const int fractionBits = ctx.format.getFractionBits();
4255 float genRandom (const FloatFormat& format, Precision prec, Random& rnd) const;
4256 void genFixeds (const FloatFormat& format, vector<float>& dst) const;
4261 float DefaultSampling<float>::genRandom (const FloatFormat& format,
4265 const int minExp = format.getMinExp();
4266 const int maxExp = format.getMaxExp();
4267 const bool haveSubnormal = format.hasSubnormal() != tcu::NO;
4273 const int fractionBits = format.getFractionBits();
4328 void DefaultSampling<float>::genFixeds (const FloatFormat& format, vector<float>& dst) const
4330 const int minExp = format.getMinExp();
4331 const int maxExp = format.getMaxExp();
4332 const int fractionBits = format.getFractionBits();
5562 // A fixed-point format is just a floating point format with a fixed