<div dir="ltr"><div class="gmail_quote"><div dir="ltr">On Fri, Aug 17, 2018 at 4:26 PM Roland Scheidegger <<a href="mailto:sroland@vmware.com">sroland@vmware.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Am 17.08.2018 um 22:06 schrieb Jason Ekstrand:<br>
> This matches the unpack function.<br>
> ---<br>
>  src/compiler/nir/nir_format_convert.h | 2 +-<br>
>  1 file changed, 1 insertion(+), 1 deletion(-)<br>
> <br>
> diff --git a/src/compiler/nir/nir_format_convert.h b/src/compiler/nir/nir_format_convert.h<br>
> index 75793733ea6..c79001a50aa 100644<br>
> --- a/src/compiler/nir/nir_format_convert.h<br>
> +++ b/src/compiler/nir/nir_format_convert.h<br>
> @@ -298,7 +298,7 @@ nir_format_unpack_11f11f10f(nir_builder *b, nir_ssa_def *packed)<br>
>  }<br>
>  <br>
>  static inline nir_ssa_def *<br>
> -nir_format_pack_r11g11b10f(nir_builder *b, nir_ssa_def *color)<br>
> +nir_format_pack_11f11f10f(nir_builder *b, nir_ssa_def *color)<br>
>  {<br>
>     /* 10 and 11-bit floats are unsigned.  Clamp to non-negative */<br>
>     nir_ssa_def *clamped = nir_fmax(b, color, nir_imm_float(b, 0));<br>
> <br>
<br>
Not that this is actually changing with this patch, I just saw it by<br>
accident - but fmax will kill off NaNs, despite that this format can<br>
encode them easily.<br></blockquote><div><br></div><div>True.  If we're concerned about that, we could always replace it with "color = color <= 0 ? 0 : color" then a NaN would be propagated.  At current, I think the optimizer is likely to detect that and replace it with fmax though....<br></div><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
I suppose though that's ok for GL...<br></blockquote><div><br></div><div>Yeah.  Thanks for pointing it out though!</div><div><br></div><div>--Jason<br></div></div></div>