<div dir="ltr">Hi Andy,<div><br></div><div><br></div><div class="gmail_extra"><br><div class="gmail_quote">On Wed, Sep 21, 2016 at 9:30 PM, Andy Furniss <span dir="ltr"><<a href="mailto:adf.lists@gmail.com" target="_blank">adf.lists@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="gmail-HOEnZb"><div class="gmail-h5">Andy Furniss wrote:<br>
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
Andy Furniss wrote:<br>
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
Andy Furniss wrote:<br>
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
Andy Furniss wrote:<br>
<br>
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
bz2 compressed vid showing the issue -<br>
<br>
<a href="https://drive.google.com/open?id=0BxP5-S1t9VEEUE5sbUFBV20zSms" rel="noreferrer" target="_blank">https://drive.google.com/open?<wbr>id=0BxP5-S1t9VEEUE5sbUFBV20zSm<wbr>s</a><br>
</blockquote>
<br>
To be clear this is just the test rez vid I used so you can<br>
possibly recreate the issue your self.<br>
</blockquote>
<br>
Hmm, interesting, with bicubic, hqscaling=1 this vid behaves<br>
differently with mplayer compared to mpv, the latter looks like<br>
it's scaling a bit, maybe there's an off by one somewhere in mpv<br>
code.<br>
</blockquote>
<br>
I don't know if it's the cause, but looking for differences between<br>
mplayer and mpv it seems that mpv sets video mixer height so it's<br>
divisible by 32 but mplayer doesn't. For this 720p sample it uses 736<br>
and mplayer uses 720.<br>
<br>
vdp_video_mixer_create(1, 1, {11}, 3, {0, 1, 2}, {1280, 736, 0}, -)<br>
<br>
for output surfaces and render calls it uses 720.<br>
<br>
So does the bicubic code see/use this 736 somewhere?<br>
</blockquote>
<br></div></div>
To answer my own question - it does.<br>
<br>
Putting a printf in vl_bicubic.c create_frag_shader video_height = 736<br>
<br></blockquote><div>We intialize the filters with height of video mixer, So that explains the difference.</div><div><br></div><div>I was not able to make any progress with offsets nor the artifacts. Can you try </div><div>testing the lanczos filter by removing this line form create_frag_shader :-</div><div><br></div><div>ureg_SUB(shader, ureg_writemask(t_array[1], TGSI_WRITEMASK_XY),</div><div>            ureg_src(t_array[1]), half_pixel);  </div><div><br></div><div>I am not able to replicate the offset issue in my system, though the artifacts </div><div>issue is reproducible for all levels except 2 and 4</div></div><br></div><div class="gmail_extra">Regards,</div><div class="gmail_extra">Nayan.</div></div>