<!DOCTYPE html><html><head> <meta http-equiv="Content-Type" content="text/html; charset=utf-8"> </head> <body> <p><br> </p> <div class="moz-cite-prefix">On 2023-11-13 12:04, Yat Sin, David wrote:<br> </div> <blockquote type="cite" cite="mid:DM6PR12MB5021F2E9F4BE17C69FF1128E95B3A@DM6PR12MB5021.namprd12.prod.outlook.com"> <meta name="Generator" content="Microsoft Word 15 (filtered medium)"> <style>@font-face {font-family:"Cambria Math"; panose-1:2 4 5 3 5 4 6 3 2 4;}@font-face {font-family:Calibri; panose-1:2 15 5 2 2 2 4 3 2 4;}@font-face {font-family:Consolas; panose-1:2 11 6 9 2 2 4 3 2 4;}p.MsoNormal, li.MsoNormal, div.MsoNormal {margin:0in; font-size:11.0pt; font-family:"Calibri",sans-serif;}a:link, span.MsoHyperlink {mso-style-priority:99; color:blue; text-decoration:underline;}pre {mso-style-priority:99; mso-style-link:"HTML Preformatted Char"; margin:0in; font-size:10.0pt; font-family:"Courier New";}span.HTMLPreformattedChar {mso-style-name:"HTML Preformatted Char"; mso-style-priority:99; mso-style-link:"HTML Preformatted"; font-family:Consolas;}span.EmailStyle21 {mso-style-type:personal-reply; font-family:"Calibri",sans-serif; color:windowtext;}.MsoChpDefault {mso-style-type:export-only; font-size:10.0pt; mso-ligatures:none;}div.WordSection1 {page:WordSection1;}</style> <p style="font-family:Arial;font-size:10pt;color:#0000FF;margin:5pt;font-style:normal;font-weight:normal;text-decoration:none;" align="Left"> [AMD Official Use Only - General]<br> </p> <br> <div> <div class="WordSection1"> <p class="MsoNormal"><o:p> </o:p></p> <p class="MsoNormal"><o:p> </o:p></p> <div style="border:none;border-left:solid blue 1.5pt;padding:0in 0in 0in 4.0pt"> <div> <div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in"> <p class="MsoNormal"><b>From:</b> Zhu, James <a class="moz-txt-link-rfc2396E" href="mailto:James.Zhu@amd.com"><James.Zhu@amd.com></a> <br> <b>Sent:</b> Monday, November 13, 2023 10:20 AM<br> <b>To:</b> Yat Sin, David <a class="moz-txt-link-rfc2396E" href="mailto:David.YatSin@amd.com"><David.YatSin@amd.com></a>; Zhu, James <a class="moz-txt-link-rfc2396E" href="mailto:James.Zhu@amd.com"><James.Zhu@amd.com></a>; <a class="moz-txt-link-abbreviated" href="mailto:amd-gfx@lists.freedesktop.org">amd-gfx@lists.freedesktop.org</a><br> <b>Cc:</b> Kuehling, Felix <a class="moz-txt-link-rfc2396E" href="mailto:Felix.Kuehling@amd.com"><Felix.Kuehling@amd.com></a>; Greathouse, Joseph <a class="moz-txt-link-rfc2396E" href="mailto:Joseph.Greathouse@amd.com"><Joseph.Greathouse@amd.com></a><br> <b>Subject:</b> Re: [PATCH 19/24] drm/amdkfd: enable pc sampling stop<o:p></o:p></p> </div> </div> <p class="MsoNormal"><o:p> </o:p></p> <p><o:p> </o:p></p> <div> <p class="MsoNormal">On 2023-11-10 14:07, Yat Sin, David wrote:<o:p></o:p></p> </div> <blockquote style="margin-top:5.0pt;margin-bottom:5.0pt"> <pre>[AMD Official Use Only - General]<o:p></o:p></pre> <pre><o:p> </o:p></pre> <blockquote style="margin-top:5.0pt;margin-bottom:5.0pt"> <pre>-----Original Message-----<o:p></o:p></pre> <pre>From: Zhu, James <a href="mailto:James.Zhu@amd.com" moz-do-not-send="true"><James.Zhu@amd.com></a><o:p></o:p></pre> <pre>Sent: Friday, November 3, 2023 9:12 AM<o:p></o:p></pre> <pre>To: <a href="mailto:amd-gfx@lists.freedesktop.org" moz-do-not-send="true" class="moz-txt-link-freetext">amd-gfx@lists.freedesktop.org</a><o:p></o:p></pre> <pre>Cc: Kuehling, Felix <a href="mailto:Felix.Kuehling@amd.com" moz-do-not-send="true"><Felix.Kuehling@amd.com></a>; Greathouse, Joseph<o:p></o:p></pre> <pre><a href="mailto:Joseph.Greathouse@amd.com" moz-do-not-send="true"><Joseph.Greathouse@amd.com></a>; Yat Sin, David <a href="mailto:David.YatSin@amd.com" moz-do-not-send="true"><David.YatSin@amd.com></a>; Zhu,<o:p></o:p></pre> <pre>James <a href="mailto:James.Zhu@amd.com" moz-do-not-send="true"><James.Zhu@amd.com></a><o:p></o:p></pre> <pre>Subject: [PATCH 19/24] drm/amdkfd: enable pc sampling stop<o:p></o:p></pre> <pre><o:p> </o:p></pre> <pre>Enable pc sampling stop.<o:p></o:p></pre> <pre><o:p> </o:p></pre> <pre>Signed-off-by: James Zhu <a href="mailto:James.Zhu@amd.com" moz-do-not-send="true"><James.Zhu@amd.com></a><o:p></o:p></pre> <pre>---<o:p></o:p></pre> <pre> drivers/gpu/drm/amd/amdkfd/kfd_pc_sampling.c | 28 +++++++++++++++++--<o:p></o:p></pre> <pre>-<o:p></o:p></pre> <pre> drivers/gpu/drm/amd/amdkfd/kfd_priv.h | 2 ++<o:p></o:p></pre> <pre> 2 files changed, 27 insertions(+), 3 deletions(-)<o:p></o:p></pre> <pre><o:p> </o:p></pre> <pre>diff --git a/drivers/gpu/drm/amd/amdkfd/kfd_pc_sampling.c<o:p></o:p></pre> <pre>b/drivers/gpu/drm/amd/amdkfd/kfd_pc_sampling.c<o:p></o:p></pre> <pre>index 33d003ca0093..2c4ac5b4cc4b 100644<o:p></o:p></pre> <pre>--- a/drivers/gpu/drm/amd/amdkfd/kfd_pc_sampling.c<o:p></o:p></pre> <pre>+++ b/drivers/gpu/drm/amd/amdkfd/kfd_pc_sampling.c<o:p></o:p></pre> <pre>@@ -108,10 +108,32 @@ static int kfd_pc_sample_start(struct<o:p></o:p></pre> <pre>kfd_process_device *pdd,<o:p></o:p></pre> <pre> return 0;<o:p></o:p></pre> <pre> }<o:p></o:p></pre> <pre><o:p> </o:p></pre> <pre>-static int kfd_pc_sample_stop(struct kfd_process_device *pdd)<o:p></o:p></pre> <pre>+static int kfd_pc_sample_stop(struct kfd_process_device *pdd,<o:p></o:p></pre> <pre>+ struct pc_sampling_entry *pcs_entry)<o:p></o:p></pre> <pre> {<o:p></o:p></pre> <pre>- return -EINVAL;<o:p></o:p></pre> <pre>+ bool pc_sampling_stop = false;<o:p></o:p></pre> <pre>+<o:p></o:p></pre> <pre>+ pcs_entry->enabled = false;<o:p></o:p></pre> <pre>+ mutex_lock(&pdd->dev->pcs_data.mutex);<o:p></o:p></pre> </blockquote> <pre>For the START/STOP/DESTROY ioctls, I think we can hold pdd->dev->pcs_data.mutex through the whole IOCTL. Then we would not have to deal with the intermediate states where the START/STOP/DESTROY are happening at the same time.<o:p></o:p></pre> </blockquote> <p class="MsoNormal" style="margin-left:5.25pt">[JZ] pdd->dev->pcs_data.mutex is per device, not per process. In the future, also it will share protection within different pc sampling methods on the same devices. So I don't think a bigger lock here is good idea.<br> [David] I think the CREATE/START/STOP/DESTROY actions are not time critical. So if two processes are using the same GPU, it is ok for amdgpu to block the 2<sup>nd</sup> process until amdgpu has fully completed the request from the 1<sup>st</sup> process. I think we are making the code more complex for a use-case that would be very rare.<br> </p> </div> </div> </div> </blockquote> [JZ] IIRC, the init RFC version used bigger lock, and is questioned as an inefficient way,<br> <blockquote type="cite" cite="mid:DM6PR12MB5021F2E9F4BE17C69FF1128E95B3A@DM6PR12MB5021.namprd12.prod.outlook.com"> <div> <div class="WordSection1"> <div style="border:none;border-left:solid blue 1.5pt;padding:0in 0in 0in 4.0pt"> <p class="MsoNormal" style="margin-left:5.25pt"> <br> <o:p></o:p></p> <blockquote style="margin-top:5.0pt;margin-bottom:5.0pt"> <blockquote style="margin-top:5.0pt;margin-bottom:5.0pt"> <pre>+ pdd->dev->pcs_data.hosttrap_entry.base.active_count--;<o:p></o:p></pre> <pre>+ if (!pdd->dev->pcs_data.hosttrap_entry.base.active_count) {<o:p></o:p></pre> <pre>+ WRITE_ONCE(pdd->dev-<o:p></o:p></pre> <blockquote style="margin-top:5.0pt;margin-bottom:5.0pt"> <pre>pcs_data.hosttrap_entry.base.stop_enable, true);<o:p></o:p></pre> </blockquote> <pre>+ pc_sampling_stop = true;<o:p></o:p></pre> <pre>+ }<o:p></o:p></pre> <pre>+ mutex_unlock(&pdd->dev->pcs_data.mutex);<o:p></o:p></pre> <pre><o:p> </o:p></pre> <pre>+ if (pc_sampling_stop) {<o:p></o:p></pre> <pre>+ kfd_process_set_trap_pc_sampling_flag(&pdd->qpd,<o:p></o:p></pre> <pre>+ pdd->dev-<o:p></o:p></pre> <blockquote style="margin-top:5.0pt;margin-bottom:5.0pt"> <pre>pcs_data.hosttrap_entry.base.pc_sample_info.method,<o:p></o:p></pre> </blockquote> <pre>+false);<o:p></o:p></pre> <pre>+<o:p></o:p></pre> <pre>+ mutex_lock(&pdd->dev->pcs_data.mutex);<o:p></o:p></pre> <pre>+ pdd->dev->pcs_data.hosttrap_entry.base.target_simd = 0;<o:p></o:p></pre> <pre>+ pdd->dev->pcs_data.hosttrap_entry.base.target_wave_slot = 0;<o:p></o:p></pre> <pre>+ WRITE_ONCE(pdd->dev-<o:p></o:p></pre> <blockquote style="margin-top:5.0pt;margin-bottom:5.0pt"> <pre>pcs_data.hosttrap_entry.base.stop_enable, false);<o:p></o:p></pre> </blockquote> <pre>+ mutex_unlock(&pdd->dev->pcs_data.mutex);<o:p></o:p></pre> <pre>+ }<o:p></o:p></pre> <pre>+<o:p></o:p></pre> <pre>+ return 0;<o:p></o:p></pre> <pre> }<o:p></o:p></pre> <pre><o:p> </o:p></pre> <pre> static int kfd_pc_sample_create(struct kfd_process_device *pdd, @@ -251,7<o:p></o:p></pre> <pre>+273,7 @@ int kfd_pc_sample(struct kfd_process_device *pdd,<o:p></o:p></pre> <pre> if (!pcs_entry->enabled)<o:p></o:p></pre> <pre> return -EALREADY;<o:p></o:p></pre> <pre> else<o:p></o:p></pre> <pre>- return kfd_pc_sample_stop(pdd);<o:p></o:p></pre> <pre>+ return kfd_pc_sample_stop(pdd, pcs_entry);<o:p></o:p></pre> <pre> }<o:p></o:p></pre> <pre><o:p> </o:p></pre> <pre> return -EINVAL;<o:p></o:p></pre> <pre>diff --git a/drivers/gpu/drm/amd/amdkfd/kfd_priv.h<o:p></o:p></pre> <pre>b/drivers/gpu/drm/amd/amdkfd/kfd_priv.h<o:p></o:p></pre> <pre>index 613910e0d440..badaa4d68cc4 100644<o:p></o:p></pre> <pre>--- a/drivers/gpu/drm/amd/amdkfd/kfd_priv.h<o:p></o:p></pre> <pre>+++ b/drivers/gpu/drm/amd/amdkfd/kfd_priv.h<o:p></o:p></pre> <pre>@@ -259,6 +259,8 @@ struct kfd_dev;<o:p></o:p></pre> <pre> struct kfd_dev_pc_sampling_data {<o:p></o:p></pre> <pre> uint32_t use_count; /* Num of PC sampling sessions */<o:p></o:p></pre> <pre> uint32_t active_count; /* Num of active sessions */<o:p></o:p></pre> <pre>+ uint32_t target_simd; /* target simd for trap */<o:p></o:p></pre> <pre>+ uint32_t target_wave_slot; /* target wave slot for trap */<o:p></o:p></pre> <pre> bool stop_enable; /* pc sampling stop in process */<o:p></o:p></pre> <pre> struct idr pc_sampling_idr;<o:p></o:p></pre> <pre> struct kfd_pc_sample_info pc_sample_info;<o:p></o:p></pre> <pre>--<o:p></o:p></pre> <pre>2.25.1<o:p></o:p></pre> </blockquote> <pre><o:p> </o:p></pre> </blockquote> </div> </div> </div> </blockquote> </body> </html>