<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40"> <head> <meta http-equiv="Content-Type" content="text/html; charset=us-ascii"> <meta name="Generator" content="Microsoft Word 15 (filtered medium)"> <style></style> </head> <body lang="EN-US" link="#0563C1" vlink="#954F72" style="word-wrap:break-word"> [AMD Public Use] <div class="WordSection1"> This prefers reset control based handling if it's implemented<o:p></o:p> for a particular ASIC. If not, it takes the legacy path. It uses<o:p></o:p> the legacy method of preparing environment (job, scheduler tasks)<o:p></o:p> and restoring environment.<o:p></o:p> <o:p> </o:p> Signed-off-by: Lijo Lazar <a href="mailto:lijo.lazar@amd.com"> lijo.lazar@amd.com</a><o:p></o:p> ---<o:p></o:p> drivers/gpu/drm/amd/amdgpu/amdgpu.h | 11 +--<o:p></o:p> drivers/gpu/drm/amd/amdgpu/amdgpu_device.c | 106 +++++++++++++++------<o:p></o:p> drivers/gpu/drm/amd/amdgpu/amdgpu_drv.c | 17 +++-<o:p></o:p> 3 files changed, 97 insertions(+), 37 deletions(-)<o:p></o:p> <o:p> </o:p> diff --git a/drivers/gpu/drm/amd/amdgpu/amdgpu.h b/drivers/gpu/drm/amd/amdgpu/amdgpu.h<o:p></o:p> index 1fba89cced91..af8680727800 100644<o:p></o:p> --- a/drivers/gpu/drm/amd/amdgpu/amdgpu.h<o:p></o:p> +++ b/drivers/gpu/drm/amd/amdgpu/amdgpu.h<o:p></o:p> @@ -271,6 +271,7 @@ struct amdgpu_bo_va_mapping;<o:p></o:p> struct amdgpu_atif;<o:p></o:p> struct kfd_vm_fault_info;<o:p></o:p> struct amdgpu_hive_info;<o:p></o:p> +struct amdgpu_reset_context;<o:p></o:p> struct amdgpu_reset_control;<o:p></o:p> <o:p></o:p> enum amdgpu_cp_irq {<o:p></o:p> @@ -1079,6 +1080,7 @@ struct amdgpu_device {<o:p></o:p> <o:p></o:p> bool in_pci_err_recovery;<o:p></o:p> struct pci_saved_state *pci_state;<o:p></o:p> +<o:p></o:p> struct amdgpu_reset_control *reset_cntl;<o:p></o:p> };<o:p></o:p> <o:p></o:p> @@ -1131,13 +1133,10 @@ bool amdgpu_device_asic_has_dc_support(enum amd_asic_type asic_type);<o:p></o:p> bool amdgpu_device_has_dc_support(struct amdgpu_device *adev);<o:p></o:p> <o:p></o:p> int amdgpu_device_pre_asic_reset(struct amdgpu_device *adev,<o:p></o:p> - struct amdgpu_job *job,<o:p></o:p> - bool *need_full_reset_arg);<o:p></o:p> + struct amdgpu_reset_context *reset_context);<o:p></o:p> <o:p></o:p> -int amdgpu_do_asic_reset(struct amdgpu_hive_info *hive,<o:p></o:p> - struct list_head *device_list_handle,<o:p></o:p> - bool *need_full_reset_arg,<o:p></o:p> - bool skip_hw_reset);<o:p></o:p> +int amdgpu_do_asic_reset(struct list_head *device_list_handle,<o:p></o:p> + struct amdgpu_reset_context *reset_context);<o:p></o:p> <o:p></o:p> int emu_soc_asic_init(struct amdgpu_device *adev);<o:p></o:p> <o:p></o:p> diff --git a/drivers/gpu/drm/amd/amdgpu/amdgpu_device.c b/drivers/gpu/drm/amd/amdgpu/amdgpu_device.c<o:p></o:p> index bcb2c66437a2..6d6da1b504aa 100644<o:p></o:p> --- a/drivers/gpu/drm/amd/amdgpu/amdgpu_device.c<o:p></o:p> +++ b/drivers/gpu/drm/amd/amdgpu/amdgpu_device.c<o:p></o:p> @@ -65,6 +65,7 @@<o:p></o:p> #include "amdgpu_ras.h"<o:p></o:p> #include "amdgpu_pmu.h"<o:p></o:p> #include "amdgpu_fru_eeprom.h"<o:p></o:p> +#include "amdgpu_reset.h"<o:p></o:p> <o:p></o:p> #include <linux/suspend.h><o:p></o:p> #include <drm/task_barrier.h><o:p></o:p> @@ -3421,6 +3422,8 @@ int amdgpu_device_init(struct amdgpu_device *adev,<o:p></o:p> goto fence_driver_init;<o:p></o:p> }<o:p></o:p> <o:p></o:p> + amdgpu_reset_init(adev);<o:p></o:p> +<o:p></o:p> /* detect if we are with an SRIOV vbios */<o:p></o:p> amdgpu_device_detect_sriov_bios(adev);<o:p></o:p> <o:p></o:p> @@ -3671,6 +3674,9 @@ void amdgpu_device_fini(struct amdgpu_device *adev)<o:p></o:p> release_firmware(adev->firmware.gpu_info_fw);<o:p></o:p> adev->firmware.gpu_info_fw = NULL;<o:p></o:p> adev->accel_working = false;<o:p></o:p> +<o:p></o:p> + amdgpu_reset_fini(adev);<o:p></o:p> +<o:p></o:p> /* free i2c buses */<o:p></o:p> if (!amdgpu_device_has_dc_support(adev))<o:p></o:p> amdgpu_i2c_fini(adev);<o:p></o:p> @@ -4239,11 +4245,15 @@ int amdgpu_device_mode1_reset(struct amdgpu_device *adev)<o:p></o:p> }<o:p></o:p> <o:p></o:p> int amdgpu_device_pre_asic_reset(struct amdgpu_device *adev,<o:p></o:p> - struct amdgpu_job *job,<o:p></o:p> - bool *need_full_reset_arg)<o:p></o:p> + struct amdgpu_reset_context *reset_context)<o:p></o:p> {<o:p></o:p> int i, r = 0;<o:p></o:p> - bool need_full_reset = *need_full_reset_arg;<o:p></o:p> + struct amdgpu_job *job = NULL;<o:p></o:p> + bool need_full_reset =<o:p></o:p> + test_bit(AMDGPU_NEED_FULL_RESET, &reset_context->flags);<o:p></o:p> +<o:p></o:p> + if (reset_context->reset_req_dev == adev)<o:p></o:p> + job = reset_context->job;<o:p></o:p> <o:p></o:p> /* no need to dump if device is not in good state during probe period */<o:p></o:p> if (!adev->gmc.xgmi.pending_reset)<o:p></o:p> @@ -4268,6 +4278,10 @@ int amdgpu_device_pre_asic_reset(struct amdgpu_device *adev,<o:p></o:p> if(job)<o:p></o:p> drm_sched_increase_karma(&job->base);<o:p></o:p> <o:p></o:p> + r = amdgpu_reset_prepare_hwcontext(adev, reset_context);<o:p></o:p> + if (r != -ENOSYS)<o:p></o:p> + return r;<o:p></o:p> +<o:p></o:p> /* Don't suspend on bare metal if we are not going to HW reset the ASIC */<o:p></o:p> if (!amdgpu_sriov_vf(adev)) {<o:p></o:p> <o:p></o:p> @@ -4286,22 +4300,36 @@ int amdgpu_device_pre_asic_reset(struct amdgpu_device *adev,<o:p></o:p> <o:p></o:p> if (need_full_reset)<o:p></o:p> r = amdgpu_device_ip_suspend(adev);<o:p></o:p> -<o:p></o:p> - *need_full_reset_arg = need_full_reset;<o:p></o:p> + if (need_full_reset)<o:p></o:p> + set_bit(AMDGPU_NEED_FULL_RESET, &reset_context->flags);<o:p></o:p> + else<o:p></o:p> + clear_bit(AMDGPU_NEED_FULL_RESET,<o:p></o:p> + &reset_context->flags);<o:p></o:p> }<o:p></o:p> <o:p></o:p> return r;<o:p></o:p> }<o:p></o:p> <o:p></o:p> -int amdgpu_do_asic_reset(struct amdgpu_hive_info *hive,<o:p></o:p> - struct list_head *device_list_handle,<o:p></o:p> - bool *need_full_reset_arg,<o:p></o:p> - bool skip_hw_reset)<o:p></o:p> +int amdgpu_do_asic_reset(struct list_head *device_list_handle,<o:p></o:p> + struct amdgpu_reset_context *reset_context)<o:p></o:p> {<o:p></o:p> struct amdgpu_device *tmp_adev = NULL;<o:p></o:p> - bool need_full_reset = *need_full_reset_arg, vram_lost = false;<o:p></o:p> + bool need_full_reset, skip_hw_reset, vram_lost = false;<o:p></o:p> int r = 0;<o:p></o:p> <o:p></o:p> + /* Try reset handler method first */<o:p></o:p> + tmp_adev = list_first_entry(device_list_handle, struct amdgpu_device,<o:p></o:p> + reset_list);<o:p></o:p> + r = amdgpu_reset_perform_reset(tmp_adev, reset_context);<o:p></o:p> +<o:p></o:p> + if (r != -ENOSYS)<o:p></o:p> + return r;<o:p></o:p> +<o:p></o:p> + /* Reset handler not implemented, use the default method */<o:p></o:p> + need_full_reset =<o:p></o:p> + test_bit(AMDGPU_NEED_FULL_RESET, &reset_context->flags);<o:p></o:p> + skip_hw_reset = test_bit(AMDGPU_SKIP_HW_RESET, &reset_context->flags);<o:p></o:p> +<o:p></o:p> /*<o:p></o:p> * ASIC reset has to be done on all XGMI hive nodes ASAP<o:p></o:p> * to allow proper links negotiation in FW (within 1 sec)<o:p></o:p> @@ -4385,7 +4413,8 @@ int amdgpu_do_asic_reset(struct amdgpu_hive_info *hive,<o:p></o:p> */<o:p></o:p> amdgpu_register_gpu_instance(tmp_adev);<o:p></o:p> <o:p></o:p> - if (!hive && tmp_adev->gmc.xgmi.num_physical_nodes > 1)<o:p></o:p> + if (!reset_context->hive &&<o:p></o:p> + tmp_adev->gmc.xgmi.num_physical_nodes > 1)<o:p></o:p> amdgpu_xgmi_add_device(tmp_adev);<o:p></o:p> <o:p></o:p> r = amdgpu_device_ip_late_init(tmp_adev);<o:p></o:p> @@ -4413,8 +4442,10 @@ int amdgpu_do_asic_reset(struct amdgpu_hive_info *hive,<o:p></o:p> }<o:p></o:p> <o:p></o:p> /* Update PSP FW topology after reset */<o:p></o:p> - if (hive && tmp_adev->gmc.xgmi.num_physical_nodes > 1)<o:p></o:p> - r = amdgpu_xgmi_update_topology(hive, tmp_adev);<o:p></o:p> + if (reset_context->hive &&<o:p></o:p> + tmp_adev->gmc.xgmi.num_physical_nodes > 1)<o:p></o:p> + r = amdgpu_xgmi_update_topology(<o:p></o:p> + reset_context->hive, tmp_adev);<o:p></o:p> }<o:p></o:p> }<o:p></o:p> <o:p></o:p> @@ -4438,7 +4469,10 @@ int amdgpu_do_asic_reset(struct amdgpu_hive_info *hive,<o:p></o:p> }<o:p></o:p> <o:p></o:p> end:<o:p></o:p> - *need_full_reset_arg = need_full_reset;<o:p></o:p> + if (need_full_reset)<o:p></o:p> + set_bit(AMDGPU_NEED_FULL_RESET, &reset_context->flags);<o:p></o:p> + else<o:p></o:p> + clear_bit(AMDGPU_NEED_FULL_RESET, &reset_context->flags);<o:p></o:p> return r;<o:p></o:p> }<o:p></o:p> <o:p></o:p> @@ -4575,10 +4609,9 @@ static int amdgpu_device_suspend_display_audio(struct amdgpu_device *adev)<o:p></o:p> return 0;<o:p></o:p> }<o:p></o:p> <o:p></o:p> -void amdgpu_device_recheck_guilty_jobs(struct amdgpu_device *adev,<o:p></o:p> - struct amdgpu_hive_info *hive,<o:p></o:p> - struct list_head *device_list_handle,<o:p></o:p> - bool *need_full_reset)<o:p></o:p> +void amdgpu_device_recheck_guilty_jobs(<o:p></o:p> + struct amdgpu_device *adev, struct list_head *device_list_handle,<o:p></o:p> + struct amdgpu_reset_context *reset_context)<o:p></o:p> {<o:p></o:p> int i, r = 0;<o:p></o:p> <o:p></o:p> @@ -4614,8 +4647,10 @@ void amdgpu_device_recheck_guilty_jobs(struct amdgpu_device *adev,<o:p></o:p> if (r)<o:p></o:p> adev->asic_reset_res = r;<o:p></o:p> } else {<o:p></o:p> - r = amdgpu_do_asic_reset(hive, device_list_handle,<o:p></o:p> - need_full_reset, false);<o:p></o:p> + clear_bit(AMDGPU_SKIP_HW_RESET,<o:p></o:p> + &reset_context->flags);<o:p></o:p> + r = amdgpu_do_asic_reset(device_list_handle,<o:p></o:p> + reset_context);<o:p></o:p> if (r && r == -EAGAIN)<o:p></o:p> goto retry;<o:p></o:p> }<o:p></o:p> @@ -4665,6 +4700,9 @@ int amdgpu_device_gpu_recover(struct amdgpu_device *adev,<o:p></o:p> bool need_emergency_restart = false;<o:p></o:p> bool audio_suspended = false;<o:p></o:p> int tmp_vram_lost_counter;<o:p></o:p> + struct amdgpu_reset_context reset_context;<o:p></o:p> +<o:p></o:p> + memset(&reset_context, 0, sizeof(reset_context));<o:p></o:p> <o:p></o:p> /*<o:p></o:p> * Special case: RAS triggered and full reset isn't supported<o:p></o:p> @@ -4705,6 +4743,12 @@ int amdgpu_device_gpu_recover(struct amdgpu_device *adev,<o:p></o:p> mutex_lock(&hive->hive_lock);<o:p></o:p> }<o:p></o:p> <o:p></o:p> + reset_context.method = AMD_RESET_METHOD_NONE;<o:p></o:p> + reset_context.reset_req_dev = adev;<o:p></o:p> + reset_context.job = job;<o:p></o:p> + reset_context.hive = hive;<o:p></o:p> + clear_bit(AMDGPU_NEED_FULL_RESET, &reset_context.flags);<o:p></o:p> +<o:p></o:p> /*<o:p></o:p> * lock the device before we try to operate the linked list<o:p></o:p> * if didn't get the device lock, don't touch the linked list since<o:p></o:p> @@ -4805,9 +4849,7 @@ int amdgpu_device_gpu_recover(struct amdgpu_device *adev,<o:p></o:p> <o:p></o:p> retry: /* Rest of adevs pre asic reset from XGMI hive. */<o:p></o:p> list_for_each_entry(tmp_adev, device_list_handle, reset_list) {<o:p></o:p> - r = amdgpu_device_pre_asic_reset(tmp_adev,<o:p></o:p> - (tmp_adev == adev) ? job : NULL,<o:p></o:p> - &need_full_reset);<o:p></o:p> + r = amdgpu_device_pre_asic_reset(tmp_adev, &reset_context);<o:p></o:p> /*TODO Should we stop ?*/<o:p></o:p> if (r) {<o:p></o:p> dev_err(tmp_adev->dev, "GPU pre asic reset failed with err, %d for drm dev, %s ",<o:p></o:p> @@ -4824,7 +4866,7 @@ int amdgpu_device_gpu_recover(struct amdgpu_device *adev,<o:p></o:p> if (r)<o:p></o:p> adev->asic_reset_res = r;<o:p></o:p> } else {<o:p></o:p> - r = amdgpu_do_asic_reset(hive, device_list_handle, &need_full_reset, false);<o:p></o:p> + r = amdgpu_do_asic_reset(device_list_handle, &reset_context);<o:p></o:p> if (r && r == -EAGAIN)<o:p></o:p> goto retry;<o:p></o:p> }<o:p></o:p> @@ -4843,8 +4885,8 @@ int amdgpu_device_gpu_recover(struct amdgpu_device *adev,<o:p></o:p> */<o:p></o:p> if (amdgpu_gpu_recovery == 2 &&<o:p></o:p> !(tmp_vram_lost_counter < atomic_read(&adev->vram_lost_counter)))<o:p></o:p> - amdgpu_device_recheck_guilty_jobs(tmp_adev, hive,<o:p></o:p> - device_list_handle, &need_full_reset);<o:p></o:p> + amdgpu_device_recheck_guilty_jobs(<o:p></o:p> + tmp_adev, device_list_handle, &reset_context);<o:p></o:p> <o:p></o:p> for (i = 0; i < AMDGPU_MAX_RINGS; ++i) {<o:p></o:p> struct amdgpu_ring *ring = tmp_adev->rings[i];<o:p></o:p> @@ -5189,12 +5231,15 @@ pci_ers_result_t amdgpu_pci_slot_reset(struct pci_dev *pdev)<o:p></o:p> struct drm_device *dev = pci_get_drvdata(pdev);<o:p></o:p> struct amdgpu_device *adev = drm_to_adev(dev);<o:p></o:p> int r, i;<o:p></o:p> + struct amdgpu_reset_context reset_context;<o:p></o:p> bool need_full_reset = true;<o:p></o:p> u32 memsize;<o:p></o:p> struct list_head device_list;<o:p></o:p> <o:p></o:p> DRM_INFO("PCI error: slot reset callback!!\n");<o:p></o:p> <o:p></o:p> + memset(&reset_context, 0, sizeof(reset_context));<o:p></o:p> +<o:p></o:p> INIT_LIST_HEAD(&device_list);<o:p></o:p> list_add_tail(&adev->reset_list, &device_list);<o:p></o:p> <o:p></o:p> @@ -5217,13 +5262,18 @@ pci_ers_result_t amdgpu_pci_slot_reset(struct pci_dev *pdev)<o:p></o:p> goto out;<o:p></o:p> }<o:p></o:p> <o:p></o:p> + reset_context.method = AMD_RESET_METHOD_NONE;<o:p></o:p> + reset_context.reset_req_dev = adev;<o:p></o:p> + set_bit(AMDGPU_NEED_FULL_RESET, &reset_context.flags);<o:p></o:p> + set_bit(AMDGPU_SKIP_HW_RESET, &reset_context.flags);<o:p></o:p> +<o:p></o:p> adev->in_pci_err_recovery = true;<o:p></o:p> - r = amdgpu_device_pre_asic_reset(adev, NULL, &need_full_reset);<o:p></o:p> + r = amdgpu_device_pre_asic_reset(adev, &reset_context);<o:p></o:p> adev->in_pci_err_recovery = false;<o:p></o:p> if (r)<o:p></o:p> goto out;<o:p></o:p> <o:p></o:p> - r = amdgpu_do_asic_reset(NULL, &device_list, &need_full_reset, true);<o:p></o:p> + r = amdgpu_do_asic_reset(&device_list, &reset_context);<o:p></o:p> <o:p></o:p> out:<o:p></o:p> if (!r) {<o:p></o:p> diff --git a/drivers/gpu/drm/amd/amdgpu/amdgpu_drv.c b/drivers/gpu/drm/amd/amdgpu/amdgpu_drv.c<o:p></o:p> index 6a06234dbcad..4bcc03c4c6c5 100644<o:p></o:p> --- a/drivers/gpu/drm/amd/amdgpu/amdgpu_drv.c<o:p></o:p> +++ b/drivers/gpu/drm/amd/amdgpu/amdgpu_drv.c<o:p></o:p> @@ -47,6 +47,7 @@<o:p></o:p> <o:p></o:p> #include "amdgpu_ras.h"<o:p></o:p> #include "amdgpu_xgmi.h"<o:p></o:p> +#include "amdgpu_reset.h"<o:p></o:p> <o:p></o:p> /*<o:p></o:p> * KMS wrapper.<o:p></o:p> @@ -1349,7 +1350,9 @@ static void amdgpu_drv_delayed_reset_work_handler(struct work_struct *work)<o:p></o:p> struct list_head device_list;<o:p></o:p> struct amdgpu_device *adev;<o:p></o:p> int i, r;<o:p></o:p> - bool need_full_reset = true;<o:p></o:p> + struct amdgpu_reset_context reset_context;<o:p></o:p> +<o:p></o:p> + memset(&reset_context, 0, sizeof(reset_context));<o:p></o:p> <o:p></o:p> mutex_lock(&mgpu_info.mutex);<o:p></o:p> if (mgpu_info.pending_reset == true) {<o:p></o:p> @@ -1359,9 +1362,14 @@ static void amdgpu_drv_delayed_reset_work_handler(struct work_struct *work)<o:p></o:p> mgpu_info.pending_reset = true;<o:p></o:p> mutex_unlock(&mgpu_info.mutex);<o:p></o:p> <o:p></o:p> + /* Use a common context, just need to make sure full reset is done */<o:p></o:p> + reset_context.method = AMD_RESET_METHOD_NONE;<o:p></o:p> + set_bit(AMDGPU_NEED_FULL_RESET, &reset_context.flags);<o:p></o:p> +<o:p></o:p> for (i = 0; i < mgpu_info.num_dgpu; i++) {<o:p></o:p> adev = mgpu_info.gpu_ins[i].adev;<o:p></o:p> - r = amdgpu_device_pre_asic_reset(adev, NULL, &need_full_reset);<o:p></o:p> + reset_context.reset_req_dev = adev;<o:p></o:p> + r = amdgpu_device_pre_asic_reset(adev, &reset_context);<o:p></o:p> if (r) {<o:p></o:p> dev_err(adev->dev, "GPU pre asic reset failed with err, %d for drm dev, %s ",<o:p></o:p> r, adev_to_drm(adev)->unique);<o:p></o:p> @@ -1388,7 +1396,10 @@ static void amdgpu_drv_delayed_reset_work_handler(struct work_struct *work)<o:p></o:p> list_for_each_entry(adev, &device_list, reset_list)<o:p></o:p> amdgpu_unregister_gpu_instance(adev);<o:p></o:p> <o:p></o:p> - r = amdgpu_do_asic_reset(NULL, &device_list, &need_full_reset, true);<o:p></o:p> + /* Use a common context, just need to make sure full reset is done */<o:p></o:p> + set_bit(AMDGPU_SKIP_HW_RESET, &reset_context.flags);<o:p></o:p> + r = amdgpu_do_asic_reset(&device_list, &reset_context);<o:p></o:p> +<o:p></o:p> if (r) {<o:p></o:p> DRM_ERROR("reinit gpus failure");<o:p></o:p> return;<o:p></o:p> -- <o:p></o:p> 2.17.1<o:p></o:p> <o:p> </o:p> </div> </body> </html>