]> git.ipfire.org Git - thirdparty/kernel/linux.git/commit
drm/amdgpu: Fix potential integer overflow in scheduler mask calculations
authorKarol Przybylski <karprzy7@gmail.com>
Sun, 15 Dec 2024 12:28:57 +0000 (13:28 +0100)
committerAlex Deucher <alexander.deucher@amd.com>
Wed, 18 Dec 2024 17:38:42 +0000 (12:38 -0500)
commit34c4eb7d4e0cd443399a0f114d467d2b3ff05419
tree9797b3f40df8adba1b6576b64d9f573a26dbb6a4
parent8f2cd1067afe68372a1723e05e19b68ed187676a
drm/amdgpu: Fix potential integer overflow in scheduler mask calculations

The use of 1 << i in scheduler mask calculations can result in an
unintentional integer overflow due to the expression being
evaluated as a 32-bit signed integer.

This patch replaces 1 << i with 1ULL << i to ensure the operation
is performed as a 64-bit unsigned integer, preventing overflow

Discovered in coverity scan, CID 1636393163617516360071635853

Fixes: c5c63d9cb5d3 ("drm/amdgpu: add amdgpu_gfx_sched_mask and amdgpu_compute_sched_mask debugfs")
Signed-off-by: Karol Przybylski <karprzy7@gmail.com>
Signed-off-by: Alex Deucher <alexander.deucher@amd.com>
drivers/gpu/drm/amd/amdgpu/amdgpu_gfx.c