]> git.ipfire.org Git - thirdparty/gcc.git/commit
arm: fix UB due to missing mode check [PR100311]
authorRichard Earnshaw <rearnsha@arm.com>
Wed, 28 Apr 2021 16:56:38 +0000 (17:56 +0100)
committerRichard Earnshaw <rearnsha@arm.com>
Wed, 28 Apr 2021 16:57:57 +0000 (17:57 +0100)
commit59f5d16f2c5db4d9592c8ce6453afe81334bb012
tree47b62070c12fbc35ac55ffe999332019798075d5
parente1543e694dadf1ea70eb72325219bc0cdc914a35
arm: fix UB due to missing mode check [PR100311]

Some places in the compiler iterate over all the fixed registers to
check if that register can be used in a particular mode.  The idiom is
to iterate over the register and then for that register, if it
supports the current mode to check all that register and any
additional registers needed (HARD_REGNO_NREGS).  If these two checks
are not fully aligned then it is possible to generate a buffer overrun
when testing data objects that are sized by the number of hard regs in
the machine.

The VPR register is a case where these checks were not consistent and
because this is the last HARD register the result was that we ended up
overflowing the fixed_regs array.

gcc:
PR target/100311
* config/arm/arm.c (arm_hard_regno_mode_ok): Only allow VPR to be
used in HImode.
gcc/config/arm/arm.c