]> git.ipfire.org Git - thirdparty/gcc.git/commit
bswap: Fix UB in find_bswap_or_nop_finalize [PR103435]
authorJakub Jelinek <jakub@redhat.com>
Sat, 27 Nov 2021 12:00:55 +0000 (13:00 +0100)
committerJakub Jelinek <jakub@redhat.com>
Sat, 27 Nov 2021 12:00:55 +0000 (13:00 +0100)
commit567d5f3d62fba2a23a9e975f7e7c7b61bb67cf24
tree6b02eb90bb598a6a26524e4c7f0872d41125730b
parentd9c8a0238fc8f76e03c4dd0380eacc6cacec55c9
bswap: Fix UB in find_bswap_or_nop_finalize [PR103435]

On gcc.c-torture/execute/pr103376.c in the following code we trigger UB
in the compiler.  n->range is 8 because it is 64-bit load and rsize is 0
because it is a bswap sequence with load and known to be 0:
  /* Find real size of result (highest non-zero byte).  */
  if (n->base_addr)
    for (tmpn = n->n, rsize = 0; tmpn; tmpn >>= BITS_PER_MARKER, rsize++);
  else
    rsize = n->range;
The shifts then shift uint64_t by 64 bits.  For this case mask is 0
and we want both *cmpxchg and *cmpnop as 0, the operation can be done as
both nop and bswap and callers will prefer nop.

2021-11-27  Jakub Jelinek  <jakub@redhat.com>

PR tree-optimization/103435
* gimple-ssa-store-merging.c (find_bswap_or_nop_finalize): Avoid UB if
n->range - rsize == 8, just clear both *cmpnop and *cmpxchg in that
case.
gcc/gimple-ssa-store-merging.c