]> git.ipfire.org Git - thirdparty/gcc.git/commit
[PR106831] Avoid propagating long doubles that may have multiple representations.
authorJakub Jelinek <jakub@redhat.com>
Sat, 17 Sep 2022 06:50:22 +0000 (08:50 +0200)
committerAldy Hernandez <aldyh@redhat.com>
Sun, 18 Sep 2022 07:03:52 +0000 (09:03 +0200)
commit5dba8b2a91376d0518eb21c69a0700f099aa9cc4
tree783d84e60870c1357afa544bbec6eb2401a0767a
parent917461478d3bb733a64bc21876811d017c555b3c
[PR106831] Avoid propagating long doubles that may have multiple representations.

Long doubles are tricky when it comes to considering singletons
because small numbers and +-INF can have multiple representations for
the same number.  So we need to be very careful not to treat those as
singletons, lest they be incorrectly propagated by VRP.  This is
similar to the -0.0 and +0.0 duality.

In long doubles +INF can be represented with +INF in the MSB and
either -0.0 or +0.0 in the LSB.  Similarly for numbers that are exactly
representable in DF.  For example, 1.0 can be represented as either
(1.0, +0.0) or (1.0, -0.0).

This patch avoids treating these numbers as singletons.

Note that NANs in long double format have a LSB of don't care, but
this is irrelevant for singleton_p, because NANs are never considered
singletons.  Also, internally in the frange we store NANs as a pair of
boolean flags indicating whether they are +NAN or -NAN, so we don't need
any special treatment here for comparing range equality etc.  We never
see anything but the boolean flags.

PR middle-end/106831

gcc/ChangeLog:

* value-range.cc (frange::singleton_p): Avoid propagating long
doubles that may have multiple representations.
gcc/value-range.cc