]> git.ipfire.org Git - thirdparty/gcc.git/commitdiff
AVR: target/115419 - Tie breaks are rounded-to-even.
authorGeorg-Johann Lay <avr@gjlay.de>
Fri, 14 Jun 2024 16:24:13 +0000 (18:24 +0200)
committerGeorg-Johann Lay <avr@gjlay.de>
Fri, 14 Jun 2024 16:33:05 +0000 (18:33 +0200)
libgcc/config/avr/libf7/
PR target/115419
* libf7.c (f7_get_double): Round tie breaks to even LSB.

libgcc/config/avr/libf7/libf7.c

index 375becb854c1d3d2f7ea0a55aa13c7aea134ecad..6fae4fc1a2de6639446dc061488f7eb75c9ca92f 100644 (file)
@@ -440,11 +440,21 @@ f7_double_t f7_get_double (const f7_t *aa)
 
   mant &= 0x00ffffffffffffff;
 
-  // FIXME: For subnormals, rounding is premature and should be
-  //       done *after* the mantissa has been shifted into place
-  //       (or the round value be shifted left accordingly).
-  // Round.
-  mant += 1u << (F7_MANT_BITS - (1 + DBL_DIG_MANT) - 1);
+  // PR115419: The least significant nibble tells how to round:
+  // Tie breaks are rounded to even (Banker's rounding).
+  uint8_t lsn = mant & 0xff;
+  lsn &= 0xf;
+  // The LSB of the outgoing double is at bit 3.
+  if (lsn & (1 << 3))
+    ++lsn;
+  if (lsn > (1 << 2))
+    {
+      // FIXME: For subnormals, rounding is premature and should be
+      //        done *after* the mantissa has been shifted into place
+      //        (or the round value be shifted left accordingly).
+      // Round.
+      mant += 1u << (F7_MANT_BITS - (1 + DBL_DIG_MANT) - 1);
+    }
 
   uint8_t dex;
   register uint64_t r18 __asm ("r18") = mant;