]> git.ipfire.org Git - thirdparty/glibc.git/commitdiff
Use IEEE 854 formula to compute the number of digits to print.
authorUlrich Drepper <drepper@redhat.com>
Wed, 28 Jul 1999 22:40:32 +0000 (22:40 +0000)
committerUlrich Drepper <drepper@redhat.com>
Wed, 28 Jul 1999 22:40:32 +0000 (22:40 +0000)
misc/efgcvt.c
misc/efgcvt_r.c
misc/qefgcvt.c
misc/qefgcvt_r.c

index 9348914ff2bb3eb9a5c270b6b9bf0e8f019375e5..dc711c63dcd79b49fa4995720624b7453c8100f5 100644 (file)
@@ -17,6 +17,7 @@
    write to the Free Software Foundation, Inc., 59 Temple Place - Suite 330,
    Boston, MA 02111-1307, USA.  */
 
+#include <math.h>
 #include <stdio.h>
 #include <stdlib.h>
 #include <sys/param.h>
 # define FLOAT_FMT_FLAG
 /* Actually we have to write (DBL_DIG + log10 (DBL_MAX_10_EXP)) but we
    don't have log10 available in the preprocessor.  */
-# define MAXDIG (DBL_DIG + 3)
-# define NDIGIT_MAX DBL_DIG
+# define MAXDIG (NDIGIT_MAX + 3)
+# if DBL_MANT_DIG == 53
+#  define NDIGIT_MAX 17
+# else
+/* See IEEE 854 5.6, table 2 for this formula.  */
+#  define NDIGIT_MAX (lrint (ceil (M_LN2 / M_LN10 * DBL_MANT_DIG + 1.0)))
+# endif
 #endif
 
 #define APPEND(a, b) APPEND2 (a, b)
index 944fe4cc984dafe739154526b39aacc8417dfb2a..d73fd22f70f04d5db5655f32005c547df69f1f10 100644 (file)
 # define FUNC_PREFIX
 # define FLOAT_FMT_FLAG
 # define FLOAT_NAME_EXT
-# define NDIGIT_MAX DBL_DIG
+# if DBL_MANT_DIG == 53
+#  define NDIGIT_MAX 17
+# else
+/* See IEEE 854 5.6, table 2 for this formula.  */
+#  define NDIGIT_MAX (lrint (ceil (M_LN2 / M_LN10 * DBL_MANT_DIG + 1.0)))
+# endif
 #endif
 
 #define APPEND(a, b) APPEND2 (a, b)
index af65fc1688e659db1e69d0ccffaeadd82ef5157d..faf788aa5d407e34f1a99cac0ee64bb83edad14f 100644 (file)
    write to the Free Software Foundation, Inc., 59 Temple Place - Suite 330,
    Boston, MA 02111-1307, USA.  */
 
+#include <float.h>
+
 #define FLOAT_TYPE long double
 #define FUNC_PREFIX q
 #define FLOAT_FMT_FLAG "L"
 /* Actually we have to write (LDBL_DIG + log10 (LDBL_MAX_10_EXP)) but
    we don't have log10 available in the preprocessor.  Since we cannot
    assume anything on the used `long double' format be generous.  */
-#define MAXDIG (LDBL_DIG + 12)
-#define NDIGIT_MAX LDBL_DIG
+#define MAXDIG (NDIGIT_MAX + 12)
+#if LDBL_MANT_DIG == 64
+# define NDIGIT_MAX 21
+#else
+/* See IEEE 854 5.6, table 2 for this formula.  */
+# define NDIGIT_MAX (lrint (ceil (M_LN2 / M_LN10 * LDBL_MANT_DIG + 1.0)))
+#endif
 
 #include "efgcvt.c"
index 012ab54acc4c95dc7ae840a91638e8ad178d8b1b..5ff8110e3bbfb701aee0c85ae8a2484d80eee036 100644 (file)
    write to the Free Software Foundation, Inc., 59 Temple Place - Suite 330,
    Boston, MA 02111-1307, USA.  */
 
+#include <float.h>
+
 #define FLOAT_TYPE long double
 #define FUNC_PREFIX q
 #define FLOAT_FMT_FLAG "L"
 #define FLOAT_NAME_EXT l
-# define NDIGIT_MAX LDBL_DIG
+#if LDBL_MANT_DIG == 64
+# define NDIGIT_MAX 21
+#else
+/* See IEEE 854 5.6, table 2 for this formula.  */
+# define NDIGIT_MAX (lrint (ceil (M_LN2 / M_LN10 * LDBL_MANT_DIG + 1.0)))
+#endif
 
 #include "efgcvt_r.c"