]> git.ipfire.org Git - thirdparty/glibc.git/commit
Improve the accuracy of tgamma (BZ #26983)
authorPaul Zimmermann <Paul.Zimmermann@inria.fr>
Fri, 2 Apr 2021 06:21:06 +0000 (08:21 +0200)
committerPaul Zimmermann <Paul.Zimmermann@inria.fr>
Wed, 7 Apr 2021 11:23:39 +0000 (13:23 +0200)
commit43576de04afc6a0896a3ecc094e1581069a0652a
tree42b35efc19ae2a9f22c354176d83173f74818268
parentd1a3dcabf2f89233a99a4a9be08f9f407da0b6b4
Improve the accuracy of tgamma (BZ #26983)

With this patch, the maximal known error for tgamma is now reduced to 9 ulps
for dbl-64, for all rounding modes. Since exhaustive testing is not possible
for dbl-64, it might be that there are still cases with an error larger than
9 ulps, but all known cases are fixed (intensive tests were done to find cases
with large errors).

Tested on x86_64 and powerpc (and by Adhemerval Zanella on aarch64, arm,
s390x, sparc, and i686).
Reviewed-by: Adhemerval Zanella <adhemerval.zanella@linaro.org>
math/auto-libm-test-in
math/auto-libm-test-out-tgamma
math/mul_split.h
sysdeps/ieee754/dbl-64/e_gamma_r.c
sysdeps/x86_64/fpu/libm-test-ulps