]> git.ipfire.org Git - thirdparty/postgresql.git/commit
Fix NaN comparison in circle_same test
authorDaniel Gustafsson <dgustafsson@postgresql.org>
Mon, 12 Sep 2022 10:59:06 +0000 (12:59 +0200)
committerDaniel Gustafsson <dgustafsson@postgresql.org>
Mon, 12 Sep 2022 10:59:06 +0000 (12:59 +0200)
commit9ebfbd23bcdefa7cb7abd1ecdd80aa1f9be6eede
tree08432168f5cbe2a9893512846592cbd4bdc0aa50
parent9fbc6d5483b00006351374ef6b3bc176c0175ed5
Fix NaN comparison in circle_same test

Commit c4c340088 changed geometric operators to use float4 and float8
functions, and handle NaN's in a better way. The circle sameness test
had a typo in the code which resulted in all comparisons with the left
circle having a NaN radius considered same.

  postgres=# select '<(0,0),NaN>'::circle ~= '<(0,0),1>'::circle;
  ?column?
  ----------
  t
  (1 row)

This fixes the sameness test to consider the radius of both the left
and right circle.

Backpatch to v12 where this was introduced.

Author: Ranier Vilela <ranier.vf@gmail.com>
Discussion: https://postgr.es/m/CAEudQAo8dK=yctg2ZzjJuzV4zgOPBxRU5+Kb+yatFiddtQk6Rw@mail.gmail.com
Backpatch-through: v12
src/backend/utils/adt/geo_ops.c
src/test/regress/expected/geometry.out