]> git.ipfire.org Git - thirdparty/glibc.git/commit
gconv: Fix assertion failure in ISO-2022-JP-3 module (bug 27256)
authorFlorian Weimer <fweimer@redhat.com>
Wed, 27 Jan 2021 12:36:12 +0000 (13:36 +0100)
committerFangrui Song <i@maskray.me>
Sat, 28 Aug 2021 00:26:07 +0000 (17:26 -0700)
commitb3331e2d53946662676c8604152816073f7c88aa
tree6f09c15483282f5730ff7a3ca38770de686901ad
parent1515a92a53e03bc4b5f01b4068bbc4c76999d8dd
gconv: Fix assertion failure in ISO-2022-JP-3 module (bug 27256)

The conversion loop to the internal encoding does not follow
the interface contract that __GCONV_FULL_OUTPUT is only returned
after the internal wchar_t buffer has been filled completely.  This
is enforced by the first of the two asserts in iconv/skeleton.c:

      /* We must run out of output buffer space in this
 rerun.  */
      assert (outbuf == outerr);
      assert (nstatus == __GCONV_FULL_OUTPUT);

This commit solves this issue by queuing a second wide character
which cannot be written immediately in the state variable, like
other converters already do (e.g., BIG5-HKSCS or TSCII).

Reported-by: Tavis Ormandy <taviso@gmail.com>
iconvdata/Makefile
iconvdata/bug-iconv14.c [new file with mode: 0644]
iconvdata/iso-2022-jp-3.c