]> git.ipfire.org Git - thirdparty/glibc.git/commit - iconvdata/iso-2022-jp-3.c
gconv: Fix assertion failure in ISO-2022-JP-3 module (bug 27256)
authorFlorian Weimer <fweimer@redhat.com>
Wed, 27 Jan 2021 12:36:12 +0000 (13:36 +0100)
committerFlorian Weimer <fweimer@redhat.com>
Wed, 27 Jan 2021 13:02:47 +0000 (14:02 +0100)
commit7d88c6142c6efc160c0ee5e4f85cde382c072888
treed2f22ab9b4993c1b40dacc1a2d183e9916d9dbd8
parentdf359a25ba6f6bda06104229fbfe284c1fb30915
gconv: Fix assertion failure in ISO-2022-JP-3 module (bug 27256)

The conversion loop to the internal encoding does not follow
the interface contract that __GCONV_FULL_OUTPUT is only returned
after the internal wchar_t buffer has been filled completely.  This
is enforced by the first of the two asserts in iconv/skeleton.c:

      /* We must run out of output buffer space in this
 rerun.  */
      assert (outbuf == outerr);
      assert (nstatus == __GCONV_FULL_OUTPUT);

This commit solves this issue by queuing a second wide character
which cannot be written immediately in the state variable, like
other converters already do (e.g., BIG5-HKSCS or TSCII).

Reported-by: Tavis Ormandy <taviso@gmail.com>
iconvdata/Makefile
iconvdata/bug-iconv14.c [new file with mode: 0644]
iconvdata/iso-2022-jp-3.c