]> git.ipfire.org Git - thirdparty/gcc.git/commitdiff
s390: Fix expander popcountv8hi2_vx
authorStefan Schulze Frielinghaus <stefansf@linux.ibm.com>
Mon, 16 Oct 2023 11:39:04 +0000 (13:39 +0200)
committerStefan Schulze Frielinghaus <stefansf@linux.ibm.com>
Mon, 16 Oct 2023 11:39:04 +0000 (13:39 +0200)
The normal form of a CONST_INT which represents an integer of a mode
with fewer bits than in HOST_WIDE_INT is sign extended.  This even holds
for unsigned integers.

This fixes an ICE during cse1 where we bail out at rtl.h:2297 since
INTVAL (x.first) == sext_hwi (INTVAL (x.first), precision) does not hold.

gcc/ChangeLog:

* config/s390/vector.md (popcountv8hi2_vx): Sign extend each
unsigned vector element.

gcc/config/s390/vector.md

index f0e9ed3d263b681b9704c3b01b1c0e0cc816236f..7d1eb36e8446c6da55842c005cd1ac42aca27e7e 100644 (file)
        (plus:V16QI (match_dup 2) (match_dup 3)))
    ; Generate mask for the odd numbered byte elements
    (set (match_dup 3)
-       (const_vector:V16QI [(const_int 0) (const_int 255)
-                            (const_int 0) (const_int 255)
-                            (const_int 0) (const_int 255)
-                            (const_int 0) (const_int 255)
-                            (const_int 0) (const_int 255)
-                            (const_int 0) (const_int 255)
-                            (const_int 0) (const_int 255)
-                            (const_int 0) (const_int 255)]))
+       (const_vector:V16QI [(const_int 0) (const_int -1)
+                            (const_int 0) (const_int -1)
+                            (const_int 0) (const_int -1)
+                            (const_int 0) (const_int -1)
+                            (const_int 0) (const_int -1)
+                            (const_int 0) (const_int -1)
+                            (const_int 0) (const_int -1)
+                            (const_int 0) (const_int -1)]))
    ; Zero out the even indexed bytes
    (set (match_operand:V8HI 0 "register_operand" "=v")
        (and:V8HI (subreg:V8HI (match_dup 2) 0)