]> git.ipfire.org Git - thirdparty/kernel/linux.git/commit
libceph: Use u32 for non-negative values in ceph_monmap_decode()
authorRaphael Zimmer <raphael.zimmer@tu-ilmenau.de>
Thu, 26 Feb 2026 15:07:31 +0000 (16:07 +0100)
committerIlya Dryomov <idryomov@gmail.com>
Wed, 11 Mar 2026 09:18:47 +0000 (10:18 +0100)
commit770444611f047dbfd4517ec0bc1b179d40c2f346
tree4eac65c7fddf24d8b39518655e978c7f2b086423
parenta5f930eebde6f27c1e404f566c09332f42f349fb
libceph: Use u32 for non-negative values in ceph_monmap_decode()

This patch fixes unnecessary implicit conversions that change signedness
of blob_len and num_mon in ceph_monmap_decode().
Currently blob_len and num_mon are (signed) int variables. They are used
to hold values that are always non-negative and get assigned in
ceph_decode_32_safe(), which is meant to assign u32 values. Both
variables are subsequently used as unsigned values, and the value of
num_mon is further assigned to monmap->num_mon, which is of type u32.
Therefore, both variables should be of type u32. This is especially
relevant for num_mon. If the value read from the incoming message is
very large, it is interpreted as a negative value, and the check for
num_mon > CEPH_MAX_MON does not catch it. This leads to the attempt to
allocate a very large chunk of memory for monmap, which will most likely
fail. In this case, an unnecessary attempt to allocate memory is
performed, and -ENOMEM is returned instead of -EINVAL.

Cc: stable@vger.kernel.org
Signed-off-by: Raphael Zimmer <raphael.zimmer@tu-ilmenau.de>
Reviewed-by: Viacheslav Dubeyko <Slava.Dubeyko@ibm.com>
Reviewed-by: Ilya Dryomov <idryomov@gmail.com>
Signed-off-by: Ilya Dryomov <idryomov@gmail.com>
net/ceph/mon_client.c