]> git.ipfire.org Git - thirdparty/libvirt.git/commit
util: bitmap: clarify virBitmapLastSetBit() behavior for empty bitmaps
authorMarc Hartmayer <mhartmay@linux.vnet.ibm.com>
Wed, 6 Jul 2016 12:02:26 +0000 (14:02 +0200)
committerMartin Kletzander <mkletzan@redhat.com>
Mon, 3 Oct 2016 16:10:10 +0000 (18:10 +0200)
commit598845b4f6ae69e237a4f5d65b22e3df2ba5c2e9
tree6539d5075b918bb4d9e5377cce93eea26bdbc24e
parent5f71b6ed149dd4b9c8cfdbd124273d503f4d1432
util: bitmap: clarify virBitmapLastSetBit() behavior for empty bitmaps

Before the variable 'bits' was initialized with 0 (commit
3470cd860d517760b13e26d97b6a842ff72687a1), the following bug was
possible.

A function call with an empty bitmap leads to undefined
behavior. Because if 'bitmap->map_len == 0' 'unusedBits' will be <= 0
and 'sz == 1'. So the non global and non static variable 'bits' would
have never been set. Consequently the check 'bits == 0' results in
undefined behavior.

This patch clarifies the current version of the function by handling the
empty bitmap explicitly. Also, for an empty bitmap there is obviously no
bit set so we can just return -1 (indicating no bit set) right away. The
explicit check for 'bits == 0' after the loop is unnecessary because we
only get to this point if no set bit was found.

Reviewed-by: Boris Fiuczynski <fiuczy@linux.vnet.ibm.com>
Reviewed-by: Sascha Silbe <silbe@linux.vnet.ibm.com>
Reviewed-by: Bjoern Walk <bwalk@linux.vnet.ibm.com>
Signed-off-by: Marc Hartmayer <mhartmay@linux.vnet.ibm.com>
(cherry picked from commit 7cd01a248b3995909adad29a6edbe76d3d16510f)
src/util/virbitmap.c