]> git.ipfire.org Git - thirdparty/kernel/stable.git/commit
io_uring: restore RCU read section in io_req_local_work_add()
authorWoraphat Khiaodaeng <worapat.kd2@gmail.com>
Thu, 9 Jul 2026 03:51:00 +0000 (10:51 +0700)
committerJens Axboe <axboe@kernel.dk>
Thu, 9 Jul 2026 17:42:09 +0000 (11:42 -0600)
commit648790e0952789527ec68548edbedbc0fcff43b5
treeb8684ca8b4e2bdc788adbeba9617bea2f5fb6459
parentcd053d788c3f13b3eaf16672d427ee828fda16ed
io_uring: restore RCU read section in io_req_local_work_add()

The task-work refactor that moved io_req_local_work_add() out of
io_uring.c into the new io_uring/tw.c dropped the whole-body
guard(rcu)() that used to cover the function body.

For DEFER_TASKRUN rings the ring teardown still relies on that RCU read
section pairing with its grace period:

/* pairs with RCU read section in io_req_local_work_add() */
if (ctx->flags & IORING_SETUP_DEFER_TASKRUN)
synchronize_rcu();
io_ring_ctx_free(ctx);

io_req_local_work_add() keeps dereferencing ctx after mpscq_push() has
published the request to the work list (ctx->cq_wait_nr, and
ctx->submitter_task in the final wake_up_state()), without holding a ctx
reference across that window. The RCU read section was the only thing
guaranteeing an in-flight adder had finished touching ctx before
io_ring_ctx_free() ran; synchronize_rcu() only waits for readers that
are actually inside an RCU read-side critical section. With the guard
gone the grace period no longer pairs with anything on the add side, so
ctx can be freed and reused while io_req_local_work_add() is still using
it.

Fixes: d46ab2c98aba ("io_uring: switch local task_work to a mpscq")
Signed-off-by: Woraphat Khiaodaeng <worapat.kd2@gmail.com>
Link: https://patch.msgid.link/20260709035100.2269-1-worapat.kd2@gmail.com
Signed-off-by: Jens Axboe <axboe@kernel.dk>
io_uring/tw.c