fix(iscsi): make sure services are shut down when switching root

When systemd prepares switching root, it starts 'initrd-cleanup.service',
which runs 'systemctl --no-block isolate initrd-switch-root.target'.
This will stop all units on which initrd-switch-root.target does not
depend, including iscsid.service and iscsiuio.service. But systemd
doesn't guarantee a time ordering in this case. It can happen that
systemd switches root (i.e. restarts itself on the new root) before
iscsiuio is actually stopped, or at least before PID 1 receives
the notification that it has stopped. In this case, it considers
iscsiuio still running, and will not start it later in the boot
sequence when iscsid is coming up.

A typical log excerpt with systemd.log_level=debug looks like this:

[   36.470761] worker2 systemd[1]: initrd-cleanup.service: Trying to enqueue job initrd-cleanup.service/start/replace
[   36.765241] worker2 systemd[1]: initrd-switch-root.target: Trying to enqueue job initrd-switch-root.target/start/isolate
[   36.765337] worker2 systemd[1]: iscsid.service: Installed new job iscsid.service/stop as 139
[   36.765535] worker2 systemd[1]: iscsiuio.service: Installed new job iscsiuio.service/stop as 138
[   36.824789] worker2 systemd[1]: iscsid.socket: stopping held back, waiting for: iscsid.service
[   36.824813] worker2 systemd[1]: iscsiuio.socket: stopping held back, waiting for: iscsiuio.service
[   36.888759] worker2 systemd[1]: iscsid.service: Thawing unit.
[   36.888882] worker2 systemd[1]: iscsid.service: Changed running -> stop-sigterm
[   36.889355] worker2 systemd[1]: Stopping Open-iSCSI...
[   36.889413] worker2 systemd[1]: iscsiuio.service: stopping held back, waiting for: iscsid.service
[   37.512072] worker2 systemd[1]: Reached target Switch Root.
[   37.549512] worker2 @ystemctl[1614]: Switching root - root: /sysroot; init: n/a
[   37.577264] worker2 systemd[1]: Switching root.

When iscsid is started later on in the real root, it resets all existing iSCSI
connections, causing the root FS to come offline. In iSCSI offload scenarios
if iscsiuio is already running, it will re-establish the session after a few
seconds. But if iscsiuio has not been started at this point in time, it can't
be loaded any more from the root FS, and booting fails.

To avoid this problem, add "Conflicts" and a "Before" dependencies against
initrd-cleanup.service to the iSCSI service units.

See also https://github.com/systemd/systemd/issues/3436

Signed-off-by: Martin Wilck <mwilck@suse.com>

fix(iscsi): don't require network setup for qedi

This adds the logic of cc2c48a ("fix(iscsi): don't require network setup
for bnx2i") for the qedi iSCSI offload driver. Testing has shown
that for qedi, network setup in the initrd is even more superfluous
as it is for bnx2i. qedi devices are usually separate PCI functions
that don't show up as ethernet interfaces at all.

While at it, simplify the conditional a bit.

Signed-off-by: Martin Wilck <mwilck@suse.com>

fix(systemd-veritysetup): install dm-verity kernel module

fix(systemd-sysusers): silence "Creating " on stderr

dracut prints 20 lines when creating users and groups even with
`--quiet` option. Sample output:

```
Creating group 'nobody' with GID 65534.
Creating group 'audio' with GID 997.
Creating group 'disk' with GID 995.
Creating group 'input' with GID 994.
Creating group 'kmem' with GID 993.
Creating group 'kvm' with GID 992.
Creating group 'lp' with GID 991.
Creating group 'optical' with GID 990.
Creating group 'render' with GID 989.
Creating group 'sgx' with GID 988.
Creating group 'storage' with GID 987.
Creating group 'tty' with GID 5.
Creating group 'uucp' with GID 986.
Creating group 'video' with GID 985.
Creating group 'users' with GID 984.
Creating group 'systemd-journal' with GID 983.
Creating user 'root' (Super User) with UID 0 and GID 0.
Creating user 'nobody' (Kernel Overflow User) with UID 65534 and GID 65534.
Creating group 'nobody' with GID 65534.
Creating group 'audio' with GID 997.
```

Filter "Creating " messages from stderr, but keep the other messages on
stderr and all messages on stdout untouched.

Fixes: https://github.com/dracut-ng/dracut-ng/issues/1195
Fixes: f3dacc013d90 ("feat(systemd-sysusers): run systemd-sysusers as part of the build process")

feat(btrfs): also install btrfstune

fix(dracut-install): install compressed blobs that match wildcard fwpath

dracut-install tries to invoke `glob()` with full path expanded from
"intel/ish/ish_*.bin", but while all the binaries were compressed, this
matches no file and none of the custom ISH firmware blobs will be
installed.

Closes: #1150
Bug-Ubuntu: https://bugs.launchpad.net/bugs/2095518
Signed-off-by: You-Sheng Yang <vicamo.yang@canonical.com>

test(test-functions): drop defining TEST_FSTYPE

The variable `TEST_FSTYPE` is only used by `TEST-20-STORAGE` and is
defined there as well.

test: define default network in the respective tests

The variable `TEST_FSTYPE` will be needed to construct
`TEST_DESCRIPTION`.

So define `TEST_FSTYPE` in the respective tests before defining
`TEST_DESCRIPTION`.

test: use "set -e" in all tests

To make all tests more robust, use `set -e` in all tests. Then the
`|| return 1` constructs can be removed.

fix(dracut-lib): support "set -e" in setdebug

A `return` statement will return with the exit code of the previous
command if no exit code is specified. In case `/usr/lib/initrd-release`
does not exist, `setdebug` will return with the exit code 1.

Return this function with code 0 in that case to support `set -e` users.

Fixes: 2b125c69cc80 ("base/dracut-lib.sh: do not setdebug, if not in initramfs")

test(GETARG): fix shellcheck SC2181

Fix shellcheck SC2181 in the getarg test case. This also makes the code
work with `set -e`.

test(test-functions): support reading empty /etc/machine-id

When `/etc/machine-id` is empty, `read -r TOKEN < /etc/machine-id` will
exit with code 1. This case is supported. So just ignore the exit code.

test: ignore exit code of increment in qemu_add_drive

Ignore error status code when incrementing from 0 to 1. See also
https://www.shellcheck.net/wiki/SC2219

Fixes: 1af00bf238c8 ("chore: resolve shellcheck for SC2219")

fix(dracut): avoid mktemp collisions with find filter

fix(release): tagging and release generation is no longer automated

Create release commit on relese branch automatically, but leave the
rest of the release creation process up to the project admins to
allow manual review and intervention.

We do not have a valid email address for the release automation,
so let's make it obvious that it is just a placeholder email address.

test(FULL-SYSTEMD): skip systemd-network-management if missing

The Debian/Ubuntu package runs the FULL-SYSTEMD test without
dracut-network installed. Therefore the test fails due to the missing
`systemd-network-management` module:

```
TEST: Full systemd serialization/deserialization test with /usr mount
dracut[E]: Module 'systemd-network-management' cannot be found.
```

Fixes: 75f3a191b675 ("test(FULL-SYSTEMD): when systemd-networkd is available, install it")

test: log error when constructing sysroot

Log dracut errors for all dracut invocations. Otherwise tests can fail
without any log output.

Fixes: 8631284afbfa ("ci: do not log how sysroot is constructed")

test: ignore shellcheck for disk_index

shellcheck complains about `disk_index` for appearing to be unused, but
this variable is used in `qemu_add_drive`. So ignore those shellcheck
complaints.

test(FULL-SYSTEMD): skip encrypted root if qemu -smbios is not supported

The qemu option `-smbios` is not supported on most architectures.
Therefore `TEIT-41-FULL-SYSTEMD` will fail.

Fixes #1213

test(FULL-SYSTEMD): make smbios option a parameter of run_client

test: use persistent names for network devices

TEST-70-ISCSI fails on Ubuntu s390x because the network device is named
`enc0` instead of `enp0s1`:

```
CLIENT TEST START: NBD root=nbd:IP:port
[...]
[   36.084991] virtio_net virtio2 enc0: renamed from eth0
```

So use persistent names for network devices by mapping the MAC address
to a name.

test: typo in the GitHub Action name

These are arm64 runs not amd64 runs.

fix(systemd-sysusers): always silence stdout

systemd-sysusers does not have quiet option, so
always silence stdout (but not stderr).

Fixes: https://github.com/dracut-ng/dracut-ng/issues/1195

test(ISCSI): skip root=ibft if qemu -acpitable is not supported

Several architectures do not support the qemu option `-acpitable`. Skip
the `root=ibft` in this case.

test: use "set -eu" in run-qemu

test(ISCSI): make acpitable file a parameter of run_client

The ACPI table only needs to be set for one of the iSCSI test cases.

docs: update NEWS.md and AUTHORS for release 106

ci: switch integration tests from ubuntu:latest to ubuntu:rolling

ubuntu:latest points to Ubuntu 24.04.

ubuntu:rolling currently points ot 24.10 and soon will point to
25.04.

This change has no impact on the "Daily Integration tests", which
anyways expect to test and pass both with ubuntu:latest and
ubuntu:rolling.

For Fedora fedora:latest points to the bi-yearly releases,
and the corresponding label for Ubuntu is ubuntu:rolling.

feat(systemd-battery-check): always include the module if possible

ci: add arm64 extra containers

Among other containers, this should enable arm64 for Gentoo.

test(UEFI): add subtest for using ukify with kernel-install

New test case for end-to-end integration and keep
existing subtests as fallback.

ci(debian): make sure that systemd-ukify is installed when available

Fix typo in the containerfile.

ci: remove workaround from test cases

Now that workarounds are executed during test container
generation from containerfile, workarounds are no longer
needed in test cases.

ci: move distro specific workarounds to the containerfiles

Follow-up to cfe8b21.

Debian and Uunbtu container worked well, but ubuntu:rolling and
ubuntu:devel did not.

I tested this PR on ubuntu:rolling.

ci: move distro specific workarounds to the containerfiles

This change helps to keep the test itself more readable.

ci: reenable some tests for arm64

These tests were accidentally disabled by 987be72 .

ci: pass the test on Fedora and openSUSE on arm64

increase timeout for finding sysroot
add workaround for finding kernel on openSUSE on arm64

These changes are required to pass the test on Fedora
and openSUSE on arm64.

test(KERNEL-INSTALL): add support for Debian/Ubuntu

Add workarouund for Debian/Ubuntu based distros, so that
kernel-install can find the kernel image.

ci(openSUSE): switch to packaged version of mkosi-initrd

mkosi v25 packaged now, so lets switch to the packaged version.

ci: consolidate output filename for test runs

Move initramfs.testing output file name from individual
testins into test-functions.

ci: add root=LABEL=dracut to the common kernel cmdline for tests

Individual tests can (and do) overide the default root.

test(KERNEL-INSTALL): include generating and testing rescue boot

Make sure kernel-install generates the regular hostonly initrd and
the rescue (non-hostonly) initrd as well.

It is not necessary recommended for distributions to follow this
test case, in fact rescue (non-hostonly) initrd is not enabled by
default, but this is a very convinient way on the CI to test
both configuration and avoid regressions going forward.

test(KERNEL-INSTALL): enable for all CI container

Add preconditions, which would skip this test on
Debian/Ubuntu for now.

Move enviroment variables - such as BOOT_ROOT - out
from the test specific code to the common test infrastrucutre
so that it is available for all test cases.

test(KERNEL-INSTALL): enable test for Arch, Gentoo, openSUSE as well

Fix initrd location when /etc/machine-id does not exists.

The test does not yet work on Debian/Ubuntu.

ci: move more logic to test dracut config

test dracut config is available for all test runs, including
kernel-install runs.

test(KERNEL-INSTALL): enable dracut test config

Enable the dracut test config not just the test dracut module.

test(BASIC): remove workaround for systemd on arm64

Removed omitting systemd modules from the BASIC test.
Increase the rd.timeout=60 to give enough time for systemd on arm64.

Disable networking for this test (inside the qemu VM)
to increase test covergae and make this test even more basic.

ci: switch to ubuntu-24.04

There is no ubuntu-latest for arm and the current ubuntu-latest
gives a warning...

test(KERNEL-INSTALL): add test for kernel-install

The test requires kernel-install binary and only runs in a container.

ci: separate out amd64 tests into its own GA file

Having a separate file give more control to trigger independently.

ci: only set console for amd64

Follow-up to 25795c7.

This restore green CI for arm.

feat(dracut.install): force hostonly for kernel-install plugin

Distributions that have adapted and integrated dracut and
adopted the dracut kernel install plugin should default to
hostonly mode initrd.

ci: rename test-github to test-container

test-container better reflects that this scripts is meant to
install and run dracut in container and not restricted to be used
as part of GitHub Actions.

Also add a safety check to make sure that the script gets executed
inside a container and not on a host.

ci(fedora): use Debian, Arch, Gentoo to test systemd-networkd

This is in an effort to simplify the CI and minimize
the difference between CentOS and Fedora testing.

While Fedora supports systemd-networkd, CentOS does not and
Debian, Arch and Gentoo already provides enought test coverage
for the Dracut CI.

ci: demote dmraid testing

dmraid is no longer activly maitaned and has been already removed
form the following distributions
 - CentOS
 - Debian
 - Ubuntu

Dracut will continue to support dmraid, but lets minimize the CI
burdon and only test dmraid on Arch container going forward.

One of the other motivation of this change is to align Fedora
configuration a bit more with CentOS configuration for ease of
maitenance.

ci: restore regression for console messages

BASIC, UEFI, DMSQUASH tests did not had some of the
kernel command line options properly set

ci: simplify manually adding dracut modules

Remove manually adding dracut modules where possible to
let dracut determine which modules are required.

test(DMSQUASH): enable all subtests on arm64

All tests are now passing on arm64.

test(UEFI): include all kernel command line into the UKI

We shoudl have a test with all kernel command line
included in the UKI.

test(DMSQUASH): add test step for iso-scan

Test iso-scan dracut module argument when xorriso is available
to create an iso.

ci: install xorriso into CI containers

Preparation to test iso-scan dracut feature which requires
an iso file that xorriso would generate.

test(DMSQUASH): reorganize test steps into test runs

Make DMSQUASH test same structure as some other tests to make it easier
to debug and reason about.

test(DMSQUASH): fix path and improve directory naming

Follow-up fix to ff370f5 to test the condition if
/proc does not exists.

test(DMSQUASH): create rootfs without qemu and enable test for arm

This enables passing this test on arm as well.

Only the first subtest is passing on arm, so run only the first
test on arm, but run all the remaining tests on amd.

test(DMSQUASH): qemu module is not needed

Only include the main dracut module and make sure that dependencies
are properly managed.

test(DMSQUASH): combine test steps without loosing test coverage

Build initrd only once.

ci: move arm64 tests to the Daily Interation Tests

Move arm64 tests to the Daily Interation Tests.

Enable all arm64 tests that are passing.

ci: remove leftover '-j' argument from mkfs.ext4

As the projects transitioned over to ext4, passing `-j` is no
longer desired.

test(DMSQUASH): add bash module instead of installing several shells

This change tells dracut that shell is already included.

test(BASIC): silence steps

Make the test more consistent with teh rest of the tests and
silence some additional test steps.

ci: adapt the test.sh script to the new container labeling

Add architecture tag, see commit d8ff139 .

Document that the script now supports arm64.

ci: remove busybox from Fedora and Arch

busybox compatibility is tested with the Alpine container.

Update documentation on the busybox version used on the CI.

ci: document which CI containers support arm64

Document which CI containers support arm64.

ci: enable BASIC arm test for Void CI container

Enable BASIC arm test for Void CI container.

ci: teach the CI where to find the openSUSE arm64 kernel

On openSUSE kernel seems to be called /boot/Image-6.12.9-1-vanilla.

Also enable building thr Void arm container.

ci: enable BASIC test on arm64

Switch the test on arm from test GETARG to test BASIC,
which actually validates in the generated initrd works.

The test only pass without systemd in the initrd, so omit initrd for now.

test(BASIC): further simplify BASIC test

BASIC test should be as basic as possible.

Only test ext4 and. Eliminate invoking qemu to create rootfs.

ci: install more qemu packages

Install more qemu packages in the hope of enabling more
tests for arm64.

fix(iscsi): attempt iSCSI login before all interfaces are up

When booting from iSCSI, we don't need to wait for retries until all network
interfaces are up. We can just attempt to activate iSCSI on those interfaces
that are currently up (in the offload case like bnx2i, we can even try without
any network interfaces). If the root fs is found, we can go on booting;
otherwise, the iscsiroot script will be called again later anyway.

Signed-off-by: Martin Wilck <mwilck@suse.com>

fix(iscsi): don't require network setup for bnx2i

The bnx2i iSCSI transport doesn't require networking to be set up in order to
bring up iSCSI connections. Quite to the contrary, trying to bring up the
network may actually disturb the iSCSI connection. This holds in particular
for bnx2i device with NPAR (network partitioning) support, where a given
network interface can be used for both iSCSI and regular networking. Setting
certain network parameters like MTU on the network side can fatally disrupt
an existing iSCSI connection. Even if this does not happen, trying to bring
up the regular network interfaces is pointless because iSCSI won't be enabled
over regular TCP/IP anyway. Trying to bring up the network interfaces and
possibly failing delays booting unecessarily and may cause timeout, without
benefit.

Detect the bnx2i offload module at setup time and communicate it to
parse-iscsiroot.sh using a new parameter, "rd.iscsi.transport". It's currently
only effective for bnx2i. It might be useful for other transports as well,
but we haven't been able to test the other transports as thoroughly as bnx2i.

Signed-off-by: Martin Wilck <mwilck@suse.com>

ci: fix daily integration tests

With recent changes in CI container tags
latest tag is required.

ci: disable arm64 containers where the test does not yet run

arm64 containers build, but the CI tests are failing
on the following platforms
 - alpine
 - arch
 - opensuse
 - void

ci: run arm64 tests on more CI containers

In addition to Debian and Fedora, run arm64 tests
on Alpine, openSUSE, Ubuntu and Void as well.

debian-arm64 and fedora-arm64 tags are no longer needed.

ci: tag both amd and arm containers

This PR meant to resolve the CI regression introduced by a413783.

ci: build arm64 containers for all non-extra containers

Now that GitHub Actions provide the facility to build
arm64 containers nativly, the project can afford building
all CI containers for arm64 that supports it.

ci: switch to native ARM GitHub runners

See https://github.blog/changelog/2025-01-16-linux-arm64-hosted-runners-now-available-for-free-in-public-repositories-public-preview/

test(UEFI): unskip test for Arch

On Arch the path for OVMF is
/usr/share/edk2/x64/OVMF_CODE.4m.fd

feat(livenet): get live image size from TFTP servers

While the current code handles HTTP and FTP headers, parsing `Content-Length`,
TFTP servers need a special handling. E.g.:

```
$ curl -sIL tftp://127.0.0.1/leap-15.3/Leap-15.3_appliance.x86_64-1.15.3.iso
$ echo $?
8
```

Being more verbose (`-v`), we can see:

```
$ curl -vsIL tftp://127.0.0.1/leap-15.3/Leap-15.3_appliance.x86_64-1.15.3.iso
*   Trying 127.0.0.1:69...
* Connected to 127.0.0.1 (127.0.0.1) port 69
* set timeouts for state 0; Total  300000, retry 6 maxtry 50
* got option=(tsize) value=(285802496)
* tsize parsed from OACK (285802496)
* got option=(timeout) value=(6)
* got option=(blksize) value=(512)
* blksize parsed from OACK (512) requested (512)
* Connected for receive
* set timeouts for state 1; Total  0, retry 72 maxtry 50
* Closing connection
$ echo $?
8
```

So, in this case, we can ignore the non-zero exit from curl and parse the
`tsize` value received.

fix(systemd-sysuser): add support for Gentoo

systemd-sysuser dracut module uses inst_sysusers function
to install configuration files. These configuration files are
named differently in Gentoo, which impacts upstream Gentoo CI
as well.

Partially fixes https://github.com/dracut-ng/dracut-ng/issues/274

Based on Gentoo downstream patch
https://github.com/gentoo/gentoo/blob/master/sys-kernel/dracut/files/dracut-103-acct-user-group-gentoo.patch
by Nowa Ammerlaan <nowa@gentoo.org>

fix(img-lib): trim required binaries

Make all compression methods optional to allow
including only the binaries that are needed to uncompress.

fix(systemd-ask-password): do not half-install systemd-ask-password-wall

Do not install the path unit when the service unit is not installed
for systemd-ask-password-wall.

Fixes the following warning on the CI:

[FAILED] Failed to start Forward Password Requests to Wall Directory Watch.
See 'systemctl status systemd-ask-password-wall.path' for details.
...
systemd[1]: systemd-ask-password-wall.path: Refusing to start, unit systemd-ask-password-wall.service to trigger not loaded.
systemd[1]: Failed to start Forward Password Requests to Wall Directory Watch.

test(FULL-SYSTEMD): support both dbus-broker and dbus-daemon

All CI containers should be able to test the following dracut
modules, so no check is needed
 - systemd-hostnamed
 - systemd-portabled
 - systemd-timedated
 - systemd-network-management

ci(fedora): switch Fedora to dbus-broker

switch Fedora to dbus-broker and document the status of dbus-daemon
and dbus-broker for each CI container.

In general if the distribution supports a dbus metapackage, try
to honor the distribution default choice.

refactor(test-root): move more test steps from FULL-SYSTEMD test

Move more test steps from FULL-SYSTEMD test into test-root
dracut module.

refactor(test-root): move systemd testsuite files from FULL-SYSTEMD

Move systemd testsuite files from FULL-SYSTEMD test to test-root
dracut module to be able to share between tests.

test(FULL-SYSTEMD): factor out systemd unit files to be shared between tests

Create testsuite.target and testsuite.service files.

test: check for /usr/lib/systemd/system for systemd enabled rootfs

Follow-up to bc2b6b0

test: graceful poweroff for systemd based tests

This PR makes the test case more life-like and prepares
for testing dracut-shutdown.

test: remove special handling of the plymouth binary/process

Special handling is no longer required and it just adds
congnitive load to the project.

plymouth handling should be consolidated into the
plymouth dracut modules as much as possible.

fix(nfs): do not set DRACUT_RESOLVE_LAZY for musl

Also move inst_libdir_file as the last step to handle
the error case better.

Fixes https://github.com/dracut-ng/dracut-ng/issues/1087