Only use tools trees for verbs that need a build

Currently we try to use a tools tree that isn't there for verbs
that don't need a build. Let's instead opt to not use one altogether
since building an entire image just to run ssh is kind of overkill.

Don't require a build for journalctl and coredumctl

These only make sense after we've booted the image, so requiring a
build is kind of backwards.

Merge pull request #2313 from DaanDeMeyer/resources

Allow including builtin configs

Merge pull request #2317 from keszybz/pythonesque-tweaks

Minor cleanups to code

kernel-install: Use builtin mkosi-initrd configuration

Allow including builtin configs

Let's make it possible to include builtin configurations using
e.g. Include=mkosi-initrd. This allows building the default initrd
or default tools tree independently whereas currently these can only
be built as part of another image.

Rename inner parse_config() to parse_config_one()

Let's not use the same function name for the inner and outer function.

Extract mkosi.resources once

Instead of extracting individual files and directories when we need
them, let's extract the resources once and pass the extracted path
around so that we don't have to deal with context managers every time
we want to use resources.

Extract full resources instead of specific paths

Drop unnecessary parentheses around conditionals

Drop unneeded inner function

The result should be exactly the same.

One of the loops was using inverted logic (continue-if-not-else-yield instead
of yield-if), so invert that for consistency.

sandbox: Deal correctly with unmerged-usr

If /bin and such are directories instead of symlinks, bind mount
them in to the sandbox.

Fixes #2314

Release 20.2

Update NEWS

Use an r-string for regexp

I think we should do so everywhere to avoid double escaping,
even if here the string is the same length in both cases.

Implement RepositoryKeyCheck= for apt

Update NEWS

Handle builds that run from directories with less than two parent dirs

Fixes #2302

Merge pull request #2301 from DaanDeMeyer/depmod

Improve check for whether we have to rerun depmod

Don't mount /srv and /mnt read-only

It seems there are use cases where users expect to write their output
to a directory in /srv or /mnt so let's make that writable. This should
be safe as we set up a custom sandbox now so none of the tools we run
will have access to /srv and /mnt in the first place.

Improve check for whether we have to rerun depmod

Let's check if any extra modules were dropped in by users and rerun
depmod in that case.

Don't preserve timestamps when copying skeleton/extra trees

If timestamps should be preserved, a tar archive should be used.
Timestamps in directories are very likely to be arbitrary and there's
no point in preserving them. This doesn't impact reproducible builds
as we have SourceDateEpoch= for that.

Merge pull request #2298 from DaanDeMeyer/env

Introduce config_make_dict_parser()

Fix summary indentation

Introduce config_make_dict_parser()

Fix --mirror for Fedora (again)

Merge pull request #2296 from DaanDeMeyer/passwd

Hash root password when a plaintext one is given

Stop using --best when not necessary

Remove unnecessary quotes

Fix SRPM path in rpm scripts

Hash root password when a plaintext one is given

Revert "Don't include root password in /usr/lib/credstore"

If /etc/shadow is included in the image this is just as safe/unsafe
as including the hashed root password in /usr/lib/credstore. We'll
deal with including the plaintext root password in the next commit.

This reverts commit 1e054b4f3d75552b23299d20079f5f6ee3b7853a.

Merge pull request #2294 from DaanDeMeyer/topdir

Always set rpm _topdir to /var/tmp

Merge pull request #2295 from DaanDeMeyer/news

Update NEWS

Add link to constellation mkosi blog post

Add link to "Building USIs with mkosi" blog post

Update NEWS

Clarify that --build-in-place sets _builddir to the CWD

This isn't exactly obvious, so let's mention that --build-in-place
configures _builddir to the current working directory which explains
why we need to change directory to the upstream sources before
invoking rpmbuild.

Always set rpm _topdir to /var/tmp

_topdir is rpm's working directory. Set it /var/tmp so we don't pollute
the image or source directories we're building from with rpmbuild
artifacts.

Use $PACKAGEDIR when building mkosi rpm

Cache depmod again

Let's run depmod before we cache our images so that we can skip it
when doing incremental builds for kernels installed with the package
manager. depmod is noticeably slow so this speeds up kernel builds a
bit.

Fix shim signing bug

sign_efi_binary() expects the full output path.

Merge pull request #2291 from DaanDeMeyer/stuff

kernel-install: Build microcode initrd

kernel-install: Build microcode initrd

Let's make sure we build a microcode initrd as well in the
kernel-install plugin. It's a bit too complicated to reuse
the build_microcode_initrd() function we have already due to
sandboxing so we opt to duplicate it instead.

Make archive.py independent of Context

Let's make these functions slightly more generic by passing in a
tools directory and a sandbox instead of the full Context object.

Make sure we open Packages output location in binary mode

Use stdin/stdout for cpio/tar

Let's reduce the amount of stuff we have to mount in the sandbox
by making use of stdin/stdout when invoking cpio/tar.

Merge pull request #2289 from DaanDeMeyer/news

Update NEWS

Don't include root password in /usr/lib/credstore

Update NEWS

Merge pull request #2287 from DaanDeMeyer/stuff

Package manager improvements

Add PackageDirectories=

Let's make it possible to serve local packages as a local repository
so that users don't have to put local paths in their Packages= setting.
We'll also allow adding more packages to this local repository in the
build script so that these can be installed in the initrd when we build
it or in a postinst or finalize script.

Mount package manager caches to their canonical locations

Let's reduce the amount of configuration by mounting package
manager caches to their canonical locations.

Replace flatten() with format string

Use context.pkgmngr in one more place

Mount package manager cache directories when running scripts

When running package managers in host scripts we want the cache
to be available as well;

Put --mirror in cache manifest

Fix --mirror for CentOS and Fedora

Let's unify the interface for --mirror and only require users to
specify a url and add the entire path ourselves in mkosi. This is
required to use EPEL repositories with --mirror= as the epel
repositories are mirrored under <url>/fedora/epel whereas the CentOS
Stream repositories are under <url>/centos-stream

ci: Enable Arch Linux tools tree CI again

The required qemu fix was backported to the qemu package.

Generate more strict regexes from loaded modules

Let's only match actual modules ending in .ko.

fedora: Don't download filelists

Fixes a bug introduced in c1bef56eafb6809a91816c3c17e57050c1724fc4.

Merge pull request #2285 from DaanDeMeyer/tmpfiles

Run systemd-tmpfiles as part of the build

Run systemd-tmpfiles as part of the build

Let's make sure we take user provided tmpfiles snippets into account
as well. Since systemd now mounts the initramfs read-only by default,
we need to make sure all tmpfiles snippets that copy to /etc have
already been processed during the image build itself as they won't be
able to run during the initramfs stage.

Use 1. for ordered list

The actual number used doesn't matter, so just use 1. everywhere.

Skip normalize_mtime() if the directory does not exist

Merge pull request #2283 from DaanDeMeyer/arch

Make sure /etc/mtab exists in sandbox

Make sure /etc/mtab exists in sandbox

Required for pacman's CheckSpace option. To avoid messing with the
package manager tree /etc too much, we bind mount individual
subdirectories of it instead of the entire directory.

Merge pull request #2279 from DaanDeMeyer/rpm-build

Drop rpm-build from 30-rpm default image config

Make sure we don't build the same tools tree more than once

We can do this by simply checking if the output path already exists
instead of relying on needs_build(). This allows us to refactor
needs_build() to needs_clean(). We also move some prechecks into
run_build() and run_clean() so as to not duplicate them and improve
the logging messages in run_clean().

Fixes #2280

Be more careful with mounting /etc/alternatives in relaxed mode

Otherwise we might end up trying to create a mountpoint in the host's
/etc.

Add BuildSources=. to the default image configuration

If we enable the rpm build, we set BuildSources= which means we
override the default build sources. However we still want the source
directory to be used as BuildSources= as well, so configure it explicitly.

Simplify run_prepare_scripts()

Make it look more like the other script functions.

Use finalize_ephemeral_source_mounts() for package managers as well

Otherwise we'll still  create mountpoints in the actual source
directories when using nested build sources.

Drop rpm-build from 30-rpm default image config

We already install it unconditionally these days.

Release 20.1

Add note on BuildSources= being required to install local packages.

Verify that output path is not a symlink in needs_build()

Otherwise if we first build a disk image and then try to run
"mkosi -t directory qemu" we won't actually rebuild the image as it
will think the output already exists and we'll try to boot a disk
image as a directory.

Update NEWS

Merge pull request #2275 from DaanDeMeyer/selinux

Improve SELinux binary policy selection

Add debug log when we don't add microcode initrd

Allow gpg access to /run/pscsd/pscsd.comm on the host if it exists

This is required for gpg to communicate with pscsd for interaction
with smartcards so let's mount it in if it exists.

Improve SELinux binary policy selection

Let's deal with the possibility that there might be more than one
policy in the binary policy directory. Let's also make sure that we
consider other files in the directory that might not be policies.

Populate only using the archlinux keyring

Otherwise on Debian and Ubuntu we end up adding the Debian/Ubuntu
keyrings as well which is useless and slows down builds.

Merge pull request #2271 from DaanDeMeyer/fix

Two fixes

Use grub binaries from tools tree instead of from image

Let's give this another try and use grub tools from the tools tree
instead of from the image.

We also hardcode the grub prefix per distribution because if we use
grub binaries from the tools tree there might not be any installed
in the image itself which means we can't derive the prefix from the
binaries in the image.

Use default_factory for tools tree options defaults

Silence mkfs.erofs in CI

It prints a line for each file included in the image when connected
to a pipe which is extremely noisy so silence it.

Prefer qemu-system-xxx binaries

The qemu and qemu-kvm binaries are just shorthands for specific configs.
Let's prefer the actual binaries over the shorthands.

Log before going into debug shell

Fixes #2269

Check for all required setfiles inputs in want_selinux_relabel()

On Debian when policycoreutils is installed a policy is configured
without a matching binary policy being installed, so we have to
check that all parts are there.

Skip caching if Overlay= is enabled

When Overlay= is enabled we can't do Incremental= caching so skip
save_cache() if Overlay= is enabled.

Copy nspawn settings to the output directory again

machinectl pull-tar looks for a settings file so let's make sure
the output directory can be used directly for this purpose by copying
the nspawn settings file to the output directory again.

Merge pull request #2263 from DaanDeMeyer/fix

Fix invoked_as_root initialization

Actually call configure_extension_release()

Fix invoked_as_root check

Merge pull request #2262 from DaanDeMeyer/sources

Mount BuildSources= when executing package managers

Use the directory mkosi was invoked in as the default for BuildSources=

While parsing config, we use chdir(). Also, when a BuildSources=
match is found, BuildSources= is initialized to its default value
which is Path.cwd(). However, we want the default value to be the
top level directory that mkosi was invoked in, not the current working
directory that we happen to be in while parsing configuration. Let's
fix this by using the directory mkosi was invoked in instead of Path.cwd().

Mount in local mirror if it is provided.

Mount BuildSources= when executing package managers

Users might have local packages which need to be mounted into the
sandbox as well. Let's make this possible by using BuildSources=.

NEWS: reword a sentence and add punctuation