Threads take loops faster

fixup! Channel: configurable feed block size

Channel: configurable feed block size

BGP: proactively rehash prefix hash up to shorten collision lists

Temporary hash function update

OLocks in BGP must be freed early

IO Loop / Thread Groups Lock moved to level -attrs- to allow for page allocation while locked

Fixed loop movement to not collide on LTT_MOVE

Fix loop dropping routines

Fixed a bug in hot page global storage

The original algorithm was suffering from an ABA race condition:

A: fp = page_stack
B: completely allocates the same page and writes into it some data
A: unsuspecting, loads (invalid) next = fp->next
B: finishes working with the page and returns it back to page_stack
A: compare-exchange page_stack: fp => next succeeds and writes garbage
to page_stack

Fixed this by using an implicit spinlock in hot page allocator.

Debug: keep a circular log of memory page operations

Fixed cold page cache leak

The empty_pages pointer wasn't being propagated into the ->next pointer
when more empty_pages were to be stored

Hostentry: fix pool locking

Linpool state save and restore refactoring

Debug: Explicit mprotect() on freed pages to better locate use-after-free bugs

Page allocator: indentation of messy ifdef blocks

First try of loop balancing

If a thread encounters timeout == 0 for poll, it considers itself
"busy" and with some hysteresis it tries to drop loops for others to
pick and thus better distribute work between threads.

Allocation from linpools and slabs requires the appropriate lock to be taken

Linpool flushes unused pages even on lp_restore()

Fixed race condition in hostentry allocation

Show threads: Fixed problems with CLI buffer reallocation

... by allocating all the output locally and then sending it out at
once.

Explicitly counting loops and threads

Loop spent time refactored to separate structures and functions

Loops track also locking time

IO loops now actually measuring their time (show threads all works)

Refactoring of domains connected to pools

Fix of failing show threads command

Merge commit 'd61505b039bf0aa6697e28b2a4e07907c89ba1fb' into thread-next

Merge branch 'mq-resource-locking' into thread-next

Removed duplicate version 3.0-alpha0 news

Resource pools are now bound with domains.

Memory allocation is a fragile part of BIRD and we need checking that
everybody is using the resource pools in an appropriate way. To assure
this, all the resource pools are associated with locking domains and
every resource manipulation is thoroughly checked whether the
appropriate locking domain is locked.

With transitive resource manipulation like resource dumping or mass free
operations, domains are locked and unlocked on the go, thus we require
pool domains to have higher order than their parent to allow for this
transitive operations.

Adding pool locking revealed some cases of insecure memory manipulation
and this commit fixes that as well.

Protocols and tables now use the birdloop pools as primary

Resource pool closing has its dedicated function

Socket closing has its dedicated function

Global protocol list is typed to avoid typecast confusion

Typed lists: added add_after() and unit tests

Alpha0 news added

BSD: IPv4 over IPv6 nexthop support on FreeBSD

The support for IPv4 routes with IPv6 nexthops was implemented in FreeBSD
13.1, this patch allows to import and export such routes from/to kernel.

Minor change from committer.

Linpool: Fix lp_restore()

When lp_save() is called on an empty linpool, then some allocation is
done, then lp_restore() is called, the linpool is restored but the used
chunks are inaccessible. Fix it.

Typed lists keep an explicit pointer to the list head.

This change adds one pointer worth of memory to every list node.
Keeping this information helps auditing the lists, checking that the
node indeed is outside of list or inside the right one.

The typed lists shouldn't be used anywhere with memory pressure anyway,
thus the one added pointer isn't significant.

Updated the version number to not include dash (breaks RPM)

NEWS and version update

Merge tag '3.0-alpha0' into HEAD

3.0-alpha0

IO: added a specific loop pickup group for BFD; to be done better in future

Merge commit '9e44ace3' into thread-next-iface

Merge commit 'f881b98d' into thread-next-iface

Merge commit '231c6385' into thread-next-iface

Merge commit '2f080b54' into thread-next-iface

Merge commit '6c058ae4' into thread-next-iface

Merge commit '913ec57f' into thread-next-iface

Merge commit 'ee919658' into thread-next-iface

Merge commit '0851fcde' into thread-next-iface

Merge commit 'dc4c5f51' into thread-next-iface

BGP: Add 'allow bgp_med' option for EBGP sessions

This option allows to treat bgp_med as regular transitive attribute
on EBGP sessions (without hacks in filters).

Minor changes from committer.

Increase tests timeout

Tests may take longer than 5 s to complete on slow/virtual machines.

Temporarily disable MRT as it still lacks proper locking; to be re-enabled in 3.0-alpha2

Loop: keep running the same loop for some time if there is work to do

BFD: fixed a request pickup race condition

When several BGPs requested a BFD session in short time, chances were
that the second BGP would file a request while the pickup routine was
still running and it would get enqueued into the waiting list instead of
being picked up.

Fixed this by enforcing pickup loop restart when new requests got added,
and also by atomically moving the unpicked requests to a temporary list
to announce admin down before actually being added into the wait list.

BGP: set free bind also for connect sockets if configured

BGP: sockets use sk_resume_rx and sk_pause_rx

BGP now has its own loop

Sockets: Unified API for main and other loops

Now sk_open() requires an explicit IO loop to open the socket in. Also
specific functions for socket RX pause / resume are added to allow for
BGP corking.

And last but not least, socket reloop is now synchronous to resolve
weird cases of the target loop stopping before actually picking up the
relooped socket. Now the caller must ensure that both loops are locked
while relooping, and this way all sockets always have their respective
loop.

More efficient IO loop event execution to avoid long loops

If there are lots of loops in a single thread and only some of the loops
are actually active, the other loops are now kept aside and not checked
until they actually get some timers, events or active sockets.

This should help with extreme loads like 100k tables and protocols.

Also ping and loop pickup mechanism was allowing subtle race
conditions. Now properly handling collisions between loop ping and pickup.

Resource dumps also write out block addresses

Linpool: State restoration works in initial linpool state

Misc allocator fixes

Allocator fix: thread local kept pages counter must be thread local

Route feed marks only the relevant pending exports as done

Propagated const through route feed routines

Moved channel export hooks to rt.h as the channel refactoring isn't going to take place soon

Allowing to restart a route refresh.

Repeated pipe refeed should not end route refresh as the prune routine
may start pruning otherwise valid routes.

The same applies for BGP repeated route refresh.

Fixed default table configuration

When changing default table behavior, I missed that it enabled to
configure multiple master4 and master6 tables. Now BIRD recognizes it
and fails properly.

Fixed use-after-free of old protocol name pointer copied into rte_owner structure

Fixed unwanted reloads while reconfiguring protocols with import table on

Fixed bad filter re-evaluation with import table if filtered->accepted

The import table feed wasn't resetting the table-specific route values
like REF_FILTERED and thus made the route look like filtered even though
it should have been re-evaluated as accepted.

Fixed channel stopping when reload is active

Fix obvious mistake in protocol debug dump

Fixed stopping of import request with no imports in idle table

Moved table hostcache updater to table service routines to not bother the mainloop

Reducing initial channel bitmap sizes to help extreme cases

Flowspec links must have the destination table service loop locked

BGP Export Table: Fixed route source objects leaking when prefix best routes is updated

BGP: LLGR Staleness optimization dropped.

This brought unnecessary complexity into the decision procedures while the
performance aspects weren't worth it. It just saved one ea_list traversal
when many others are also done.

BGP: show detailed TX state in show proto all output

BFD notifications respect protocol loop settings

Temporarily switching off time annotations of debug log

The "dump *" commands are totally garbled by the time annotations.

Conf: Fix too early free of old configuration

The change 371eb49043d225d2bab8149187b813a14b4b86d2 introduced early free
of old_config. Unfortunately, it did not properly check whether it is not
still in use (blocked by obstacle during reconfiguration). Fix that.

It also means that we still could have a short peak when three configs
are in use (when a new reconfig is requeste while the previous one is
still active).

Interface subsystem locking

Proto: published protocol-loop connections

BGP: Fix bgp_med handling

Missing translation from BGP attribute ID to eattr ID in bgp_unset_attr()
broke automatic removal of bgp_med during export to EBGP peers.

Thanks to Edward Sun for the bugreport.

Add missing references to "show route in" in the cli-help and doc.

The feature of showing all prefixes inside the given one has been added
in v2.0.9 but not well documented. Fixing it by this update.

Text in doc and commit message added by commiter.

BGP: Free bind applies also to outbound connections

Even though the free bind option is primarily meant to alleviate problems
with addresses assigned too late, it's also possible to use BIRD with AnyIP
configuration, assigning whole ranges to the machine. Therefore free bind
allows also to create an outbound connection from specific address even though
such address is not assigned.

Net: Replace runtime checks with STATIC_ASSERT()

Printf test suite fails on systems with musl libc because tests for "%m"
and "%M" formats expect "Input/output error" message but musl returns
"I/O error". Proposed change compares the printf output with string
returned from strerror function for EIO constant.

See-also: https://bugs.gentoo.org/836713

Minor change from committer.

Config: Dropping filter instruction trees after linearization

Linpool flush drops all the allocated pages but one

When a linpool is used to allocate a one-off big load of memory, it
makes no sense to keep that amount of memory for future use inside the
linpool. Contrary to previous implementations where the memory was
directly free()d, we now use the page allocator which has an internal
cache which keeps the released pages for us and subsequent allocations
simply get these released pages back.

And even if the page cleanup routine kicks in inbetween, the pages get
only madvise()d, not munmap()ed so performance aspects are negligible.

This may fix some memory usage peaks in extreme cases.

BGP: Update RFC references

Babel: Update RFC references

Conf: Fix too early free of old configuration

The change 371eb49043d225d2bab8149187b813a14b4b86d2 introduced early free
of old_config. Unfortunately, it did not properly check whether it is not
still in use (blocked by obstacle during reconfiguration). Fix that.

It also means that we still could have a short peak when three configs
are in use (when a new reconfig is requeste while the previous one is
still active).

Babel: Keep separate auth PC counters for unicast and multicast

The babel protocol normally sends all its messages as multicast packets,
but the protocol specification allows most messages to be sent as either
unicast or multicast, and the two can be mixed freely. In particular, the
babeld implementation can be configured to unicast updates to all peers
instead of sending them as unicast.

Daniel discovered that this can cause problems with the packet counter
checks in the MAC extension due to packet reordering. This happens on WiFi
networks where clients have power save enabled (which is quite common in
infrastructure networks): in this case, the access point will buffer all
multicast traffic and only send it out along with its beacons, leading to a
maximum buffering in default Linux-based access point configuration of up
to 200 ms.

This means that a Babel sender that mixes unicast and multicast messages
can have the unicast messages overtake the multicast messages because of
this buffering; when authentication is enabled, this causes the receiver to
discard the multicast message when it does arrive because it now has a
packet counter value less than the unicast message that arrived before it.
Daniel observed that this happens frequently enough that Babel ceases to
work entirely when runner over a WiFi network.

The issue has been described in draft-ietf-babel-mac-relaxed, which is
currently pending RFC publication. That also describes two mitigation
mechanisms: Keeping separate PC counters for unicast and multicast, and
using a reorder window for PC values. This patch implements the former as
that is the simplest, and resolves the particular issue seen on WiFi.

Thanks to Daniel Gröber for the bugreport.

Minor changes from committer.