dnsdist: Install 'patch', required to install py-lmdb

Merge pull request #9376 from omoerbeek/rec-rpz-store-trigger

Rec: rpz store trigger in appliedPolicy and protobuf message

Add new field `AppliedPolicyHit` to regress test.

Document new Lua dq fields and centralize logging in handle olicyHit functions.
Plus corrections from review.

Define a log string method for a Policy and use it in appropriate places
to log what is going on wrt RPZ processing.

Also record the value that caused a hit.

For triggers fomr rpz zones it makes sense to store them as listed there.
For hit values (names or IPs) it makes more sense to store them
in the regular string value and not list them as rpz trigger format.
e.g.: a trigger is listed

24.0.2.0.192.rpz-ip.rpz.local.

A corresponding hit as

192.0.2.1

Use static constr string instead of string literals for some well-known names.

Appease spell check

Check appliedPolicyTrigger in protobuf regress test

Log trigger in protobuf message

Store the trigger hit in the (applied)Policy.

While there fix (a (I thnk) doc bug: appliedPolicy.policyAction does
not exists. I think what is meant is policyType. So document that.

Merge pull request #9414 from rgacogne/rec-cname-rpz-4

rec: Apply filtering policies (RPZ) on CNAME chains as well

Merge pull request #9379 from rgacogne/ddist-clear-console-history

dnsdist: Add the 'clearConsoleHistory' command

Merge pull request #9419 from Habbie/sdig-id-nonzero

sdig: report non-zero ID in response

Merge pull request #8638 from threatstop/master

Support for APL Records

sdig: report non-zero ID in response

Use an union for the ipv4 and ipv6 fields

Removed duplicate entry
Rewrote description as a single line

rec: Update the documentation to better describe our RPZ behaviour

rec: Add DNSFilterEngine::Policy::wasHit() to prevent code duplication

rec: Trust the result from doCNAMECacheCheck() for RPZ hits

Merge pull request #9411 from omoerbeek/rec-inited-capture-is-cxx14

rec: Fix warning: initialized lambda captures are a C++14 extension

Merge pull request #9417 from PowerDNS/omoerbeek-patch-1

rec: FIx a few "warning: comparison of integers of different signs" on clang.OpenBSD

FIx a few "warning: comparison of integers of different signs" on clang/OpenBSD

Merge pull request #9375 from omoerbeek/rec-qmin-fallback-depth

rec: Allow some more depth headroom for the no-qname-minimization fallback case

Merge pull request #9415 from PowerDNS/omoerbeek-patch-1

auth: missing override

missing override

Merge remote-tracking branch 'origin/rec-cname-rpz-4' into rec-cname-rpz

rec: Add regression tests for RPZ CNAME chains

rec: Properly handle RPZ hits for records retrieved from the cache

rec: When adding custom records from RPZ, remove conflicting ones

Document the extra allowance in case of qname-minimization fallback.

Zap some redundant args

dnsdist: Dcocument the new 'clearConsoleHistory()' command

Merge pull request #9412 from omoerbeek/rec-channel-coverity

rec: Clean some coverity reported cases of exceptions thrown but not caught.

Merge pull request #9401 from Habbie/statbag-declare-pointer

statbag: handle key redeclarations better

Do not use ref

Co-authored-by: Remi Gacogne <rgacogne+github@valombre.net>

rec: Fix formatting

rec: Document the new RPZ behaviour, objects and hooks

rec: Add a new policy filter event Lua hook

We now do the filtering during the resolution, instead of at the end,
to better match the RPZ specifications. Unfortunately it means that
we need a new hook to be able to act on policy events, since they
can occur in various places.

rec: Update tests since we now filter on CNAME chains

rec: Handle RPZ CNAME chains, post-policies on cache hits as well

Simplify things a bit

We have a rather fundamental issue here: in some cases, we want
the RPZ post policy to extend the current result vector and in some cases
we want to replace the result vector built up earlier.

ATM I have no clear method how that should be determined.

Added depth check for qnameRPZHit() and some comments.

Simplified getClientPolicy()

Handle non-CNAME cases and auth/forward case.

Though regression test is not happy yet this should be an improvement.
Also refactor qnameRPZHit a bit.

Move Query policy handling to SyncRes.

This allows for intermediate CNAMEs to be subject to RPZ
processing.

Split the ClientIP and QName processing for RPZ.

The first will be done initially only, while the second
will be used during CNAME chasing.

Merge pull request #9409 from mind04/pdns-race2

auth: clear the key cache after addKey()

Merge pull request #9381 from rgacogne/ddist-delaypipe-eintr

dnsdist: Handle EINTR in DelayPipe

Merge pull request #9382 from rgacogne/ddist-speedup-rr

dnsdist: Speed up the round robin policy

Clean some coverity reported cases of exceptions thrown but not caught.

See e.g. coverity report 1431930

auth: clear the key cache after addKey()

Merge pull request #9391 from omoerbeek/rec-new-rc-stats

rec: export record cache mutex stats via the various channels.

Merge pull request #9405 from rgacogne/fix-doc-per-zone-settings-domain-metadata

doc: Fix broken link to "per-zone-settings-domain-metadata"

Merge pull request #9406 from Habbie/pdnsutil-static-declaration

pdnsutil: file-local functions need to be static

Fix warning: initialized lambda captures are a C++14 extension

dnsdist: Handle an empty servers list in the RR policy

Co-authored-by: Otto Moerbeek <otto.moerbeek@open-xchange.com>

dnsdist: Speed up the round robin policy

Working with indices instead of copying shared pointers results in
a nice speed up, cutting the CPU time in half.

Merge pull request #9408 from RvdE/patch-5

Fix building with LLVM11

Merge pull request #9396 from omoerbeek/rec-rpz-ip-multi

Rec: allow multipe local data records when doing RPZ IP matching

Sorting of items

s/mutex/lock in descriptions

Co-authored-by: Remi Gacogne <rgacogne+github@valombre.net>

Fix building with LLVM11

There's a typo on line 529, where it says "true", but the double quotes cause a type cast error on LLVM11.

dnsdist-console.cc:529:32: error: type 'const char [5]' cannot be narrowed to 'bool' in initializer list [-Wc++11-narrowing]
  { "SetNegativeAndSOAAction", "true", "nxd, zone, ttl, mname, rname, serial, refresh, retry, expire, minimum [, options]", "Turn a query into a NXDomain or NoData answer and sets a SOA record in the additional section" },
                               ^~~~~~
dnsdist-console.cc:529:32: note: insert an explicit cast to silence this issue
  { "SetNegativeAndSOAAction", "true", "nxd, zone, ttl, mname, rname, serial, refresh, retry, expire, minimum [, options]", "Turn a query into a NXDomain or NoData answer and sets a SOA record in the additional section" },
                               ^~~~~~
                               static_cast<bool>( )
1 error generated.

Merge pull request #9407 from mind04/pdns-race

auth: fix cache cleaning race conditions in DNSSECKeeper()

auth: fix cache cleaning race conditions in DNSSECKeeper()

pdnsutil: file-local functions need to be static

statbag: prevent re-declaration in production coded

doc: Fix broken link to "per-zone-settings-domain-metadata"

Merge pull request #9157 from rgacogne/reuseport-lb

Add support for FreeBSD's SO_REUSEPORT_LB

Merge pull request #9404 from jsoref/test-recursor-remove-cd

test-recursor: remove duplicate cd directive

Replaced bzero with memset
Adjusted types
(via Remi on Aug 19)

statbag: when redeclaring a key, reset to 0 instead of reallocating

Merge pull request #9088 from neheb/nbm

replace boost:bind() with lambdas

Merge pull request #9399 from jsoref/rst-blankline

rst: Definition list ends without a blank line; unexpected unindent

Formatting

Merge pull request #9101 from pieterlexis/lua-record-improvements

LUA records: two improvements to createForward

Merge pull request #8824 from cmouse/retrieve

Allow forced retrieval

Merge pull request #9395 from Habbie/spelling-9264

fix spelling dict after merge of 9264

fix spelling dict after merge of 9264

Add unit test for matching on netmask.

Also: fix the test to remove an entire entry. That should only be done
if there are no custom records left after the cleanup.
Old code was too eager and removed the entry whenever there was only one
custom record left. We could be trying to  remove a non-matching one.

Merge pull request #9264 from cmouse/patch-1592679516

PKCS#11: Document SoftHSM2 remote usage

Merge pull request #9384 from kpfleming/add-rrsets-parameter-to-listZone

Document 'rrsets' parameter to API listZone operation

Merge pull request #9394 from vincentbernat/patch-1

Fix capitalization of Zone in documentation

Merge pull request #9390 from omoerbeek/rec-record-cache-shards

rec: rename cache-shards to record-cache-shards and document it.

dynhandler: Do not copy master value

pdns_control.1.rst: retrieve - Document new parameter

dynhandler: Allow specifying master IP on retrieve

Setting master IP allows overriding master location. This will
also override slave requirement checks, allowing fetch of NATIVE
and MASTER zones.

communicator: Allow forcing domain retrieval

This allows forcing retrieval of domain that is not slave domain.

Fix capitalization of Zone in documentation

Fix doc

Fix rebase conflict

Fix record name in doc

Fix rebase

Fix record name in doc

Target 4.4.0 for APL records

Fix record name in doc

Merge

Fix ordering