files: always initialize inspect_window and min_inspect_depth

This is to make sure the files buffers are properly managed even
when there are no rules or when there are no file.data rules.

Bug: #5703.

rust/files: open file without trackid as pointer

rust/filecontainer: remove unused declaration

streaming/buffer: set hard limit on buffer size

Don't allow the buffer to grow beyond 1GiB. Add a once per thread
warning if it does reach it.

Bug: #5703.

github-ci/centos:7: cache yum RPMs

github-ci/windows: cache cargo artifacts

github-ci/macos: don't force cbindgen

We want to use binary from the cache if available.

github-ci: cache RPMs on dnf distros

github-ci: better .cargo caching

http2: fix decompression buffering

It was not enough to set Cursor position to 0,
also its inner Vec should be cleared.

This way, a new input gets written at the beginning of the
Cursor and its inner Vec...

Ticket: #5691

http2: support padded data frames

Ticket: #5691

src: unify how warnings specify ticket id's

afpacket/netmap: warn about mixed ips, ids/tap deprecation

Suricata already logs if AF_PACKET or Netmap are running in a mixed IPS
and IDS/TAP mode.  As the behavior is undefined when these modes are
mixed, it is best to deprecate and to not allow this behavior. For now
warn that it will be unsupported and fail in Suricata 8.

Ticket: 5587

ci: remove unnecessary write permission to github workflow

ci: build with -Werror for -Wimplicit-int-conversion

So that CI gets red

detect: fix memory leak when parsing signature

Ticket: #5529

profiling: fix includes

swf-decompression: Disable by default.

Add an entry to the upgrade guide noting the change.

Ticket: #5632

ipfw: fix missing include

netmap: fix missing include

classification: continue processing on parse error

Instead of returning on the first line that fails to parse, log the
error and continue instead of returning.

The fail fast makes sense in test mode, but not in a normal run mode
where you don't want one bad line to abort processing the whole file.

This will still fail out in test mode.

Related issue: 4554

src: remove double includes

Keep the unconditional include to be sure it works

git grep '#include "' src/*.c | sort | uniq -c | awk '$1 > 1'

src: fix some include orders

So as to be able to get include removal right

src: remove obsolete comment

Should have been removed along by commit
82dba07579fcd188bc537b57c52eea4974f2d9e1

src: fix remaining cppclean warnings

unittest: fix unneeded includes as per cppclean

Especially because there is conditional inclusion from a header

util: fix includes for util-memcmp

u8_tolower is now in suricata-common.h

Fixes commit 19e94e93fab84c009c0aefd49809c91665a8fa33

ci: adds one build with hyperscan

ci: adds build with luajit

src: fix integer warnings

and adds defrag debug validations

tls: fix off by one in supported versions extension

Ticket: #5663

detect/bsize: Validate bsize values after parsing

Issue: 2982

This commit moves bsize validation with respect to content matches to
the post-parse validation stage. This allows bsize to consider all
content-related values, including those that follow the bsize keyword.

bsize/general: Remove unnecessary includes

This commit removes unused/commented out #include lines.

add to general: Typo fixup

netmap: Fix include file issues

doc: Update bsize documentation

This commit updates the bsize documentation

1. Describe what happens when "content" immediately precedes "bsize"
2. Include the operators and
3. Include examples using the operators.

detect/bsize: Semantic validation of bsize values

This commit adds validation of the bsize value(s) with the available
buffer size. Signatures are flagged if the bsize and buffer size are
incompatible.

Issue: 3682

tests/bsize: Test cases with preceding content

This commit adds test cases that validate behavior when "content"
immediately precedes "bsize".

general: Typo fixup

detect/content: Use SCCalloc instead of malloc/memset

This commit replaces a SCMalloc/memset with SCCalloc

detect/content: Consider distance in validation

Ticket: 2982

This commit validates that the content usage in a rule will not exceed
the dsize value.

Values of distance that cause the right edge to be exceeded are
considered an error and the signature will be rejected.

util/base64: use padding var for calculations

userguide: update tos keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update fragoffset keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update fragbits information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update geoip information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update id keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update ipv6.hdr keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update ipv4.hdr keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update ip_proto keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update sameip keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update ipopts keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

userguide: update ttl keyword information

Signed-off-by: jason taylor <jtfas90@gmail.com>

doc: update doc for HTTP file.data to server

Ticket: #4144

Completes e587f6792afdb863cbe57e972bd395443f23d9d9

quic: use VecDeque

Ticket: #5637

security: disable setrlimit with asan

Various parts of ASAN will require creation of threads. At least
LSAN reporting and ASAN stack traces require this. Detect if we
run with ASAN and bypass the noproc setting with a warning.

Bug: #5661.

pcre: configurable paths for PCRE2 for include/lib

Ticket: #5572

ssl: add debug validation checks for recent changes

Make sure the assumptions are correct.

tls: fix buffer overread

Recently introduced by commit 4bab6e24e5e2cef29c9a5a6bee3263e4a3d47e76

Ticket: #5564

detect: avoids memory leak on ja3 signature parsing

If a later keyword enforces a protocol incompatible with ja3

clean: use SC_MD5_HEX_LEN instead of magic number 32

clean: replace MD5_STRING_LENGTH with more used SC_MD5_HEX_LEN

clean: remove useless * sizeof(char)

quic: ja3 code deduplication

As quic transactions are unidirectional, the same function is
used to get ja3 from client or from server.

quic: allow ja3.hash keyword

Ticket: #5624

rust: fix cargo clippy --all-features

rust: cargo clippy --all-features --fix --allow-no-vcs

ci: cargo clippy run option

As clippy does not recognize git which is above

rust: fix warnings on rustc 1.67.0-nightly

warning: for loop over an `Option`. This is more readably written
as an `if let` statement

detect/parse-port: fix whitespaces bug

Updated by Victor Julien to:
- accept but strip leading whitespaces
- update tests
- cleanup tests

detect/filename: fix buffer description

src: remove unneeded header and refs

detect-l3proto: Convert unittests to new FAIL/PASS API

Ticket: #4050

detect-icmp-seq: clean-up unittests

Task: #5597

flow: fix FlowSwapFileFlags function

Ticket: #5625

detect-filesize: Convert unittests to new FAIL/PASS API

Ticket: 4039

detect-distance: Convert unittests to new FAIL/PASS API

Ticket : #4020

pgsql: add test for parameter status parser

Since we've done some changes to how the parameters are parsed, add one
more test case to check that.

Bug #5579

pgsql: move database into opt parameters list

For StartupMessages, the database parameter is optional. This moves the
parameter into the optional_parameters list.

Bug #5579

eve/schema: pgsql - allow flexible parameters list

Pgsql's parameters - for message types like StartupMessage and
ParameterStatus, for instance, don't have a finite, definitive set, as
per their documentation. Our json schema was allow expecting a fixed set
of parameters, though, resulting in SV tests failing if different, valid
parameters appeared.

Bug #5579

pgsql: support empty parameter values

Bug #5579

pgsql: support out of order parameters for startup message

As user can be not the first parameter

Bug #5579

detect-icmp-id: convert unittests to FAIL/PASS APIs

Task: #4042

detect-itype: Convert unittests to new FAIL/PASS API

Bug: #5589

github-actions: bump actions/cache from 3.0.10 to 3.0.11

Bumps [actions/cache](https://github.com/actions/cache) from 3.0.10 to 3.0.11.
- [Release notes](https://github.com/actions/cache/releases)
- [Changelog](https://github.com/actions/cache/blob/main/RELEASES.md)
- [Commits](https://github.com/actions/cache/compare/v3.0.10...9b0c1fce7a93df8e3bb8926b0d6e9d89e92f20a7)

---
updated-dependencies:
- dependency-name: actions/cache
  dependency-type: direct:production
  update-type: version-update:semver-patch
...

Signed-off-by: dependabot[bot] <support@github.com>

profiling: Make rule_perf.log JSON output newline-delimited

Adding a newline makes the output valid JSON when multiple sortings of
the rules profile object are written to the log.

doc/netmap: Describe Netmap IPS usage

Issue: 5512

This commit summarizes Netmap usage with Suricata's IPS mode.

doc/userguide: update bittorrent-dht eve examples

Update the bittorrent-dht examples using real log records with peers
and nodes broken down into objects.

eve/schema: bittorrent-dht updates

Some values that were previously strings are now parsed down into
objects.

bittorrent-dht: parse and log node6 lists

Node6 lists are just like node lists, but for IPv6 addresses.

bittorrent-dht: remove tests that are no longer valid

bittorrent-dht: fix values decoding, as a list of peers

The "values" field is not a string, but instead peer information in
compact format. Decode this properly and then properly format in the
log.

jsonbuilder: add append_hex - add hex to array

New method, append_hex to add a byte array to a JSON array in hex
encoding.

bittorrent-dht: parse token and target as byte values

bittorrent-dht: only attempt to parse dht messages

The bittorrent flow is shared with transport messages as well as dht
messages. Only attempt to parse dht message as dht, ignore the rest.

bittorrent-dht: decode node data structures

Instead of decoding the nodes field into a blog of bytes, decode it into
an array of node info objects, each with a node id, IP address and port.

bittorrent-dht: convert some fields to byte arrays

Some fields that were previously strings are not always value UTF-8
data, instead the protocol specification refers to them as strings of
bytes, so in other words byte arrays.

Currently fields converted are:
- client_version
- info_hash
- response.id
- request.id
- nodes
- token

doc: rename bittorrent-dht to bittorrent_dht in eve output

bittorrent-dht/eve: log as bittorrent_dht

eve-schema: add bittorrent-dht