util/proto: Convert validation routine to bool

This commit changes the signature of the protocol validation code to
bool and simplifies the validation steps.

output/json: Improve protocol output handling

Improve protocol label handling by eliminating an unneeded copy.

Additionally, unknown protocol values are no longer zero-padded.

output/flow: Improve protocol output handling

This commit improves handling of the protocol label by removing an
unnecessary copy.

Additionally, unknown protocol values are no longer zero-padded.

log/syslog: Improve protocol output handling

Move protocol handling outside of the packet alert loop.

log: Use updated SCProtoNameValid signature

output/lua: Remove unused proto code

This commit removes unused protocol string handling logic.

applayer template (rust): convert to JsonBuilder

applayer template (C): convert to JsonBuilder

modbus: align comments properly

modbus: make subfunction uint16_t

enip: remove unnecessarry definition

src: remove multiple uses of atoi

atoi() and related functions lack a mechanism for reporting errors for
invalid values. Replace them with calls to the appropriate
ByteExtractString* functions.

Closes redmine ticket 3053.

fuzz/sigpcap: make sure hassh is enabled

userguide: add documentation for Hassh usage

1. Rules keywords
2. Json keywords
3. Usage in lua
4. Enabling in configuration file

lua: add functions to get hassh parameters

eve: add Hassh fields to SSH JSON logger and add ssh log condition

detect: add (mpm) hassh keywords

Match on Hassh using ssh.hassh, ssh.hassh.server, ssh.hassh.string, ssh.hassh.server.string keywords, e.g:

alert ssh any any -> any any (msg:"match SSH hash"; ssh.hassh; content:"xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"; sid:1000010;)
alert ssh any any -> any any (msg:"match SSH hash-server"; ssh.hassh.server; content:"xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"; sid:1000020;)
alert ssh any any -> any any (msg:"match SSH hash-string"; ssh.hassh.string; content:"none,zlib@openssh.com,zlib"; sid:1000030;)
alert ssh any any -> any any (msg:"match SSH hash-server-string"; ssh.hassh.server.string; content:"umac-64-etm@openssh.com,umac-128-etm@openssh.com,"; sid:1000040;)

rust/ssh: add hassh generation

Add generation of hassh fingerprints based on fields in the kexinit record

detect/bsize: Use U16 bit macros

This commit changes the flag bit values to be expressed using the
BIT_U16 macro instead with hex values.

detect/bsize: Use SCLogDebug instead of printf

This commit updates debug "printf" message to use SCLogDebug

detect: Increase flag size for byte_jump

general: Fix typo in detect-bytejump.c

detect/bytejump: Add "from_end" support

This commit adds support for the byte jump "from_end" keyword and
unittests.

output/ikev2: Convert to JsonBuilder

Convert the IKEV2 Json logging to use JsonBuilder.

dnp3: adds unit test against previous bug

dnp3: fix buffer over read in responses parsing

dnp3: probing parser fixes direction based on dnp3 header

fuzz: disable DNP3 checksums while fuzzing

fuzz: improves fuzz target applayerparserparse

Does not proceed final chunk if we got an error previously
Flips the direction for last chunk as usual

flow: use stream state to string util func

stream: add state to string funcs

app-layer: set EOF flag in case of unsupported GAP

If GAP is not supported set EOF flags in the parser.

flow: improve 'under stress' behavior

When under stress, the packet threads ultimately fall back
to walking the hash table until they find a flow they can
safely evict and reuse. This could lead to all threads
fighting over the FlowBucket locks.

Fix by adding a limit to the number of hash rows that are
checked for a new flow. If the limit is reached, simply fail
to get a flow.

flow: fix TCP closed default initialization

TCP closed state was initialized to 0 by default.

Clean up 'closed' value setting for other protocols and the common
default.

flow: remove unused function declaration

flow: remove unused sctp enum member

This caused some arrays to be larger than needed.

flow: cleanup validation check

smb: fix 'dangling' files in lossy sessions

In case of lossy connections the SMB state would properly clean up
transactions, including file transactions. However for files the
state was never set to 'truncated', leading to files to stay 'active'.

This would lead these files staying in the SMB's state. In long running
sessions with lots of files this would lead to performance and memory
use issues.

This patch cleans truncates the file that was being transmitted when
a file transaction is being closed.

smb: check post-gap timeouts once a second at most

smb: update ts only if it changed

output/tftp: Convert to JsonBuilder

This commit converts the TFTP logging mechanisms to JsonBuilder.

signature: fix linked list for bidirectional signatures

Bidirectional signatures are really two signatures with one id
This needs to be handled with care when changing a linked list

detect: fail properly on invalid transform pcrexform

detect/flowbits: fix stack overflow in analyzer

Fix stack overflow in DetectFlowbitsAnalyze.

Use dynamically allocated array instead of stack and free
it after it is no longer needed.

netflow/eve: convert to JsonBuilder

doc: Correct typos

doc: Update byte_extract doc

doc: Fix spelling error

general: Fix spelling error

detect/content: Validate content byte array

This commit checks whether the content byte array is compatible with the
transforms, if any, for the rule.

detect: Add transform validation api

This commit extends the API with a function that validates arguments
against the transforms for the SM list (if any).

detect/transform: Add validation function

This commit adds a function to pre-validate buffers. If a content
buffer contains whitespace, the validation fails.

detect/transform: Add transform "validate" function

This commit adds an (optional) entry for a validation function. The
validation function, if present, will be used during rule processing.

Its role is to determine if the arguments are compatible with the
transform. E.g., a content string of "this string has whitespace" is not
compatible with the `strip_whitespace` transform.

dhcp/eve: remove erroneous jsonbuilder close

The JsonBuilder was being closed to early.

jsonbuilder: add debug_validate to state

If debug validation is enabled, panic on invalid state errors.

For example, calling close on an already closed jsonbuilder
object.

rust: macro debug_validate_fail to fail with message

Add a new debug_validate macro that unconditionally panics
with a message. Useful in Rust pattern matching.

output/fileinfo: Optimize filename output

This commit optimizes the JSON preparation of the file name by
eliminating the temporary copy before adding to the Json builder buffer.

output/rdp: Include common output options

This commit will cause common metadata values and the community id to be
included in log output when configured.

output/dhcp: Include common output options

This commit will cause common metadata values and the community id to be
included in log output when configured.

output/smb: Include common output options

This commit will cause common metadata values and the community id to be
included in log output when configured.

output/tftp: Include common options

This commit will cause common metadata values and the community id to be
included in log output when configured.

detect/http_raw_header: Correct type mismatch

This changeset fixes a bug on the computation of the buffer
lenght for raw http headers. The bug is due to a mismatch
on the data type of the length (uint8_t vs uint32_t) and it
was causing signature misses.

doc/manpage: improve intro, add examples

rule/parse: minor action parsing cleanup

doc/manpage: add --reject-dev option

doc/userguide: update app-proto list

doc/userguide: list valid rule actions

reject: support single vlan layer

Support sending RST/ICMP errors for packet with a single VLAN header.

reject: get MTU for reject-dev and use it

reject: minor optimization of reset entry code

reject: remove L3 from function names

reject: allow configuration of the reject interface

Using the '--reject-dev <dev>' commandline option. This is a global option
that applies to all 'reject' actions.

If the interface specified is using ethernet, libnet will use the faster
L2 (link) layer. Suricata sets up the ethernet header based on the packet.

When the interface is specified, cache libnet_t ctx for (much) better
performance.

reject: don't respond to tunnel packets

reject: check tcp header sooner to avoid potential leak

reject: optimize and simplify run test

reject: never return error

Errors by thread modules are not handled.

file-hash-common: fix rule_file truncation

Loading file hash lists uses dirname(3) on the
de_ctx->rule_file which modifies the contents,
removing the last part of the path. So on subsequent
calls the rule_file no longer contains the rule_file,
but instead just the directory name.

Mostly noticed when using "-S" with rule files outside
of the default-rule-path which requires more hunting for
the rule file.

output/ftp: Use "Eve" prefix with FTP helpers

This commit changes the prefix of the FTP helper routines from Json to
Eve.

output/eve: Remove unused helper function

This commit removes an unused helper function no longer required/used
after conversion to JsonBuilder.

ftp/eve: Convert FTP logging to use JsonBuilder

This commit converts the FTP logging mechanisms to use JsonBuilder.

smb/eve: convert to jsonbuilder

Closes redmine ticket 3712.

output/anomaly: Use helpers for string output

output/flow: Use helpers for string output

output/json: Include fileinfo in alerts

This commit adds fileinfo to alerts when `metadata` is configured.

json: macro for setting formatted false value

output/json: Refactor file output helper

This commit creates a common file output helper function based on the
logic in output-file-info.c:BuildBuildFileInfoRecord

The refactored helper will be used to create "fileinfo" information
during the alert output path.

util: check if parsed data is in range

src: remove multiple uses of atoi

atoi() and related functions lack a mechanism for reporting errors for
invalid values. Replace them with calls to the appropriate
ByteExtractString* and StringParse* functions.

Partially closes redmine ticket #3053.

affinity: Convert nb_threads to uint32_t

napatech: make stream_id uint8_t

redis: Change port type to uint16_t

rust: lock to nom 5.1.1

5.1.2 pulls in dependencies that don't build on Rust 1.34.

app-layer: remove old MPMId API calls

Had been deprecated and non-functional since 2017.

json: macros for setting formatted true and string values

JB_SET_TRUE(jb, key), and JB_SET_STRING(string, key, val) are C macros
around jb_set_formatted to set static string and true values as a
(micro) optimization.

jsonbuilder: setter for formatted data

Create a method to set preformatted data that contains the key
and the value already formatted.

This is an optimization for static data.

jsonbuilder: export {set,append}_string_from_bytes to C

jsonbuilder: use Box::from_raw instead of transmute to free

I think this is a bad use of transmute, while the end result
is the same, Box::from_raw is more correct as we created this
pointer with Box::into_raw.

signature: adds file flag for file_data keyword

So that SigValidate can check if a protocol not supporting
files was set after this keyword

ssh/eve: convert to jsonbuilder

doc: Improve tos description

This commit improves the description of the `tos` keyword by emphasizing
that the value used should adhere to the guidelines in RFC2474. Instead
of specifying the DSCP value directly, right shift the DSCP value and
use that.