logging: convert drop output to non-thread module

logging: convert json template output to non-thread module

tests: setup unit test framework earlier

Allows tests to be registered early, in support of moving
outputs away from thread modules.

logging: convert json drop output to non-thread module

logging: convert json smtp output to non-thread module

logging: convert json ssh output to non-thread module

logging: convert json netflow output to non-thread module

logging: convert json flow output to non-thread module

logging: convert json alert output to non-thread module

logging: convert json tls output to non-thread module

logging: convert prelude output to non-thread module

logging: convert eve http to non-thread module

logging: convert eve dns logging to non-thread module

logging: convert fast log to a non-thread module

logging: convert dns log to a non-thread module

detect: mark alproto in keyword reg deprecated

No existing code uses it, and it had been useless for some time.

gitignore: update to hide more local files

detect: don't set alproto while registering keyword

The field is not used except for some printing, and is wrong for
many keywords.

detect file: enable HTTP inspection from validate func

detect file: enforce protocol in single place

Instead of trying to enforce the app layer protocol in each file
function, enforce it in the generic validation function.

app-layer: add function to check if app-layer supports files

threads: remove EngineKill & SURICATA_KILL

EngineStop and EngineKill were effectively doing the same, so
removed the kill variant.

threads: failed thread is a fatal error now

threading: remove thread restart logic

Thread restarts never worked well and the rest of the engine was
never really expecting errors to lead to thread restarts. Either
and error is recoverable in the thread, or not at all.

So this patch removes the functionality completely.

Open Suricata 3.2 development branch

magic: fix broken tests after CentOS6 update

mpls: add missing event type + rule

bpf: fix file parsing memory handling

Fix improper fread string handling. Improve error handling.

Skip trailing spaces for slightly more pretty printing.

Coverity CID 400763.

Thanks to Steve Grubb for helping address this issue.

detect: don't print (null) in --list-keywords=all

detect: fix setup for some keywords

Fix problems found by siginit.cocci.

coccinelle: add siginit test

Add a test that check an inversion during keyword setup where
we add a sigmatch to a signature and then do error handling on it.
This was causing a double free of some elements and ultimately a
segfault.

Proposed-by: Victor Julien <victor@inliniac.net>

detect-flowbits: more unittest macro usage

Also cleanup some tests by removing extra code after a test was
determined to fail.

hostbits: use new unittest macros

hostbits: fail parse on unexpected trailing data

Address issue https://redmine.openinfosecfoundation.org/issues/1889
for hostbits. This involves updating the regular expresssion
to capture any trailing data as the regex already keeps
spaces out of the name.

A unit test was converted to new macros to find out which
line it was failing at after updating regex.

flowbits: validate that there are no spaces in the name

Fixes issue: https://redmine.openinfosecfoundation.org/issues/1889

To catch the issue where the ';' is missing we have to expand the
regex to capture the whole name string, not just the leading
valid stuff. Then verify that there are no spaces in the name
(Snort has the same restriction) and fail if there is.

unix-manager: fix output of version command

Make it consistent with the output of version command line flag.

rule-parsing: reject unescaped double quote within content section

Update Changelog for 3.1.2

eve-drop: allow logging all drops

- drop:
    alerts: yes      # log alerts that caused drops
    flows: all       # start or all: 'start' logs only a single drop
                     # per flow direction. All logs each dropped pkt.

dns: use nonnull attr for log functions

dns: fix coverity warning

** CID 1372324:  Null pointer dereferences  (FORWARD_NULL)
/src/output-json-dns.c: 532 in OutputAnswer()

________________________________________________________________________________________________________
*** CID 1372324:  Null pointer dereferences  (FORWARD_NULL)
/src/output-json-dns.c: 532 in OutputAnswer()
526             }
527         }
528
529         /* reset */
530         MemBufferReset(aft->buffer);
531         json_object_set_new(djs, "dns", js);
>>>     CID 1372324:  Null pointer dereferences  (FORWARD_NULL)
>>>     Dereferencing null pointer "entry".
532         if (likely(DNSRRTypeEnabled(entry->type, aft->dnslog_ctx->flags))) {
533             OutputJSONBuffer(djs, aft->dnslog_ctx->file_ctx, &aft->buffer);
534         }
535         json_object_del(djs, "dns");
536
537         return;

Move checks to the top of the functions. Should be more efficient too.

detect-template: modernize

app-layer templates: cleanups

- cleanup file headers
- add todo section
- convert unit tests to new macros
- add markers to remove disabled by default behaviour

decode-icmpv6: use FAIL macros in tests

unittest: FAIL macro to unconditionally fail a test

icmpv6: fix checksum verification if fcs present

Calculate the length of the ICMPv6 packet from decoded information
instead of off the wire length. This will provide the correct
length if trailing data like an FCS is present.

Fixes issue:
https://redmine.openinfosecfoundation.org/issues/1849

affinity: fix compilation on SunOS

byteswap: fix compilation on SunOS

configure: detect SunOS and link against required libs

threads: provide SCGetThreadIdLong for SunOS

decode: declare IPPROTO_IPIP if OS doesn't have it

decode: fix int types

configure: check for strings.h: used by SunOS

logfile: resolve name clash on SunOS

eve: reduce flow_id to 51 bits

Evebox & ELK couldn't handle the large integers. It looks like (partly)
a javascript limitation that doesn't treat 64bit ints as real ints.

configure: fix Ubuntu lua pkg suggestion

eve: output more unique flow_id

flow: introduce function to generate flow id

The flow id itself is not stored in the flow, but generated based on
properties that do not change during the lifetime of the flow.

As it's meant for use with the json output, it is limited to a signed
64 bit integer (int64_t) because that is the time json_integer_t uses.

detect: implement continue detect for dcepayload

Also fix a corner case in start detection.

Bug 1853.

detect: cleanup

detect: fix ICMP error handling issue

The first packet in both directions of a flow looks up the rule group
(sgh) and stores it in the flow. This makes sure the lookup doesn't
have to be performed for each packet.

ICMPv4 error messages are connected to the TCP or UDP flow they apply
to. In the case of such an ICMP error being the first packet in a
flow's direction, this would lead to an issue.

The packet would look up the rule group based on the ICMP protocol,
not based on the embedded TCP/UDP. This makes sense, as the ICMP
packet is inspected as ICMP packet. The consequence however, was that
this rule group pointer (sgh) would be stored in the flow. This is
wrong, as TCP/UDP packets that follow the ICMP packet would have no sgh
or the wrong sgh.

In normal traffic this shouldn't normally happen, but it could be
used to evade Suricata's inspection.

output dns: fix bit declarations

common: introduce macro for bit declarations

output-json-dns: dns output filtering.

eve: make logging of tagged packets optional

But it is enabled in the default configuration.

eve: log tag packets as packet events

Create a new eve event type, "packet" for logging packets that
are tagged as part of an event. The packet is still at the top
level to keep it consistent with alert event types.

In addition to the packet being logged, a packet_info object
is created to hold the linktype and any future meta data
we may want to add about the packet.

detect: minor cleanup

detect: minor style fixes

detect: minor debug output cleanup

detect: remove unused debug code

detect: minor cleanups

stream-tcp: fix ssn returning to wrong thread pool

app-layer-dcerpc-udp: style cleanups

- consistent 4 space indent
- cleanup file header

detect-flowbits: fix misleading indentation

detect-flowbits.c: In function ‘FlowBitsTestSig02’:
detect-flowbits.c:475:4: warning: this ‘if’ clause does not guard... [-Wmisleading-indentation]
    if(error_count == 5)
    ^~
detect-flowbits.c:478:5: note: ...this statement, but the latter is misleadingly indented as if it is guarded by the ‘if’
     SigGroupBuild(de_ctx);
     ^~~~~~~~~~~~~

app-layer-dcerpc-udp: fix missleading indentation

app-layer-dcerpc-udp.c: In function ‘DCERPCUDPParserTest01’:
app-layer-dcerpc-udp.c:1105:5: warning: this ‘if’ clause does not guard... [-Wmisleading-indentation]
     if (alp_tctx != NULL)
     ^~
app-layer-dcerpc-udp.c:1107:2: note: ...this statement, but the latter is misleadingly indented as if it is guarded by the ‘if’
  StreamTcpFreeConfig(TRUE);
  ^~~~~~~~~~~~~~~~~~~

decode: support Cisco Fabric Path / DCE

Cisco Fabric Path is ethernet wrapped in an ethernet like header
with 2 extra bytes.  The ethernet type is in the same location
so the ethernet decoder can be used with some validation
for the extra length.

output: use safer logic for fingerprint printing

app-layer-tls: accomodate trailing \0 in hash output

output-json-dns: allocate correct size hexstring buffer

The buffer allocated for the hexstring was not large enough
for a ':' separated hex string.

detect: log earlier that rule reload is happening

dns: fix OOB read on malformed TXT record

unified2: fix logging of tagged packets

The structure for create the alert preceding each tagged packet
was not being initialized, preventing tagged packets from being
logged.

Note: Snort unified2 does not precede tagged packets with an
alert like is done here, so this just fixes what the code
intended to do, it does not make it Snort unified2
compatible.

Address issue:
https://redmine.openinfosecfoundation.org/issues/1854

dns: fix name parsing issue leading to events

packet: remove empty and unused UDPVars struct

packet: make tcp/udp/icmp vars union non-anonymous

Clean the whole thing after use.

commandline: fix strlcpy usage

pcap: don't fail with --pcap with no device present

Issue: 1856.

A device with the name of "" (empty string) was being added
with LiveRegisterDevice which failed to initialize causing
Suricata to fail.

Update Changelog for 3.1.1

output lua: improve debugging output

output lua: set proper logging progress values

outputs: small code cleanup

dns: directional logging

Register loggers for to server and to client so requests
and responses can be logged independently of each other.

This results in the request log having the actual timestamp of
the request instead of the reply.

logging: setup all registered loggers for a name

When setting up a configured logger, do so for all registered
loggers of that name instead of just the first registered one.

This allows a logger to register itself more than once, which
can allow for independent logging of requests and replies without
touching the core transaction handling logic.

We do this so just having "dns" in the eve-log can configured
multiple "dns" loggers instead of having something like "dns-tc"
and "dns-ts" in the configuration file.

lua smtp: fix SMTPGetMimeField arg checking

Properly check argument before passing it on: CID 1363385: (NULL_RETURNS)

configure: require libhtp 0.5.20

Ticket #1839

cmdline: fix --list-keywords and --list-app-layer-protos

Ticket #1840

output: don't register loggers for disabled protocols

app-layer: add AppLayerParserIsTxAware

This function globally checks if the protocol is registered and
enabled by testing for the per alproto callback:
StateGetProgressCompletionStatus

This check is to be used before enabling Tx-aware code, like loggers.

output: fix debug messages

smb: style fix in log message