Wait until both sides close the TCP connection before initiating cleanup

Update docs from wiki

Update changelog for 1.4rc1

unix runmode: fix error handling.

If 'output-dir' argument was not given it was possible to reach a
possibly problematic condition.

Remove useless code.

fix logic error in sanity check

Add removal safe TAILQ iterator.

TAILQ_FOREACH macro was not safe for element removal as it was
accessing the next element in case of a free. This patch is inspired
by Linux list handling and provide a new macro TAILQ_FOREACH_SAFE.
This macro is removal safe and only differs by a last argument being
a temporaty pointer to an element.

prelude: don't build string objet for NULL string

prelude_string_set_ref don't like when it is called with a NULL
parameter. This patch adds check for NULL value. This is formally
good as there is no use of a NULL description.

Feature 638: Display DAG drop counts on exit; add DAG packet and drop stats to live stats.

Fix length check on user-agent header

Add User-Agent header content to file metadata

warn users that we don't support content strings whose length's > 255.

Initialize flow_manager_mutex

fix for bug #526.

Insert pseudo packet under low load conditions to complete rule swap.
This is necessary when we use autofp active packets where most packets
would be sent to the first queue under low load conditions.

clang: make atomics work

Fix detection of spin locks supported. Clean up how we handle falling back to mutex if spinlocks aren't supported.

host: suppress double memory clear

HostFree() is calling HostClearMemory() so calling HostClearMemory()
before HostFree() is useless.

unix-socket: cleanup host table instead of destroying it

This patch should fix the bug #637. Between pcap files, it uses a
new function HostCleanup() to clear tag and threshold on host with
an IP regputation. An other consequence of this modification is
that Host init and shutdown are now init and shutdown unconditionaly.

host: don't destroy reference counter

The reference counter should not be destroyed in HostClearMemory()
as the host can be reused directly (without going through Init
function).

pfring: fix build failure

configure: improve message about pkg-config usage

This patch improve the error message when luajit libraries are not
found. It displays information about the possibility to use
PKG_CONFIG_PATH or the dedicated configure options.

Temporary fix for bug #599.

Treat sigs with negated addresses as non ip-only.

This fix exposes bug #608, which results in 2 failed unittest which
have now been disabled by this commit.  Would be reenabled when we
have #608 fix in.

unittest to show failure for bug #599.

http: add event for libhtp detection of request port not matching tcp port.

pcap: fix windows commandline mangling win device string

clang: fix warnings when debug is enabled

reputation: don't give error if config is missing/commented out

Minor fixes

unix runmode: improve JSON handling

The jansson function with new in their name take care of ref
counting. The this patch fixes a memory leak.

unix-manager: fix error and JSON handling

unix-manager: memory handling fixes.

This patch adds unlikey() for memory error handling and fixes a few
error cases.

unix runmode: use unlikely for memory error

unix runmode: fix FIXME

unix runmode: fix JSON mem handling

json_decref was not correctly used through the code. This patch
fixes it.

unix manager: add static

configure: fix indent

Disable 'reload-rules' command.

unix-manager: doc and whitespace fixes

unix-socket: fix build when jansson not present

unix-command: add drop counter to iface-stat message

Add atomic counter for iface drop.

unix-command: add iface information command.

This patch adds two commands to unix-command. 'iface-list' displays
the list of interface which are sniffed by Suricata and 'iface-stat'
display the available statistics for a single interface. For now,
this is the number of packets and the number of invalid checksums.

af-packet: update runmode copyright date.

unix-manager: fix error treatment in accept phase

unix-manager: implement multi client support

This patch implements the support of multiple clients connected
at once to the unix socket.

suricatasc: improve reading when system is loaded

affinity: avoid to init structure twice

In unix socket mode, suricata was doing multiple init of the
structure. This was not needed and caused a memory leak in
mutex creation.

pcap-file: update affinity setting code

The affinity setting code was using the old API. This patch updates
to the new API and also adds a call to RunModeInitiaze() which was
missing in Single running mode.

unix-mode: fix return of pcap-file command

unix-socket: introduce API to add commands and tasks

This patch transforms the unix socket into a flexible system to
add commands (triggered by user) and taks (run periodically).
It introduces two functions UnixManagerRegisterCommand and
UnixManagerRegisterBackroundTask to registed commands and tasks.

Other part of Suricata can then declare a new command via a simple
call of the function. In the case of a command the caller is
responsible of building the answer message using Jansson API. The
sending of the message is made by unix manager code.

unix-manager: add unix command socket and associated script

This patch introduces a unix command socket. JSON formatted messages
can be exchanged between suricata and a program connecting to a
dedicated socket.
The protocol is the following:
 * Client connects to the socket
 * It sends a version message: { "version": "$VERSION_ID" }
 * Server answers with { "return": "OK|NOK" }
If server returns OK, the client is now allowed to send command.

The format of command is the following:
 {
   "command": "pcap-file",
   "arguments": { "filename": "smtp-clean.pcap", "output-dir": "/tmp/out" }
 }
The server will try to execute the "command" specified with the
(optional) provided "arguments".
The answer by server is the following:
 {
   "return": "OK|NOK",
   "message": JSON_OBJECT or information string
 }

A simple script is provided and is available under scripts/suricatasc. It
is not intended to be enterprise-grade tool but it is more a proof of
concept/example code.  The first command line argument of suricatasc is
used to specify the socket to connect to.

Configuration of the feature is made in the YAML under the 'unix-command'
section:
  unix-command:
    enabled: yes
    filename: custom.socket
The path specified in 'filename' is not absolute and is relative to the
state directory.

A new running mode called 'unix-socket' is also added.
When starting in this mode, only a unix socket manager
is started. When it receives a 'pcap-file' command, the manager
start a 'pcap-file' running mode which does not really leave at
the end of file but simply exit. The manager is then able to start
a new running mode with a new file.

To start this mode, Suricata must be started with the --unix-socket
 option which has an optional argument which fix the file name of the
socket. The path is not absolute and is relative to the state directory.

THe 'pcap-file' command adds a file to the list of files to treat.
For each pcap file, a pcap file running mode is started and the output
directory is changed to what specified in the command. The running
mode specified in the 'runmode' YAML setting is used to select which
running mode must be use for the pcap file treatment.

This requires modification in suricata.c file where initialisation code
is now conditional to the fact 'unix-socket' mode is not used.

Two other commands exists to get info on the remaining tasks:
 * pcap-file-number: return the number of files in the waiting queue
 * pcap-file-list: return the list of waiting files
'pcap-file-list' returns a structured object as message. The
structure is the following:
 {
  'count': 2,
  'files': ['file1.pcap', 'file2.pcap']
 }

tm-threads: add TM_ECODE_DONE state

This patch adds a nex return state which can be used by threads
to warn that a task has been done. In this case, suricata does not
leave.

filestore: create file store directory if needed

This patch modifies the file store system to have it create the
file store directory if needed. It dos not create the full
directory tree as the parent directory must have already been
created.

counters: management cpu set was set twice

Setting the management CPU set on perf threads is already done in
the TmThreadCreateMgmtThread() function used to create the threads.

pcap-file: free thread var at deinit.

tm-threads: fix potential access to NULL pointer.

counter: defensive set to NULL in free.

stream-tcp: fix double call to debug print function

Added parentheses to fix Eclipse static code analysis
Fixed bug in action priority (REJECT_DST had lowest prio)

Fixed missing "|" in "||" operation

Added parenthesis for right operation order

Added return value to non-void function with "forever"-loop to fit
Eclipse static code analysis

Added right return values to non-void functions with "forever" loop
to fix Eclipse static code analysis

Fixes with missing return value in main function

list-keyword: detect non built keyword

This patch update the glafs list to be able to indicate that a
flag is not supported. This information is used by list-keyword to
display information to the user.

configure: use pkg-config for luajit

If luajit includes or libs is not set in configure, we fallback to
pkg-config output.

configure: exit if luajit header are not found but build ask

luajit: no link with HTTP when not build.

Even when not built-in, luajit is not linked with HTTP.

Add documentation url in list-keyword output.

The output of the list-keyword is modified to include the url to
the keyword documentation when this is available. All documented
keywords should have their link set.

list-keyword can be used with an optional value:
 no option or short: display list of keywords
 csv: display a csv output on info an all keywords
 all: display a human readable output of keywords info
 $KWD: display the info about one keyword.

yaml: fix typo

suricata: add information about BPF filter usage

suricata: add '-V' info to usage message.

suricata: add build-info command to usage message.

suricata: don't display msg in list-keyword mode.

In list-keywords and list-app-layer mode, suricata now only
displays the messages linked with the feature. This allow users
to redirect the output and easily work on it. For exemple, the
csv output will be easily imported into a spreadsheet.

suricata: update list-keyword command

This patch update the list-keyword command. Without any option,
the previous behavior is conserved. If 'all' is used as option,
suricata print a csv formatted output of keyword information:
name;features;description
If a keyword name is used as argument, suricata print a readable
message:
tls.subject
Features: state inspecting
Description: Match TLS/SSL certificate Subject field

rule analyser: display message for invalid signatures

engine-analyzer: fix typo in message

Listing of app layers does not depend on unittests

list-keywords: fix when not using default install

As we don't parse the YAML file when listing of keywords is asked,
suricata make a test on existence of the build-default directory.
So with a non standard (working) install (even a single configure
without option lead to a failure), the keyword listing fails
because the default logging directory does not exist.

rule analyser: add msg if rule is ipv4 or ipv6 only

reputation: report error if host table memcap reached. Work around compilation failure with atomic fallback code.

Host: ignore usecnt add/sub result. Expose HostPrintStats.

Simple IP reputation implementation

cygwin supports the thread cpu affinity code now

clang warning squashing

Silence compiler warnings found by clang

build: more cygwin cleanups

Fix use of byte swap function

build: reshuffle including headers to fix build on cygwin

undo setting exact version in configure.ac

Update changelog to reflect 1.4beta3 changes.

libhtp: updated bundled libhtp to 0.2.11

fix uninit var usage in hhd

logging: add warning if no output module is selected

If no daemon compatible logging module is selected, a message is
displayed to avoid the user to look like mad for messages.

install: create state dir with install-conf

suricata: don't exit if pidfile can't be created

suricata: display PID file name in case of error.

Add contrib dir and it's content to the dist. Bug 567

byte_jump: when from_beginning option is used, the number of bytes to convert should not be used in the jump. Bug 627.

pcap: add capture counters in stats.log.

This patch adds three counters to stats.log:
    capture.kernel_packets    | RxPcapwlan0               | 4218
    capture.kernel_drops      | RxPcapwlan0               | 0
    capture.kernel_ifdrops    | RxPcapwlan0               | 0
This patch meant to fix bug #625.