Merge updates from trunk.

FossilOrigin-Name: 08c9a4ea6353900095a471365a8611a443f5f399

Add the SQLITE_TESTCTRL_ISINIT file control.

FossilOrigin-Name: 8b651d4d6cde7efbc0cc7155948f477477be100e

Have calls to the xFilter() method of rtree virtual tables ensure that cursor is initialized before proceeding. Fix for [d2889096e7bdeac].

FossilOrigin-Name: 8cc41b0bf365af47c2061ffe44c86018945dd239

Enhancements and updates to the Win32 mutex subsystem.

FossilOrigin-Name: 18984c321049a759f6619cfa17fb3f4e7b3e08ea

Remove an unreachable branch from the sqlite3_value_numeric_type() interface.

FossilOrigin-Name: 5350229b52b18a4961858a30538c5c75e5bd3048

Avoid unnecessary no-op calls to applyNumericAffinity() for a small
performance improvement.

FossilOrigin-Name: 413d7287977702fa651c0140bd5cf29021fe3e79

Try to fix harmless compiler warnings reported by Fortify.

FossilOrigin-Name: e0fa6fdc14ac5458f9200cbae124f8025ea534ea

Improved comments on VDBE opcodes, for better documentation.  No code
or logic changes.

FossilOrigin-Name: 2d32e4876e0b162730f81e5c2658be12d64a9a99

Add constraints (enforced only when SQLITE_DEBUG is enabled) on the use of
OP_Next and OP_Prev.

FossilOrigin-Name: 2230c74f1efa591770176c9b40e920724a3c39e1

Improve the performance of the ANALYZE command by taking advantage of
UNIQUE constraints on indices.

FossilOrigin-Name: 114dcf33670fd98a1ebbac0e44f66b2d8bcccddf

Fix a bug in the whereRangeSkipScanEst() procedure (added by
check-in [d09ca6d5efad3e4cfa]) where it fails to consider the possibility
of a ROWID column when computing the affinity of a table column.

FossilOrigin-Name: 6aea2258dd7d3967900cefe4cd0af48a7ee7e169

Avoid trying to allocation zero bytes when analyzing a unique non-null index.

FossilOrigin-Name: 85e2badeeb7f7599eb6fd35512f9bd524f0b1b3f

Avoid change tests when analyzing single-column unique indexes after
getting past the initial NULL entries.

FossilOrigin-Name: 4690e99c07024f40fafba1db8e4487b287b788a9

Add the readfile(FILENAME) and writefile(FILENAME,CONTENT) SQL functions to
the command-line shell.

FossilOrigin-Name: fb1048cb2b613a0dbfe625a5df05e9dcd736a433

Add support for hexadecimal integer literals in the parser.

FossilOrigin-Name: f8f79f28785db716b10c3bc9d6652b98253fd125

In the command-line shell, in CSV output mode, terminate rows with CRNL but
do not expand NL characters in data into CRNL.  Provide the extra -newline
command-line option and the extra argument to .separator to designate an
alternative newline character sequence for CSV output.

FossilOrigin-Name: 16c8ce10e1530731441e6c4538691b71564684ed

Add experimental "costmult" logic.  Only enabled when compiled with
-DSQLITE_ENABLE_COSTMULT.

FossilOrigin-Name: 729ece40885ed7f52c5981364833fc62281a388b

Ugh.  Consecutive UNIQUE index entries are only distinct if the index is
on NOT NULL columns.  So the previous version was not quite right.  This
check-in fixes the problem.

FossilOrigin-Name: 30033f965030a015fad15e532bcaba1314c8cc0f

Enhancements to the hex literal tests.

FossilOrigin-Name: a3cc027fa7ca41da23ecd0770a075a48416af020

Improve the performance of the ANALYZE command by taking advantage of the
fact that every row of a UNIQUE index is distinct.

FossilOrigin-Name: 3e1e79e1335f7ad33cd35f384f2a063c4aa2253b

Updated documentation on sqlite3_temp_directory.  No changes to code.

FossilOrigin-Name: e6225a7bf77a700b318563b1a854b4b3a9e031e1

Remove a surplus function prototype.  #ifdef code that is not used when
hex integers are omitted at compile time.

FossilOrigin-Name: a5b383e077e4b277a65920f7cc202f32f07aa9ee

Change the hex literal processing so that only the SQL parser understands
hex literals.  Casting and coercing string literals into numeric values does
not understand hexadecimal integers.  This preserves backwards compatibility.
Also:  Throw an error on any hex literal that is too big to fit into 64 bits.

FossilOrigin-Name: 6c6f0de59bf96b79c8ace8c9bfe48c7a6a306a50

Casting hex literals directly from string to float always results in a
positive number.

FossilOrigin-Name: 4b86ccdf4f4eb4339a5706e10ad24f01b6c3939e

Reformatting a few test cases for clarity.

FossilOrigin-Name: 7e1bbacb11a4689b69856450125cae3d045307af

Test cases for hex literals.

FossilOrigin-Name: 19054339c47448bcdfd1f7be35daa3826c409077

Add support for parsing C-style hexadecimal literals.

FossilOrigin-Name: 34a1f38b7a23c64f5c6e5b34c19a20480be53961

When running ANALYZE, it is not necessary to check the right-most key column
for changes since that column will always change if none of the previous
columns have.

FossilOrigin-Name: 48f40861db4fbd10725a2b8b606d44fe16d5bd27

Add the OP_ReopenIdx opcode that works like OP_OpenRead except that it becomes
a no-op if the cursor is already open on the same index.  Update the
OR-optimization logic to make use of OP_ReopenIdx in order to avoid
unnecessary cursor open requests sent to the B-Tree layer.

FossilOrigin-Name: 77f412caf0192d3e7fecb377d6d72123d8b64424

The optimization of check-in [b67a6e33f2] does not work (it generates
incorrect VDBE code) if an OR term is AND-ed with a constant expression.
So back that optimization out and add a test case to make sure it does not
get added back in.

FossilOrigin-Name: eed754fe93644f4df082eac0c0a7ffc5c78ccd10

Fix the index name for the shadow tables in the spellfix1 extension so that
multiple instances of the spellfix1 virtual table can each have their own
index.

FossilOrigin-Name: 438c348a40383796a710499e4e1b7a6b08f75778

Correction:  The maximum SQLITE_MAX_ATTACHED value to avoid overflowing a
signed 8-bit integer is 125, not 127.

FossilOrigin-Name: 48e378029528dac33d29866016128d236a7995d9

Enhance the sqlite_stat1.stat parsing to allow additional text parameters
at the end.  Unrecognized parameters are silently ignored.

FossilOrigin-Name: ca2a5a2c770fa94cd8db1b1b241ede058a7c58e2

Expire prepared statements after running ANALYZE.

FossilOrigin-Name: b083a961f8ac3a6158e822574d73cd63e3103b09

Enhance the comment on whereLoopAddBtree().  No changes to code.

FossilOrigin-Name: b22dd165da227a52d88b17a91e80a1701dce61ad

For the OR-optimization, avoid generating OP_OpenRead opcodes that reopen
exactly the same index.

FossilOrigin-Name: b67a6e33f23ce5f5d9a545fa9d6700a7ed636901

Limit the maximum SQLITE_MAX_ATTACHED to 127, since a signed character
is sometimes used to store the database index.

FossilOrigin-Name: f1c76c7c4c7d16855db60d16e23ecdf8d7ca862a

Allow the SQLITE_MAX_ATTACHED compile-time option to be larger than 62.  The
default limit on the number of attached databases remains 10.

FossilOrigin-Name: 1a817ae2f35fa0396148dda2782cd4f919bf5c6f

Update the sqlite3_stmt_busy() function so that it correctly returns true for "ROLLBACK" statements that have been stepped but not yet reset.

FossilOrigin-Name: 61cee3c0678f5abd9131a29ab946a5e71f55643e

Fix harmless compiler warnings in the showdb and showwal tools and in
the unicode tokenizer of FTS3.

FossilOrigin-Name: 574cc8eb1448cff67390f2e16cc9b7c3ddd4658b

Fix some harmess compiler warnings in the FTS3 Unicode module.

FossilOrigin-Name: c01caea5d6ad7a570628b85fb3056ac955ff03dd

Fix warnings related to having a 64-bit size_t.

FossilOrigin-Name: 29ac9336dba2b62d13315cecfc5c4a74cc54087a

Fix warnings caused by the previous commit.

FossilOrigin-Name: 89634a419d0c1ef899d0591c7c6ab9290bf665d2

Fix harmless compiler warnings for MSVC in the showdb/showwal command line tools.

FossilOrigin-Name: 6dc7b2f119eb92da17c9e914bdad30a9ceaebdb5

Update clean targets with the recently added command-line tools.

FossilOrigin-Name: 2beefa68c0c53f663321bebf0ac06f6c936be63f

Improved documentation for checkpoints and the busy handler.  No changes
to code.

FossilOrigin-Name: ca92c0240681b199c4b8ecc557792b8aea71692d

SQLite has long accepted some unadvertised and non-standard join syntax.
Add a test to ensure that future versions continue to accept this non-standard
syntax, to avoid breaking legacy applications that use the undefined syntax.

FossilOrigin-Name: 824dde7fc48dbca6d6c956c4eb79bbfa2d139ee5

Improvements to the ".fullschema" command in the command-line shell.

FossilOrigin-Name: fa80c64caa573297bf43cb5b11d9e7db58567200

Fix harmless compiler warnings in the fts3view utility program that can occur with MSVC.

FossilOrigin-Name: 1cec1e030035e5253fb7ebbdfe5c1a3029e4e29b

Add the fts3view utility program to the MSVC makefile.

FossilOrigin-Name: b04751bd59fed513ab615e7f368fe25c64b3607c

Fix a division-by-zero error in the fts3view utility program.  Add the
fts3view utility program to the "main.mk" makefile.

FossilOrigin-Name: 64f02699b4bd747e4c2f0debf72d37ec275137d8

Change fts3/4 so that the "unicode61" is included in builds by default. It may now be excluded by defining SQLITE_DISABLE_FTS3_UNICODE.

FossilOrigin-Name: 0cc0230ae9cfc9760fd8ef2c25e82576b052dbeb

Add another test to verify that SQLite is using stat4 data for composite primary keys on WITHOUT ROWID tables.

FossilOrigin-Name: 0df1fe72f8271abc86cd552027d938c910f90967

Ensure that all fields are loaded from the stat4 table for records that correspond to indexes on WITHOUT ROWID tables with composite primary keys.

FossilOrigin-Name: 21981e35062cc6b30e9576786cbf55265a7a4d41

Bump the version number to 3.8.6.

FossilOrigin-Name: f925e9baafea625f63105f8013abb3807b418379

Attempt to use STAT4 information to estimate the selectivity of WHERE clause
terms when using the skip-scan optimization.

FossilOrigin-Name: d09ca6d5efad3e4cfa93a4dc711e6ba6079d4b4b

Fix for ticket [b2fa5424e6fcb15]: Better define the format of the sqlite_stat4
file for WITHOUT ROWID tables and make sure the ANALYZE command generates a
file in the appropriate format.  Use the sqlite_stat4 data to enable the use
of WHERE terms that cover all indexed columns plus some prefix of columns
in the primary key.

FossilOrigin-Name: bc2de8095fa9c385db0adf22ca55b0298a33c284

Fix a problem in where.c with using the stat4 sample data of an index on a WITHOUT ROWID table.

FossilOrigin-Name: 053a210e3169732c58f84cb54c9b6f6df3a8f4ea

Fix the STAT4 information for WITHOUT ROWID tables.

FossilOrigin-Name: 5d8628fdffbcf837313958f0ee1ed8a2043d384e

Fix where.c so that the primary key values appended to every index entry on a WITHOUT ROWID table may be used when useful.

FossilOrigin-Name: 6624a61d16e47ad691c4195ca8a1d68b7348118d

Omit non-primary-key columns from the STAT4 samples for WITHOUT ROWID tables.
Indexes, both rowid and without-rowid, still hold an exact copy
of the index entry.

FossilOrigin-Name: de826c31589258f0906f87d65796944103e36d5b

Generate complete samples for sqlite_stat4 on WITHOUT ROWID tables.
Ticket [b2fa5424e6fcb15b5]

FossilOrigin-Name: 8cb43eddab83c68b2163441df70e0e9496d5fa33

Add makefile targets for various diagnostic tools, such as showstat4.
Fix harmless compiler warnings in diagnostic tools.

FossilOrigin-Name: 6f86d89b8800c50035da7809bff941d08a33a6a2

Add an OOM fault injection test for the new code on this branch.

FossilOrigin-Name: c96de490ac77dd23c108004b95152cce4922fe27

Add further tests to skipscan5.test.

FossilOrigin-Name: 4b8230e8fe93e73a615a46708aed5fa3557b6228

Add header comments on new routines.  Rework the sqlite3Stat4Column() routine
so that is (in theory) able to deal with corrupt samples.

FossilOrigin-Name: ef5cdf949bb53a2958fa34e176b4b9eeda269de5

Fix a problem with using stat4 samples of type text when estimating the rows visited by a range-query/skip-scan loop.

FossilOrigin-Name: dfb09db6d412f3bc2a71bda393813783580dbad1

Change the VDBE to export the sqlite3MemCompare() routine and thus free
where.c from the dependency on vdbeInt.h.

FossilOrigin-Name: d186d1ac3c47f0d814636c4b8386a6065a294750

Merge fixes from trunk with this branch.

FossilOrigin-Name: 6af219d1b83ec54b3fb4ad4e6216d9ad9ea0fc70

Fix a couple of problems in estimating the number of rows visited by a range query that uses a skip-scan.

FossilOrigin-Name: 219736f54dcd1448af3400e699f1c20755ac6876

Add some more IN operator tests.

FossilOrigin-Name: fb32e374b75b160e7b535e732ced6c34dbb513eb

Fix compilation issue when STAT4 is not enabled.

FossilOrigin-Name: 74a5454a710e1b7d8575cec2f872e6110aefce17

Revise the affinity returned for expressions flagged as 'generic'.  Fix for [9a8b09f8e6].

FossilOrigin-Name: 92f7ad43dbfe4e02490df2f932c3c74fb89064d6

Attempt to use sqlite_stat4 data to estimate the number of rows visited by a range query that uses a skip-scan. This code is largely untested.

FossilOrigin-Name: 01dc8102592427b71a18c2cb82301d2266dd59c2

Fix showstat4.c so that it decodes typecodes 8 and 9 correctly.

FossilOrigin-Name: 9ca737c0b41f87998d842e7772c3e483bb291c50

Add the showstat4.exe utility program for decoding and displaying the
content of the sqlite_stat4 table in a database.

FossilOrigin-Name: b4d9f6053d1d95fdc1eab8ce610b51e7df8d896d

Add the .fullschema command to the sqlite3.exe utility.  This command shows
the schema and the content of the sqlite_stat tables, all in one go.  Useful
when reporting problems with the query planner.

FossilOrigin-Name: ebec48921c092e20c9d7608242b63db40b40be5e

Fix a problem with SQLITE_OMIT_WSD builds.

FossilOrigin-Name: 07dda49c1bf8997a18c3368acb81b6d863ea38d6

Fix a problem with SQLITE_OMIT_WAL builds.

FossilOrigin-Name: 612b6d1b1f74eaf618520b90811eca10f978fc71

Improved display of record data in the "NNNbd" output of the showdb.exe
utility program.

FossilOrigin-Name: f735c2497eaad15216c90c6b92fd5ceff460220a

In the showdb.exe utility, for the "NNNbd" command, also show data fields
in addition to header fields on each record decoded.  Improvements to
formatting.

FossilOrigin-Name: b451fe0cb92278deb7724e7995c1bd46ae83c119

Add the ability to decode the headers of individual cells, byte-by-byte,
in the "showdb.exe" utility.

FossilOrigin-Name: 306b461d7c0643b6ac4df944759ecc9ce8581634

Add the "LogEst" and "LogEst.exe" target to the makefiles.

FossilOrigin-Name: 7b91b0581d169a353462d96120a2e0d4dcc8e8ae

Fix a comment on the sqlite3Utf8Read() routine.  No changes to code.

FossilOrigin-Name: 5e514f6acebcfad4f18300d1a34f4917f1a746d9

Prevent an automatic index from taking the place of a declared index.

FossilOrigin-Name: 0a52bddd9db49b2b79fc24888b50023d0fe74f7b

Prevent an automatic index from taking the place of a declared index.

FossilOrigin-Name: 4ece839d445ff578a449a339ab579a32e64c9d28

Fix a missing space in a "wheretrace" comment.  No changes to production code.

FossilOrigin-Name: b500f2a09721b49c95a69c47a0205bc2375af2cd

Add the likely() function for symmetry with unlikely().  The likely(X)
function means the same thing as likelihood(X,0.9375).

FossilOrigin-Name: 38965484199153e3e5b999f5196c1d66e5296f60

Improvements to query planning, especially in regards to estimating the
cost and benefit of automatic indexes.

FossilOrigin-Name: 1272fb8991b3888c72dcebf947415883d7727241

Add the autoindex2.test testing module.

FossilOrigin-Name: ffe3fea47b8ba8ec4557f68243ef3ef5aac00dfd

A different approach to the autoindex problem that deletes query-planner code
rather than adding it.

FossilOrigin-Name: f270fb6e9e0b5e77f918081962008c6195ab1e36

Simplification to the logic that prevents automatic indexes from being formed
on constant expressions.

FossilOrigin-Name: 36d67e1dd2b4f4c22d02f3c3b8d372074de5523a

Allow an automatic index on a WHERE constraint where the RHS is does not
reference another table as long as the RHS is not a constant.

FossilOrigin-Name: 58acc2a8b38c5f13175c191697b4d2b663db1872

Do not attempt to create an automatic index on a constant constraint, as
doing so is pointless.

FossilOrigin-Name: d6883e960f61365729f279a3c1f2c050beb49a55

Fix CSV import issue, reported via the mailing list, in the shell when the file to be imported ends with an empty line.

FossilOrigin-Name: fc918f7d332b8f7cabc79a0f1586bd6760d14d40

In the "wheretrace" logic (disabled for normal builds) expand the print width
of the flags field to be wide enough for all 17 bits.

FossilOrigin-Name: 3181d2069a788adc719decf65dc1bd2e16650c87

Add the SQLITE_UNLINK_AFTER_CLOSE compile-time option.  If enabled, the
unlink of temporary files on unix is deferred until after the file is closed.

FossilOrigin-Name: e43a2f92b616ec885a1ee62911fa8f6991d277f7

Add an application ID for MBTiles tilesets.

FossilOrigin-Name: 837f6404230fc642e9084140c4b30cca1be43375

Back out the unix VFS changes that seeks to avoid fstat() calls after an
unlink().  That change did not clear the problem on FuseFS.

FossilOrigin-Name: 0617e20a33e08754aea14e60db44e557c13978e3

Add the ".eqp" dot-command to the ".help" output in the command-line shell.
This was accidently omitted when the ".eqp" command was originally implemented
for SQLite 3.8.4 (check-in [e6ecf7337658624]).

FossilOrigin-Name: b0b4c776c321ca4a792ef67efbc62351eeac247d