further tweak search containing very frequent tokens

Excluding non-rare full names is not really possible because it makes
addresses with street names like 'main st' unsearchable. This tries to
leav all names in but refrain from ordering results by accuracy
when too many results are expected. This means that the DB will simply
get the first n results without any particular order.

send charset again in content-type when returning json

There are quite a few applications out there that will use some local
encoding when the charset is not explicitly given.

Merge pull request #3165 from lonvia/update-osm2pgsql

Update osm2pgsql to 1.9.1

vagrant scripts: add missing yaml library

add new required json library for osm2pgsql

update osm2pgsql to 1.9.1

Merge pull request #3159 from lonvia/fix-name-lookup-for-housenames

Fix name lookup for housenames

fix parameter use for ST_Project

Before postgis 3.4 ST_Project required a geography as input and seemed
to have implicitly converted to geography. Since 3.4 geometry input
is supported but leads to a completely different result.

fix tag name for housename addresses in layer selection

Fixes #3156.

Merge pull request #3155 from lonvia/caching-of-transliterators

Cache ICU transliterators between calls

cache ICU transliterators and reuse them

Merge pull request #3150 from alfmarcua/allow_neg_id_details

Allow negative osm_id in details page by setting default parameter to 0

fix regression in default setting for details linkedplaces

prefer name-only searches more

return bbox of full country for country searches

Fixes #3149.

fix application of label to wrong expression

avoid lambda SQL in connection with alias tables

use coalsce() instead of indexless postgis functions

ST_Intersects is deemed too expensive by the query planer which
leads to odd plans when index use is avoided.

do not use index when searching in large areas

This concerns viewboxes as well as radius search.

adapt tests to changes in search

take token_assignment penalty into account

Also computes the expected count differently when addresses are
involved. Address token counts do not bare a direct relation to
real counts.

fix debug output for NearSearch

The search info is in a subsearch and was therefore not taken into
account.

improve penalty for token-split words

The rematch penalty for partial words created by the transliteration
need to take into account that they are rematched against the full word.
That means that missing beginning and end should not get a significant
penalty.

Allow negative osm_id in details page by setting default parameter to 0

fix lookup polygon output

Fixes #3147.

Search.md - update XML and JSON example output

Merge pull request #3146 from lonvia/forbid-mixed-queries

Do not allow to mix structured and unstructured search

return an error when q is used together with structured parameters

remove lookup by address only

There are too many lookups where the address is very frequent,
even when many address parts are present.

allow oversized viewboxes again

This seems to be a rather regular thing when unconditionally sending
the current view and being zoomed out.

Fixes #3137.

provide full URL in more field

This is a regression against the PHP version.

Fixes #3138.

remove SQL lambdas with IN expressions

The values of IN expressions are incorrectly cached.

only print non-empty search tables

do not lookup by address vector when only few tokens are available

Names of countries and states are exceedingly rare in the word count
but are very frequent in the address. A short name has the danger
of producing too many results.

fix regression with lat/lon in json output

lat, lon is returned as strings in the PHP output. Reproduce that in the
Python frontend.

See #3115.

allow OPTIONS method in starlette CORS middleware

If not allowed, then the middleware will return a 400 on pre-flight
CORS requests.

Fixes #3129.

Merge pull request #3122 from miku0/sanitizer-final

Adds sanitizer for Japanese addresses to correspond to block address

Moved KANJI_MAP to icu-rules

Merge pull request #3128 from lonvia/fix-classtype-lookup

Fix query over classtype tables

Add the test of reconbine_place

Fixed cosmetic issues

fix query over classtype tables

The case statement prevented the index on the classtype tables
from being used. Move the case statement inside the geometry
function instead.

Merge pull request #3127 from lonvia/file-logging

Add file logging for Python frontend

reintroduce file logging for Python frontend

add @fail-legacy

Moved KANJI_MAP to global variable

Merge pull request #3125 from lonvia/warm-to-python

Port warm and export functions to Python

older version of Postgres cannot convert jsonb to int

older Python versions need a reference to the loop for a lock

Correction to PR's comment

add tests for new arm and export Python functions

add japanese sanitizer

mostly remove php-cgi requirement

This is now only needed for BDD tests against the php API.

remove now unused run_api_script function

remove now unused run_legacy_script()

port export function to Python

Some of the parameters have been renoved as they don't make sense
anymore.

move warm script to python code

Merge pull request #3121 from lonvia/port-remaining-api-calls

Port remaining API endpoints to Python

add tests for new endpoints

add /polygons endpoint to Python v1 API

add deletable endpoint

remove debug print

Merge pull request #3117 from lonvia/fix-assorted-search-errors

More improvements to the Python search algorithm

disallow special housenumber search with a single frequent partial

do not split names from typed phrases

When phrases are typed, they should only contain exactly one term.

split up get_assignment functon in more readable parts

disallow address searches that start with a postcode

These are postcode searches and nothing else.

block search queries with too many tokens

simplify yield_lookups() function

Move creation of field lookups in separate functions to make the code
more readable.

penalize name token splitting when phrases are used

penalize search with frequent partials

Avoid search against frequent partials if we have already looked for
the full name equivalents.

avoid splitting of first token when a housenumber is present

This only covers the case of <poi name> <street name> <housenumber>
which is exceedingly rare.

increase threshold for full name searches

They still should be preferrred over expensive partial name searches.

fix search for housenumber names

The search still included a lookup of housenumbers in children which is
wrong.

Merge pull request #3112 from jenkin/fix-polgyon-polygon-typo

fix polgyon polygon typo

fix polgyon polygon typo

Merge pull request #3110 from lonvia/sql-lambda-queries

Use SQLAlchemy's lambda statements

selected lambdas for search

add lambdas for layer filters

avoid forwarding variables via SQL

make SQL statements in reverse lambda functions

Further improves internal caching of statements by SQLAlchemy.

Merge pull request #3096 from alfmarcua/search-within-countries-parameter

Parameterise the search only within countries

Split lookupInCountry in two functions and document NOMINATIM_SEARCH_WITHIN_COUNTRIES parameter

Parameterise the search only within countries

Merge pull request #3109 from lonvia/prepared-statements

Make prepared statements work with Python API

avoid index-use on rank parameters for reverse lookups

force a fixed pool size and make it configurable

use constant expressions to select partial indexes in reverse

When expressions are generated with SQLAlchemy, any constants are
replaced with bind parameters. The bind parameters become parameters of
prepared statements. The result is that the query planner tends to
oversee that the partial indexes can be used.

remove disabling of prepared statements

Fixes for query planning with prepared statements to follow in
subsequent commits.

Merge pull request #3107 from lonvia/performance-search

Assorted fixes to Python search code

increase minimum required SQLAlchemy version to 1.4.31

make get_addressdata calls cachable

VALUEs() is not a cachable construct in SQLAlchemy, so use arrays
instead. Also add a special case for single results, the usual result
for reverse queries.

add support for postcompile literals in debug output

fix SRID handling in Geometry type

avoid lookup via partials on frequent words

Drops expensive searches via partials on terms like 'rue de'.

See #2979.

add a small penalty to lookups in address vectors

Merge pull request #3101 from lonvia/custom-geometry-type

Improve use of SQLAlchemy statement cache with search queries

make types compatible with older Python versions

remove GeoAlchemy as dependency

always run function update on migrations

This means that we can have migrations which require nothing but
an update of the functions.