add migration for new indxing schema

switch indexind to address rank

A place needs all lower address rank object indexed to make up
the address. The search rank no longer ensures that as it can have
a different ordering than the address rank.

This switches indexing rank order to address ranks. Non-address
objects (with address rank 0) are indexed together with POIs.

use only centroid to get parent admin boundaries

Using the full geometry is far too expensive.

nominatim: also index boundaries by rank

We need to make sure that the entry in serach_name from a lower rank
is indeed available.

index admin boundaries before everything else

Avoids irregularities that might happen because the address
rank of a boundary is changed through linking.

nominatim: move DBConnection class into its own file

Merge pull request #1920 from lonvia/remove-linked-place-when-updating

Remove linked_place from extratags when updating

remove linked_place from extratags when updating

Before updating an admin boundary we need to make sure that any
artificially generated 'linked_place' entry is removed from the
extratags column. This ensures that the place designation does
not linger when a linked place disappears and that it is updated
when the linking changes.

Merge pull request #1919 from lonvia/tests-for-ranking

More tests and fixes for address rank computation

use address rank for address forming when available

boundary address ranks must not go above 25

Fixes #1914.

add simple tests for address rank computation

also take place tags into account for address rank

An admin boundary might have a place tag but no matching place node.
We still should use the place value as indicator for the address
rank in this case.

Merge pull request #1917 from lonvia/docs-rank-levels

docs: add tables for the meaning of address and search ranks

docs: add tables for the meaning of address and search ranks

Also makes tables a bit more readable by adding margins and better
headers.

Merge pull request #1918 from lonvia/remove-more-osmosis-init

remove more traces of --osmosis-init switch

remove more traces of osmosis-init

Merge pull request #1912 from lonvia/remove-unused-import-update-functions

remove unused functions from setup and update

remove unused functions from setup and update

Removes the defunct --osmosis-init and --no-api switches and the
unsupported (and unnecessary) deduplicate. Also removes
'experimental' from --setup-website as this is a required
function now.

Merge pull request #1909 from lonvia/minor-fixes

Make SQL debug statements execute again

Make SQL debug statements execute again

There were some old variable names used that are no longer valid.
Either fix them or remove the statement completely.

Fixes #1907.

Merge pull request #1865 from mtmail/how-to-import-test-db

test/README.md - more instructions how to import test db

Merge pull request #1902 from lonvia/avoid-touching-boundaries-in-addresses

Be more strict what areas make up an address

Merge pull request #1901 from lonvia/speed-up-indexing

Batch-index places at rank 30

be more strict what areas make up an address

Exclude boundaries that touch a line in only one point and
that touch areas only along the boundary.

Fixes #1900.

adapt test results to new ranking

indexer: allow batch processing of places

Request and process multiple place_ids at once so that
Postgres can make better use of caching and there are less
transactions running.

indexer: move progress tracker into separate class

indexer: get rid of special handling of few places

Given that we do not distiribute geometry sectors to threads anymore,
there is no point in this kind of special handling.

Merge pull request #1899 from mtmail/use-new-dsn-format-in-vagrant-md

VAGRANT.md: we use different database DSN syntax these days

VAGRANT.md: we use different database DSN syntax these days

test/README.md - more instructions how to import test db

Merge pull request #1898 from lonvia/show-housenumber-with-housename

make house number reappear in display name on named POIs

make house number reappear in display name on named POIs

After 6cc6cf950c3c08103e6159a079c85b5a4f1c09fa names and house numbers
of POIS got mingled into a single item when creating the display name.
Add the house number as extra information without place_id to avoid
later mangling.

Merge pull request #1894 from lonvia/fix-hierarchy-by-admin-level

Preserve admin level hierarchy between admin boundaries

Merge pull request #1895 from lonvia/update-less-quiet

Make indexing during updates less quiet

make indexing during updates less quiet

Adjust verbosity behaviour to that of indexing during setup.

preserve admin level hierarchy between admin boundaries

When the address rank of an admin boundary is changed because
of an attached place type, it may happen that the admin_level
hierarchy gets inversed. Avoid that by adjusting the address
rank if an inversion is detected.

Merge pull request #1891 from lonvia/automatic-db-setup

Implicitly connect to database during setup

test: make road really cross the boundary

remove connect() in update script

This is now implicit.

implicitly connect to database during setup

Make access to the DB object a function, so that the connection
can be opened implicitly when the object is accessed for the first
time. This way we no longer need to check beforehand if a specific
function of the setup needs DB access or not.

Also move the check for the module to the relevant sub step.

Merge pull request #1890 from lonvia/add-wiki-tags-to-all-styles

Add wiki tags to all styles

add wiki tags to all styles

wikipedia and wikidata tags are needed to compute the importance
so we need to put them into extra tags for all styles.

Fixes #1885.

forgit to adapt info message

Merge pull request #1874 from joy-yyd/rank_modification

 House number search fix for #164

Merge pull request #1884 from lonvia/fixes-for-webserver-settigns

Small fixes for new webserver settings file

move website settings back to settings/

We don't want the settings to become visible when a server is
accidentally configured wrongly.

log file is a string when not set to false

Modifiy the range of address_rank, fix for issue #164

Merge pull request #1873 from lonvia/resurrect-debug-option

Reenable debug parameter

default language is a string when not set to false

reenable debug parameter

The parameter got lost when switching to website settings.
Given that the use of a fixed parameter is limited,
debugging output can now only be set via the URL parameter.

Merge pull request #1869 from lonvia/migration-for-setup-website

docs: add migration for new --setup-website step

Merge pull request #1868 from lonvia/reverse-for-addressable-places-only

reverse: ignore place nodes without an address rank

docs: add migration for new --setup-website step

reverse: ignore place nodes without an address rank

We already exclude all polygon places without an address
rank. place nodes should also be ignored. This removes
places like locality from the reverse results.

Fixes #1839.

docs: rename documentation chapter

Avoids confusion about this being the documentation itself.

docs: move external data sources into simple page

Merge branch 'move-datasources-into-separate-repos' of https://github.com/mtmail/Nominatim into mtmail-move-datasources-into-separate-repos

Merge pull request #1864 from lonvia/langauge-specific-presuffixes

exclude language-specific name:prefix and name:suffix

Merge pull request #1829 from krahulreddy/websiteSetup

Added setup-website option

Merge pull request #1857 from mtmail/db-migration-update-functions

Migration.md - admin also need to run recreate db functions

exclude language-specific name:prefix and name:suffix

There are about 1k suffixes and 20k prefixes with a
language-speicfic variant in use. These should not
show up as names.

move data-sources/ directory in new git repos

Migration.md - admin also need to run recreate db functions

sql: fix rank variable type

The rank type needs to match the parameter type of
update_place_diameter().

Fixes #1851.

Merge pull request #1858 from lonvia/update-osm2pgsql

Update osm2pgsql

update osm2pgsql (hang on multipolygons)

Merge pull request #1852 from osm-search/disable-jit-for-updates

Disable Postgresql jit and parallel processing for osm2pgsql updates

make phpcs happy

travis: reduce the size of diff download

travis: run a single round of updates on the Monaco import

disable JIT and parallel processing for osm2pgsql in updates

This is known to cause issues because of bad indexing
statistics.

Moved settings-frontend to website/

Updated setup.php

Documentation updated

Added setup-website to travis.yml

Added setup-website option

Merge pull request #1836 from lonvia/rework-large-location-II

Change processing of place nodes in addresses

docs: minor typo and grammar fixes

Merge branch 'split-off-test-tool-installation-instructions' of https://github.com/mtmail/Nominatim into mtmail-split-off-test-tool-installation-instructions

Merge pull request #1841 from mtmail/faq-entry-about-rebuilding-nominatim-so

FAQ addition when to rebuild nominatim.so

Merge pull request #1834 from mtmail/faq-invalid-page-in-block

FAQ entry for PostgreSQL -invalid page in block-

FAQ addition when to rebuild nominatim.so

Put install instructions of test tools into separate docs/ markdown file

FAQ entry for PostgreSQL -invalid page in block-

Merge pull request #1838 from lonvia/make-serve

add 'make serve' command

add 'make serve' command

Starts up PHP's built-in webserver in the website/ directory.
Useful for testing and development.

See #1831.

adapt tests to new search ranks

change place node expansion for large area table

So far we've used a buffer around a place node to define its
potential address reach. This had two problems: the buffer was
so large that addresses often contain false positives and the
buffer is really distorted when getting closer to the poles.

Change the buffer here to draw a bounndig box at a certain
distance in meter. This means that we always use the same
box everywhere on the planet and can make the extent much
smaller. Using a box has the advantage that it is much faster
to figure out if a point is within the box.

Merge pull request #1830 from lonvia/docs-for-nominatim-ui

Add usage docs for nominatim-ui

add usage docs for nominatim-ui

Includes migration guides for Apache and nginx.

Merge pull request #1827 from mtmail/centos8-postgresql12-without-proj

Vagrant centos8: proj52 not needed, use postgresql 12/postgis 3.0

remove version warning from ubuntu 20 installation

cmake: only require php for import and api

Vagrant centos8: proj52 not needed, use postgresql 12/postgis 3.0

prepare 3.5.0 release

Merge pull request #1822 from lonvia/document-address-labels

document which labels may appear in the address info

document which labels may appear in the address info

The list is manually generated and only valid for the default
configuration as used on openstreetmap.org.

Fixes #1808.