add testcase for #2551

This test proves that places that are linked need to be reindexed.

fix rank inheritance from linked places

When taking over the address rank from a linked place, it needs
to be the originally computed rank, not the one that might have
been adjusted in the meantime. The adjustment was made under the
assumption that the node is not linked.

Merge pull request #2736 from lonvia/reverse-interpolation-index-order

Change indexing order for interpolations and non-addressable objects

change indexing order for interpolations

Interpolations are now indexed after rank 30 objects. The housenumber
nodes no longer need information from the interpolations while the
interpolations can make use of precomputed postcodes.

Merge pull request #2735 from lonvia/geocodejson-type-reverse

Also fix type output in geocodejson for reverse

use getattr() instead of __getattr__

Makes the linter happy.

also fix type output in geocodejson for reverse

Merge pull request #2732 from lonvia/fix-ordering-address-parts

Fix order when searching for addr:* components

Merge pull request #2731 from lonvia/cleanup-special-phrases

Minor code reorganisation around special phrase parsing

Merge pull request #2730 from lonvia/exclude-inclusion-tag

Exclude addr:inclusion from search

fix order when searching for addr:* components

When matching addr:* components the preference was given to
matches that do not intersect with the place.

exclude addr:inclusion from search

CI: always use the latest version of pylint

This makes it easier to reproduce issues locally.

custom comparison for SpecialPhrase

Duplicate elemination only works when a custom hash/equal function
is implemented that is based on the members.

move quoting hack to wiki loader

The bad quotes around the type for special phrases
specifically occure in the Wiki pages, so it should be
removed by the loader and not in the generic SpecialPhrase
object.

convert special phrase loaders to generators

Generators simplify the code quite a bit compared to the previous
Iterator approach.

remove the language parameter in the SPWikiLoader

Languages must always be configured through config or environment.
Also use monkeypatched environment in tests.

add get_str_list() for config

Converts a config value written as a comma-sparated list into
a Python list of strings.

Merge pull request #2728 from lonvia/allow-more-partials

Allow search for partials consisting of 3 or more words

allow search for partials consisting of 3 or more words

The search query builder currently rejects searches for partial
names only, when the partial terms are all very frequent to avoid
queries that return too many results.

This change slightly relaxes the condition to allow the search when
there are 3 or more partial terms. With so many terms the number
of matches should be managable.

Merge pull request #2715 from otbutz/patch-2

Simplify apache rewrite rules

Change to regular regex group

Merge pull request #2718 from nslxndr/fix-log-endtime

Undefined offset in error log

Merge pull request #2722 from lonvia/fix-relinking-on-updates

Fix bug with keeping linking on updates

fix bug with keeping linking on updates

When moving the finding of linked places to the precomputation stage,
it was also moved before the statement where the linked_place_id was
removed from the linkee. The result was that the current linkee was
excluded when looking for a linked place on updates because it was
still linked to the boundary to be updated.

Fixed by allowing to either keep the linkage or change to an unlinked
place.

correct end time computation

Simplify apache rewrite rules

Merge pull request #2713 from lonvia/remove-county-nodes-in-canada

Remove county nodes in Canada from addresses

remove county nodes in Canada from addresses

Canada has complete coverage for administrative boundaries on
county level. Removing the county nodes from the addresses avoids error
due to a wide-spread doubling of place nodes for city counties.

Merge pull request #2710 from lonvia/offline-import-mode

Assorted performance improvements for BDD tests

bdd: restrict imports to four languages

This mainly restricts the number of country names that are loaded.

Merge pull request #2709 from lonvia/less-strict-country-assignment

Be more strict with country assignments

bdd: recreate functions on template DB

Avoids calling function refresh on every scenario. The content won't
change between runs.

avoid calling OSM servers during bdd tests

add offline import mode

In offline mode no attempts are made to download data from the internet.
At the moment that only concerns the computation of the database date.
It contacts the main API to get the date.

Merge pull request #2708 from lonvia/use-format-literals

Assorted fixes for new pylint warnings

no longer allow fuzzy assignment of country

The fallback country boundaries already contain a sufficiently large
part of the water area, so there is no need to extend the country
assignment even more. Features outside countries should not show a
country in their address.

fix spacing

Some versions of pylint are oddly picky.

pylint: disable no-self-use check

This checker encourages bad behaviour (namely changing the static
status of a function during inheritence) and will be made optional
in upcoming versions of pylint.

solve assorted issue with newer pylint versions

Includes more use of 'with', adding encodings to open statements
and a couple of issues with parameter renaming.

use context management when processing Tiger data

remove redundant 'u' prefixes for unicode strings

pylint: avoid explicit use of format() function

Use psycopg2 SQL formatters for SQL and formatted string literals
everywhere else.

add a function to return a formatted version

Replaces the various repeated format strings throughout the code.

Merge pull request #2707 from lonvia/make-icu-tokenizer-the-default

Make ICU tokenizer the default

no longer need postgresql-server-dev packages

make legacy tokenizer tests the extra on CI

Merge pull request #2704 from mtmail/migrate-phpunit-xml-schema

PHPUnit 9 changed configuration schema slightly

always state encoding when opening files in text mode

Also applies to Path.write_text().

PHPUnit 9 changed configuration schema slightly

switch tests to ICU tokenizer as default

add migration hint for the new tokenizer default

make ICU the default tokenizer

Merge pull request #2702 from lonvia/move-country-names-into-includes

Clean up country name settings

Merge pull request #2695 from mtmail/git-commit-hash-to-version

add git commit hash to 'nominatim --version' output

add git commit hash to --version output

support arbitrary prefixes in country name list

This means we can now get rid of the last special cases for names.

move country names into separate include files

Merge pull request #2696 from mtmail/norminatyn-typos

fix typos of name Nominatim

fix typos of name Nominatim

Merge pull request #2693 from mtmail/nominatim-cli-version

new "nominatim --version" global CLI argument

new nominatim --version CLI argument

Merge pull request #2681 from lonvia/improve-geocodejson

Fix 'type' field in the geocodejson response

Merge pull request #2687 from lonvia/check-for-wikipedia

Add check for presence of wikipedia importance

explicit cast for osm_type parameter in SQL needed

Otherwise PostgreSQL won't correctly pick up the index
condition.

respect exclude_place_ids for housenumber search

Merge pull request #2689 from lonvia/relations-in-associated-street

Accept any OSM type in street member of associatedStreet

accept any OSM type in street member of associatedStreet

This is needed for pedestrian areas mapped as multipolygons
and consequently as relations. The lookup in placex guarantees
that the referenced OSM object is indeed a street.

Fixes #2669.

Merge pull request #2686 from mtmail/ubuntu20-php-fpm-version

Install-on-Ubuntu-20.sh - correct php version

skip wikipedia table test on reverse-only installations

Wikipedia importances are not imported on reverse-only imports.

Install-on-Ubuntu-20.sh - correct php-fpm version

Merge pull request #2685 from lonvia/show-inherited-housenumber

Keep address parts inherited from surrounding buildings after indexing

add check for wikipedia importance data

Adds a new check level WARNING because missing wikipedia importances
are not necessarily an error. If the database is run for reverse
requests only, then it is fine to go without them.

Merge pull request #2684 from lonvia/translit-keep-spacing-marks

ICU: better letter identification in normalization

keep inherited address parts after indexing

The inherited housenumber is needed for display output. We can't
take the one from the housenumber field because it is already
normalized. Remove the inherited address only when reindexing.

Fixes #2683.

ICU: better letter identification in normalization

The Letter class does not include non-spacing marks that can also
have a consonant or vowel meaning, especially in Indian languages.
Use the alnum propoerty instead which includes them all. Also
include the vowel-canceling Virama, which is not a letter by itself
but changes the transliteration.

mention the breaking API change in the migratioin docs

adapt docs to geocodejson changes

geocodejson: add osm_key and osm_value fields

Return OSM main tag information in geocodejson. This is not part
of the official spec but can be useful to get more detailed information
of the object type. Brings the Nominatim output closer to what
Photon produces.

geocodejson: type should contain the general feature class

'type' so far contained the value of the OSM tag. That is rarely
helpful because it is not a restricted class of values. Change
this to contain the types as defined in the geocodejson spec,
which correspond to the address layer names.

Merge pull request #2678 from lonvia/address-part-order

Change selection of primary address part for ways that cross boundaries

further tweaking of address distance

For point features, keep using the distance to centroid.
For area features, add a tie breaker for the case where the
center point falls on the boundary.

change distance computation between place and address part

Instead of computing the distance to the centroid of the area
compute the distance of the area to the centroid of the feature.
This means we give preference to the area that covers the centroid.
It's still a heuristics but one that is a bit less random.

Merge pull request #2666 from lonvia/admin-command-for-forced-indexing

Admin command for forced indexing

add documentation for new refresh command

add tests for new data invalidation functions

add new commands for forced invalidation before indexing

recommend PostgreSQL 13+

See https://github.com/osm-search/Nominatim/discussions/2659.

docs: different default for format on osm.org

Add a note that the format parameter is needed for
nominatim.openstreetmap.org for historical reasons.

Merge pull request #2660 from lonvia/pyosmium-contextmanager

Support using ReplicationServer as contextmanager

support new ReplicationServer as contextmanager

Merge pull request #2466 from I70l0teN4ik/state-code

add ISO3166-2-lvl<admin_level> field to response address details

fix bdd tests and docs

use ISO3166-2-lvl<admin_level> instead of typeLabel prefix

proper instruction to import data

Fix API docs and Vagrant instructions to import data

Fix API docs and Vagrant instructions to import data

Change the key to `<addresspart_type>-ISO3166-2` to support xml response correctly

add `<addresspart_type>:ISO3166-2` field to response address details

add `state_code` field to response address details