remove postcodes from countries that don't have them

The postcodes will only be removed as a 'computed postcode' they
are still searchable for the given object.

add info about countries without a postcode

avoid near searches in very large areas

At some point the contains call becomes too expensive.

Merge pull request #2755 from Luflosi/fix-typo

Fix typo

Fix typo

Merge pull request #2751 from mtmail/issue-2750

Documentation fix: should be "nominatim refresh"

Documentation fix: should be "nominatim refresh"

Merge pull request #2746 from bgo-eiu/patch-2

Added additional languages for Pakistan in country settings

Merge pull request #2749 from stefkiourk/patch-1

Typos and syntax on Reverse.md

Typos and syntax on Reverse.md

Merge pull request #2748 from lonvia/bdd-grid-origin

BDD tests: remove support for scenes

bdd: remove support for scenes

Only keep support for the special point geometry 'country:xx'.

bdd: move query tests from scene to grid description

bdd: remove step for scene setup

bdd: move update tests from scenes to grid descriptions

bdd: move import tests from scenes to grid descriptions

bdd: clear lof buffer after a successful import run

bdd: allow to set an origin of the grid

Merge pull request #2745 from lonvia/city-in-city-fix

Improve hierarchy computation for place areas

added additional languages for pakistan in country settings

use default ranks when reorganising rank_address

When shifting address ranks, the evaluation is always done against
unshifted address ranks on import because the objects we compare against
have not been indexed yet. This changes for updates when the object have
been touched in the meantime. To ensure consistent behaviour across
imports and updates, always use the  unshifted address ranks.

improve address ordering with mixes of place and admin areas

Resolves a couple of situations where a mixed use of places areas and
administrative boundaries would result in a hierarchy that did not
properly respect the contains relation.

Merge pull request #2737 from lonvia/reset-linking-ranks

Fix rank inheritance from linked places

add testcase for #2551

This test proves that places that are linked need to be reindexed.

fix rank inheritance from linked places

When taking over the address rank from a linked place, it needs
to be the originally computed rank, not the one that might have
been adjusted in the meantime. The adjustment was made under the
assumption that the node is not linked.

Merge pull request #2736 from lonvia/reverse-interpolation-index-order

Change indexing order for interpolations and non-addressable objects

change indexing order for interpolations

Interpolations are now indexed after rank 30 objects. The housenumber
nodes no longer need information from the interpolations while the
interpolations can make use of precomputed postcodes.

Merge pull request #2735 from lonvia/geocodejson-type-reverse

Also fix type output in geocodejson for reverse

use getattr() instead of __getattr__

Makes the linter happy.

also fix type output in geocodejson for reverse

Merge pull request #2732 from lonvia/fix-ordering-address-parts

Fix order when searching for addr:* components

Merge pull request #2731 from lonvia/cleanup-special-phrases

Minor code reorganisation around special phrase parsing

Merge pull request #2730 from lonvia/exclude-inclusion-tag

Exclude addr:inclusion from search

fix order when searching for addr:* components

When matching addr:* components the preference was given to
matches that do not intersect with the place.

exclude addr:inclusion from search

CI: always use the latest version of pylint

This makes it easier to reproduce issues locally.

custom comparison for SpecialPhrase

Duplicate elemination only works when a custom hash/equal function
is implemented that is based on the members.

move quoting hack to wiki loader

The bad quotes around the type for special phrases
specifically occure in the Wiki pages, so it should be
removed by the loader and not in the generic SpecialPhrase
object.

convert special phrase loaders to generators

Generators simplify the code quite a bit compared to the previous
Iterator approach.

remove the language parameter in the SPWikiLoader

Languages must always be configured through config or environment.
Also use monkeypatched environment in tests.

add get_str_list() for config

Converts a config value written as a comma-sparated list into
a Python list of strings.

Merge pull request #2728 from lonvia/allow-more-partials

Allow search for partials consisting of 3 or more words

allow search for partials consisting of 3 or more words

The search query builder currently rejects searches for partial
names only, when the partial terms are all very frequent to avoid
queries that return too many results.

This change slightly relaxes the condition to allow the search when
there are 3 or more partial terms. With so many terms the number
of matches should be managable.

Merge pull request #2715 from otbutz/patch-2

Simplify apache rewrite rules

Change to regular regex group

Merge pull request #2718 from nslxndr/fix-log-endtime

Undefined offset in error log

Merge pull request #2722 from lonvia/fix-relinking-on-updates

Fix bug with keeping linking on updates

fix bug with keeping linking on updates

When moving the finding of linked places to the precomputation stage,
it was also moved before the statement where the linked_place_id was
removed from the linkee. The result was that the current linkee was
excluded when looking for a linked place on updates because it was
still linked to the boundary to be updated.

Fixed by allowing to either keep the linkage or change to an unlinked
place.

correct end time computation

Simplify apache rewrite rules

Merge pull request #2713 from lonvia/remove-county-nodes-in-canada

Remove county nodes in Canada from addresses

remove county nodes in Canada from addresses

Canada has complete coverage for administrative boundaries on
county level. Removing the county nodes from the addresses avoids error
due to a wide-spread doubling of place nodes for city counties.

Merge pull request #2710 from lonvia/offline-import-mode

Assorted performance improvements for BDD tests

bdd: restrict imports to four languages

This mainly restricts the number of country names that are loaded.

Merge pull request #2709 from lonvia/less-strict-country-assignment

Be more strict with country assignments

bdd: recreate functions on template DB

Avoids calling function refresh on every scenario. The content won't
change between runs.

avoid calling OSM servers during bdd tests

add offline import mode

In offline mode no attempts are made to download data from the internet.
At the moment that only concerns the computation of the database date.
It contacts the main API to get the date.

Merge pull request #2708 from lonvia/use-format-literals

Assorted fixes for new pylint warnings

no longer allow fuzzy assignment of country

The fallback country boundaries already contain a sufficiently large
part of the water area, so there is no need to extend the country
assignment even more. Features outside countries should not show a
country in their address.

fix spacing

Some versions of pylint are oddly picky.

pylint: disable no-self-use check

This checker encourages bad behaviour (namely changing the static
status of a function during inheritence) and will be made optional
in upcoming versions of pylint.

solve assorted issue with newer pylint versions

Includes more use of 'with', adding encodings to open statements
and a couple of issues with parameter renaming.

use context management when processing Tiger data

remove redundant 'u' prefixes for unicode strings

pylint: avoid explicit use of format() function

Use psycopg2 SQL formatters for SQL and formatted string literals
everywhere else.

add a function to return a formatted version

Replaces the various repeated format strings throughout the code.

Merge pull request #2707 from lonvia/make-icu-tokenizer-the-default

Make ICU tokenizer the default

no longer need postgresql-server-dev packages

make legacy tokenizer tests the extra on CI

Merge pull request #2704 from mtmail/migrate-phpunit-xml-schema

PHPUnit 9 changed configuration schema slightly

always state encoding when opening files in text mode

Also applies to Path.write_text().

PHPUnit 9 changed configuration schema slightly

switch tests to ICU tokenizer as default

add migration hint for the new tokenizer default

make ICU the default tokenizer

Merge pull request #2702 from lonvia/move-country-names-into-includes

Clean up country name settings

Merge pull request #2695 from mtmail/git-commit-hash-to-version

add git commit hash to 'nominatim --version' output

add git commit hash to --version output

support arbitrary prefixes in country name list

This means we can now get rid of the last special cases for names.

move country names into separate include files

Merge pull request #2696 from mtmail/norminatyn-typos

fix typos of name Nominatim

fix typos of name Nominatim

Merge pull request #2693 from mtmail/nominatim-cli-version

new "nominatim --version" global CLI argument

new nominatim --version CLI argument

Merge pull request #2681 from lonvia/improve-geocodejson

Fix 'type' field in the geocodejson response

Merge pull request #2687 from lonvia/check-for-wikipedia

Add check for presence of wikipedia importance

explicit cast for osm_type parameter in SQL needed

Otherwise PostgreSQL won't correctly pick up the index
condition.

respect exclude_place_ids for housenumber search

Merge pull request #2689 from lonvia/relations-in-associated-street

Accept any OSM type in street member of associatedStreet

accept any OSM type in street member of associatedStreet

This is needed for pedestrian areas mapped as multipolygons
and consequently as relations. The lookup in placex guarantees
that the referenced OSM object is indeed a street.

Fixes #2669.

Merge pull request #2686 from mtmail/ubuntu20-php-fpm-version

Install-on-Ubuntu-20.sh - correct php version

skip wikipedia table test on reverse-only installations

Wikipedia importances are not imported on reverse-only imports.

Install-on-Ubuntu-20.sh - correct php-fpm version

Merge pull request #2685 from lonvia/show-inherited-housenumber

Keep address parts inherited from surrounding buildings after indexing

add check for wikipedia importance data

Adds a new check level WARNING because missing wikipedia importances
are not necessarily an error. If the database is run for reverse
requests only, then it is fine to go without them.

Merge pull request #2684 from lonvia/translit-keep-spacing-marks

ICU: better letter identification in normalization

keep inherited address parts after indexing

The inherited housenumber is needed for display output. We can't
take the one from the housenumber field because it is already
normalized. Remove the inherited address only when reindexing.

Fixes #2683.

ICU: better letter identification in normalization

The Letter class does not include non-spacing marks that can also
have a consonant or vowel meaning, especially in Indian languages.
Use the alnum propoerty instead which includes them all. Also
include the vowel-canceling Virama, which is not a letter by itself
but changes the transliteration.

mention the breaking API change in the migratioin docs