port unit tests to new python package layout

move API dependent functions out of args structure

add packaging for the different subprojects

add missing __init__.py

adapt plugin imports

add script for in-source execution

split code into submodules

add Python package configuration

The global configuration builds one large package.

update Search.md, fix typo (#3454)

Merge pull request #3447 from lonvia/avoid-invalidating-large-features

Restrict invalidation of child objects on large street features

restrict invalidation of child objects on large street features

When streets become very large, it is more likely a mapping error.
So ignore such changes.

Merge pull request #3424 from lonvia/importance-csc-import

Implement a lighter format for wikipedia importance tables

adapt database test for wikipedia importance to new tables

add tests for new importance CSV import

add CSV format for importance import

Merge pull request #3423 from mudnug/patch-1

Update Output place_id documentation to match implementation

Update Output place_id documentation to match implementation

Merge pull request #3422 from lonvia/drop-non-parented-interpolations

Drop address interpolations when no parent can be found

work around new pylint warnings

drop interpolations when no parent can be found

A housenumber without the place it refers to is of only limited use.

Merge pull request #3413 from osm-search/mtmail-patch-1

Special-Phrases.md - correct typo

Special-Phrases.md - correct typo

Merge pull request #3411 from lonvia/fix-address-style

Address and street style: switch to explicit choice of highway values

address and street style: switch to explicit choice of highway values

The non-street values for the highway tag are proliferating.
Switch the style to only include values explicitly choosen.

Merge pull request #3410 from lonvia/docs-special-phrases

Add documentation of the format for special phrases CSV

fix typo

add documentation of special phrases CSV format

Merge pull request #3409 from lonvia/docs-secondary-importance

Add documentation for installing a secondary importance file

Merge pull request #3408 from lonvia/update-postcode-parents

Reindex postcodes when their parent is deleted

add links to official secondary importance file

reindex postcodes that loose their parents

When the parent place of a postcode is deleted, it needs to
be reindexed to get a new parent. Otherwise displaying of
results is broken.

Merge pull request #3403 from mtmail/project-directory-name

docs: use nominatim-project everywhere

Merge pull request #3397 from lonvia/improve-handling-unlisted-places

Improve handling addr:place without a place node

docs: use nominatim-project everywhere

add test for preference of full matches on unlisted places

add full tokens to addresses

This is now needed to weigh results.

unlisted place names need to go into the address

Housenumbers with unlisted place names should be handled like
any ither housenumbers with missing address terms.

actions: use newest pytest-asyncio for ubuntu 20

Merge pull request #3390 from lonvia/poi-in-poi

Handle POIs in POIs during reverse lookup

add slight preference for locating point POIs over POI areas

Merge pull request #3389 from mtmail/cli-autodiscover-valid-formats

CLI: get valid --format values via autodiscover

CLI: get valid --format values via autodiscover

Merge pull request #3385 from mtmail/docs-reverse-only

Import documentation: reverse-only only a little faster import

Import documentation: reverse-only only a little faster import [skip ci]

Merge pull request #3384 from mtmail/geocodejson-admin-levels-only-boundaries

geocodejson: admin level output should only print boundaries

Merge pull request #3383 from lonvia/window-searches

Reorganize SQL for place search using window functions

increase search area when filtering by postcode

geocodejson: admin level output should only print boundaries

adapt tests for windowing SQL

Results with high penalty are now thrown out earlier.

housenumber position should hint on direction

rather than increasing penalty.

remove restriction on frequent one word names

This is now solved by reducing results with the windowing SQL
during search.

split search SQL in windowed search_name lookup and constraint search

minimum counts for tokens should always be 1

to avoid accidental devision by 0.

Merge pull request #3375 from matkoniecz/patch-1

add missing space in taginfo listing

don't even try heavily penalized searches

reintroduce cutoffs when searching for very frequent words

add missing space in taginfo listing

say https://taginfo.openstreetmap.org/tags/shop=guns#projects was listing description

`POI/feature in the search database(except for values: no).`

Merge pull request #3373 from lonvia/restrict-man-made

Style tweaks: restrict man_made features to be imported

style: restrict man_made main tag to selected values

Merge pull request #3367 from lonvia/address-word-counts

Introduce word usage statistics for addresses

use address counts for improving index lookup

add penalty for single words that look like stop words

add address counts to tokens

extend word statistics to address index

Word frequency in names is not sufficient to interpolate word
frequency in the address because names of towns, states etc. are
much more frequently used than, say street names.

Merge pull request #3363 from mtmail/docs-link-correction

Docs: correct URL of an internal link

docs: correct URL of an internal link

add geometry details for postcode area output

Merge pull request #3362 from lonvia/find-postcode-areas

Lookup postcode areas for postcode results

remove BDD test for place_id details

It is not reliable.

exclude postcode test from legacy and php

postcodes: exclude seen places later

The seen list will only have the postcode area when available but
we want the postcode point excluded as well if the area has been seen.

look for postcode areas when finding something in the postcode table

prepare release 4.4.0

Merge pull request #3358 from lonvia/pg-module-for-pg16

Fix compilation of legacy module for PostgreSQL 16

actions: run legacy test against newest postgresql 16

fix compilation of PG module for PostgreSQL 16

This version requires an additional include for the macros used.

Merge pull request #3356 from lonvia/use-date-from-osm2pgsql-prop

Use import date from osm2pgsql property table if available

use import date from osm2pgsql property table if available

Merge pull request #3353 from mtmail/add-codespell

Github Actions: add codespell linter, warn only

Github Actions: add codespell linter, warn only

Merge pull request #3350 from lonvia/improve-postcode-handling

Improve handling of postcode areas

Merge pull request #3349 from lonvia/remove-way-geometry-table-after-import

Drop lower-rank-ways index after import

improve display name for postcodes

Don't add the postcode again in the list of address details and
make sure that the result proper always comes before anything else
independently of the address rank.

for postcodes use rank_search as base rank for finding addresses

The rank_address reflects the position in the address which is
usually lower than what one would expect for a postcode area.

drop lower-rank-ways index after import

The index becomes quite big and is only needed during import
because the full geometry import does not exist yet.

Merge pull request #3342 from mtmail/tyops

Correct some typos

Merge pull request #3347 from lonvia/tweak-boundary-imports

Assorted style tweaks

Merge pull request #3346 from lonvia/reduce-artificial-importance

Reduce default importance

Merge pull request #3345 from lonvia/simplify-large-geometries

Simplify very large polygons that are not used in addresses

Merge pull request #3344 from lonvia/osm2pgsql-new-middle

Update osm2pgsql to latest 1.11.0 and add support for new middle format

add support for new middle table format of osm2pgsql

Functions are adapted according to the format detected from the
osm2pgsql property table.

simplify very large polygons non used in addresses

Polygons with rank_address = 0 are only used in search and (rarely)
for reverse lookup. Geometries do not need to be precise for that
because topology does not matter. OSM has some very large polygons
of natural features with sizes of more than 10MB. Simplify these
polygons to keep the database and indexes smaller.

reduce importance when computed from search rank

do not send outdated parameters to osm2pgsql flex

update osm2pgsql to 1.11.0

drop more railway tags

drop amenity=parking_space/entrance objects

Parking is sufficiently covered with amenity=parking.

drop boundary=land_area

Usually a version of administrative boundaries without ocean area.
Resulting polygons are pretty larrge and having the boundaries
should be enough.

import leisure=natural_reserve as fallback only

About half of the natural reserves have a double tagging with
boundary=protected_area. Avoid importing these objects twice.

prefer min() function over if construct

Fixes a linter complaint.