Added HTTP_HOST to if statement

fixed: XML format: more_url points to localhost, not base URL

Merge pull request #2234 from darkshredder/add-man-page

Added Manual page for Nominatim tool

allow sorting by housenumbers for rare street names

Usually we don't narrow down search results by house number when
only a street name is given because there may be a lot of rows
to cross check when the street name is very frequent. However,
when it is known to be rare, the housenumber check may be done
anyway.

Fixes #2238.

Update manpage after rebase

Nominatim/cli.py rebase fixes

Rebase with master

fixed indentation and used sed to remove AUTHORS section

Added Manual page and fixed documentation

Merge pull request #2228 from AntoJvlt/import-special-phrases-porting-python

Import special phrases porting python

Change command 'import-special-phrases --from-wiki' to 'special-phrases --import-from-wiki'.

Errors fixes, Cleaning code, Improvement and addition of tests

Encapsulation of tools/special_phrases.py into SpecialPhrasesImporter class and add new tests.

Code cleaning, tests simplification and use of python3-icu package

Updated documentation for PyICU support

Introduction of PyICU for transliteration in python. Reversed changes in normalization.sql.

Added wrapper in specialphrases.php to call corresponding nominatim command.

Changed phrase_settings.py to phrase-settings.json and added migration function for old php settings file.

Changed phrase_settings.py to phrase-settings.json and added migration function for old php settings file.

Merge pull request #2233 from lonvia/index-for-postcode-ids

Create postcode id index earlier

create postcode id index earlier

Now that the indexer takes care of indexing the postcode tables,
the id index is needed to find the rows to index.

Merge pull request #2231 from mtmail/correct-cli-help-page

nominatim -h was printing wrong text for lookup and details

avoid division by zero in progress meter

On Windows systems the timer may not be accurate enough to measure
the time between init() and done(). Avoid computing statistics with
a diff time of 0 in such cases.

Fixes #2230.

nominatim -h was priting wrong text for lookup and details

Deleted specialphrases.php and phrase_settings.php

Updated specialphrases_testdb.sql

Ported functions for the import of special phrases from php to python.

- the command is now --import-special-phrases
- the output is not an sql file anymore, data are directly imported to the database.
- the little part on the documentation (section data import) has been modified.

bdd tests: make indexing less verbose

Do not print progress info for indexing when there is an error
in the BDD tests.

Merge pull request #2219 from lonvia/bdd-test-remove-php

BDD tests: run all setup via nominatim Python library

bdd: run all setup via nominatim Python library

Drops all calls to PHP utility functions. nominatim cli functions
are used where possible, to stay as close to the final code as
possible with the tests.

By removing the PHP calls, the test code now only uses osm2pgsql and
the database module from the build directory.

Merge pull request #2216 from lonvia/fix-reverse-interpolation

Reverse: do not prefer interpolations over closer housenumbers

reverse: do not prefer interpolations over closer housenumbers

Always look up the closest housenumber before looking up
interpolations. This ensures that closer housenumbers are
preferred over interpolations.

Fixes #2214.

Merge pull request #2212 from darkshredder/country-name

Ported createCountryNames() to python and Added tests

Add setup.php

fix template variable name

Merge pull request #2213 from lonvia/tweak-search-weights

Some more tweaking of the ranking of search interpretations

Linting fix

refactored tests and made changes to code for easy readibility

Ported createCountryNames() to python and added tests

Merge pull request #2204 from darkshredder/tiger-data

Ported tiger-data-import to Python and Added Tarball Support

do not mix partial names with other words

As soon as a housenumber, postcode, etc. appear, the name term
must obviously be closed and no further partial terms can be
appended.

make linter happy

avoid multi-term partials in names

Names are either full words or single-word partial names.
Searching for multi-word partials yields exactly the same
result as with full words.

higher penalty for special searches

Adds a general higher penalty for special search term and an
additional one if the term is anywhere but the beginning or the
end. Also housenumbers and special searches together are less
likely.

do not mix partial and full name terms

If NameNonSearch already contains a partial term, then a
full term must not be added to the Name list anymore.

add one-rank penalty for using partial search

Ensures that full matches are preferred over partial ones even when
the full word consists of only one term.

fix result splitting for last search group

When we are in the final iteration of the search groups, it is not
possible to further delay the results. Unconditionally use the
results with the best rank instead.

give preference to full words in address, too

Full word terms are already preferred for the name part. Adding
only one-word partials to the address, makes it impossible to
give a similar preference for the address part. Each term adds
a rank penalty. The problem here is that we interpret the query
forwards and backwards. Having different penalty systems for
name and address means that the same term ends up with different
penalties and that often leads to interpretations of the wrong
direction being in the way.

Added fixture for sql_preprocessor and fixed some issues

Added test for tarfile

Added test and removed runlegacyscript

fixed linting, refactored threaded sql handling and removed importTigerData() function

Test fixes

Linting fixes

Linting fixes

Ported tiger-data-import to python and Added Tarball Support

Merge pull request #2200 from lonvia/migrations-for-current-version

Introduce a command for database migration

documentation for new migration command

automatic migration from 3.6 release

Adds a 'admin --migrate' command that checks for the current
database version and runs any necessary migrations. Also
has migrations going back to 3.6.

Merge pull request #2197 from lonvia/use-jinja-for-sql-preprocessing

Use jinja2 for SQL preprocessing

port index creation to python

Also switches to jinja-based preprocessing, which allows to
simplify the SQL files. Use 'if not exists' where possible
so that the step can be rerun to fix missing indexes.

indexer: ANALYSE must be run outside transactions

move table creation to jinja-based preprocessing

add new jinja2 requirement

introduce jinja2 for preprocessing SQL

Replaces various hand-crafted replacements of varying format with
a single Jinja2 templating mechanism. Allows full access to
configuration if necessary.

Merge pull request #2194 from grischard/patch-1

Fix typo in .github/actions/build-nominatim/action.yml

Update action.yml

Merge pull request #2192 from lonvia/database-versioning

Introduce database versioning

document new status fields

return database version with status API

add database_version setting to tests

do not depend on cmdline parameter for creating partition tables

The partition numbers in use only depend on the entries in search_name.

save software version in the database

The version represents the software version that was used to
import the data.

report software version of status call

introduce database patch level for version

This will be needed later for automatic migrations.

make sure that calls to PHP legacy scripts are fatal on error

introduce table for in-database properties

Adds a simple table where settings for the database can be
saved. This is useful for state that must not change after
import.

remove unused import

use tmp_path fixture in config tests

fix typo

Merge pull request #2186 from lonvia/port-import-to-python

Move setup procedure to Python

make sure psql always finishes

If an execption is raised by other means, we still have to close
the stdin pipe to psql to make sure that it exits and releases its
connection to the database.

older versions of Postgresql need explicit return type

do not truncate search_name in reverse-only mode

actions: add psutil dependency

fix verbose flag for PHP wrapper scripts

The flag must come after the command.

bdd: use python library where possible

Replace calls to PHP scripts with direct calls into the
nominatim Python library where possible. This speed up
tests quite a bit.

move setup function to python

There are still back-calls to PHP for some of the sub-steps.
These needs some larger refactoring to be moved to Python.

properly close connections of indexer after use

prot load-data function to python

add a function for the intial indexing run

Also moves postcodes to fully parallel indexing.

remove unused partitionfunction function

port wikipedia importance functions to python

move import-data option to native python

This adds a new dependecy to the Python psutil package.

introduce custom object for cmdline arguments

Allows to define special functions over the arguments.

Also splits CLI tests in two files as they have become too many.

port database setup function to python

Hide the former PHP functions in a transition command until
they are removed.

use psql for executing sql files

This allows to run larger files without needing to keep
them in memory.

add function to set up libpq environment

Instead of parsing the DSN for each external libpq program we
are going to execute, provide a function that feeds them all
necessary parameters through the environment.

osm2pgsql is the first user.

convert connect() into a context manager

Merge pull request #2185 from lonvia/fix-deadlock-handling-for-psycopg27

Improve deadlock detection for various versions of psycopg2