release 5.0.0.post5

Merge remote-tracking branch 'upstream/master'

Merge pull request #3659 from lonvia/custom-datrie-structure

Replace datrie library with a simple custom Python implementation

remove datrie dependency

replace datrie library with a more simple pure-Python class

Merge pull request #3658 from lonvia/minor-query-parsing-optimisations

Minor query parsing optimisations

adapt documentation for PhraseType type

replace PhraseType enum with simple int constants

replace TokenType enum with simple char constants

replace BreakType enum with simple char constants

consistently use query module as qmod

avoid yielding when extracting words from query

remove word_number counting for phrases

We can just examine the break types to know if we are dealing
with a partial token.

release 5.0.0.post4

Merge remote-tracking branch 'upstream/master'

Merge pull request #3655 from lonvia/remove-name-ranking-in-postcode-search

Tweak penalties for postcode searches

remove address penalty for postcode search

Searches of the form <postcode> <city> are in fact quite common.

do not rerank address by full match in postcode search

The reranking result will not be completely correct because
the address of a postcode refer to the address _and_ name
of the parent and reranking was only done against the
address. We assume here that the postcode is precise enough
as to not require a penalty to to partial matches.

release 5.0.0post3

Merge remote-tracking branch 'upstream/master'

Merge pull request #3653 from lonvia/trailing-spaces-in-normalization

Strip leading and trailing space markers during normalization

strip normalisation results of normal and special spaces

add test for structured query with leading spaces

Merge pull request #3652 from lonvia/update-variants

Cleanup and updates of tokenizer variant configuration

Merge pull request #3649 from lonvia/actions-move-to-ubuntu22

Move Github actions to Unbuntu-22 image

remove e-ë mutation, this is taken care of by transliteration

Add USPS Standard Suffix Abbreviation

fix Norwegian variants

More cases of 'no' being interpreted as fasle by yaml.

remove ineffective and dupicate variants

Merge pull request #3555 from IvanShift/patch-1

Fixed Russian abbreviation list

actions: use Debians's script for adding the Postgres apt repo

actions: move tests to Ubuntu-20

release 5.0.0.post2

Merge remote-tracking branch 'upstream/master'

Merge pull request #3648 from lonvia/extratags-for-geocodejson

Enable output of extratags for geocodejson format

add documentation for new extra field

add optional output of extratags to geocodejson

release 5.0.0.post1

Merge remote-tracking branch 'upstream/master'

prepare 5.0.0 release

Merge pull request #3635 from lonvia/replace-wikimedia-importance-test-data

Update wikimedia importance file for test database

adapt tests to changed wikimedia importance test table

replace wikimedia importance file for test data with CSV version

release 4.5.0.post9

Merge remote-tracking branch 'upstream/master'

Merge pull request #3626 from lonvia/import-performance

Import performance

Merge pull request #3631 from lonvia/avoid-transactions

Creating tables and indexes in autocommit mode

Merge pull request #3633 from lonvia/restrict-long-ways

Ignore overly long ways during import

ignore overly long ways during import

use autocommit when creating tables and indexes

Might avoid some deadlock situations with autovacuum.

Merge pull request #3629 from lonvia/additional-breaks

Introduce new break types and phrase splitting for Japanese addresses

add japanese phrase preprocessing

Code adapted from GSOC code by @miku.

keep break indicators [:-] during normalisation

All punctuation will be converted to '-'. Soft breaks : may be
added by preprocessors. The break signs are only used during
query analysis and are ignored during import token analysis.

add inner word break penalty

add SOFT_PHRASE break and enable parsing

Also enables parsing of PART breaks.

split up MultiPolygons before adding them to large_areas table

move geometry split into insertLocationAreaLarge()

thus insert only needs to be called once.

more efficient belongs-to-address determination

Merge pull request #3619 from lonvia/demote-farms

Remove farms and isolated dwellings from computed addresses

remove farms and isolated dwellings from computed addresses

Farms and isolated dwellings are usually confined to a very small
area. It does not make sense if they are automatically used in
addressing surrounding features. Still works to use them for
parenting when used with addr:place.

docs: update Update docs for virtualenv use

Merge pull request #3618 from osm-search/settings-md-table-space-osm-index

Settings.md - one setting was repeated

Settings.md - one setting was repeated

Merge pull request #3617 from mtmail/pr-3615-wording

Slight wording changes for Import-Styles.md

Slight wording changes for Import-Styles.md

Merge pull request #3616 from osm-search/tokenizers-md-typo

fix typo in Tokenizers.md

fix typo in Tokenizers.md

Merge pull request #3615 from lonvia/overhaul-osm2pgsql-style

Overhaul osm2pgsql style

exclude more tourism=information types

reintroduce brand and remove etymology

exclude unnamed swimming pools

Publicly accessible ones are usually mapped as the bigger area
with the water park.

include lock names mapped with "lock_name"

Fixes #3365.

do not save names when falling back to addresses

If an object doesn't have a useable main tag, then the names should
always be ignored, independently of the presence of housenumbers.
We have to assume that the name belongs to a feature that was
intentionally filtered out.

switch to subtags for tourism=information and natural=water

exclude sidewalks and similar footways

These footways are part of a street that is usually already named.

make nominatim callable with themepark style

adapt documentation for style import

adapt taginfo script to new configuration structure

convert import styles to themepark

Introduces presets which avoid much of the previous configuration
duplication. The original import files are now thin wrappers around
the themepark themes.

osm2pgsql style: add modification for name and address, with tests

osm2pgsql style: simplify computation of extra tags

Now implemented as a simple filter function which can also be
customized by the user.

osm2pgsql style: merge main tag and pre-filter handling

Defining a tag as deleteable/extratag and main tag is mutually exclusive
and deleting certain key/value combinations to exclude them from being
used as a main tag is confusing. By merging the handling, such
excludes can now be made explicit in the main list.

By using the same lookup table, it is now also possible to have a
short-cut for uninteresting objects.

do not touch original tags of osm2pgsql OSM object

convert flex-base.lua into a themepark theme

This already allows to run Nominatim under themepark, currently
as a topic-less theme.

move lua scripts into a separate directory

Merge pull request #3610 from lonvia/search-preprocessing

Add configurable query preprocessing

add developers documentation for query-side of tokenizer

add documentation for new query preprocessing

generalize normalization step for search query

It is now possible to configure functions for changing the query
input before it is analysed by the tokenizer.

Code is a cleaned-up version of the implementation by @miku.

docs: external osm2pgsql is not longer optional

Merge pull request #3609 from lonvia/reverse-ignore-postcode-areas

Ignore postcode areas on reverse

ignore postcode areas on reverse

Postcode lookups are best done by doing reverse at a higher
level and then extracting the postcode.

Merge pull request #3608 from lonvia/reverse-fallback-country

Fall back to using the OSM grid country table when no countries are found in the OSM data

have reverse fall back to country table when no country is found

release 4.5.0.post8

be less strict on filtering one-letter queries

docs: complete requirements list for dev env

docs: more prominent mention of pip install

Merge pull request #3600 from clavisound/master

uvicorn.org vs www.uvicorn.org

uvicorn.org vs www.uvicorn.org

correct link