]> git.openstreetmap.org Git - nominatim.git/blob - nominatim/tools/add_osm_data.py
Merge pull request #3167 from lonvia/explicit-encoding
[nominatim.git] / nominatim / tools / add_osm_data.py
1 # SPDX-License-Identifier: GPL-2.0-only
2 #
3 # This file is part of Nominatim. (https://nominatim.org)
4 #
5 # Copyright (C) 2022 by the Nominatim developer community.
6 # For a full list of authors see the git log.
7 """
8 Function to add additional OSM data from a file or the API into the database.
9 """
10 from typing import Any, MutableMapping
11 from pathlib import Path
12 import logging
13 import urllib
14
15 from nominatim.db.connection import connect
16 from nominatim.tools.exec_utils import run_osm2pgsql, get_url
17
18 LOG = logging.getLogger()
19
20 def _run_osm2pgsql(dsn: str, options: MutableMapping[str, Any]) -> None:
21     run_osm2pgsql(options)
22
23     # Handle deletions
24     with connect(dsn) as conn:
25         with conn.cursor() as cur:
26             cur.execute('SELECT flush_deleted_places()')
27         conn.commit()
28
29
30 def add_data_from_file(dsn: str, fname: str, options: MutableMapping[str, Any]) -> int:
31     """ Adds data from a OSM file to the database. The file may be a normal
32         OSM file or a diff file in all formats supported by libosmium.
33     """
34     options['import_file'] = Path(fname)
35     options['append'] = True
36     _run_osm2pgsql(dsn, options)
37
38     # No status update. We don't know where the file came from.
39     return 0
40
41
42 def add_osm_object(dsn: str, osm_type: str, osm_id: int, use_main_api: bool,
43                    options: MutableMapping[str, Any]) -> int:
44     """ Add or update a single OSM object from the latest version of the
45         API.
46     """
47     if use_main_api:
48         base_url = f'https://www.openstreetmap.org/api/0.6/{osm_type}/{osm_id}'
49         if osm_type in ('way', 'relation'):
50             base_url += '/full'
51     else:
52         # use Overpass API
53         if osm_type == 'node':
54             data = f'node({osm_id});out meta;'
55         elif osm_type == 'way':
56             data = f'(way({osm_id});>;);out meta;'
57         else:
58             data = f'(rel(id:{osm_id});>;);out meta;'
59         base_url = 'https://overpass-api.de/api/interpreter?' \
60                    + urllib.parse.urlencode({'data': data})
61
62     options['append'] = True
63     options['import_data'] = get_url(base_url).encode('utf-8')
64
65     _run_osm2pgsql(dsn, options)
66
67     return 0