]> git.openstreetmap.org Git - nominatim.git/blob - sql/functions.sql
normalize postcodes before adding to location tables
[nominatim.git] / sql / functions.sql
1 -- Splits the line at the given point and returns the two parts
2 -- in a multilinestring.
3 CREATE OR REPLACE FUNCTION split_line_on_node(line GEOMETRY, point GEOMETRY)
4 RETURNS GEOMETRY
5   AS $$
6 BEGIN
7   RETURN ST_Split(ST_Snap(line, point, 0.0005), point);
8 END;
9 $$
10 LANGUAGE plpgsql;
11
12
13 CREATE OR REPLACE FUNCTION geometry_sector(partition INTEGER, place geometry) RETURNS INTEGER
14   AS $$
15 DECLARE
16   NEWgeometry geometry;
17 BEGIN
18 --  RAISE WARNING '%',place;
19   NEWgeometry := ST_PointOnSurface(place);
20   RETURN (partition*1000000) + (500-ST_X(NEWgeometry)::integer)*1000 + (500-ST_Y(NEWgeometry)::integer);
21 END;
22 $$
23 LANGUAGE plpgsql IMMUTABLE;
24
25 CREATE OR REPLACE FUNCTION transliteration(text) RETURNS text
26   AS '{modulepath}/nominatim.so', 'transliteration'
27 LANGUAGE c IMMUTABLE STRICT;
28
29 CREATE OR REPLACE FUNCTION gettokenstring(text) RETURNS text
30   AS '{modulepath}/nominatim.so', 'gettokenstring'
31 LANGUAGE c IMMUTABLE STRICT;
32
33 CREATE OR REPLACE FUNCTION make_standard_name(name TEXT) RETURNS TEXT
34   AS $$
35 DECLARE
36   o TEXT;
37 BEGIN
38   o := gettokenstring(transliteration(name));
39   RETURN trim(substr(o,1,length(o)));
40 END;
41 $$
42 LANGUAGE 'plpgsql' IMMUTABLE;
43
44 -- returns NULL if the word is too common
45 CREATE OR REPLACE FUNCTION getorcreate_word_id(lookup_word TEXT) 
46   RETURNS INTEGER
47   AS $$
48 DECLARE
49   lookup_token TEXT;
50   return_word_id INTEGER;
51   count INTEGER;
52 BEGIN
53   lookup_token := trim(lookup_word);
54   SELECT min(word_id), max(search_name_count) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id, count;
55   IF return_word_id IS NULL THEN
56     return_word_id := nextval('seq_word');
57     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, null, 0);
58   ELSE
59     IF count > get_maxwordfreq() THEN
60       return_word_id := NULL;
61     END IF;
62   END IF;
63   RETURN return_word_id;
64 END;
65 $$
66 LANGUAGE plpgsql;
67
68 CREATE OR REPLACE FUNCTION getorcreate_housenumber_id(lookup_word TEXT)
69   RETURNS INTEGER
70   AS $$
71 DECLARE
72   lookup_token TEXT;
73   return_word_id INTEGER;
74 BEGIN
75   lookup_token := ' '||trim(lookup_word);
76   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class='place' and type='house' into return_word_id;
77   IF return_word_id IS NULL THEN
78     return_word_id := nextval('seq_word');
79     INSERT INTO word VALUES (return_word_id, lookup_token, null, 'place', 'house', null, 0);
80   END IF;
81   RETURN return_word_id;
82 END;
83 $$
84 LANGUAGE plpgsql;
85
86 CREATE OR REPLACE FUNCTION getorcreate_country(lookup_word TEXT, lookup_country_code varchar(2))
87   RETURNS INTEGER
88   AS $$
89 DECLARE
90   lookup_token TEXT;
91   return_word_id INTEGER;
92 BEGIN
93   lookup_token := ' '||trim(lookup_word);
94   SELECT min(word_id) FROM word WHERE word_token = lookup_token and country_code=lookup_country_code into return_word_id;
95   IF return_word_id IS NULL THEN
96     return_word_id := nextval('seq_word');
97     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, lookup_country_code, 0);
98   END IF;
99   RETURN return_word_id;
100 END;
101 $$
102 LANGUAGE plpgsql;
103
104 CREATE OR REPLACE FUNCTION getorcreate_amenity(lookup_word TEXT, normalized_word TEXT, lookup_class text, lookup_type text)
105   RETURNS INTEGER
106   AS $$
107 DECLARE
108   lookup_token TEXT;
109   return_word_id INTEGER;
110 BEGIN
111   lookup_token := ' '||trim(lookup_word);
112   SELECT min(word_id) FROM word WHERE word_token = lookup_token and word=normalized_word and class=lookup_class and type = lookup_type into return_word_id;
113   IF return_word_id IS NULL THEN
114     return_word_id := nextval('seq_word');
115     INSERT INTO word VALUES (return_word_id, lookup_token, normalized_word, lookup_class, lookup_type, null, 0);
116   END IF;
117   RETURN return_word_id;
118 END;
119 $$
120 LANGUAGE plpgsql;
121
122 CREATE OR REPLACE FUNCTION getorcreate_amenityoperator(lookup_word TEXT, normalized_word TEXT, lookup_class text, lookup_type text, op text)
123   RETURNS INTEGER
124   AS $$
125 DECLARE
126   lookup_token TEXT;
127   return_word_id INTEGER;
128 BEGIN
129   lookup_token := ' '||trim(lookup_word);
130   SELECT min(word_id) FROM word WHERE word_token = lookup_token and word=normalized_word and class=lookup_class and type = lookup_type and operator = op into return_word_id;
131   IF return_word_id IS NULL THEN
132     return_word_id := nextval('seq_word');
133     INSERT INTO word VALUES (return_word_id, lookup_token, normalized_word, lookup_class, lookup_type, null, 0, op);
134   END IF;
135   RETURN return_word_id;
136 END;
137 $$
138 LANGUAGE plpgsql;
139
140 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT, src_word TEXT) 
141   RETURNS INTEGER
142   AS $$
143 DECLARE
144   lookup_token TEXT;
145   nospace_lookup_token TEXT;
146   return_word_id INTEGER;
147 BEGIN
148   lookup_token := ' '||trim(lookup_word);
149   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
150   IF return_word_id IS NULL THEN
151     return_word_id := nextval('seq_word');
152     INSERT INTO word VALUES (return_word_id, lookup_token, src_word, null, null, null, 0);
153 --    nospace_lookup_token := replace(replace(lookup_token, '-',''), ' ','');
154 --    IF ' '||nospace_lookup_token != lookup_token THEN
155 --      INSERT INTO word VALUES (return_word_id, '-'||nospace_lookup_token, null, src_word, null, null, null, 0, null);
156 --    END IF;
157   END IF;
158   RETURN return_word_id;
159 END;
160 $$
161 LANGUAGE plpgsql;
162
163 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT) 
164   RETURNS INTEGER
165   AS $$
166 DECLARE
167 BEGIN
168   RETURN getorcreate_name_id(lookup_word, '');
169 END;
170 $$
171 LANGUAGE plpgsql;
172
173 CREATE OR REPLACE FUNCTION get_word_id(lookup_word TEXT) 
174   RETURNS INTEGER
175   AS $$
176 DECLARE
177   lookup_token TEXT;
178   return_word_id INTEGER;
179 BEGIN
180   lookup_token := trim(lookup_word);
181   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
182   RETURN return_word_id;
183 END;
184 $$
185 LANGUAGE plpgsql IMMUTABLE;
186
187 CREATE OR REPLACE FUNCTION get_name_id(lookup_word TEXT) 
188   RETURNS INTEGER
189   AS $$
190 DECLARE
191   lookup_token TEXT;
192   return_word_id INTEGER;
193 BEGIN
194   lookup_token := ' '||trim(lookup_word);
195   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
196   RETURN return_word_id;
197 END;
198 $$
199 LANGUAGE plpgsql IMMUTABLE;
200
201 CREATE OR REPLACE FUNCTION get_name_ids(lookup_word TEXT)
202   RETURNS INTEGER[]
203   AS $$
204 DECLARE
205   lookup_token TEXT;
206   return_word_ids INTEGER[];
207 BEGIN
208   lookup_token := ' '||trim(lookup_word);
209   SELECT array_agg(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_ids;
210   RETURN return_word_ids;
211 END;
212 $$
213 LANGUAGE plpgsql IMMUTABLE;
214
215 CREATE OR REPLACE FUNCTION array_merge(a INTEGER[], b INTEGER[])
216   RETURNS INTEGER[]
217   AS $$
218 DECLARE
219   i INTEGER;
220   r INTEGER[];
221 BEGIN
222   IF array_upper(a, 1) IS NULL THEN
223     RETURN b;
224   END IF;
225   IF array_upper(b, 1) IS NULL THEN
226     RETURN a;
227   END IF;
228   r := a;
229   FOR i IN 1..array_upper(b, 1) LOOP  
230     IF NOT (ARRAY[b[i]] <@ r) THEN
231       r := r || b[i];
232     END IF;
233   END LOOP;
234   RETURN r;
235 END;
236 $$
237 LANGUAGE plpgsql IMMUTABLE;
238
239
240 CREATE OR REPLACE FUNCTION get_postcode_rank(country_code VARCHAR(2), postcode TEXT,
241                                       OUT rank_search SMALLINT, OUT rank_address SMALLINT)
242 AS $$
243 DECLARE
244   part TEXT;
245 BEGIN
246     rank_search := 30;
247     rank_address := 30;
248
249     IF country_code = 'gb' THEN
250         IF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9][A-Z][A-Z])$' THEN
251             rank_search := 25;
252             rank_address := 5;
253         ELSEIF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9])$' THEN
254             rank_search := 23;
255             rank_address := 5;
256         ELSEIF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z])$' THEN
257             rank_search := 21;
258             rank_address := 5;
259         END IF;
260
261     ELSEIF country_code = 'sg' THEN
262         IF postcode ~ '^([0-9]{6})$' THEN
263             rank_search := 25;
264             rank_address := 11;
265         END IF;
266
267     ELSEIF country_code = 'de' THEN
268         IF postcode ~ '^([0-9]{5})$' THEN
269             rank_search := 21;
270             rank_address := 11;
271         END IF;
272
273     ELSE
274         -- Guess at the postcode format and coverage (!)
275         IF postcode ~ '^[A-Z0-9]{1,5}$' THEN -- Probably too short to be very local
276             rank_search := 21;
277             rank_address := 11;
278         ELSE
279             -- Does it look splitable into and area and local code?
280             part := substring(postcode from '^([- :A-Z0-9]+)([- :][A-Z0-9]+)$');
281
282             IF part IS NOT NULL THEN
283                 rank_search := 25;
284                 rank_address := 11;
285             ELSEIF postcode ~ '^[- :A-Z0-9]{6,}$' THEN
286                 rank_search := 21;
287                 rank_address := 11;
288             END IF;
289         END IF;
290     END IF;
291
292 END;
293 $$
294 LANGUAGE plpgsql IMMUTABLE;
295
296 -- Find the nearest artificial postcode for the given geometry.
297 -- TODO For areas there should not be more than two inside the geometry.
298 CREATE OR REPLACE FUNCTION get_nearest_postcode(country VARCHAR(2), geom GEOMETRY) RETURNS TEXT
299   AS $$
300 DECLARE
301   item RECORD;
302 BEGIN
303     FOR item IN
304         SELECT postcode FROM location_postcode
305         WHERE ST_DWithin(geom, location_postcode.geometry, 0.05)
306               AND location_postcode.country_code = country
307         ORDER BY ST_Distance(geom, location_postcode.geometry)
308         LIMIT 1
309     LOOP
310         RETURN item.postcode;
311     END LOOP;
312
313     RETURN null;
314 END;
315 $$
316 LANGUAGE plpgsql;
317
318
319 CREATE OR REPLACE FUNCTION create_country(src HSTORE, lookup_country_code varchar(2)) RETURNS VOID
320   AS $$
321 DECLARE
322   s TEXT;
323   w INTEGER;
324   words TEXT[];
325   item RECORD;
326   j INTEGER;
327 BEGIN
328   FOR item IN SELECT (each(src)).* LOOP
329
330     s := make_standard_name(item.value);
331     w := getorcreate_country(s, lookup_country_code);
332
333     words := regexp_split_to_array(item.value, E'[,;()]');
334     IF array_upper(words, 1) != 1 THEN
335       FOR j IN 1..array_upper(words, 1) LOOP
336         s := make_standard_name(words[j]);
337         IF s != '' THEN
338           w := getorcreate_country(s, lookup_country_code);
339         END IF;
340       END LOOP;
341     END IF;
342   END LOOP;
343 END;
344 $$
345 LANGUAGE plpgsql;
346
347 CREATE OR REPLACE FUNCTION make_keywords(src HSTORE) RETURNS INTEGER[]
348   AS $$
349 DECLARE
350   result INTEGER[];
351   s TEXT;
352   w INTEGER;
353   words TEXT[];
354   item RECORD;
355   j INTEGER;
356 BEGIN
357   result := '{}'::INTEGER[];
358
359   FOR item IN SELECT (each(src)).* LOOP
360
361     s := make_standard_name(item.value);
362
363     w := getorcreate_name_id(s, item.value);
364
365     IF not(ARRAY[w] <@ result) THEN
366       result := result || w;
367     END IF;
368
369     w := getorcreate_word_id(s);
370
371     IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
372       result := result || w;
373     END IF;
374
375     words := string_to_array(s, ' ');
376     IF array_upper(words, 1) IS NOT NULL THEN
377       FOR j IN 1..array_upper(words, 1) LOOP
378         IF (words[j] != '') THEN
379           w = getorcreate_word_id(words[j]);
380           IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
381             result := result || w;
382           END IF;
383         END IF;
384       END LOOP;
385     END IF;
386
387     words := regexp_split_to_array(item.value, E'[,;()]');
388     IF array_upper(words, 1) != 1 THEN
389       FOR j IN 1..array_upper(words, 1) LOOP
390         s := make_standard_name(words[j]);
391         IF s != '' THEN
392           w := getorcreate_word_id(s);
393           IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
394             result := result || w;
395           END IF;
396         END IF;
397       END LOOP;
398     END IF;
399
400     s := regexp_replace(item.value, '市$', '');
401     IF s != item.value THEN
402       s := make_standard_name(s);
403       IF s != '' THEN
404         w := getorcreate_name_id(s, item.value);
405         IF NOT (ARRAY[w] <@ result) THEN
406           result := result || w;
407         END IF;
408       END IF;
409     END IF;
410
411   END LOOP;
412
413   RETURN result;
414 END;
415 $$
416 LANGUAGE plpgsql IMMUTABLE;
417
418 CREATE OR REPLACE FUNCTION make_keywords(src TEXT) RETURNS INTEGER[]
419   AS $$
420 DECLARE
421   result INTEGER[];
422   s TEXT;
423   w INTEGER;
424   words TEXT[];
425   i INTEGER;
426   j INTEGER;
427 BEGIN
428   result := '{}'::INTEGER[];
429
430   s := make_standard_name(src);
431   w := getorcreate_name_id(s, src);
432
433   IF NOT (ARRAY[w] <@ result) THEN
434     result := result || w;
435   END IF;
436
437   w := getorcreate_word_id(s);
438
439   IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
440     result := result || w;
441   END IF;
442
443   words := string_to_array(s, ' ');
444   IF array_upper(words, 1) IS NOT NULL THEN
445     FOR j IN 1..array_upper(words, 1) LOOP
446       IF (words[j] != '') THEN
447         w = getorcreate_word_id(words[j]);
448         IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
449           result := result || w;
450         END IF;
451       END IF;
452     END LOOP;
453   END IF;
454
455   words := regexp_split_to_array(src, E'[,;()]');
456   IF array_upper(words, 1) != 1 THEN
457     FOR j IN 1..array_upper(words, 1) LOOP
458       s := make_standard_name(words[j]);
459       IF s != '' THEN
460         w := getorcreate_word_id(s);
461         IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
462           result := result || w;
463         END IF;
464       END IF;
465     END LOOP;
466   END IF;
467
468   s := regexp_replace(src, '市$', '');
469   IF s != src THEN
470     s := make_standard_name(s);
471     IF s != '' THEN
472       w := getorcreate_name_id(s, src);
473       IF NOT (ARRAY[w] <@ result) THEN
474         result := result || w;
475       END IF;
476     END IF;
477   END IF;
478
479   RETURN result;
480 END;
481 $$
482 LANGUAGE plpgsql IMMUTABLE;
483
484 CREATE OR REPLACE FUNCTION get_country_code(place geometry) RETURNS TEXT
485   AS $$
486 DECLARE
487   place_centre GEOMETRY;
488   nearcountry RECORD;
489 BEGIN
490   place_centre := ST_PointOnSurface(place);
491
492 -- RAISE WARNING 'get_country_code, start: %', ST_AsText(place_centre);
493
494   -- Try for a OSM polygon
495   FOR nearcountry IN select country_code from location_area_country where country_code is not null and not isguess and st_covers(geometry, place_centre) limit 1
496   LOOP
497     RETURN nearcountry.country_code;
498   END LOOP;
499
500 -- RAISE WARNING 'osm fallback: %', ST_AsText(place_centre);
501
502   -- Try for OSM fallback data
503   -- The order is to deal with places like HongKong that are 'states' within another polygon
504   FOR nearcountry IN select country_code from country_osm_grid where st_covers(geometry, place_centre) order by area asc limit 1
505   LOOP
506     RETURN nearcountry.country_code;
507   END LOOP;
508
509 -- RAISE WARNING 'natural earth: %', ST_AsText(place_centre);
510
511   -- Natural earth data
512   FOR nearcountry IN select country_code from country_naturalearthdata where st_covers(geometry, place_centre) limit 1
513   LOOP
514     RETURN nearcountry.country_code;
515   END LOOP;
516
517 -- RAISE WARNING 'near osm fallback: %', ST_AsText(place_centre);
518
519   -- 
520   FOR nearcountry IN select country_code from country_osm_grid where st_dwithin(geometry, place_centre, 0.5) order by st_distance(geometry, place_centre) asc, area asc limit 1
521   LOOP
522     RETURN nearcountry.country_code;
523   END LOOP;
524
525 -- RAISE WARNING 'near natural earth: %', ST_AsText(place_centre);
526
527   -- Natural earth data 
528   FOR nearcountry IN select country_code from country_naturalearthdata where st_dwithin(geometry, place_centre, 0.5) limit 1
529   LOOP
530     RETURN nearcountry.country_code;
531   END LOOP;
532
533   RETURN NULL;
534 END;
535 $$
536 LANGUAGE plpgsql IMMUTABLE;
537
538 CREATE OR REPLACE FUNCTION get_country_language_code(search_country_code VARCHAR(2)) RETURNS TEXT
539   AS $$
540 DECLARE
541   nearcountry RECORD;
542 BEGIN
543   FOR nearcountry IN select distinct country_default_language_code from country_name where country_code = search_country_code limit 1
544   LOOP
545     RETURN lower(nearcountry.country_default_language_code);
546   END LOOP;
547   RETURN NULL;
548 END;
549 $$
550 LANGUAGE plpgsql IMMUTABLE;
551
552 CREATE OR REPLACE FUNCTION get_country_language_codes(search_country_code VARCHAR(2)) RETURNS TEXT[]
553   AS $$
554 DECLARE
555   nearcountry RECORD;
556 BEGIN
557   FOR nearcountry IN select country_default_language_codes from country_name where country_code = search_country_code limit 1
558   LOOP
559     RETURN lower(nearcountry.country_default_language_codes);
560   END LOOP;
561   RETURN NULL;
562 END;
563 $$
564 LANGUAGE plpgsql IMMUTABLE;
565
566 CREATE OR REPLACE FUNCTION get_partition(in_country_code VARCHAR(10)) RETURNS INTEGER
567   AS $$
568 DECLARE
569   nearcountry RECORD;
570 BEGIN
571   FOR nearcountry IN select partition from country_name where country_code = in_country_code
572   LOOP
573     RETURN nearcountry.partition;
574   END LOOP;
575   RETURN 0;
576 END;
577 $$
578 LANGUAGE plpgsql IMMUTABLE;
579
580 CREATE OR REPLACE FUNCTION delete_location(OLD_place_id BIGINT) RETURNS BOOLEAN
581   AS $$
582 DECLARE
583 BEGIN
584   DELETE FROM location_area where place_id = OLD_place_id;
585 -- TODO:location_area
586   RETURN true;
587 END;
588 $$
589 LANGUAGE plpgsql;
590
591 CREATE OR REPLACE FUNCTION add_location(
592     place_id BIGINT,
593     country_code varchar(2),
594     partition INTEGER,
595     keywords INTEGER[],
596     rank_search INTEGER,
597     rank_address INTEGER,
598     in_postcode TEXT,
599     geometry GEOMETRY
600   ) 
601   RETURNS BOOLEAN
602   AS $$
603 DECLARE
604   locationid INTEGER;
605   centroid GEOMETRY;
606   diameter FLOAT;
607   x BOOLEAN;
608   splitGeom RECORD;
609   secgeo GEOMETRY;
610   postcode TEXT;
611 BEGIN
612
613   IF rank_search > 25 THEN
614     RAISE EXCEPTION 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
615   END IF;
616
617   x := deleteLocationArea(partition, place_id, rank_search);
618
619   -- add postcode only if it contains a single entry, i.e. ignore postcode lists
620   postcode := NULL;
621   IF in_postcode is not null AND in_postcode not similar to '%(,|;)%' THEN
622       postcode := upper(trim (both ' ' from in_postcode));
623   END IF;
624
625   IF ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
626     centroid := ST_Centroid(geometry);
627
628     FOR secgeo IN select split_geometry(geometry) AS geom LOOP
629       x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, false, postcode, centroid, secgeo);
630     END LOOP;
631
632   ELSE
633
634     diameter := 0.02;
635     IF rank_address = 0 THEN
636       diameter := 0.02;
637     ELSEIF rank_search <= 14 THEN
638       diameter := 1.2;
639     ELSEIF rank_search <= 15 THEN
640       diameter := 1;
641     ELSEIF rank_search <= 16 THEN
642       diameter := 0.5;
643     ELSEIF rank_search <= 17 THEN
644       diameter := 0.2;
645     ELSEIF rank_search <= 21 THEN
646       diameter := 0.05;
647     ELSEIF rank_search = 25 THEN
648       diameter := 0.005;
649     END IF;
650
651 --    RAISE WARNING 'adding % diameter %', place_id, diameter;
652
653     secgeo := ST_Buffer(geometry, diameter);
654     x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, true, postcode, ST_Centroid(geometry), secgeo);
655
656   END IF;
657
658   RETURN true;
659 END;
660 $$
661 LANGUAGE plpgsql;
662
663
664 -- find the parent road of the cut road parts
665 CREATE OR REPLACE FUNCTION get_interpolation_parent(wayid BIGINT, street TEXT, place TEXT,
666                                                     partition INTEGER, centroid GEOMETRY, geom GEOMETRY)
667 RETURNS BIGINT AS $$
668 DECLARE
669   addr_street TEXT;
670   addr_place TEXT;
671   parent_place_id BIGINT;
672   address_street_word_ids INTEGER[];
673
674   waynodes BIGINT[];
675
676   location RECORD;
677 BEGIN
678   addr_street = street;
679   addr_place = place;
680
681   IF addr_street is null and addr_place is null THEN
682     select nodes from planet_osm_ways where id = wayid INTO waynodes;
683     FOR location IN SELECT placex.address from placex
684                     where osm_type = 'N' and osm_id = ANY(waynodes)
685                           and placex.address is not null
686                           and (placex.address ? 'street' or placex.address ? 'place')
687                           and indexed_status < 100
688                     limit 1 LOOP
689       addr_street = location.address->'street';
690       addr_place = location.address->'place';
691     END LOOP;
692   END IF;
693
694   IF addr_street IS NOT NULL THEN
695     address_street_word_ids := get_name_ids(make_standard_name(addr_street));
696     IF address_street_word_ids IS NOT NULL THEN
697       FOR location IN SELECT place_id from getNearestNamedRoadFeature(partition, centroid, address_street_word_ids) LOOP
698         parent_place_id := location.place_id;
699       END LOOP;
700     END IF;
701   END IF;
702
703   IF parent_place_id IS NULL AND addr_place IS NOT NULL THEN
704     address_street_word_ids := get_name_ids(make_standard_name(addr_place));
705     IF address_street_word_ids IS NOT NULL THEN
706       FOR location IN SELECT place_id from getNearestNamedPlaceFeature(partition, centroid, address_street_word_ids) LOOP
707         parent_place_id := location.place_id;
708       END LOOP;
709     END IF;
710   END IF;
711
712   IF parent_place_id is null THEN
713     FOR location IN SELECT place_id FROM placex
714         WHERE ST_DWithin(geom, placex.geometry, 0.001) and placex.rank_search = 26
715         ORDER BY (ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,0))+
716                   ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,0.5))+
717                   ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,1))) ASC limit 1
718     LOOP
719       parent_place_id := location.place_id;
720     END LOOP;
721   END IF;
722
723   IF parent_place_id is null THEN
724     RETURN 0;
725   END IF;
726
727   RETURN parent_place_id;
728 END;
729 $$
730 LANGUAGE plpgsql;
731
732
733 CREATE OR REPLACE FUNCTION osmline_insert() RETURNS TRIGGER
734   AS $$
735 BEGIN
736   NEW.place_id := nextval('seq_place');
737   NEW.indexed_date := now();
738
739   IF NEW.indexed_status IS NULL THEN
740       IF NEW.address is NULL OR NOT NEW.address ? 'interpolation'
741          OR NEW.address->'interpolation' NOT IN ('odd', 'even', 'all') THEN
742           -- other interpolation types than odd/even/all (e.g. numeric ones) are not supported
743           RETURN NULL;
744       END IF;
745
746       NEW.indexed_status := 1; --STATUS_NEW
747       NEW.country_code := lower(get_country_code(NEW.linegeo));
748
749       NEW.partition := get_partition(NEW.country_code);
750       NEW.geometry_sector := geometry_sector(NEW.partition, NEW.linegeo);
751   END IF;
752
753   RETURN NEW;
754 END;
755 $$
756 LANGUAGE plpgsql;
757
758
759 CREATE OR REPLACE FUNCTION placex_insert() RETURNS TRIGGER
760   AS $$
761 DECLARE
762   i INTEGER;
763   postcode TEXT;
764   result BOOLEAN;
765   country_code VARCHAR(2);
766   default_language VARCHAR(10);
767   diameter FLOAT;
768   classtable TEXT;
769   line RECORD;
770 BEGIN
771   --DEBUG: RAISE WARNING '% % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
772
773   NEW.place_id := nextval('seq_place');
774   NEW.indexed_status := 1; --STATUS_NEW
775
776   NEW.country_code := lower(get_country_code(NEW.geometry));
777
778   NEW.partition := get_partition(NEW.country_code);
779   NEW.geometry_sector := geometry_sector(NEW.partition, NEW.geometry);
780
781   -- copy 'name' to or from the default language (if there is a default language)
782   IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
783     default_language := get_country_language_code(NEW.country_code);
784     IF default_language IS NOT NULL THEN
785       IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
786         NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
787       ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
788         NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
789       END IF;
790     END IF;
791   END IF;
792
793   IF NEW.osm_type = 'X' THEN
794     -- E'X'ternal records should already be in the right format so do nothing
795   ELSE
796     NEW.rank_search := 30;
797     NEW.rank_address := NEW.rank_search;
798
799     -- By doing in postgres we have the country available to us - currently only used for postcode
800     IF NEW.class in ('place','boundary') AND NEW.type in ('postcode','postal_code') THEN
801
802         IF NEW.address IS NULL OR NOT NEW.address ? 'postcode' THEN
803             -- most likely just a part of a multipolygon postcode boundary, throw it away
804             RETURN NULL;
805         END IF;
806
807         NEW.postcode := NEW.address->'postcode';
808         NEW.name := hstore('ref', NEW.postcode);
809
810         SELECT * FROM get_postcode_rank(NEW.country_code, NEW.postcode)
811           INTO NEW.rank_search, NEW.rank_address;
812
813     ELSEIF NEW.class = 'place' THEN
814       IF NEW.type in ('continent') THEN
815         NEW.rank_search := 2;
816         NEW.rank_address := NEW.rank_search;
817         NEW.country_code := NULL;
818       ELSEIF NEW.type in ('sea') THEN
819         NEW.rank_search := 2;
820         NEW.rank_address := 0;
821         NEW.country_code := NULL;
822       ELSEIF NEW.type in ('country') THEN
823         NEW.rank_search := 4;
824         NEW.rank_address := NEW.rank_search;
825       ELSEIF NEW.type in ('state') THEN
826         NEW.rank_search := 8;
827         NEW.rank_address := NEW.rank_search;
828       ELSEIF NEW.type in ('region') THEN
829         NEW.rank_search := 18; -- dropped from previous value of 10
830         NEW.rank_address := 0; -- So badly miss-used that better to just drop it!
831       ELSEIF NEW.type in ('county') THEN
832         NEW.rank_search := 12;
833         NEW.rank_address := NEW.rank_search;
834       ELSEIF NEW.type in ('city') THEN
835         NEW.rank_search := 16;
836         NEW.rank_address := NEW.rank_search;
837       ELSEIF NEW.type in ('island') THEN
838         NEW.rank_search := 17;
839         NEW.rank_address := 0;
840       ELSEIF NEW.type in ('town') THEN
841         NEW.rank_search := 18;
842         NEW.rank_address := 16;
843       ELSEIF NEW.type in ('village','hamlet','municipality','district','unincorporated_area','borough') THEN
844         NEW.rank_search := 19;
845         NEW.rank_address := 16;
846       ELSEIF NEW.type in ('suburb','croft','subdivision','isolated_dwelling') THEN
847         NEW.rank_search := 20;
848         NEW.rank_address := NEW.rank_search;
849       ELSEIF NEW.type in ('farm','locality','islet','mountain_pass') THEN
850         NEW.rank_search := 20;
851         NEW.rank_address := 0;
852         -- Irish townlands, tagged as place=locality and locality=townland
853         IF (NEW.extratags -> 'locality') = 'townland' THEN
854           NEW.rank_address := 20;
855         END IF;
856       ELSEIF NEW.type in ('neighbourhood') THEN
857         NEW.rank_search := 22;
858         NEW.rank_address := 22;
859       ELSEIF NEW.type in ('house','building') THEN
860         NEW.rank_search := 30;
861         NEW.rank_address := NEW.rank_search;
862       ELSEIF NEW.type in ('houses') THEN
863         -- can't guarantee all required nodes loaded yet due to caching in osm2pgsql
864         NEW.rank_search := 28;
865         NEW.rank_address := 0;
866       END IF;
867
868     ELSEIF NEW.class = 'boundary' THEN
869       IF ST_GeometryType(NEW.geometry) NOT IN ('ST_Polygon','ST_MultiPolygon') THEN
870 --        RAISE WARNING 'invalid boundary %',NEW.osm_id;
871         return NULL;
872       END IF;
873       NEW.rank_search := NEW.admin_level * 2;
874       IF NEW.type = 'administrative' THEN
875         NEW.rank_address := NEW.rank_search;
876       ELSE
877         NEW.rank_address := 0;
878       END IF;
879     ELSEIF NEW.class = 'landuse' AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
880       NEW.rank_search := 22;
881       IF NEW.type in ('residential', 'farm', 'farmyard', 'industrial', 'commercial', 'allotments', 'retail') THEN
882         NEW.rank_address := NEW.rank_search;
883       ELSE
884         NEW.rank_address := 0;
885       END IF;
886     ELSEIF NEW.class = 'natural' and NEW.type in ('peak','volcano','mountain_range') THEN
887       NEW.rank_search := 18;
888       NEW.rank_address := 0;
889     ELSEIF NEW.class = 'natural' and NEW.type = 'sea' THEN
890       NEW.rank_search := 4;
891       NEW.rank_address := NEW.rank_search;
892     -- any feature more than 5 square miles is probably worth indexing
893     ELSEIF ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_Area(NEW.geometry) > 0.1 THEN
894       NEW.rank_search := 22;
895       NEW.rank_address := 0;
896     ELSEIF NEW.class = 'railway' AND NEW.type in ('rail') THEN
897       RETURN NULL;
898     ELSEIF NEW.class = 'waterway' THEN
899       IF NEW.osm_type = 'R' THEN
900         NEW.rank_search := 16;
901       ELSE
902         NEW.rank_search := 17;
903       END IF;
904       NEW.rank_address := 0;
905     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' AND NEW.type in ('service','cycleway','path','footway','steps','bridleway','motorway_link','primary_link','trunk_link','secondary_link','tertiary_link') THEN
906       NEW.rank_search := 27;
907       NEW.rank_address := NEW.rank_search;
908     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' THEN
909       NEW.rank_search := 26;
910       NEW.rank_address := NEW.rank_search;
911     ELSEIF NEW.class = 'mountain_pass' THEN
912         NEW.rank_search := 20;
913         NEW.rank_address := 0;
914     END IF;
915
916   END IF;
917
918   IF NEW.rank_search > 30 THEN
919     NEW.rank_search := 30;
920   END IF;
921
922   IF NEW.rank_address > 30 THEN
923     NEW.rank_address := 30;
924   END IF;
925
926   IF (NEW.extratags -> 'capital') = 'yes' THEN
927     NEW.rank_search := NEW.rank_search - 1;
928   END IF;
929
930   -- a country code make no sense below rank 4 (country)
931   IF NEW.rank_search < 4 THEN
932     NEW.country_code := NULL;
933   END IF;
934
935 -- Block import below rank 22
936 --  IF NEW.rank_search > 22 THEN
937 --    RETURN NULL;
938 --  END IF;
939
940   --DEBUG: RAISE WARNING 'placex_insert:END: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
941
942   RETURN NEW; -- %DIFFUPDATES% The following is not needed until doing diff updates, and slows the main index process down
943
944   IF NEW.rank_address > 0 THEN
945     IF (ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_IsValid(NEW.geometry)) THEN
946       -- Performance: We just can't handle re-indexing for country level changes
947       IF st_area(NEW.geometry) < 1 THEN
948         -- mark items within the geometry for re-indexing
949   --    RAISE WARNING 'placex poly insert: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
950
951         -- work around bug in postgis, this may have been fixed in 2.0.0 (see http://trac.osgeo.org/postgis/ticket/547)
952         update placex set indexed_status = 2 where (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry)) 
953          AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point' and (rank_search < 28 or name is not null or (NEW.rank_search >= 16 and address ? 'place'));
954         update placex set indexed_status = 2 where (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry)) 
955          AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point' and (rank_search < 28 or name is not null or (NEW.rank_search >= 16 and address ? 'place'));
956       END IF;
957     ELSE
958       -- mark nearby items for re-indexing, where 'nearby' depends on the features rank_search and is a complete guess :(
959       diameter := 0;
960       -- 16 = city, anything higher than city is effectively ignored (polygon required!)
961       IF NEW.type='postcode' THEN
962         diameter := 0.05;
963       ELSEIF NEW.rank_search < 16 THEN
964         diameter := 0;
965       ELSEIF NEW.rank_search < 18 THEN
966         diameter := 0.1;
967       ELSEIF NEW.rank_search < 20 THEN
968         diameter := 0.05;
969       ELSEIF NEW.rank_search = 21 THEN
970         diameter := 0.001;
971       ELSEIF NEW.rank_search < 24 THEN
972         diameter := 0.02;
973       ELSEIF NEW.rank_search < 26 THEN
974         diameter := 0.002; -- 100 to 200 meters
975       ELSEIF NEW.rank_search < 28 THEN
976         diameter := 0.001; -- 50 to 100 meters
977       END IF;
978       IF diameter > 0 THEN
979   --      RAISE WARNING 'placex point insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,diameter;
980         IF NEW.rank_search >= 26 THEN
981           -- roads may cause reparenting for >27 rank places
982           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter);
983           -- reparenting also for OSM Interpolation Lines (and for Tiger?)
984           update location_property_osmline set indexed_status = 2 where indexed_status = 0 and ST_DWithin(location_property_osmline.linegeo, NEW.geometry, diameter);
985         ELSEIF NEW.rank_search >= 16 THEN
986           -- up to rank 16, street-less addresses may need reparenting
987           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter) and (rank_search < 28 or name is not null or address ? 'place');
988         ELSE
989           -- for all other places the search terms may change as well
990           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter) and (rank_search < 28 or name is not null);
991         END IF;
992       END IF;
993     END IF;
994   END IF;
995
996
997    -- add to tables for special search
998    -- Note: won't work on initial import because the classtype tables
999    -- do not yet exist. It won't hurt either.
1000   classtable := 'place_classtype_' || NEW.class || '_' || NEW.type;
1001   SELECT count(*)>0 FROM pg_tables WHERE tablename = classtable and schemaname = current_schema() INTO result;
1002   IF result THEN
1003     EXECUTE 'INSERT INTO ' || classtable::regclass || ' (place_id, centroid) VALUES ($1,$2)' 
1004     USING NEW.place_id, ST_Centroid(NEW.geometry);
1005   END IF;
1006
1007   RETURN NEW;
1008
1009 END;
1010 $$
1011 LANGUAGE plpgsql;
1012
1013 CREATE OR REPLACE FUNCTION osmline_update() RETURNS 
1014 TRIGGER
1015   AS $$
1016 DECLARE
1017   place_centroid GEOMETRY;
1018   waynodes BIGINT[];
1019   prevnode RECORD;
1020   nextnode RECORD;
1021   startnumber INTEGER;
1022   endnumber INTEGER;
1023   housenum INTEGER;
1024   linegeo GEOMETRY;
1025   splitline GEOMETRY;
1026   sectiongeo GEOMETRY;
1027   postcode TEXT;
1028   seg_postcode TEXT;
1029 BEGIN
1030   -- deferred delete
1031   IF OLD.indexed_status = 100 THEN
1032     delete from location_property_osmline where place_id = OLD.place_id;
1033     RETURN NULL;
1034   END IF;
1035
1036   IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 THEN
1037     RETURN NEW;
1038   END IF;
1039
1040   NEW.interpolationtype = NEW.address->'interpolation';
1041
1042   place_centroid := ST_PointOnSurface(NEW.linegeo);
1043   NEW.parent_place_id = get_interpolation_parent(NEW.osm_id, NEW.address->'street',
1044                                                  NEW.address->'place',
1045                                                  NEW.partition, place_centroid, NEW.linegeo);
1046
1047
1048   IF NEW.address is not NULL and NEW.address ? 'postcode' THEN
1049       NEW.postcode = NEW.address->'postcode';
1050   END IF;
1051
1052   -- if the line was newly inserted, split the line as necessary
1053   IF OLD.indexed_status = 1 THEN
1054       select nodes from planet_osm_ways where id = NEW.osm_id INTO waynodes;
1055
1056       IF array_upper(waynodes, 1) IS NULL THEN
1057         RETURN NEW;
1058       END IF;
1059
1060       linegeo := NEW.linegeo;
1061       startnumber := NULL;
1062       postcode := NEW.postcode;
1063
1064       FOR nodeidpos in 1..array_upper(waynodes, 1) LOOP
1065
1066         select osm_id, address, geometry
1067           from place where osm_type = 'N' and osm_id = waynodes[nodeidpos]::BIGINT
1068                            and address is not NULL and address ? 'housenumber' limit 1 INTO nextnode;
1069         --RAISE NOTICE 'Nextnode.place_id: %s', nextnode.place_id;
1070         IF nextnode.osm_id IS NOT NULL THEN
1071           --RAISE NOTICE 'place_id is not null';
1072           IF nodeidpos > 1 and nodeidpos < array_upper(waynodes, 1) THEN
1073             -- Make sure that the point is actually on the line. That might
1074             -- be a bit paranoid but ensures that the algorithm still works
1075             -- should osm2pgsql attempt to repair geometries.
1076             splitline := split_line_on_node(linegeo, nextnode.geometry);
1077             sectiongeo := ST_GeometryN(splitline, 1);
1078             linegeo := ST_GeometryN(splitline, 2);
1079           ELSE
1080             sectiongeo = linegeo;
1081           END IF;
1082           endnumber := substring(nextnode.address->'housenumber','[0-9]+')::integer;
1083
1084           IF startnumber IS NOT NULL AND endnumber IS NOT NULL
1085              AND startnumber != endnumber
1086              AND ST_GeometryType(sectiongeo) = 'ST_LineString' THEN
1087
1088             IF (startnumber > endnumber) THEN
1089               housenum := endnumber;
1090               endnumber := startnumber;
1091               startnumber := housenum;
1092               sectiongeo := ST_Reverse(sectiongeo);
1093             END IF;
1094
1095             seg_postcode := coalesce(postcode,
1096                                      prevnode.address->'postcode',
1097                                      nextnode.address->'postcode');
1098
1099             IF NEW.startnumber IS NULL THEN
1100                 NEW.startnumber := startnumber;
1101                 NEW.endnumber := endnumber;
1102                 NEW.linegeo := sectiongeo;
1103                 NEW.postcode := seg_postcode;
1104              ELSE
1105               insert into location_property_osmline
1106                      (linegeo, partition, osm_id, parent_place_id,
1107                       startnumber, endnumber, interpolationtype,
1108                       address, postcode, country_code,
1109                       geometry_sector, indexed_status)
1110               values (sectiongeo, NEW.partition, NEW.osm_id, NEW.parent_place_id,
1111                       startnumber, endnumber, NEW.interpolationtype,
1112                       NEW.address, seg_postcode,
1113                       NEW.country_code, NEW.geometry_sector, 0);
1114              END IF;
1115           END IF;
1116
1117           -- early break if we are out of line string,
1118           -- might happen when a line string loops back on itself
1119           IF ST_GeometryType(linegeo) != 'ST_LineString' THEN
1120               RETURN NEW;
1121           END IF;
1122
1123           startnumber := substring(nextnode.address->'housenumber','[0-9]+')::integer;
1124           prevnode := nextnode;
1125         END IF;
1126       END LOOP;
1127   END IF;
1128
1129   -- marking descendants for reparenting is not needed, because there are
1130   -- actually no descendants for interpolation lines
1131   RETURN NEW;
1132 END;
1133 $$
1134 LANGUAGE plpgsql;
1135
1136 -- Trigger for updates of location_postcode
1137 --
1138 -- Computes the parent object the postcode most likely refers to.
1139 -- This will be the place that determines the address displayed when
1140 -- searching for this postcode.
1141 CREATE OR REPLACE FUNCTION postcode_update() RETURNS
1142 TRIGGER
1143   AS $$
1144 DECLARE
1145   partition SMALLINT;
1146   location RECORD;
1147 BEGIN
1148     IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 THEN
1149         RETURN NEW;
1150     END IF;
1151
1152     NEW.indexed_date = now();
1153
1154     partition := get_partition(NEW.country_code);
1155
1156     SELECT * FROM get_postcode_rank(NEW.country_code, NEW.postcode)
1157       INTO NEW.rank_search, NEW.rank_address;
1158
1159     NEW.parent_place_id = 0;
1160     FOR location IN
1161       SELECT place_id
1162         FROM getNearFeatures(partition, NEW.geometry, NEW.rank_search, '{}'::int[])
1163         WHERE NOT isguess ORDER BY rank_address DESC LIMIT 1
1164     LOOP
1165         NEW.parent_place_id = location.place_id;
1166     END LOOP;
1167
1168     RETURN NEW;
1169 END;
1170 $$
1171 LANGUAGE plpgsql;
1172
1173 CREATE OR REPLACE FUNCTION placex_update() RETURNS
1174 TRIGGER
1175   AS $$
1176 DECLARE
1177
1178   place_centroid GEOMETRY;
1179
1180   search_maxdistance FLOAT[];
1181   search_mindistance FLOAT[];
1182   address_havelevel BOOLEAN[];
1183
1184   i INTEGER;
1185   iMax FLOAT;
1186   location RECORD;
1187   way RECORD;
1188   relation RECORD;
1189   relation_members TEXT[];
1190   relMember RECORD;
1191   linkedplacex RECORD;
1192   search_diameter FLOAT;
1193   search_prevdiameter FLOAT;
1194   search_maxrank INTEGER;
1195   address_maxrank INTEGER;
1196   address_street_word_id INTEGER;
1197   address_street_word_ids INTEGER[];
1198   parent_place_id_rank BIGINT;
1199
1200   addr_street TEXT;
1201   addr_place TEXT;
1202
1203   isin TEXT[];
1204   isin_tokens INT[];
1205
1206   location_rank_search INTEGER;
1207   location_distance FLOAT;
1208   location_parent GEOMETRY;
1209   location_isaddress BOOLEAN;
1210   location_keywords INTEGER[];
1211
1212   default_language TEXT;
1213   name_vector INTEGER[];
1214   nameaddress_vector INTEGER[];
1215
1216   linked_node_id BIGINT;
1217   linked_importance FLOAT;
1218   linked_wikipedia TEXT;
1219
1220   result BOOLEAN;
1221 BEGIN
1222   -- deferred delete
1223   IF OLD.indexed_status = 100 THEN
1224     --DEBUG: RAISE WARNING 'placex_update delete % %',NEW.osm_type,NEW.osm_id;
1225     delete from placex where place_id = OLD.place_id;
1226     RETURN NULL;
1227   END IF;
1228
1229   IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 THEN
1230     RETURN NEW;
1231   END IF;
1232
1233   --DEBUG: RAISE WARNING 'placex_update % % (%)',NEW.osm_type,NEW.osm_id,NEW.place_id;
1234
1235   NEW.indexed_date = now();
1236
1237   result := deleteSearchName(NEW.partition, NEW.place_id);
1238   DELETE FROM place_addressline WHERE place_id = NEW.place_id;
1239   result := deleteRoad(NEW.partition, NEW.place_id);
1240   result := deleteLocationArea(NEW.partition, NEW.place_id, NEW.rank_search);
1241   UPDATE placex set linked_place_id = null, indexed_status = 2
1242          where linked_place_id = NEW.place_id;
1243   -- update not necessary for osmline, cause linked_place_id does not exist
1244
1245   IF NEW.linked_place_id is not null THEN
1246     --DEBUG: RAISE WARNING 'place already linked to %', NEW.linked_place_id;
1247     RETURN NEW;
1248   END IF;
1249
1250   --DEBUG: RAISE WARNING 'Copy over address tags';
1251   IF NEW.address is not NULL THEN
1252       IF NEW.address ? 'conscriptionnumber' THEN
1253         i := getorcreate_housenumber_id(make_standard_name(NEW.address->'conscriptionnumber'));
1254         IF NEW.address ? 'streetnumber' THEN
1255             i := getorcreate_housenumber_id(make_standard_name(NEW.address->'streetnumber'));
1256             NEW.housenumber := (NEW.address->'conscriptionnumber') || '/' || (NEW.address->'streetnumber');
1257         ELSE
1258             NEW.housenumber := NEW.address->'conscriptionnumber';
1259         END IF;
1260       ELSEIF NEW.address ? 'streetnumber' THEN
1261         NEW.housenumber := NEW.address->'streetnumber';
1262         i := getorcreate_housenumber_id(make_standard_name(NEW.address->'streetnumber'));
1263       ELSEIF NEW.address ? 'housenumber' THEN
1264         NEW.housenumber := NEW.address->'housenumber';
1265         i := getorcreate_housenumber_id(make_standard_name(NEW.housenumber));
1266       END IF;
1267
1268       addr_street = NEW.address->'street';
1269       addr_place = NEW.address->'place';
1270   END IF;
1271
1272   -- Speed up searches - just use the centroid of the feature
1273   -- cheaper but less acurate
1274   place_centroid := ST_PointOnSurface(NEW.geometry);
1275   NEW.centroid := null;
1276   --DEBUG: RAISE WARNING 'Computing preliminary centroid at %',ST_AsText(place_centroid);
1277
1278   -- recalculate country and partition
1279   IF NEW.rank_search = 4 AND NEW.address is not NULL AND NEW.address ? 'country' THEN
1280     -- for countries, believe the mapped country code,
1281     -- so that we remain in the right partition if the boundaries
1282     -- suddenly expand.
1283     NEW.country_code := lower(NEW.address->'country');
1284     NEW.partition := get_partition(lower(NEW.country_code));
1285     IF NEW.partition = 0 THEN
1286       NEW.country_code := lower(get_country_code(place_centroid));
1287       NEW.partition := get_partition(NEW.country_code);
1288     END IF;
1289   ELSE
1290     IF NEW.rank_search >= 4 THEN
1291       NEW.country_code := lower(get_country_code(place_centroid));
1292     ELSE
1293       NEW.country_code := NULL;
1294     END IF;
1295     NEW.partition := get_partition(NEW.country_code);
1296   END IF;
1297   --DEBUG: RAISE WARNING 'Country updated: "%"', NEW.country_code;
1298
1299   -- waterway ways are linked when they are part of a relation and have the same class/type
1300   IF NEW.osm_type = 'R' and NEW.class = 'waterway' THEN
1301       FOR relation_members IN select members from planet_osm_rels r where r.id = NEW.osm_id and r.parts != array[]::bigint[]
1302       LOOP
1303           FOR i IN 1..array_upper(relation_members, 1) BY 2 LOOP
1304               IF relation_members[i+1] in ('', 'main_stream', 'side_stream') AND substring(relation_members[i],1,1) = 'w' THEN
1305                 --DEBUG: RAISE WARNING 'waterway parent %, child %/%', NEW.osm_id, i, relation_members[i];
1306                 FOR linked_node_id IN SELECT place_id FROM placex
1307                   WHERE osm_type = 'W' and osm_id = substring(relation_members[i],2,200)::bigint
1308                   and class = NEW.class and type = NEW.type
1309                   and ( relation_members[i+1] != 'side_stream' or NEW.name->'name' = name->'name')
1310                 LOOP
1311                   UPDATE placex SET linked_place_id = NEW.place_id WHERE place_id = linked_node_id;
1312                 END LOOP;
1313               END IF;
1314           END LOOP;
1315       END LOOP;
1316       --DEBUG: RAISE WARNING 'Waterway processed';
1317   END IF;
1318
1319   -- Adding ourselves to the list simplifies address calculations later
1320   INSERT INTO place_addressline (place_id, address_place_id, fromarea, isaddress, distance, cached_rank_address)
1321     VALUES (NEW.place_id, NEW.place_id, true, true, 0, NEW.rank_address); 
1322
1323   -- What level are we searching from
1324   search_maxrank := NEW.rank_search;
1325
1326   -- Thought this wasn't needed but when we add new languages to the country_name table
1327   -- we need to update the existing names
1328   IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
1329     default_language := get_country_language_code(NEW.country_code);
1330     IF default_language IS NOT NULL THEN
1331       IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
1332         NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
1333       ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
1334         NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
1335       END IF;
1336     END IF;
1337   END IF;
1338   --DEBUG: RAISE WARNING 'Local names updated';
1339
1340   -- Initialise the name vector using our name
1341   name_vector := make_keywords(NEW.name);
1342   nameaddress_vector := '{}'::int[];
1343
1344   FOR i IN 1..28 LOOP
1345     address_havelevel[i] := false;
1346   END LOOP;
1347
1348   NEW.importance := null;
1349   select language||':'||title,importance from get_wikipedia_match(NEW.extratags, NEW.country_code) INTO NEW.wikipedia,NEW.importance;
1350   IF NEW.importance IS NULL THEN
1351     select language||':'||title,importance from wikipedia_article where osm_type = NEW.osm_type and osm_id = NEW.osm_id order by importance desc limit 1 INTO NEW.wikipedia,NEW.importance;
1352   END IF;
1353
1354 --DEBUG: RAISE WARNING 'Importance computed from wikipedia: %', NEW.importance;
1355
1356   -- ---------------------------------------------------------------------------
1357   -- For low level elements we inherit from our parent road
1358   IF (NEW.rank_search > 27 OR (NEW.type = 'postcode' AND NEW.rank_search = 25)) THEN
1359
1360     --DEBUG: RAISE WARNING 'finding street for % %', NEW.osm_type, NEW.osm_id;
1361
1362     -- We won't get a better centroid, besides these places are too small to care
1363     NEW.centroid := place_centroid;
1364
1365     NEW.parent_place_id := null;
1366
1367     -- if we have a POI and there is no address information,
1368     -- see if we can get it from a surrounding building
1369     IF NEW.osm_type = 'N' AND addr_street IS NULL AND addr_place IS NULL
1370        AND NEW.housenumber IS NULL THEN
1371       FOR location IN select * from placex where ST_Covers(geometry, place_centroid)
1372             and address is not null
1373             and (address ? 'housenumber' or address ? 'street' or address ? 'place')
1374             and rank_search > 28 AND ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon')
1375             limit 1
1376       LOOP
1377         NEW.housenumber := location.address->'housenumber';
1378         addr_street := location.address->'street';
1379         addr_place := location.address->'place';
1380         --DEBUG: RAISE WARNING 'Found surrounding building % %', location.osm_type, location.osm_id;
1381       END LOOP;
1382     END IF;
1383
1384     -- We have to find our parent road.
1385     -- Copy data from linked items (points on ways, addr:street links, relations)
1386
1387     -- Is this object part of a relation?
1388     FOR relation IN select * from planet_osm_rels where parts @> ARRAY[NEW.osm_id] and members @> ARRAY[lower(NEW.osm_type)||NEW.osm_id]
1389     LOOP
1390       -- At the moment we only process one type of relation - associatedStreet
1391       IF relation.tags @> ARRAY['associatedStreet'] THEN
1392         FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1393           IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1394 --RAISE WARNING 'node in relation %',relation;
1395             SELECT place_id from placex where osm_type = 'W'
1396               and osm_id = substring(relation.members[i],2,200)::bigint
1397               and rank_search = 26 and name is not null INTO NEW.parent_place_id;
1398           END IF;
1399         END LOOP;
1400       END IF;
1401     END LOOP;
1402     --DEBUG: RAISE WARNING 'Checked for street relation (%)', NEW.parent_place_id;
1403
1404     -- Note that addr:street links can only be indexed once the street itself is indexed
1405     IF NEW.parent_place_id IS NULL AND addr_street IS NOT NULL THEN
1406       address_street_word_ids := get_name_ids(make_standard_name(addr_street));
1407       IF address_street_word_ids IS NOT NULL THEN
1408         FOR location IN SELECT * from getNearestNamedRoadFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1409             NEW.parent_place_id := location.place_id;
1410         END LOOP;
1411       END IF;
1412     END IF;
1413     --DEBUG: RAISE WARNING 'Checked for addr:street (%)', NEW.parent_place_id;
1414
1415     IF NEW.parent_place_id IS NULL AND addr_place IS NOT NULL THEN
1416       address_street_word_ids := get_name_ids(make_standard_name(addr_place));
1417       IF address_street_word_ids IS NOT NULL THEN
1418         FOR location IN SELECT * from getNearestNamedPlaceFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1419           NEW.parent_place_id := location.place_id;
1420         END LOOP;
1421       END IF;
1422     END IF;
1423     --DEBUG: RAISE WARNING 'Checked for addr:place (%)', NEW.parent_place_id;
1424
1425     -- Is this node part of an interpolation?
1426     IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'N' THEN
1427       FOR location IN
1428         SELECT q.parent_place_id FROM location_property_osmline q, planet_osm_ways x
1429          WHERE q.linegeo && NEW.geometry and x.id = q.osm_id and NEW.osm_id = any(x.nodes)
1430          LIMIT 1
1431       LOOP
1432          NEW.parent_place_id := location.parent_place_id;
1433       END LOOP;
1434     END IF;
1435     --DEBUG: RAISE WARNING 'Checked for interpolation (%)', NEW.parent_place_id;
1436
1437     -- Is this node part of a way?
1438     IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'N' THEN
1439
1440       FOR location IN select p.place_id, p.osm_id, p.parent_place_id, p.rank_search, p.address from placex p, planet_osm_ways w
1441          where p.osm_type = 'W' and p.rank_search >= 26 and p.geometry && NEW.geometry and w.id = p.osm_id and NEW.osm_id = any(w.nodes) 
1442       LOOP
1443         --DEBUG: RAISE WARNING 'Node is part of way % ', location.osm_id;
1444
1445         -- Way IS a road then we are on it - that must be our road
1446         IF location.rank_search < 28 AND NEW.parent_place_id IS NULL THEN
1447 --RAISE WARNING 'node in way that is a street %',location;
1448           NEW.parent_place_id := location.place_id;
1449         END IF;
1450         --DEBUG: RAISE WARNING 'Checked if way is street (%)', NEW.parent_place_id;
1451
1452         -- If the way mentions a street or place address, try that for parenting.
1453         IF NEW.parent_place_id IS NULL AND location.address ? 'street' THEN
1454           address_street_word_ids := get_name_ids(make_standard_name(location.address->'street'));
1455           IF address_street_word_ids IS NOT NULL THEN
1456             FOR linkedplacex IN SELECT place_id from getNearestNamedRoadFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1457                 NEW.parent_place_id := linkedplacex.place_id;
1458             END LOOP;
1459           END IF;
1460         END IF;
1461         --DEBUG: RAISE WARNING 'Checked for addr:street in way (%)', NEW.parent_place_id;
1462
1463         IF NEW.parent_place_id IS NULL AND location.address ? 'place' THEN
1464           address_street_word_ids := get_name_ids(make_standard_name(location.address->'place'));
1465           IF address_street_word_ids IS NOT NULL THEN
1466             FOR linkedplacex IN SELECT place_id from getNearestNamedPlaceFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1467               NEW.parent_place_id := linkedplacex.place_id;
1468             END LOOP;
1469           END IF;
1470         END IF;
1471         --DEBUG: RAISE WARNING 'Checked for addr:place in way (%)', NEW.parent_place_id;
1472
1473         -- Is the WAY part of a relation
1474         IF NEW.parent_place_id IS NULL THEN
1475             FOR relation IN select * from planet_osm_rels where parts @> ARRAY[location.osm_id] and members @> ARRAY['w'||location.osm_id]
1476             LOOP
1477               -- At the moment we only process one type of relation - associatedStreet
1478               IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1479                 FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1480                   IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1481   --RAISE WARNING 'node in way that is in a relation %',relation;
1482                     SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::bigint 
1483                       and rank_search = 26 and name is not null INTO NEW.parent_place_id;
1484                   END IF;
1485                 END LOOP;
1486               END IF;
1487             END LOOP;
1488         END IF;
1489         --DEBUG: RAISE WARNING 'Checked for street relation in way (%)', NEW.parent_place_id;
1490
1491       END LOOP;
1492
1493     END IF;
1494
1495     -- Still nothing, just use the nearest road
1496     IF NEW.parent_place_id IS NULL THEN
1497       FOR location IN SELECT place_id FROM getNearestRoadFeature(NEW.partition, place_centroid) LOOP
1498         NEW.parent_place_id := location.place_id;
1499       END LOOP;
1500     END IF;
1501     --DEBUG: RAISE WARNING 'Checked for nearest way (%)', NEW.parent_place_id;
1502
1503
1504     -- If we didn't find any road fallback to standard method
1505     IF NEW.parent_place_id IS NOT NULL THEN
1506
1507       -- Get the details of the parent road
1508       select * from search_name where place_id = NEW.parent_place_id INTO location;
1509       NEW.country_code := location.country_code;
1510       --DEBUG: RAISE WARNING 'Got parent details from search name';
1511
1512       -- determine postcode
1513       IF NEW.address is not null AND NEW.address ? 'postcode' THEN
1514           NEW.postcode = NEW.address->'postcode';
1515       ELSE
1516          SELECT postcode FROM placex WHERE place_id = parent_place_id INTO NEW.postcode;
1517       END IF;
1518       IF NEW.postcode is null THEN
1519         NEW.postcode := get_nearest_postcode(NEW.country_code, place_centroid);
1520       END IF;
1521
1522       -- Merge the postcode into the parent's address if necessary
1523       IF NEW.postcode IS NOT NULL THEN
1524         --DEBUG: RAISE WARNING 'Merging postcode into parent';
1525         isin_tokens := '{}'::int[];
1526         address_street_word_id := getorcreate_word_id(make_standard_name(NEW.postcode));
1527         IF address_street_word_id is not null
1528            and not ARRAY[address_street_word_id] <@ location.nameaddress_vector THEN
1529            isin_tokens := isin_tokens || address_street_word_id;
1530         END IF;
1531         address_street_word_id := getorcreate_name_id(make_standard_name(NEW.postcode));
1532         IF address_street_word_id is not null
1533            and not ARRAY[address_street_word_id] <@ location.nameaddress_vector THEN
1534            isin_tokens := isin_tokens || address_street_word_id;
1535         END IF;
1536         IF isin_tokens != '{}'::int[] THEN
1537            UPDATE search_name
1538               SET nameaddress_vector = search_name.nameaddress_vector || isin_tokens
1539             WHERE place_id = NEW.parent_place_id;
1540         END IF;
1541       END IF;
1542
1543       -- If there is no name it isn't searchable, don't bother to create a search record
1544       IF NEW.name is NULL THEN
1545         --DEBUG: RAISE WARNING 'Not a searchable place % %', NEW.osm_type, NEW.osm_id;
1546         return NEW;
1547       END IF;
1548
1549       -- Merge address from parent
1550       nameaddress_vector := array_merge(nameaddress_vector, location.nameaddress_vector);
1551       nameaddress_vector := array_merge(nameaddress_vector, location.name_vector);
1552
1553       -- Performance, it would be more acurate to do all the rest of the import
1554       -- process but it takes too long
1555       -- Just be happy with inheriting from parent road only
1556
1557       IF NEW.rank_search <= 25 and NEW.rank_address > 0 THEN
1558         result := add_location(NEW.place_id, NEW.country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.address->'postcode', NEW.geometry);
1559         --DEBUG: RAISE WARNING 'Place added to location table';
1560       END IF;
1561
1562       result := insertSearchName(NEW.partition, NEW.place_id, NEW.country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid, NEW.geometry);
1563       --DEBUG: RAISE WARNING 'Place added to search table';
1564
1565       return NEW;
1566     END IF;
1567
1568   END IF;
1569
1570   -- ---------------------------------------------------------------------------
1571   -- Full indexing
1572   --DEBUG: RAISE WARNING 'Using full index mode for % %', NEW.osm_type, NEW.osm_id;
1573
1574   IF NEW.osm_type = 'R' AND NEW.rank_search < 26 THEN
1575
1576     -- see if we have any special relation members
1577     select members from planet_osm_rels where id = NEW.osm_id INTO relation_members;
1578     --DEBUG: RAISE WARNING 'Got relation members';
1579
1580     IF relation_members IS NOT NULL THEN
1581       FOR relMember IN select get_osm_rel_members(relation_members,ARRAY['label']) as member LOOP
1582         --DEBUG: RAISE WARNING 'Found label member %', relMember.member;
1583
1584         FOR linkedPlacex IN select * from placex where osm_type = upper(substring(relMember.member,1,1))::char(1) 
1585           and osm_id = substring(relMember.member,2,10000)::bigint
1586           and class = 'place' order by rank_search desc limit 1 LOOP
1587
1588           -- If we don't already have one use this as the centre point of the geometry
1589           IF NEW.centroid IS NULL THEN
1590             NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1591           END IF;
1592
1593           -- merge in the label name, re-init word vector
1594           IF NOT linkedPlacex.name IS NULL THEN
1595             NEW.name := linkedPlacex.name || NEW.name;
1596             name_vector := array_merge(name_vector, make_keywords(linkedPlacex.name));
1597           END IF;
1598
1599           -- merge in extra tags
1600           NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1601
1602           -- mark the linked place (excludes from search results)
1603           UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1604
1605           -- keep a note of the node id in case we need it for wikipedia in a bit
1606           linked_node_id := linkedPlacex.osm_id;
1607           select language||':'||title,importance from get_wikipedia_match(linkedPlacex.extratags, NEW.country_code) INTO linked_wikipedia,linked_importance;
1608           --DEBUG: RAISE WARNING 'Linked label member';
1609         END LOOP;
1610
1611       END LOOP;
1612
1613       IF NEW.centroid IS NULL THEN
1614
1615         FOR relMember IN select get_osm_rel_members(relation_members,ARRAY['admin_center','admin_centre']) as member LOOP
1616           --DEBUG: RAISE WARNING 'Found admin_center member %', relMember.member;
1617
1618           FOR linkedPlacex IN select * from placex where osm_type = upper(substring(relMember.member,1,1))::char(1) 
1619             and osm_id = substring(relMember.member,2,10000)::bigint
1620             and class = 'place' order by rank_search desc limit 1 LOOP
1621
1622             -- For an admin centre we also want a name match - still not perfect, for example 'new york, new york'
1623             -- But that can be fixed by explicitly setting the label in the data
1624             IF make_standard_name(NEW.name->'name') = make_standard_name(linkedPlacex.name->'name') 
1625               AND NEW.rank_address = linkedPlacex.rank_address THEN
1626
1627               -- If we don't already have one use this as the centre point of the geometry
1628               IF NEW.centroid IS NULL THEN
1629                 NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1630               END IF;
1631
1632               -- merge in the name, re-init word vector
1633               IF NOT linkedPlacex.name IS NULL THEN
1634                 NEW.name := linkedPlacex.name || NEW.name;
1635                 name_vector := make_keywords(NEW.name);
1636               END IF;
1637
1638               -- merge in extra tags
1639               NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1640
1641               -- mark the linked place (excludes from search results)
1642               UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1643
1644               -- keep a note of the node id in case we need it for wikipedia in a bit
1645               linked_node_id := linkedPlacex.osm_id;
1646               select language||':'||title,importance from get_wikipedia_match(linkedPlacex.extratags, NEW.country_code) INTO linked_wikipedia,linked_importance;
1647               --DEBUG: RAISE WARNING 'Linked admin_center';
1648             END IF;
1649
1650           END LOOP;
1651
1652         END LOOP;
1653
1654       END IF;
1655     END IF;
1656
1657   END IF;
1658
1659   -- Name searches can be done for ways as well as relations
1660   IF NEW.osm_type in ('W','R') AND NEW.rank_search < 26 AND NEW.rank_address > 0 THEN
1661
1662     -- not found one yet? how about doing a name search
1663     IF NEW.centroid IS NULL AND (NEW.name->'name') is not null and make_standard_name(NEW.name->'name') != '' THEN
1664
1665       --DEBUG: RAISE WARNING 'Looking for nodes with matching names';
1666       FOR linkedPlacex IN select placex.* from placex WHERE
1667         make_standard_name(name->'name') = make_standard_name(NEW.name->'name')
1668         AND placex.rank_address = NEW.rank_address
1669         AND placex.place_id != NEW.place_id
1670         AND placex.osm_type = 'N'::char(1) AND placex.rank_search < 26
1671         AND st_covers(NEW.geometry, placex.geometry)
1672       LOOP
1673         --DEBUG: RAISE WARNING 'Found matching place node %', linkedPlacex.osm_id;
1674         -- If we don't already have one use this as the centre point of the geometry
1675         IF NEW.centroid IS NULL THEN
1676           NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1677         END IF;
1678
1679         -- merge in the name, re-init word vector
1680         NEW.name := linkedPlacex.name || NEW.name;
1681         name_vector := make_keywords(NEW.name);
1682
1683         -- merge in extra tags
1684         NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1685
1686         -- mark the linked place (excludes from search results)
1687         UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1688
1689         -- keep a note of the node id in case we need it for wikipedia in a bit
1690         linked_node_id := linkedPlacex.osm_id;
1691         select language||':'||title,importance from get_wikipedia_match(linkedPlacex.extratags, NEW.country_code) INTO linked_wikipedia,linked_importance;
1692         --DEBUG: RAISE WARNING 'Linked named place';
1693       END LOOP;
1694     END IF;
1695
1696     IF NEW.centroid IS NOT NULL THEN
1697       place_centroid := NEW.centroid;
1698       -- Place might have had only a name tag before but has now received translations
1699       -- from the linked place. Make sure a name tag for the default language exists in
1700       -- this case. 
1701       IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
1702         default_language := get_country_language_code(NEW.country_code);
1703         IF default_language IS NOT NULL THEN
1704           IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
1705             NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
1706           ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
1707             NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
1708           END IF;
1709         END IF;
1710       END IF;
1711       --DEBUG: RAISE WARNING 'Names updated from linked places';
1712     END IF;
1713
1714     -- Use the maximum importance if a one could be computed from the linked object.
1715     IF linked_importance is not null AND
1716         (NEW.importance is null or NEW.importance < linked_importance) THEN
1717         NEW.importance = linked_importance;
1718     END IF;
1719
1720     -- Still null? how about looking it up by the node id
1721     IF NEW.importance IS NULL THEN
1722       --DEBUG: RAISE WARNING 'Looking up importance by linked node id';
1723       select language||':'||title,importance from wikipedia_article where osm_type = 'N'::char(1) and osm_id = linked_node_id order by importance desc limit 1 INTO NEW.wikipedia,NEW.importance;
1724     END IF;
1725
1726   END IF;
1727
1728   -- make sure all names are in the word table
1729   IF NEW.admin_level = 2 AND NEW.class = 'boundary' AND NEW.type = 'administrative' AND NEW.country_code IS NOT NULL THEN
1730     perform create_country(NEW.name, lower(NEW.country_code));
1731     --DEBUG: RAISE WARNING 'Country names updated';
1732   END IF;
1733
1734   NEW.parent_place_id = 0;
1735   parent_place_id_rank = 0;
1736
1737
1738   -- convert isin to array of tokenids
1739   --DEBUG: RAISE WARNING 'Starting address search';
1740   isin_tokens := '{}'::int[];
1741   IF NEW.address IS NOT NULL THEN
1742     isin := avals(NEW.address);
1743     IF array_upper(isin, 1) IS NOT NULL THEN
1744       FOR i IN 1..array_upper(isin, 1) LOOP
1745         -- TODO further split terms with comma and semicolon
1746         address_street_word_id := get_name_id(make_standard_name(isin[i]));
1747         IF address_street_word_id IS NOT NULL AND NOT(ARRAY[address_street_word_id] <@ isin_tokens) THEN
1748           nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1749           isin_tokens := isin_tokens || address_street_word_id;
1750         END IF;
1751
1752         -- merge word into address vector
1753         address_street_word_id := get_word_id(make_standard_name(isin[i]));
1754         IF address_street_word_id IS NOT NULL THEN
1755           nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1756         END IF;
1757       END LOOP;
1758     END IF;
1759   END IF;
1760
1761   -- %NOTIGERDATA% IF 0 THEN
1762   -- for the USA we have an additional address table.  Merge in zip codes from there too
1763   IF NEW.rank_search = 26 AND NEW.country_code = 'us' THEN
1764     FOR location IN SELECT distinct postcode from location_property_tiger where parent_place_id = NEW.place_id LOOP
1765       address_street_word_id := get_name_id(make_standard_name(location.postcode));
1766       nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1767       isin_tokens := isin_tokens || address_street_word_id;
1768
1769       -- also merge in the single word version
1770       address_street_word_id := get_word_id(make_standard_name(location.postcode));
1771       nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1772     END LOOP;
1773   END IF;
1774   --DEBUG: RAISE WARNING 'Tiger postcodes collected';
1775   -- %NOTIGERDATA% END IF;
1776
1777 -- RAISE WARNING 'ISIN: %', isin_tokens;
1778
1779   -- Process area matches
1780   location_rank_search := 0;
1781   location_distance := 0;
1782   location_parent := NULL;
1783   -- added ourself as address already
1784   address_havelevel[NEW.rank_address] := true;
1785   --DEBUG: RAISE WARNING '  getNearFeatures(%,''%'',%,''%'')',NEW.partition, place_centroid, search_maxrank, isin_tokens;
1786   FOR location IN
1787     SELECT * from getNearFeatures(NEW.partition,
1788                                   CASE WHEN NEW.rank_search >= 26
1789                                              AND NEW.rank_search < 30
1790                                        THEN NEW.geometry
1791                                        ELSE place_centroid END,
1792                                   search_maxrank, isin_tokens)
1793   LOOP
1794     IF location.rank_address != location_rank_search THEN
1795       location_rank_search := location.rank_address;
1796       IF location.isguess THEN
1797         location_distance := location.distance * 1.5;
1798       ELSE
1799         IF location.rank_address <= 12 THEN
1800           -- for county and above, if we have an area consider that exact
1801           -- (It would be nice to relax the constraint for places close to
1802           --  the boundary but we'd need the exact geometry for that. Too
1803           --  expensive.)
1804           location_distance = 0;
1805         ELSE
1806           -- Below county level remain slightly fuzzy.
1807           location_distance := location.distance * 0.5;
1808         END IF;
1809       END IF;
1810     ELSE
1811       CONTINUE WHEN location.keywords <@ location_keywords;
1812     END IF;
1813
1814     IF location.distance < location_distance OR NOT location.isguess THEN
1815       location_keywords := location.keywords;
1816
1817       location_isaddress := NOT address_havelevel[location.rank_address];
1818       IF location_isaddress AND location.isguess AND location_parent IS NOT NULL THEN
1819           location_isaddress := ST_Contains(location_parent,location.centroid);
1820       END IF;
1821
1822       -- RAISE WARNING '% isaddress: %', location.place_id, location_isaddress;
1823       -- Add it to the list of search terms
1824       IF location.rank_search > 4 THEN
1825           nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1826       END IF;
1827       INSERT INTO place_addressline (place_id, address_place_id, fromarea, isaddress, distance, cached_rank_address)
1828         VALUES (NEW.place_id, location.place_id, true, location_isaddress, location.distance, location.rank_address);
1829
1830       IF location_isaddress THEN
1831         -- add postcode if we have one
1832         -- (If multiple postcodes are available, we end up with the highest ranking one.)
1833         IF location.postcode is not null THEN
1834             NEW.postcode = location.postcode;
1835         END IF;
1836
1837         address_havelevel[location.rank_address] := true;
1838         IF NOT location.isguess THEN
1839           SELECT geometry FROM placex WHERE place_id = location.place_id INTO location_parent;
1840         END IF;
1841
1842         IF location.rank_address > parent_place_id_rank THEN
1843           NEW.parent_place_id = location.place_id;
1844           parent_place_id_rank = location.rank_address;
1845         END IF;
1846
1847       END IF;
1848
1849     --DEBUG: RAISE WARNING '  Terms: (%) %',location, nameaddress_vector;
1850
1851     END IF;
1852
1853   END LOOP;
1854   --DEBUG: RAISE WARNING 'address computed';
1855
1856   -- try using the isin value to find parent places
1857   IF array_upper(isin_tokens, 1) IS NOT NULL THEN
1858     FOR i IN 1..array_upper(isin_tokens, 1) LOOP
1859 --RAISE WARNING '  getNearestNamedFeature: % % % %',NEW.partition, place_centroid, search_maxrank, isin_tokens[i];
1860       IF NOT ARRAY[isin_tokens[i]] <@ nameaddress_vector THEN
1861
1862         FOR location IN SELECT * from getNearestNamedFeature(NEW.partition, place_centroid, search_maxrank, isin_tokens[i]) LOOP
1863
1864 --RAISE WARNING '  ISIN: %',location;
1865
1866           IF location.rank_search > 4 THEN
1867               nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1868               INSERT INTO place_addressline (place_id, address_place_id, fromarea, isaddress, distance, cached_rank_address)
1869                 VALUES (NEW.place_id, location.place_id, false, NOT address_havelevel[location.rank_address], location.distance, location.rank_address);
1870               IF NEW.postcode is null AND location.postcode is not null
1871                  AND NOT address_havelevel[location.rank_address] THEN
1872                 NEW.postcode := location.postcode;
1873               END IF;
1874
1875               address_havelevel[location.rank_address] := true;
1876
1877               IF location.rank_address > parent_place_id_rank THEN
1878                 NEW.parent_place_id = location.place_id;
1879                 parent_place_id_rank = location.rank_address;
1880               END IF;
1881           END IF;
1882         END LOOP;
1883
1884       END IF;
1885
1886     END LOOP;
1887   END IF;
1888   --DEBUG: RAISE WARNING 'isin tokens processed';
1889
1890   -- for long ways we should add search terms for the entire length
1891   IF st_length(NEW.geometry) > 0.05 THEN
1892
1893     location_rank_search := 0;
1894     location_distance := 0;
1895
1896     FOR location IN SELECT * from getNearFeatures(NEW.partition, NEW.geometry, search_maxrank, isin_tokens) LOOP
1897
1898       IF location.rank_address != location_rank_search THEN
1899         location_rank_search := location.rank_address;
1900         location_distance := location.distance * 1.5;
1901       END IF;
1902
1903       IF location.rank_search > 4 AND location.distance < location_distance THEN
1904
1905         -- Add it to the list of search terms
1906         nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1907         INSERT INTO place_addressline (place_id, address_place_id, fromarea, isaddress, distance, cached_rank_address)
1908           VALUES (NEW.place_id, location.place_id, true, false, location.distance, location.rank_address); 
1909
1910       END IF;
1911
1912     END LOOP;
1913
1914   END IF;
1915   --DEBUG: RAISE WARNING 'search terms for long ways added';
1916
1917   IF NEW.address is not null AND NEW.address ? 'postcode' 
1918      AND NEW.address->'postcode' not similar to '%(,|;)%' THEN
1919     NEW.postcode := NEW.address->'postcode';
1920   END IF;
1921
1922   IF NEW.postcode is null AND NEW.rank_search > 8 THEN
1923     NEW.postcode := get_nearest_postcode(NEW.country_code, NEW.geometry);
1924   END IF;
1925
1926   -- if we have a name add this to the name search table
1927   IF NEW.name IS NOT NULL THEN
1928
1929     IF NEW.rank_search <= 25 and NEW.rank_address > 0 THEN
1930       result := add_location(NEW.place_id, NEW.country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.address->'postcode', NEW.geometry);
1931       --DEBUG: RAISE WARNING 'added to location (full)';
1932     END IF;
1933
1934     IF NEW.rank_search between 26 and 27 and NEW.class = 'highway' THEN
1935       result := insertLocationRoad(NEW.partition, NEW.place_id, NEW.country_code, NEW.geometry);
1936       --DEBUG: RAISE WARNING 'insert into road location table (full)';
1937     END IF;
1938
1939     result := insertSearchName(NEW.partition, NEW.place_id, NEW.country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid, NEW.geometry);
1940     --DEBUG: RAISE WARNING 'added to serach name (full)';
1941
1942   END IF;
1943
1944   -- If we've not managed to pick up a better one - default centroid
1945   IF NEW.centroid IS NULL THEN
1946     NEW.centroid := place_centroid;
1947   END IF;
1948
1949   --DEBUG: RAISE WARNING 'place update % % finsihed.', NEW.osm_type, NEW.osm_id;
1950
1951   RETURN NEW;
1952 END;
1953 $$
1954 LANGUAGE plpgsql;
1955
1956 CREATE OR REPLACE FUNCTION placex_delete() RETURNS TRIGGER
1957   AS $$
1958 DECLARE
1959   b BOOLEAN;
1960   classtable TEXT;
1961 BEGIN
1962   -- RAISE WARNING 'placex_delete % %',OLD.osm_type,OLD.osm_id;
1963
1964   update placex set linked_place_id = null, indexed_status = 2 where linked_place_id = OLD.place_id and indexed_status = 0;
1965   --DEBUG: RAISE WARNING 'placex_delete:01 % %',OLD.osm_type,OLD.osm_id;
1966   update placex set linked_place_id = null where linked_place_id = OLD.place_id;
1967   --DEBUG: RAISE WARNING 'placex_delete:02 % %',OLD.osm_type,OLD.osm_id;
1968
1969   IF OLD.rank_address < 30 THEN
1970
1971     -- mark everything linked to this place for re-indexing
1972     --DEBUG: RAISE WARNING 'placex_delete:03 % %',OLD.osm_type,OLD.osm_id;
1973     UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = OLD.place_id 
1974       and placex.place_id = place_addressline.place_id and indexed_status = 0 and place_addressline.isaddress;
1975
1976     --DEBUG: RAISE WARNING 'placex_delete:04 % %',OLD.osm_type,OLD.osm_id;
1977     DELETE FROM place_addressline where address_place_id = OLD.place_id;
1978
1979     --DEBUG: RAISE WARNING 'placex_delete:05 % %',OLD.osm_type,OLD.osm_id;
1980     b := deleteRoad(OLD.partition, OLD.place_id);
1981
1982     --DEBUG: RAISE WARNING 'placex_delete:06 % %',OLD.osm_type,OLD.osm_id;
1983     update placex set indexed_status = 2 where parent_place_id = OLD.place_id and indexed_status = 0;
1984     --DEBUG: RAISE WARNING 'placex_delete:07 % %',OLD.osm_type,OLD.osm_id;
1985     -- reparenting also for OSM Interpolation Lines (and for Tiger?)
1986     update location_property_osmline set indexed_status = 2 where indexed_status = 0 and parent_place_id = OLD.place_id;
1987
1988   END IF;
1989
1990   --DEBUG: RAISE WARNING 'placex_delete:08 % %',OLD.osm_type,OLD.osm_id;
1991
1992   IF OLD.rank_address < 26 THEN
1993     b := deleteLocationArea(OLD.partition, OLD.place_id, OLD.rank_search);
1994   END IF;
1995
1996   --DEBUG: RAISE WARNING 'placex_delete:09 % %',OLD.osm_type,OLD.osm_id;
1997
1998   IF OLD.name is not null THEN
1999     b := deleteSearchName(OLD.partition, OLD.place_id);
2000   END IF;
2001
2002   --DEBUG: RAISE WARNING 'placex_delete:10 % %',OLD.osm_type,OLD.osm_id;
2003
2004   DELETE FROM place_addressline where place_id = OLD.place_id;
2005
2006   --DEBUG: RAISE WARNING 'placex_delete:11 % %',OLD.osm_type,OLD.osm_id;
2007
2008   -- remove from tables for special search
2009   classtable := 'place_classtype_' || OLD.class || '_' || OLD.type;
2010   SELECT count(*)>0 FROM pg_tables WHERE tablename = classtable and schemaname = current_schema() INTO b;
2011   IF b THEN
2012     EXECUTE 'DELETE FROM ' || classtable::regclass || ' WHERE place_id = $1' USING OLD.place_id;
2013   END IF;
2014
2015   --DEBUG: RAISE WARNING 'placex_delete:12 % %',OLD.osm_type,OLD.osm_id;
2016
2017   RETURN OLD;
2018
2019 END;
2020 $$
2021 LANGUAGE plpgsql;
2022
2023 CREATE OR REPLACE FUNCTION place_delete() RETURNS TRIGGER
2024   AS $$
2025 DECLARE
2026   has_rank BOOLEAN;
2027 BEGIN
2028
2029   --DEBUG: RAISE WARNING 'delete: % % % %',OLD.osm_type,OLD.osm_id,OLD.class,OLD.type;
2030
2031   -- deleting large polygons can have a massive effect on the system - require manual intervention to let them through
2032   IF st_area(OLD.geometry) > 2 and st_isvalid(OLD.geometry) THEN
2033     SELECT bool_or(not (rank_address = 0 or rank_address > 26)) as ranked FROM placex WHERE osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type INTO has_rank;
2034     IF has_rank THEN
2035       insert into import_polygon_delete (osm_type, osm_id, class, type) values (OLD.osm_type,OLD.osm_id,OLD.class,OLD.type);
2036       RETURN NULL;
2037     END IF;
2038   END IF;
2039
2040   -- mark for delete
2041   UPDATE placex set indexed_status = 100 where osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type;
2042
2043   -- interpolations are special
2044   IF OLD.osm_type='W' and OLD.class = 'place' and OLD.type = 'houses' THEN
2045     UPDATE location_property_osmline set indexed_status = 100 where osm_id = OLD.osm_id; -- osm_id = wayid (=old.osm_id)
2046   END IF;
2047
2048   RETURN OLD;
2049
2050 END;
2051 $$
2052 LANGUAGE plpgsql;
2053
2054 CREATE OR REPLACE FUNCTION place_insert() RETURNS TRIGGER
2055   AS $$
2056 DECLARE
2057   i INTEGER;
2058   existing RECORD;
2059   existingplacex RECORD;
2060   existingline RECORD;
2061   existinggeometry GEOMETRY;
2062   existingplace_id BIGINT;
2063   result BOOLEAN;
2064   partition INTEGER;
2065 BEGIN
2066
2067   --DEBUG: RAISE WARNING '-----------------------------------------------------------------------------------';
2068   --DEBUG: RAISE WARNING 'place_insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,st_area(NEW.geometry);
2069   -- filter wrong tupels
2070   IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN  
2071     INSERT INTO import_polygon_error (osm_type, osm_id, class, type, name, country_code, updated, errormessage, prevgeometry, newgeometry)
2072       VALUES (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.address->'country', now(), ST_IsValidReason(NEW.geometry), null, NEW.geometry);
2073 --    RAISE WARNING 'Invalid Geometry: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
2074     RETURN null;
2075   END IF;
2076
2077   -- decide, whether it is an osm interpolation line => insert intoosmline, or else just placex
2078   IF NEW.class='place' and NEW.type='houses' and NEW.osm_type='W' and ST_GeometryType(NEW.geometry) = 'ST_LineString' THEN
2079     -- Have we already done this place?
2080     select * from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existing;
2081
2082     -- Get the existing place_id
2083     select * from location_property_osmline where osm_id = NEW.osm_id INTO existingline;
2084
2085     -- Handle a place changing type by removing the old data (this trigger is executed BEFORE INSERT of the NEW tupel)
2086     IF existing.osm_type IS NULL THEN
2087       DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class;
2088     END IF;
2089
2090     DELETE from import_polygon_error where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2091     DELETE from import_polygon_delete where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2092
2093     -- update method for interpolation lines: delete all old interpolation lines with same osm_id (update on place) and insert the new one(s) (they can be split up, if they have > 2 nodes)
2094     IF existingline.osm_id IS NOT NULL THEN
2095       delete from location_property_osmline where osm_id = NEW.osm_id;
2096     END IF;
2097
2098     -- for interpolations invalidate all nodes on the line
2099     update placex p set indexed_status = 2
2100       from planet_osm_ways w
2101       where w.id = NEW.osm_id and p.osm_type = 'N' and p.osm_id = any(w.nodes);
2102
2103
2104     INSERT INTO location_property_osmline (osm_id, address, linegeo)
2105       VALUES (NEW.osm_id, NEW.address, NEW.geometry);
2106
2107
2108     IF existing.osm_type IS NULL THEN
2109       return NEW;
2110     END IF;
2111
2112     IF coalesce(existing.address, ''::hstore) != coalesce(NEW.address, ''::hstore)
2113        OR (coalesce(existing.extratags, ''::hstore) != coalesce(NEW.extratags, ''::hstore))
2114        OR existing.geometry::text != NEW.geometry::text
2115        THEN
2116
2117       update place set 
2118         name = NEW.name,
2119         address = NEW.address,
2120         extratags = NEW.extratags,
2121         admin_level = NEW.admin_level,
2122         geometry = NEW.geometry
2123         where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2124     END IF;
2125
2126     RETURN NULL;
2127
2128   ELSE -- insert to placex
2129
2130     -- Patch in additional country names
2131     IF NEW.admin_level = 2 AND NEW.type = 'administrative'
2132           AND NEW.address is not NULL AND NEW.address ? 'country' THEN
2133         SELECT name FROM country_name WHERE country_code = lower(NEW.address->'country') INTO existing;
2134         IF existing.name IS NOT NULL THEN
2135             NEW.name = existing.name || NEW.name;
2136         END IF;
2137     END IF;
2138       
2139     -- Have we already done this place?
2140     select * from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existing;
2141
2142     -- Get the existing place_id
2143     select * from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existingplacex;
2144
2145     -- Handle a place changing type by removing the old data
2146     -- My generated 'place' types are causing havok because they overlap with real keys
2147     -- TODO: move them to their own special purpose key/class to avoid collisions
2148     IF existing.osm_type IS NULL THEN
2149       DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class;
2150     END IF;
2151
2152     --DEBUG: RAISE WARNING 'Existing: %',existing.osm_id;
2153     --DEBUG: RAISE WARNING 'Existing PlaceX: %',existingplacex.place_id;
2154
2155     -- Log and discard 
2156     IF existing.geometry is not null AND st_isvalid(existing.geometry) 
2157       AND st_area(existing.geometry) > 0.02
2158       AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon')
2159       AND st_area(NEW.geometry) < st_area(existing.geometry)*0.5
2160       THEN
2161       INSERT INTO import_polygon_error (osm_type, osm_id, class, type, name, country_code, updated, errormessage, prevgeometry, newgeometry)
2162         VALUES (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.address->'country', now(), 
2163         'Area reduced from '||st_area(existing.geometry)||' to '||st_area(NEW.geometry), existing.geometry, NEW.geometry);
2164       RETURN null;
2165     END IF;
2166
2167     DELETE from import_polygon_error where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2168     DELETE from import_polygon_delete where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2169
2170     -- To paraphrase, if there isn't an existing item, OR if the admin level has changed
2171     IF existingplacex.osm_type IS NULL OR
2172       (coalesce(existingplacex.admin_level, 15) != coalesce(NEW.admin_level, 15) AND existingplacex.class = 'boundary' AND existingplacex.type = 'administrative')
2173     THEN
2174
2175       IF existingplacex.osm_type IS NOT NULL THEN
2176         -- sanity check: ignore admin_level changes on places with too many active children
2177         -- or we end up reindexing entire countries because somebody accidentally deleted admin_level
2178         --LIMIT INDEXING: SELECT count(*) FROM (SELECT 'a' FROM placex , place_addressline where address_place_id = existingplacex.place_id and placex.place_id = place_addressline.place_id and indexed_status = 0 and place_addressline.isaddress LIMIT 100001) sub INTO i;
2179         --LIMIT INDEXING: IF i > 100000 THEN
2180         --LIMIT INDEXING:  RETURN null;
2181         --LIMIT INDEXING: END IF;
2182       END IF;
2183
2184       IF existing.osm_type IS NOT NULL THEN
2185         -- pathological case caused by the triggerless copy into place during initial import
2186         -- force delete even for large areas, it will be reinserted later
2187         UPDATE place set geometry = ST_SetSRID(ST_Point(0,0), 4326) where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2188         DELETE from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2189       END IF;
2190
2191       -- No - process it as a new insertion (hopefully of low rank or it will be slow)
2192       insert into placex (osm_type, osm_id, class, type, name,
2193                           admin_level, address, extratags, geometry)
2194         values (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name,
2195                 NEW.admin_level, NEW.address, NEW.extratags, NEW.geometry);
2196
2197       --DEBUG: RAISE WARNING 'insert done % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,NEW.name;
2198
2199       RETURN NEW;
2200     END IF;
2201
2202     -- Special case for polygon shape changes because they tend to be large and we can be a bit clever about how we handle them
2203     IF existing.geometry::text != NEW.geometry::text 
2204        AND ST_GeometryType(existing.geometry) in ('ST_Polygon','ST_MultiPolygon')
2205        AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') 
2206        THEN 
2207
2208       -- Get the version of the geometry actually used (in placex table)
2209       select geometry from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type into existinggeometry;
2210
2211       -- Performance limit
2212       IF st_area(NEW.geometry) < 0.000000001 AND st_area(existinggeometry) < 1 THEN
2213
2214         -- re-index points that have moved in / out of the polygon, could be done as a single query but postgres gets the index usage wrong
2215         update placex set indexed_status = 2 where indexed_status = 0 and 
2216             (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
2217             AND NOT (st_covers(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
2218             AND rank_search > existingplacex.rank_search AND (rank_search < 28 or name is not null);
2219
2220         update placex set indexed_status = 2 where indexed_status = 0 and 
2221             (st_covers(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
2222             AND NOT (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
2223             AND rank_search > existingplacex.rank_search AND (rank_search < 28 or name is not null);
2224
2225       END IF;
2226
2227     END IF;
2228
2229
2230     IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '')
2231        OR coalesce(existing.extratags::text, '') != coalesce(NEW.extratags::text, '')
2232        OR coalesce(existing.address, ''::hstore) != coalesce(NEW.address, ''::hstore)
2233        OR coalesce(existing.admin_level, 15) != coalesce(NEW.admin_level, 15)
2234        OR existing.geometry::text != NEW.geometry::text
2235        THEN
2236
2237       update place set 
2238         name = NEW.name,
2239         address = NEW.address,
2240         extratags = NEW.extratags,
2241         admin_level = NEW.admin_level,
2242         geometry = NEW.geometry
2243         where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2244
2245
2246       IF NEW.class in ('place','boundary') AND NEW.type in ('postcode','postal_code') THEN
2247           IF NEW.address is NULL OR NOT NEW.address ? 'postcode' THEN
2248               -- postcode was deleted, no longer retain in placex
2249               DELETE FROM placex where place_id = existingplacex.place_id;
2250               RETURN NULL;
2251           END IF;
2252
2253           NEW.name := hstore('ref', NEW.address->'postcode');
2254       END IF;
2255
2256       IF NEW.class in ('boundary')
2257          AND ST_GeometryType(NEW.geometry) not in ('ST_Polygon','ST_MultiPolygon') THEN
2258           DELETE FROM placex where place_id = existingplacex.place_id;
2259           RETURN NULL;
2260       END IF;
2261
2262       update placex set 
2263         name = NEW.name,
2264         address = NEW.address,
2265         parent_place_id = null,
2266         extratags = NEW.extratags,
2267         admin_level = NEW.admin_level,
2268         indexed_status = 2,
2269         geometry = NEW.geometry
2270         where place_id = existingplacex.place_id;
2271
2272       -- if a node(=>house), which is part of a interpolation line, changes (e.g. the street attribute) => mark this line for reparenting 
2273       -- (already here, because interpolation lines are reindexed before nodes, so in the second call it would be too late)
2274       IF NEW.osm_type='N' and NEW.class='place' and NEW.type='house' THEN
2275           -- Is this node part of an interpolation line? search for it in location_property_osmline and mark the interpolation line for reparenting
2276           update location_property_osmline p set indexed_status = 2 from planet_osm_ways w where p.linegeo && NEW.geometry and p.osm_id = w.id and NEW.osm_id = any(w.nodes);
2277       END IF;
2278
2279       -- linked places should get potential new naming and addresses
2280       IF existingplacex.linked_place_id is not NULL THEN
2281         update placex x set
2282           name = p.name,
2283           extratags = p.extratags,
2284           indexed_status = 2
2285         from place p
2286         where x.place_id = existingplacex.linked_place_id
2287               and x.indexed_status = 0
2288               and x.osm_type = p.osm_type
2289               and x.osm_id = p.osm_id
2290               and x.class = p.class;
2291       END IF;
2292
2293     END IF;
2294
2295     -- Abort the add (we modified the existing place instead)
2296     RETURN NULL;
2297   END IF;
2298
2299 END;
2300 $$ LANGUAGE plpgsql;
2301
2302
2303 CREATE OR REPLACE FUNCTION get_name_by_language(name hstore, languagepref TEXT[]) RETURNS TEXT
2304   AS $$
2305 DECLARE
2306   result TEXT;
2307 BEGIN
2308   IF name is null THEN
2309     RETURN null;
2310   END IF;
2311
2312   FOR j IN 1..array_upper(languagepref,1) LOOP
2313     IF name ? languagepref[j] THEN
2314       result := trim(name->languagepref[j]);
2315       IF result != '' THEN
2316         return result;
2317       END IF;
2318     END IF;
2319   END LOOP;
2320
2321   -- anything will do as a fallback - just take the first name type thing there is
2322   RETURN trim((avals(name))[1]);
2323 END;
2324 $$
2325 LANGUAGE plpgsql IMMUTABLE;
2326
2327
2328 CREATE OR REPLACE FUNCTION get_address_postcode(for_place_id BIGINT) RETURNS TEXT
2329   AS $$
2330 DECLARE
2331   result TEXT[];
2332   search TEXT[];
2333   for_postcode TEXT;
2334   found INTEGER;
2335   location RECORD;
2336 BEGIN
2337
2338   found := 1000;
2339   search := ARRAY['ref'];
2340   result := '{}';
2341
2342   select postcode from placex where place_id = for_place_id limit 1 into for_postcode;
2343
2344   FOR location IN 
2345     select rank_address,name,distance,length(name::text) as namelength 
2346       from place_addressline join placex on (address_place_id = placex.place_id) 
2347       where place_addressline.place_id = for_place_id and rank_address in (5,11)
2348       order by rank_address desc,rank_search desc,fromarea desc,distance asc,namelength desc
2349   LOOP
2350     IF array_upper(search, 1) IS NOT NULL AND array_upper(location.name, 1) IS NOT NULL THEN
2351       FOR j IN 1..array_upper(search, 1) LOOP
2352         FOR k IN 1..array_upper(location.name, 1) LOOP
2353           IF (found > location.rank_address AND location.name[k].key = search[j] AND location.name[k].value != '') AND NOT result @> ARRAY[trim(location.name[k].value)] AND (for_postcode IS NULL OR location.name[k].value ilike for_postcode||'%') THEN
2354             result[(100 - location.rank_address)] := trim(location.name[k].value);
2355             found := location.rank_address;
2356           END IF;
2357         END LOOP;
2358       END LOOP;
2359     END IF;
2360   END LOOP;
2361
2362   RETURN array_to_string(result,', ');
2363 END;
2364 $$
2365 LANGUAGE plpgsql;
2366
2367 --housenumber only needed for tiger data
2368 CREATE OR REPLACE FUNCTION get_address_by_language(for_place_id BIGINT, housenumber INTEGER, languagepref TEXT[]) RETURNS TEXT
2369   AS $$
2370 DECLARE
2371   result TEXT[];
2372   currresult TEXT;
2373   prevresult TEXT;
2374   location RECORD;
2375 BEGIN
2376
2377   result := '{}';
2378   prevresult := '';
2379
2380   FOR location IN select * from get_addressdata(for_place_id, housenumber) where isaddress order by rank_address desc LOOP
2381     currresult := trim(get_name_by_language(location.name, languagepref));
2382     IF currresult != prevresult AND currresult IS NOT NULL AND result[(100 - location.rank_address)] IS NULL THEN
2383       result[(100 - location.rank_address)] := trim(get_name_by_language(location.name, languagepref));
2384       prevresult := currresult;
2385     END IF;
2386   END LOOP;
2387
2388   RETURN array_to_string(result,', ');
2389 END;
2390 $$
2391 LANGUAGE plpgsql;
2392
2393 DROP TYPE IF EXISTS addressline CASCADE;
2394 create type addressline as (
2395   place_id BIGINT,
2396   osm_type CHAR(1),
2397   osm_id BIGINT,
2398   name HSTORE,
2399   class TEXT,
2400   type TEXT,
2401   admin_level INTEGER,
2402   fromarea BOOLEAN,  
2403   isaddress BOOLEAN,  
2404   rank_address INTEGER,
2405   distance FLOAT
2406 );
2407
2408 CREATE OR REPLACE FUNCTION get_addressdata(in_place_id BIGINT, in_housenumber INTEGER) RETURNS setof addressline 
2409   AS $$
2410 DECLARE
2411   for_place_id BIGINT;
2412   result TEXT[];
2413   search TEXT[];
2414   found INTEGER;
2415   location RECORD;
2416   countrylocation RECORD;
2417   searchcountrycode varchar(2);
2418   searchhousenumber TEXT;
2419   searchhousename HSTORE;
2420   searchrankaddress INTEGER;
2421   searchpostcode TEXT;
2422   searchclass TEXT;
2423   searchtype TEXT;
2424   countryname HSTORE;
2425   hadcountry BOOLEAN;
2426 BEGIN
2427   -- first query osmline (interpolation lines)
2428   select parent_place_id, country_code, 30, postcode, null, 'place', 'house' from location_property_osmline 
2429     WHERE place_id = in_place_id AND in_housenumber>=startnumber AND in_housenumber <= endnumber
2430     INTO for_place_id,searchcountrycode, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2431   IF for_place_id IS NOT NULL THEN
2432     searchhousenumber = in_housenumber::text;
2433   END IF;
2434
2435   --then query tiger data
2436   -- %NOTIGERDATA% IF 0 THEN
2437   IF for_place_id IS NULL THEN
2438     select parent_place_id,'us', 30, postcode, null, 'place', 'house' from location_property_tiger 
2439       WHERE place_id = in_place_id AND in_housenumber>=startnumber AND in_housenumber <= endnumber
2440       INTO for_place_id,searchcountrycode, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2441     IF for_place_id IS NOT NULL THEN
2442       searchhousenumber = in_housenumber::text;
2443     END IF;
2444   END IF;
2445   -- %NOTIGERDATA% END IF;
2446
2447   -- %NOAUXDATA% IF 0 THEN
2448   IF for_place_id IS NULL THEN
2449     select parent_place_id,'us', housenumber, 30, postcode, null, 'place', 'house' from location_property_aux
2450       WHERE place_id = in_place_id 
2451       INTO for_place_id,searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2452   END IF;
2453   -- %NOAUXDATA% END IF;
2454
2455   IF for_place_id IS NULL THEN
2456     select parent_place_id, country_code, housenumber, rank_search, postcode, name, class, type from placex 
2457       WHERE place_id = in_place_id and  rank_search > 27
2458       INTO for_place_id, searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2459   END IF;
2460
2461   IF for_place_id IS NULL THEN
2462     select coalesce(linked_place_id, place_id),  country_code,
2463            housenumber, rank_search, postcode, null
2464       from placex where place_id = in_place_id
2465       INTO for_place_id, searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename;
2466   END IF;
2467
2468 --RAISE WARNING '% % % %',searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode;
2469
2470   found := 1000;
2471   hadcountry := false;
2472   FOR location IN 
2473     select placex.place_id, osm_type, osm_id,
2474       CASE WHEN class = 'place' and type = 'postcode' THEN hstore('name', postcode) ELSE name END as name,
2475       class, type, admin_level, true as fromarea, true as isaddress,
2476       CASE WHEN rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2477       0 as distance, country_code, postcode
2478       from placex
2479       where place_id = for_place_id 
2480   LOOP
2481 --RAISE WARNING '%',location;
2482     IF searchcountrycode IS NULL AND location.country_code IS NOT NULL THEN
2483       searchcountrycode := location.country_code;
2484     END IF;
2485     IF searchpostcode IS NOT NULL and location.type = 'postcode' THEN
2486       location.isaddress := FALSE;
2487     END IF;
2488     IF searchpostcode IS NULL and location.postcode IS NOT NULL THEN
2489       searchpostcode := location.postcode;
2490     END IF;
2491     IF location.rank_address = 4 AND location.isaddress THEN
2492       hadcountry := true;
2493     END IF;
2494     IF location.rank_address < 4 AND NOT hadcountry THEN
2495       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2496       IF countryname IS NOT NULL THEN
2497         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2498         RETURN NEXT countrylocation;
2499       END IF;
2500     END IF;
2501     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class, 
2502                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address, 
2503                            location.distance)::addressline;
2504     RETURN NEXT countrylocation;
2505     found := location.rank_address;
2506   END LOOP;
2507
2508   FOR location IN 
2509     select placex.place_id, osm_type, osm_id,
2510       CASE WHEN class = 'place' and type = 'postcode' THEN hstore('name', postcode) ELSE name END as name,
2511       CASE WHEN extratags ? 'place' THEN 'place' ELSE class END as class,
2512       CASE WHEN extratags ? 'place' THEN extratags->'place' ELSE type END as type,
2513       admin_level, fromarea, isaddress,
2514       CASE WHEN address_place_id = for_place_id AND rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2515       distance,country_code,postcode
2516       from place_addressline join placex on (address_place_id = placex.place_id) 
2517       where place_addressline.place_id = for_place_id 
2518       and (cached_rank_address > 0 AND cached_rank_address < searchrankaddress)
2519       and address_place_id != for_place_id
2520       and (placex.country_code IS NULL OR searchcountrycode IS NULL OR placex.country_code = searchcountrycode)
2521       order by rank_address desc,isaddress desc,fromarea desc,distance asc,rank_search desc
2522   LOOP
2523 --RAISE WARNING '%',location;
2524     IF searchcountrycode IS NULL AND location.country_code IS NOT NULL THEN
2525       searchcountrycode := location.country_code;
2526     END IF;
2527     IF searchpostcode IS NOT NULL and location.type = 'postcode' THEN
2528       location.isaddress := FALSE;
2529     END IF;
2530     IF searchpostcode IS NULL and location.isaddress and location.type != 'postcode' and location.postcode IS NOT NULL and location.postcode not similar to '%(,|;)%' THEN
2531       searchpostcode := location.postcode;
2532     END IF;
2533     IF location.rank_address = 4 AND location.isaddress THEN
2534       hadcountry := true;
2535     END IF;
2536     IF location.rank_address < 4 AND NOT hadcountry THEN
2537       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2538       IF countryname IS NOT NULL THEN
2539         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2540         RETURN NEXT countrylocation;
2541       END IF;
2542     END IF;
2543     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class, 
2544                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address, 
2545                            location.distance)::addressline;
2546     RETURN NEXT countrylocation;
2547     found := location.rank_address;
2548   END LOOP;
2549
2550   IF found > 4 THEN
2551     select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2552 --RAISE WARNING '% % %',found,searchcountrycode,countryname;
2553     IF countryname IS NOT NULL THEN
2554       location := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2555       RETURN NEXT location;
2556     END IF;
2557   END IF;
2558
2559   IF searchcountrycode IS NOT NULL THEN
2560     location := ROW(null, null, null, hstore('ref', searchcountrycode), 'place', 'country_code', null, true, false, 4, 0)::addressline;
2561     RETURN NEXT location;
2562   END IF;
2563
2564   IF searchhousename IS NOT NULL THEN
2565     location := ROW(in_place_id, null, null, searchhousename, searchclass, searchtype, null, true, true, 29, 0)::addressline;
2566 --    location := ROW(in_place_id, null, null, searchhousename, 'place', 'house_name', null, true, true, 29, 0)::addressline;
2567     RETURN NEXT location;
2568   END IF;
2569
2570   IF searchhousenumber IS NOT NULL THEN
2571     location := ROW(in_place_id, null, null, hstore('ref', searchhousenumber), 'place', 'house_number', null, true, true, 28, 0)::addressline;
2572     RETURN NEXT location;
2573   END IF;
2574
2575   IF searchpostcode IS NOT NULL THEN
2576     location := ROW(null, null, null, hstore('ref', searchpostcode), 'place', 'postcode', null, true, true, 5, 0)::addressline;
2577     RETURN NEXT location;
2578   END IF;
2579
2580   RETURN;
2581 END;
2582 $$
2583 LANGUAGE plpgsql;
2584
2585
2586 CREATE OR REPLACE FUNCTION get_searchrank_label(rank INTEGER) RETURNS TEXT
2587   AS $$
2588 DECLARE
2589 BEGIN
2590   IF rank < 2 THEN
2591     RETURN 'Continent';
2592   ELSEIF rank < 4 THEN
2593     RETURN 'Sea';
2594   ELSEIF rank < 8 THEN
2595     RETURN 'Country';
2596   ELSEIF rank < 12 THEN
2597     RETURN 'State';
2598   ELSEIF rank < 16 THEN
2599     RETURN 'County';
2600   ELSEIF rank = 16 THEN
2601     RETURN 'City';
2602   ELSEIF rank = 17 THEN
2603     RETURN 'Town / Island';
2604   ELSEIF rank = 18 THEN
2605     RETURN 'Village / Hamlet';
2606   ELSEIF rank = 20 THEN
2607     RETURN 'Suburb';
2608   ELSEIF rank = 21 THEN
2609     RETURN 'Postcode Area';
2610   ELSEIF rank = 22 THEN
2611     RETURN 'Croft / Farm / Locality / Islet';
2612   ELSEIF rank = 23 THEN
2613     RETURN 'Postcode Area';
2614   ELSEIF rank = 25 THEN
2615     RETURN 'Postcode Point';
2616   ELSEIF rank = 26 THEN
2617     RETURN 'Street / Major Landmark';
2618   ELSEIF rank = 27 THEN
2619     RETURN 'Minory Street / Path';
2620   ELSEIF rank = 28 THEN
2621     RETURN 'House / Building';
2622   ELSE
2623     RETURN 'Other: '||rank;
2624   END IF;
2625   
2626 END;
2627 $$
2628 LANGUAGE plpgsql;
2629
2630 CREATE OR REPLACE FUNCTION get_addressrank_label(rank INTEGER) RETURNS TEXT
2631   AS $$
2632 DECLARE
2633 BEGIN
2634   IF rank = 0 THEN
2635     RETURN 'None';
2636   ELSEIF rank < 2 THEN
2637     RETURN 'Continent';
2638   ELSEIF rank < 4 THEN
2639     RETURN 'Sea';
2640   ELSEIF rank = 5 THEN
2641     RETURN 'Postcode';
2642   ELSEIF rank < 8 THEN
2643     RETURN 'Country';
2644   ELSEIF rank < 12 THEN
2645     RETURN 'State';
2646   ELSEIF rank < 16 THEN
2647     RETURN 'County';
2648   ELSEIF rank = 16 THEN
2649     RETURN 'City';
2650   ELSEIF rank = 17 THEN
2651     RETURN 'Town / Village / Hamlet';
2652   ELSEIF rank = 20 THEN
2653     RETURN 'Suburb';
2654   ELSEIF rank = 21 THEN
2655     RETURN 'Postcode Area';
2656   ELSEIF rank = 22 THEN
2657     RETURN 'Croft / Farm / Locality / Islet';
2658   ELSEIF rank = 23 THEN
2659     RETURN 'Postcode Area';
2660   ELSEIF rank = 25 THEN
2661     RETURN 'Postcode Point';
2662   ELSEIF rank = 26 THEN
2663     RETURN 'Street / Major Landmark';
2664   ELSEIF rank = 27 THEN
2665     RETURN 'Minory Street / Path';
2666   ELSEIF rank = 28 THEN
2667     RETURN 'House / Building';
2668   ELSE
2669     RETURN 'Other: '||rank;
2670   END IF;
2671   
2672 END;
2673 $$
2674 LANGUAGE plpgsql;
2675
2676 CREATE OR REPLACE FUNCTION aux_create_property(pointgeo GEOMETRY, in_housenumber TEXT, 
2677   in_street TEXT, in_isin TEXT, in_postcode TEXT, in_countrycode char(2)) RETURNS INTEGER
2678   AS $$
2679 DECLARE
2680
2681   newpoints INTEGER;
2682   place_centroid GEOMETRY;
2683   out_partition INTEGER;
2684   out_parent_place_id BIGINT;
2685   location RECORD;
2686   address_street_word_id INTEGER;  
2687   out_postcode TEXT;
2688
2689 BEGIN
2690
2691   place_centroid := ST_Centroid(pointgeo);
2692   out_partition := get_partition(in_countrycode);
2693   out_parent_place_id := null;
2694
2695   address_street_word_id := get_name_id(make_standard_name(in_street));
2696   IF address_street_word_id IS NOT NULL THEN
2697     FOR location IN SELECT * from getNearestNamedRoadFeature(out_partition, place_centroid, address_street_word_id) LOOP
2698       out_parent_place_id := location.place_id;
2699     END LOOP;
2700   END IF;
2701
2702   IF out_parent_place_id IS NULL THEN
2703     FOR location IN SELECT place_id FROM getNearestRoadFeature(out_partition, place_centroid) LOOP
2704       out_parent_place_id := location.place_id;
2705     END LOOP;
2706   END IF;
2707
2708   out_postcode := in_postcode;
2709   IF out_postcode IS NULL THEN
2710     SELECT postcode from placex where place_id = out_parent_place_id INTO out_postcode;
2711   END IF;
2712   -- XXX look into postcode table
2713
2714   newpoints := 0;
2715   insert into location_property_aux (place_id, partition, parent_place_id, housenumber, postcode, centroid)
2716     values (nextval('seq_place'), out_partition, out_parent_place_id, in_housenumber, out_postcode, place_centroid);
2717   newpoints := newpoints + 1;
2718
2719   RETURN newpoints;
2720 END;
2721 $$
2722 LANGUAGE plpgsql;
2723
2724 CREATE OR REPLACE FUNCTION get_osm_rel_members(members TEXT[], member TEXT) RETURNS TEXT[]
2725   AS $$
2726 DECLARE
2727   result TEXT[];
2728   i INTEGER;
2729 BEGIN
2730
2731   FOR i IN 1..ARRAY_UPPER(members,1) BY 2 LOOP
2732     IF members[i+1] = member THEN
2733       result := result || members[i];
2734     END IF;
2735   END LOOP;
2736
2737   return result;
2738 END;
2739 $$
2740 LANGUAGE plpgsql;
2741
2742 CREATE OR REPLACE FUNCTION get_osm_rel_members(members TEXT[], memberLabels TEXT[]) RETURNS SETOF TEXT
2743   AS $$
2744 DECLARE
2745   i INTEGER;
2746 BEGIN
2747
2748   FOR i IN 1..ARRAY_UPPER(members,1) BY 2 LOOP
2749     IF members[i+1] = ANY(memberLabels) THEN
2750       RETURN NEXT members[i];
2751     END IF;
2752   END LOOP;
2753
2754   RETURN;
2755 END;
2756 $$
2757 LANGUAGE plpgsql;
2758
2759 -- See: http://stackoverflow.com/questions/6410088/how-can-i-mimic-the-php-urldecode-function-in-postgresql
2760 CREATE OR REPLACE FUNCTION decode_url_part(p varchar) RETURNS varchar 
2761   AS $$
2762 SELECT convert_from(CAST(E'\\x' || array_to_string(ARRAY(
2763     SELECT CASE WHEN length(r.m[1]) = 1 THEN encode(convert_to(r.m[1], 'SQL_ASCII'), 'hex') ELSE substring(r.m[1] from 2 for 2) END
2764     FROM regexp_matches($1, '%[0-9a-f][0-9a-f]|.', 'gi') AS r(m)
2765 ), '') AS bytea), 'UTF8');
2766 $$ 
2767 LANGUAGE SQL IMMUTABLE STRICT;
2768
2769 CREATE OR REPLACE FUNCTION catch_decode_url_part(p varchar) RETURNS varchar
2770   AS $$
2771 DECLARE
2772 BEGIN
2773   RETURN decode_url_part(p);
2774 EXCEPTION
2775   WHEN others THEN return null;
2776 END;
2777 $$
2778 LANGUAGE plpgsql IMMUTABLE;
2779
2780 DROP TYPE wikipedia_article_match CASCADE;
2781 create type wikipedia_article_match as (
2782   language TEXT,
2783   title TEXT,
2784   importance FLOAT
2785 );
2786
2787 CREATE OR REPLACE FUNCTION get_wikipedia_match(extratags HSTORE, country_code varchar(2)) RETURNS wikipedia_article_match
2788   AS $$
2789 DECLARE
2790   langs TEXT[];
2791   i INT;
2792   wiki_article TEXT;
2793   wiki_article_title TEXT;
2794   wiki_article_language TEXT;
2795   result wikipedia_article_match;
2796 BEGIN
2797   langs := ARRAY['english','country','ar','bg','ca','cs','da','de','en','es','eo','eu','fa','fr','ko','hi','hr','id','it','he','lt','hu','ms','nl','ja','no','pl','pt','kk','ro','ru','sk','sl','sr','fi','sv','tr','uk','vi','vo','war','zh'];
2798   i := 1;
2799   WHILE langs[i] IS NOT NULL LOOP
2800     wiki_article := extratags->(case when langs[i] in ('english','country') THEN 'wikipedia' ELSE 'wikipedia:'||langs[i] END);
2801     IF wiki_article is not null THEN
2802       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3}).wikipedia.org/wiki/',E'\\2:');
2803       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3}).wikipedia.org/w/index.php\\?title=',E'\\2:');
2804       wiki_article := regexp_replace(wiki_article,E'^(.*?)/([a-z]{2,3})/wiki/',E'\\2:');
2805       --wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3})[=:]',E'\\2:');
2806       wiki_article := replace(wiki_article,' ','_');
2807       IF strpos(wiki_article, ':') IN (3,4) THEN
2808         wiki_article_language := lower(trim(split_part(wiki_article, ':', 1)));
2809         wiki_article_title := trim(substr(wiki_article, strpos(wiki_article, ':')+1));
2810       ELSE
2811         wiki_article_title := trim(wiki_article);
2812         wiki_article_language := CASE WHEN langs[i] = 'english' THEN 'en' WHEN langs[i] = 'country' THEN get_country_language_code(country_code) ELSE langs[i] END;
2813       END IF;
2814
2815       select wikipedia_article.language,wikipedia_article.title,wikipedia_article.importance
2816         from wikipedia_article 
2817         where language = wiki_article_language and 
2818         (title = wiki_article_title OR title = catch_decode_url_part(wiki_article_title) OR title = replace(catch_decode_url_part(wiki_article_title),E'\\',''))
2819       UNION ALL
2820       select wikipedia_article.language,wikipedia_article.title,wikipedia_article.importance
2821         from wikipedia_redirect join wikipedia_article on (wikipedia_redirect.language = wikipedia_article.language and wikipedia_redirect.to_title = wikipedia_article.title)
2822         where wikipedia_redirect.language = wiki_article_language and 
2823         (from_title = wiki_article_title OR from_title = catch_decode_url_part(wiki_article_title) OR from_title = replace(catch_decode_url_part(wiki_article_title),E'\\',''))
2824       order by importance desc limit 1 INTO result;
2825
2826       IF result.language is not null THEN
2827         return result;
2828       END IF;
2829     END IF;
2830     i := i + 1;
2831   END LOOP;
2832   RETURN NULL;
2833 END;
2834 $$
2835 LANGUAGE plpgsql;
2836
2837 CREATE OR REPLACE FUNCTION quad_split_geometry(geometry GEOMETRY, maxarea FLOAT, maxdepth INTEGER) 
2838   RETURNS SETOF GEOMETRY
2839   AS $$
2840 DECLARE
2841   xmin FLOAT;
2842   ymin FLOAT;
2843   xmax FLOAT;
2844   ymax FLOAT;
2845   xmid FLOAT;
2846   ymid FLOAT;
2847   secgeo GEOMETRY;
2848   secbox GEOMETRY;
2849   seg INTEGER;
2850   geo RECORD;
2851   area FLOAT;
2852   remainingdepth INTEGER;
2853   added INTEGER;
2854   
2855 BEGIN
2856
2857 --  RAISE WARNING 'quad_split_geometry: maxarea=%, depth=%',maxarea,maxdepth;
2858
2859   IF (ST_GeometryType(geometry) not in ('ST_Polygon','ST_MultiPolygon') OR NOT ST_IsValid(geometry)) THEN
2860     RETURN NEXT geometry;
2861     RETURN;
2862   END IF;
2863
2864   remainingdepth := maxdepth - 1;
2865   area := ST_AREA(geometry);
2866   IF remainingdepth < 1 OR area < maxarea THEN
2867     RETURN NEXT geometry;
2868     RETURN;
2869   END IF;
2870
2871   xmin := st_xmin(geometry);
2872   xmax := st_xmax(geometry);
2873   ymin := st_ymin(geometry);
2874   ymax := st_ymax(geometry);
2875   secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(ymin,xmin),ST_Point(ymax,xmax)),4326);
2876
2877   -- if the geometry completely covers the box don't bother to slice any more
2878   IF ST_AREA(secbox) = area THEN
2879     RETURN NEXT geometry;
2880     RETURN;
2881   END IF;
2882
2883   xmid := (xmin+xmax)/2;
2884   ymid := (ymin+ymax)/2;
2885
2886   added := 0;
2887   FOR seg IN 1..4 LOOP
2888
2889     IF seg = 1 THEN
2890       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymin),ST_Point(xmid,ymid)),4326);
2891     END IF;
2892     IF seg = 2 THEN
2893       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymid),ST_Point(xmid,ymax)),4326);
2894     END IF;
2895     IF seg = 3 THEN
2896       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymin),ST_Point(xmax,ymid)),4326);
2897     END IF;
2898     IF seg = 4 THEN
2899       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymid),ST_Point(xmax,ymax)),4326);
2900     END IF;
2901
2902     IF st_intersects(geometry, secbox) THEN
2903       secgeo := st_intersection(geometry, secbox);
2904       IF NOT ST_IsEmpty(secgeo) AND ST_GeometryType(secgeo) in ('ST_Polygon','ST_MultiPolygon') THEN
2905         FOR geo IN select quad_split_geometry(secgeo, maxarea, remainingdepth) as geom LOOP
2906           IF NOT ST_IsEmpty(geo.geom) AND ST_GeometryType(geo.geom) in ('ST_Polygon','ST_MultiPolygon') THEN
2907             added := added + 1;
2908             RETURN NEXT geo.geom;
2909           END IF;
2910         END LOOP;
2911       END IF;
2912     END IF;
2913   END LOOP;
2914
2915   RETURN;
2916 END;
2917 $$
2918 LANGUAGE plpgsql;
2919
2920 CREATE OR REPLACE FUNCTION split_geometry(geometry GEOMETRY) 
2921   RETURNS SETOF GEOMETRY
2922   AS $$
2923 DECLARE
2924   geo RECORD;
2925 BEGIN
2926   -- 10000000000 is ~~ 1x1 degree
2927   FOR geo IN select quad_split_geometry(geometry, 0.25, 20) as geom LOOP
2928     RETURN NEXT geo.geom;
2929   END LOOP;
2930   RETURN;
2931 END;
2932 $$
2933 LANGUAGE plpgsql;
2934
2935
2936 CREATE OR REPLACE FUNCTION place_force_delete(placeid BIGINT) RETURNS BOOLEAN
2937   AS $$
2938 DECLARE
2939     osmid BIGINT;
2940     osmtype character(1);
2941     pclass text;
2942     ptype text;
2943 BEGIN
2944   SELECT osm_type, osm_id, class, type FROM placex WHERE place_id = placeid INTO osmtype, osmid, pclass, ptype;
2945   DELETE FROM import_polygon_delete where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2946   DELETE FROM import_polygon_error where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2947   -- force delete from place/placex by making it a very small geometry
2948   UPDATE place set geometry = ST_SetSRID(ST_Point(0,0), 4326) where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2949   DELETE FROM place where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2950
2951   RETURN TRUE;
2952 END;
2953 $$
2954 LANGUAGE plpgsql;
2955
2956 CREATE OR REPLACE FUNCTION place_force_update(placeid BIGINT) RETURNS BOOLEAN
2957   AS $$
2958 DECLARE
2959   placegeom GEOMETRY;
2960   geom GEOMETRY;
2961   diameter FLOAT;
2962   rank INTEGER;
2963 BEGIN
2964   UPDATE placex SET indexed_status = 2 WHERE place_id = placeid;
2965   SELECT geometry, rank_search FROM placex WHERE place_id = placeid INTO placegeom, rank;
2966   IF placegeom IS NOT NULL AND ST_IsValid(placegeom) THEN
2967     IF ST_GeometryType(placegeom) in ('ST_Polygon','ST_MultiPolygon') THEN
2968       FOR geom IN select split_geometry(placegeom) FROM placex WHERE place_id = placeid LOOP
2969         update placex set indexed_status = 2 where (st_covers(geom, placex.geometry) OR ST_Intersects(geom, placex.geometry)) 
2970         AND rank_search > rank and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point' and (rank_search < 28 or name is not null or (rank >= 16 and address ? 'place'));
2971         update placex set indexed_status = 2 where (st_covers(geom, placex.geometry) OR ST_Intersects(geom, placex.geometry)) 
2972         AND rank_search > rank and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point' and (rank_search < 28 or name is not null or (rank >= 16 and address ? 'place'));
2973       END LOOP;
2974     ELSE
2975         diameter := 0;
2976         IF rank = 11 THEN
2977           diameter := 0.05;
2978         ELSEIF rank < 18 THEN
2979           diameter := 0.1;
2980         ELSEIF rank < 20 THEN
2981           diameter := 0.05;
2982         ELSEIF rank = 21 THEN
2983           diameter := 0.001;
2984         ELSEIF rank < 24 THEN
2985           diameter := 0.02;
2986         ELSEIF rank < 26 THEN
2987           diameter := 0.002; -- 100 to 200 meters
2988         ELSEIF rank < 28 THEN
2989           diameter := 0.001; -- 50 to 100 meters
2990         END IF;
2991         IF diameter > 0 THEN
2992           IF rank >= 26 THEN
2993             -- roads may cause reparenting for >27 rank places
2994             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter);
2995           ELSEIF rank >= 16 THEN
2996             -- up to rank 16, street-less addresses may need reparenting
2997             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter) and (rank_search < 28 or name is not null or address ? 'place');
2998           ELSE
2999             -- for all other places the search terms may change as well
3000             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter) and (rank_search < 28 or name is not null);
3001           END IF;
3002         END IF;
3003     END IF;
3004     RETURN TRUE;
3005   END IF;
3006
3007   RETURN FALSE;
3008 END;
3009 $$
3010 LANGUAGE plpgsql;