]> git.openstreetmap.org Git - nominatim.git/blob - sql/functions.sql
create 'file' sequence required by update.php
[nominatim.git] / sql / functions.sql
1 --DROP TRIGGER IF EXISTS place_before_insert on placex;
2 --DROP TRIGGER IF EXISTS place_before_update on placex;
3 --CREATE TYPE addresscalculationtype AS (
4 --  word text,
5 --  score integer
6 --);
7
8
9 CREATE OR REPLACE FUNCTION getclasstypekey(c text, t text) RETURNS TEXT
10   AS $$
11 DECLARE
12 BEGIN
13   RETURN c||'|'||t;
14 END;
15 $$
16 LANGUAGE plpgsql IMMUTABLE;
17
18 CREATE OR REPLACE FUNCTION isbrokengeometry(place geometry) RETURNS BOOLEAN
19   AS $$
20 DECLARE
21   NEWgeometry geometry;
22 BEGIN
23   NEWgeometry := place;
24   IF ST_IsEmpty(NEWgeometry) OR NOT ST_IsValid(NEWgeometry) OR ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN  
25     RETURN true;
26   END IF;
27   RETURN false;
28 END;
29 $$
30 LANGUAGE plpgsql IMMUTABLE;
31
32 CREATE OR REPLACE FUNCTION clean_geometry(place geometry) RETURNS geometry
33   AS $$
34 DECLARE
35   NEWgeometry geometry;
36 BEGIN
37   NEWgeometry := place;
38   IF ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN  
39     NEWgeometry := ST_buffer(NEWgeometry,0);
40     IF ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN  
41       RETURN ST_SetSRID(ST_Point(0,0),4326);
42     END IF;
43   END IF;
44   RETURN NEWgeometry;
45 END;
46 $$
47 LANGUAGE plpgsql IMMUTABLE;
48
49 CREATE OR REPLACE FUNCTION geometry_sector(partition INTEGER, place geometry) RETURNS INTEGER
50   AS $$
51 DECLARE
52   NEWgeometry geometry;
53 BEGIN
54 --  RAISE WARNING '%',place;
55   NEWgeometry := place;
56   IF ST_IsEmpty(NEWgeometry) OR NOT ST_IsValid(NEWgeometry) OR ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN  
57     NEWgeometry := ST_buffer(NEWgeometry,0);
58     IF ST_IsEmpty(NEWgeometry) OR NOT ST_IsValid(NEWgeometry) OR ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN  
59       RETURN 0;
60     END IF;
61   END IF;
62   RETURN (partition*1000000) + (500-ST_X(ST_Centroid(NEWgeometry))::integer)*1000 + (500-ST_Y(ST_Centroid(NEWgeometry))::integer);
63 END;
64 $$
65 LANGUAGE plpgsql IMMUTABLE;
66
67 CREATE OR REPLACE FUNCTION debug_geometry_sector(osmid integer, place geometry) RETURNS INTEGER
68   AS $$
69 DECLARE
70   NEWgeometry geometry;
71 BEGIN
72 --  RAISE WARNING '%',osmid;
73   IF osmid = 61315 THEN
74     return null;
75   END IF;
76   NEWgeometry := place;
77   IF ST_IsEmpty(NEWgeometry) OR NOT ST_IsValid(NEWgeometry) OR ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN  
78     NEWgeometry := ST_buffer(NEWgeometry,0);
79     IF ST_IsEmpty(NEWgeometry) OR NOT ST_IsValid(NEWgeometry) OR ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN  
80       RETURN NULL;
81     END IF;
82   END IF;
83   RETURN (500-ST_X(ST_Centroid(NEWgeometry))::integer)*1000 + (500-ST_Y(ST_Centroid(NEWgeometry))::integer);
84 END;
85 $$
86 LANGUAGE plpgsql IMMUTABLE;
87
88 CREATE OR REPLACE FUNCTION transliteration(text) RETURNS text
89   AS '{modulepath}/nominatim.so', 'transliteration'
90 LANGUAGE c IMMUTABLE STRICT;
91
92 CREATE OR REPLACE FUNCTION gettokenstring(text) RETURNS text
93   AS '{modulepath}/nominatim.so', 'gettokenstring'
94 LANGUAGE c IMMUTABLE STRICT;
95
96 CREATE OR REPLACE FUNCTION make_standard_name(name TEXT) RETURNS TEXT
97   AS $$
98 DECLARE
99   o TEXT;
100 BEGIN
101   o := gettokenstring(transliteration(name));
102   RETURN trim(substr(o,1,length(o)));
103 END;
104 $$
105 LANGUAGE 'plpgsql' IMMUTABLE;
106
107 CREATE OR REPLACE FUNCTION getorcreate_word_id(lookup_word TEXT) 
108   RETURNS INTEGER
109   AS $$
110 DECLARE
111   lookup_token TEXT;
112   return_word_id INTEGER;
113 BEGIN
114   lookup_token := trim(lookup_word);
115   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
116   IF return_word_id IS NULL THEN
117     return_word_id := nextval('seq_word');
118     INSERT INTO word VALUES (return_word_id, lookup_token, regexp_replace(lookup_token,E'([^0-9])\\1+',E'\\1','g'), null, null, null, null, 0, null);
119   END IF;
120   RETURN return_word_id;
121 END;
122 $$
123 LANGUAGE plpgsql;
124
125 CREATE OR REPLACE FUNCTION getorcreate_housenumber_id(lookup_word TEXT)
126   RETURNS INTEGER
127   AS $$
128 DECLARE
129   lookup_token TEXT;
130   return_word_id INTEGER;
131 BEGIN
132   lookup_token := ' '||trim(lookup_word);
133   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class='place' and type='house' into return_word_id;
134   IF return_word_id IS NULL THEN
135     return_word_id := nextval('seq_word');
136     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, 'place', 'house', null, 0, null);
137   END IF;
138   RETURN return_word_id;
139 END;
140 $$
141 LANGUAGE plpgsql;
142
143 CREATE OR REPLACE FUNCTION getorcreate_country(lookup_word TEXT, lookup_country_code varchar(2))
144   RETURNS INTEGER
145   AS $$
146 DECLARE
147   lookup_token TEXT;
148   return_word_id INTEGER;
149 BEGIN
150   lookup_token := ' '||trim(lookup_word);
151   SELECT min(word_id) FROM word WHERE word_token = lookup_token and country_code=lookup_country_code into return_word_id;
152   IF return_word_id IS NULL THEN
153     return_word_id := nextval('seq_word');
154     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, null, lookup_country_code, 0, null);
155   END IF;
156   RETURN return_word_id;
157 END;
158 $$
159 LANGUAGE plpgsql;
160
161 CREATE OR REPLACE FUNCTION getorcreate_amenity(lookup_word TEXT, lookup_class text, lookup_type text)
162   RETURNS INTEGER
163   AS $$
164 DECLARE
165   lookup_token TEXT;
166   return_word_id INTEGER;
167 BEGIN
168   lookup_token := ' '||trim(lookup_word);
169   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class=lookup_class and type = lookup_type into return_word_id;
170   IF return_word_id IS NULL THEN
171     return_word_id := nextval('seq_word');
172     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, lookup_class, lookup_type, null, 0, null);
173   END IF;
174   RETURN return_word_id;
175 END;
176 $$
177 LANGUAGE plpgsql;
178
179 CREATE OR REPLACE FUNCTION getorcreate_tagpair(lookup_class text, lookup_type text)
180   RETURNS INTEGER
181   AS $$
182 DECLARE
183   lookup_token TEXT;
184   return_word_id INTEGER;
185 BEGIN
186   lookup_token := lookup_class||'='||lookup_type;
187   SELECT min(word_id) FROM word WHERE word_token = lookup_token into return_word_id;
188   IF return_word_id IS NULL THEN
189     return_word_id := nextval('seq_word');
190     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, null, null, 0, null);
191   END IF;
192   RETURN return_word_id;
193 END;
194 $$
195 LANGUAGE plpgsql;
196
197 CREATE OR REPLACE FUNCTION get_tagpair(lookup_class text, lookup_type text)
198   RETURNS INTEGER
199   AS $$
200 DECLARE
201   lookup_token TEXT;
202   return_word_id INTEGER;
203 BEGIN
204   lookup_token := lookup_class||'='||lookup_type;
205   SELECT min(word_id) FROM word WHERE word_token = lookup_token into return_word_id;
206   RETURN return_word_id;
207 END;
208 $$
209 LANGUAGE plpgsql;
210
211 CREATE OR REPLACE FUNCTION getorcreate_amenityoperator(lookup_word TEXT, lookup_class text, lookup_type text, op text)
212   RETURNS INTEGER
213   AS $$
214 DECLARE
215   lookup_token TEXT;
216   return_word_id INTEGER;
217 BEGIN
218   lookup_token := ' '||trim(lookup_word);
219   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class=lookup_class and type = lookup_type and operator = op into return_word_id;
220   IF return_word_id IS NULL THEN
221     return_word_id := nextval('seq_word');
222     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, lookup_class, lookup_type, null, 0, op, null);
223   END IF;
224   RETURN return_word_id;
225 END;
226 $$
227 LANGUAGE plpgsql;
228
229 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT, src_word TEXT) 
230   RETURNS INTEGER
231   AS $$
232 DECLARE
233   lookup_token TEXT;
234   nospace_lookup_token TEXT;
235   return_word_id INTEGER;
236 BEGIN
237   lookup_token := ' '||trim(lookup_word);
238   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
239   IF return_word_id IS NULL THEN
240     return_word_id := nextval('seq_word');
241     INSERT INTO word VALUES (return_word_id, lookup_token, regexp_replace(lookup_token,E'([^0-9])\\1+',E'\\1','g'), src_word, null, null, null, 0, null);
242 --    nospace_lookup_token := replace(replace(lookup_token, '-',''), ' ','');
243 --    IF ' '||nospace_lookup_token != lookup_token THEN
244 --      INSERT INTO word VALUES (return_word_id, '-'||nospace_lookup_token, null, src_word, null, null, null, 0, null);
245 --    END IF;
246   END IF;
247   RETURN return_word_id;
248 END;
249 $$
250 LANGUAGE plpgsql;
251
252 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT) 
253   RETURNS INTEGER
254   AS $$
255 DECLARE
256 BEGIN
257   RETURN getorcreate_name_id(lookup_word, '');
258 END;
259 $$
260 LANGUAGE plpgsql;
261
262 CREATE OR REPLACE FUNCTION get_word_id(lookup_word TEXT) 
263   RETURNS INTEGER
264   AS $$
265 DECLARE
266   lookup_token TEXT;
267   return_word_id INTEGER;
268 BEGIN
269   lookup_token := trim(lookup_word);
270   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
271   RETURN return_word_id;
272 END;
273 $$
274 LANGUAGE plpgsql IMMUTABLE;
275
276 CREATE OR REPLACE FUNCTION get_name_id(lookup_word TEXT) 
277   RETURNS INTEGER
278   AS $$
279 DECLARE
280   lookup_token TEXT;
281   return_word_id INTEGER;
282 BEGIN
283   lookup_token := ' '||trim(lookup_word);
284   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
285   RETURN return_word_id;
286 END;
287 $$
288 LANGUAGE plpgsql IMMUTABLE;
289
290 CREATE OR REPLACE FUNCTION array_merge(a INTEGER[], b INTEGER[])
291   RETURNS INTEGER[]
292   AS $$
293 DECLARE
294   i INTEGER;
295   r INTEGER[];
296 BEGIN
297   IF array_upper(a, 1) IS NULL THEN
298     RETURN b;
299   END IF;
300   IF array_upper(b, 1) IS NULL THEN
301     RETURN a;
302   END IF;
303   r := a;
304   FOR i IN 1..array_upper(b, 1) LOOP  
305     IF NOT (ARRAY[b[i]] && r) THEN
306       r := r || b[i];
307     END IF;
308   END LOOP;
309   RETURN r;
310 END;
311 $$
312 LANGUAGE plpgsql IMMUTABLE;
313
314 CREATE OR REPLACE FUNCTION make_keywords(src HSTORE) RETURNS INTEGER[]
315   AS $$
316 DECLARE
317   result INTEGER[];
318   s TEXT;
319   w INTEGER;
320   words TEXT[];
321   item RECORD;
322   j INTEGER;
323 BEGIN
324   result := '{}'::INTEGER[];
325
326   FOR item IN SELECT (each(src)).* LOOP
327
328     s := make_standard_name(item.value);
329
330     w := getorcreate_name_id(s, item.value);
331     result := result | w;
332
333     words := string_to_array(s, ' ');
334     IF array_upper(words, 1) IS NOT NULL THEN
335       FOR j IN 1..array_upper(words, 1) LOOP
336         IF (words[j] != '') THEN
337           w = getorcreate_word_id(words[j]);
338           IF NOT (ARRAY[w] && result) THEN
339             result := result | w;
340           END IF;
341         END IF;
342       END LOOP;
343     END IF;
344
345     words := regexp_split_to_array(item.value, E'[,;()]');
346     IF array_upper(words, 1) != 1 THEN
347       FOR j IN 1..array_upper(words, 1) LOOP
348         s := make_standard_name(words[j]);
349         IF s != '' THEN
350           w := getorcreate_word_id(s);
351           IF NOT (ARRAY[w] && result) THEN
352             result := result | w;
353           END IF;
354         END IF;
355       END LOOP;
356     END IF;
357
358     s := regexp_replace(item.value, '市$', '');
359     IF s != item.value THEN
360       s := make_standard_name(s);
361       IF s != '' THEN
362         w := getorcreate_name_id(s, item.value);
363         IF NOT (ARRAY[w] && result) THEN
364           result := result | w;
365         END IF;
366       END IF;
367     END IF;
368
369   END LOOP;
370
371   RETURN result;
372 END;
373 $$
374 LANGUAGE plpgsql IMMUTABLE;
375
376 CREATE OR REPLACE FUNCTION make_keywords(src TEXT) RETURNS INTEGER[]
377   AS $$
378 DECLARE
379   result INTEGER[];
380   s TEXT;
381   w INTEGER;
382   words TEXT[];
383   i INTEGER;
384   j INTEGER;
385 BEGIN
386   result := '{}'::INTEGER[];
387
388   s := make_standard_name(src);
389   w := getorcreate_name_id(s);
390
391   IF NOT (ARRAY[w] && result) THEN
392     result := result || w;
393   END IF;
394
395   words := string_to_array(s, ' ');
396   IF array_upper(words, 1) IS NOT NULL THEN
397     FOR j IN 1..array_upper(words, 1) LOOP
398       IF (words[j] != '') THEN
399         w = getorcreate_word_id(words[j]);
400         IF NOT (ARRAY[w] && result) THEN
401           result := result || w;
402         END IF;
403       END IF;
404     END LOOP;
405   END IF;
406
407   RETURN result;
408 END;
409 $$
410 LANGUAGE plpgsql IMMUTABLE;
411
412 CREATE OR REPLACE FUNCTION get_word_score(wordscores wordscore[], words text[]) RETURNS integer
413   AS $$
414 DECLARE
415   idxword integer;
416   idxscores integer;
417   result integer;
418 BEGIN
419   IF (wordscores is null OR words is null) THEN
420     RETURN 0;
421   END IF;
422
423   result := 0;
424   FOR idxword in 1 .. array_upper(words, 1) LOOP
425     FOR idxscores in 1 .. array_upper(wordscores, 1) LOOP
426       IF wordscores[idxscores].word = words[idxword] THEN
427         result := result + wordscores[idxscores].score;
428       END IF;
429     END LOOP;
430   END LOOP;
431
432   RETURN result;
433 END;
434 $$
435 LANGUAGE plpgsql IMMUTABLE;
436
437 CREATE OR REPLACE FUNCTION get_country_code(place geometry) RETURNS TEXT
438   AS $$
439 DECLARE
440   place_centre GEOMETRY;
441   nearcountry RECORD;
442 BEGIN
443   place_centre := ST_Centroid(place);
444
445 --RAISE WARNING 'start: %', ST_AsText(place_centre);
446
447   -- Try for a OSM polygon first
448   FOR nearcountry IN select country_code from location_area_country where country_code is not null and not isguess and st_contains(geometry, place_centre) limit 1
449   LOOP
450     RETURN nearcountry.country_code;
451   END LOOP;
452
453 --RAISE WARNING 'osm fallback: %', ST_AsText(place_centre);
454
455   -- Try for OSM fallback data
456   FOR nearcountry IN select country_code from country_osm_grid where st_contains(geometry, place_centre) limit 1
457   LOOP
458     RETURN nearcountry.country_code;
459   END LOOP;
460
461 --RAISE WARNING 'natural earth: %', ST_AsText(place_centre);
462
463   -- Natural earth data (first fallback)
464   FOR nearcountry IN select country_code from country_naturalearthdata where st_contains(geometry, place_centre) limit 1
465   LOOP
466     RETURN nearcountry.country_code;
467   END LOOP;
468
469   -- Natural earth data (first fallback)
470   FOR nearcountry IN select country_code from country_naturalearthdata where st_distance(geometry, place_centre) < 0.5 limit 1
471   LOOP
472     RETURN nearcountry.country_code;
473   END LOOP;
474
475 --RAISE WARNING 'in country: %', ST_AsText(place_centre);
476
477   -- WorldBoundaries data (second fallback - think there might be something broken in this data)
478   FOR nearcountry IN select country_code from country where st_contains(geometry, place_centre) limit 1
479   LOOP
480     RETURN nearcountry.country_code;
481   END LOOP;
482
483 --RAISE WARNING 'near country: %', ST_AsText(place_centre);
484
485   -- Still not in a country - try nearest within ~12 miles of a country
486   FOR nearcountry IN select country_code from country where st_distance(geometry, place_centre) < 0.5 
487     order by st_distance(geometry, place) limit 1
488   LOOP
489     RETURN nearcountry.country_code;
490   END LOOP;
491
492   RETURN NULL;
493 END;
494 $$
495 LANGUAGE plpgsql IMMUTABLE;
496
497 CREATE OR REPLACE FUNCTION get_country_code(place geometry, in_country_code VARCHAR(2)) RETURNS TEXT
498   AS $$
499 DECLARE
500   nearcountry RECORD;
501 BEGIN
502   FOR nearcountry IN select country_code from country_name where country_code = lower(in_country_code)
503   LOOP
504     RETURN nearcountry.country_code;
505   END LOOP;
506   RETURN get_country_code(place);
507 END;
508 $$
509 LANGUAGE plpgsql IMMUTABLE;
510
511 CREATE OR REPLACE FUNCTION get_country_language_code(search_country_code VARCHAR(2)) RETURNS TEXT
512   AS $$
513 DECLARE
514   nearcountry RECORD;
515 BEGIN
516   FOR nearcountry IN select distinct country_default_language_code from country_name where country_code = search_country_code limit 1
517   LOOP
518     RETURN lower(nearcountry.country_default_language_code);
519   END LOOP;
520   RETURN NULL;
521 END;
522 $$
523 LANGUAGE plpgsql IMMUTABLE;
524
525 CREATE OR REPLACE FUNCTION get_partition(place geometry, in_country_code VARCHAR(10)) RETURNS INTEGER
526   AS $$
527 DECLARE
528   place_centre GEOMETRY;
529   nearcountry RECORD;
530 BEGIN
531   FOR nearcountry IN select partition from country_name where country_code = in_country_code
532   LOOP
533     RETURN nearcountry.partition;
534   END LOOP;
535   RETURN 0;
536 END;
537 $$
538 LANGUAGE plpgsql IMMUTABLE;
539
540 CREATE OR REPLACE FUNCTION delete_location(OLD_place_id BIGINT) RETURNS BOOLEAN
541   AS $$
542 DECLARE
543 BEGIN
544   DELETE FROM location_area where place_id = OLD_place_id;
545 -- TODO:location_area
546   RETURN true;
547 END;
548 $$
549 LANGUAGE plpgsql;
550
551 CREATE OR REPLACE FUNCTION add_location(
552     place_id BIGINT,
553     country_code varchar(2),
554     partition INTEGER,
555     keywords INTEGER[],
556     rank_search INTEGER,
557     rank_address INTEGER,
558     geometry GEOMETRY
559   ) 
560   RETURNS BOOLEAN
561   AS $$
562 DECLARE
563   locationid INTEGER;
564   isarea BOOLEAN;
565   xmin INTEGER;
566   ymin INTEGER;
567   xmax INTEGER;
568   ymax INTEGER;
569   lon INTEGER;
570   lat INTEGER;
571   centroid GEOMETRY;
572   secgeo GEOMETRY;
573   secbox GEOMETRY;
574   diameter FLOAT;
575   x BOOLEAN;
576 BEGIN
577
578   IF rank_search > 25 THEN
579     RAISE EXCEPTION 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
580   END IF;
581
582 --  RAISE WARNING 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
583
584   x := deleteLocationArea(partition, place_id);
585
586   isarea := false;
587   IF (ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_IsValid(geometry)) THEN
588
589     isArea := true;
590     centroid := ST_Centroid(geometry);
591
592     xmin := floor(st_xmin(geometry));
593     xmax := ceil(st_xmax(geometry));
594     ymin := floor(st_ymin(geometry));
595     ymax := ceil(st_ymax(geometry));
596
597     IF xmin = xmax OR ymin = ymax OR (xmax-xmin < 2 AND ymax-ymin < 2) THEN
598       x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, false, centroid, geometry);
599     ELSE
600 --      RAISE WARNING 'Spliting geometry: % to %, % to %', xmin, xmax, ymin, ymax;
601       FOR lon IN xmin..(xmax-1) LOOP
602         FOR lat IN ymin..(ymax-1) LOOP
603           secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(lon,lat),ST_Point(lon+1,lat+1)),4326);
604           IF st_intersects(geometry, secbox) THEN
605             secgeo := st_intersection(geometry, secbox);
606             IF NOT ST_IsEmpty(secgeo) AND ST_GeometryType(secgeo) in ('ST_Polygon','ST_MultiPolygon') THEN
607               x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, false, centroid, secgeo);
608             END IF;
609           END IF;
610         END LOOP;
611       END LOOP;
612     END IF;
613
614   ELSEIF rank_search < 26 THEN
615
616     diameter := 0.02;
617     IF rank_address = 0 THEN
618       diameter := 0.02;
619     ELSEIF rank_search <= 14 THEN
620       diameter := 1.2;
621     ELSEIF rank_search <= 15 THEN
622       diameter := 1;
623     ELSEIF rank_search <= 16 THEN
624       diameter := 0.5;
625     ELSEIF rank_search <= 17 THEN
626       diameter := 0.2;
627     ELSEIF rank_search <= 21 THEN
628       diameter := 0.05;
629     ELSEIF rank_search = 25 THEN
630       diameter := 0.005;
631     END IF;
632
633 --    RAISE WARNING 'adding % diameter %', place_id, diameter;
634
635     secgeo := ST_Buffer(geometry, diameter);
636     x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, true, ST_Centroid(geometry), secgeo);
637
638   ELSE
639
640     -- ~ 20meters
641     secgeo := ST_Buffer(geometry, 0.0002);
642     x := insertLocationAreaRoadNear(partition, place_id, country_code, keywords, rank_search, rank_address, true, ST_Centroid(geometry), secgeo);
643
644     -- ~ 100meters
645     secgeo := ST_Buffer(geometry, 0.001);
646     x := insertLocationAreaRoadFar(partition, place_id, country_code, keywords, rank_search, rank_address, true, ST_Centroid(geometry), secgeo);
647
648   END IF;
649
650   RETURN true;
651 END;
652 $$
653 LANGUAGE plpgsql;
654
655 CREATE OR REPLACE FUNCTION update_location(
656     partition INTEGER,
657     place_id BIGINT,
658     place_country_code varchar(2),
659     name hstore,
660     rank_search INTEGER,
661     rank_address INTEGER,
662     geometry GEOMETRY
663   ) 
664   RETURNS BOOLEAN
665   AS $$
666 DECLARE
667   b BOOLEAN;
668 BEGIN
669   b := deleteLocationArea(partition, place_id);
670 --  result := add_location(NEW.place_id, NEW.country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.geometry);
671   RETURN add_location(place_id, place_country_code, name, rank_search, rank_address, geometry);
672 END;
673 $$
674 LANGUAGE plpgsql;
675
676 CREATE OR REPLACE FUNCTION search_name_add_words(parent_place_id BIGINT, to_add INTEGER[])
677   RETURNS BOOLEAN
678   AS $$
679 DECLARE
680   childplace RECORD;
681 BEGIN
682
683   IF #to_add = 0 THEN
684     RETURN true;
685   END IF;
686
687   -- this should just be an update, but it seems to do insane things to the index size (delete and insert doesn't)
688   FOR childplace IN select * from search_name,place_addressline 
689     where  address_place_id = parent_place_id
690       and search_name.place_id = place_addressline.place_id
691   LOOP
692     delete from search_name where place_id = childplace.place_id;
693     childplace.nameaddress_vector := uniq(sort_asc(childplace.nameaddress_vector + to_add));
694     IF childplace.place_id = parent_place_id THEN
695       childplace.name_vector := uniq(sort_asc(childplace.name_vector + to_add));
696     END IF;
697     insert into search_name (place_id, search_rank, address_rank, country_code, name_vector, nameaddress_vector, centroid) 
698       values (childplace.place_id, childplace.search_rank, childplace.address_rank, childplace.country_code, 
699         childplace.name_vector, childplace.nameaddress_vector, childplace.centroid);
700   END LOOP;
701
702   RETURN true;
703 END;
704 $$
705 LANGUAGE plpgsql;
706
707 CREATE OR REPLACE FUNCTION update_location_nameonly(partition INTEGER, OLD_place_id BIGINT, name hstore) RETURNS BOOLEAN
708   AS $$
709 DECLARE
710   newkeywords INTEGER[];
711   addedkeywords INTEGER[];
712   removedkeywords INTEGER[];
713 BEGIN
714
715   -- what has changed?
716   newkeywords := make_keywords(name);
717   select coalesce(newkeywords,'{}'::INTEGER[]) - coalesce(location_point.keywords,'{}'::INTEGER[]), 
718     coalesce(location_point.keywords,'{}'::INTEGER[]) - coalesce(newkeywords,'{}'::INTEGER[]) from location_point 
719     where place_id = OLD_place_id into addedkeywords, removedkeywords;
720
721 --  RAISE WARNING 'update_location_nameonly for %: new:% added:% removed:%', OLD_place_id, newkeywords, addedkeywords, removedkeywords;
722
723   IF #removedkeywords > 0 THEN
724     -- abort due to tokens removed
725     RETURN false;
726   END IF;
727   
728   IF #addedkeywords > 0 THEN
729     -- short circuit - no changes
730     RETURN true;
731   END IF;
732
733   UPDATE location_area set keywords = newkeywords where place_id = OLD_place_id;
734   RETURN search_name_add_words(OLD_place_id, addedkeywords);
735 END;
736 $$
737 LANGUAGE plpgsql;
738
739
740 CREATE OR REPLACE FUNCTION create_interpolation(wayid INTEGER, interpolationtype TEXT) RETURNS INTEGER
741   AS $$
742 DECLARE
743   
744   newpoints INTEGER;
745   waynodes integer[];
746   nodeid INTEGER;
747   prevnode RECORD;
748   nextnode RECORD;
749   startnumber INTEGER;
750   endnumber INTEGER;
751   stepsize INTEGER;
752   orginalstartnumber INTEGER;
753   originalnumberrange INTEGER;
754   housenum INTEGER;
755   linegeo GEOMETRY;
756   search_place_id BIGINT;
757   defpostalcode TEXT;
758
759   havefirstpoint BOOLEAN;
760   linestr TEXT;
761 BEGIN
762   newpoints := 0;
763   IF interpolationtype = 'odd' OR interpolationtype = 'even' OR interpolationtype = 'all' THEN
764
765     select postcode from placex where osm_type = 'W' and osm_id = wayid INTO defpostalcode;
766     select nodes from planet_osm_ways where id = wayid INTO waynodes;
767 --RAISE WARNING 'interpolation % % %',wayid,interpolationtype,waynodes;
768     IF array_upper(waynodes, 1) IS NOT NULL THEN
769
770       havefirstpoint := false;
771
772       FOR nodeidpos in 1..array_upper(waynodes, 1) LOOP
773
774         select min(place_id) from placex where osm_type = 'N' and osm_id = waynodes[nodeidpos]::INTEGER and type = 'house' INTO search_place_id;
775         IF search_place_id IS NULL THEN
776           -- null record of right type
777           select * from placex where osm_type = 'N' and osm_id = waynodes[nodeidpos]::INTEGER and type = 'house' limit 1 INTO nextnode;
778           select ST_SetSRID(ST_Point(lon::float/10000000,lat::float/10000000),4326) from planet_osm_nodes where id = waynodes[nodeidpos] INTO nextnode.geometry;
779         ELSE
780           select * from placex where place_id = search_place_id INTO nextnode;
781         END IF;
782
783 --RAISE WARNING 'interpolation node % % % ',nextnode.housenumber,ST_X(nextnode.geometry),ST_Y(nextnode.geometry);
784       
785         IF havefirstpoint THEN
786
787           -- add point to the line string
788           linestr := linestr||','||ST_X(nextnode.geometry)||' '||ST_Y(nextnode.geometry);
789           endnumber := ('0'||substring(nextnode.housenumber,'[0-9]+'))::integer;
790
791           IF startnumber IS NOT NULL and startnumber > 0 AND endnumber IS NOT NULL and endnumber > 0 THEN
792
793 --RAISE WARNING 'interpolation end % % ',nextnode.place_id,endnumber;
794
795             IF startnumber != endnumber THEN
796
797               linestr := linestr || ')';
798 --RAISE WARNING 'linestr %',linestr;
799               linegeo := ST_GeomFromText(linestr,4326);
800               linestr := 'LINESTRING('||ST_X(nextnode.geometry)||' '||ST_Y(nextnode.geometry);
801               IF (startnumber > endnumber) THEN
802                 housenum := endnumber;
803                 endnumber := startnumber;
804                 startnumber := housenum;
805                 linegeo := ST_Reverse(linegeo);
806               END IF;
807               orginalstartnumber := startnumber;
808               originalnumberrange := endnumber - startnumber;
809
810 -- Too much broken data worldwide for this test to be worth using
811 --              IF originalnumberrange > 500 THEN
812 --                RAISE WARNING 'Number block of % while processing % %', originalnumberrange, prevnode, nextnode;
813 --              END IF;
814
815               IF (interpolationtype = 'odd' AND startnumber%2 = 0) OR (interpolationtype = 'even' AND startnumber%2 = 1) THEN
816                 startnumber := startnumber + 1;
817                 stepsize := 2;
818               ELSE
819                 IF (interpolationtype = 'odd' OR interpolationtype = 'even') THEN
820                   startnumber := startnumber + 2;
821                   stepsize := 2;
822                 ELSE -- everything else assumed to be 'all'
823                   startnumber := startnumber + 1;
824                   stepsize := 1;
825                 END IF;
826               END IF;
827               endnumber := endnumber - 1;
828               delete from placex where osm_type = 'N' and osm_id = prevnode.osm_id and type = 'house' and place_id != prevnode.place_id;
829               FOR housenum IN startnumber..endnumber BY stepsize LOOP
830                 -- this should really copy postcodes but it puts a huge burdon on the system for no big benefit
831                 -- ideally postcodes should move up to the way
832                 insert into placex (osm_type, osm_id, class, type, admin_level, housenumber, street, isin, postcode,
833                   country_code, parent_place_id, rank_address, rank_search, indexed_status, geometry)
834                   values ('N',prevnode.osm_id, prevnode.class, prevnode.type, prevnode.admin_level, housenum, prevnode.street, prevnode.isin, coalesce(prevnode.postcode, defpostalcode),
835                   prevnode.country_code, prevnode.parent_place_id, prevnode.rank_address, prevnode.rank_search, 1, ST_Line_Interpolate_Point(linegeo, (housenum::float-orginalstartnumber::float)/originalnumberrange::float));
836                 newpoints := newpoints + 1;
837 --RAISE WARNING 'interpolation number % % ',prevnode.place_id,housenum;
838               END LOOP;
839             END IF;
840             havefirstpoint := false;
841           END IF;
842         END IF;
843
844         IF NOT havefirstpoint THEN
845           startnumber := ('0'||substring(nextnode.housenumber,'[0-9]+'))::integer;
846           IF startnumber IS NOT NULL AND startnumber > 0 THEN
847             havefirstpoint := true;
848             linestr := 'LINESTRING('||ST_X(nextnode.geometry)||' '||ST_Y(nextnode.geometry);
849             prevnode := nextnode;
850           END IF;
851 --RAISE WARNING 'interpolation start % % ',nextnode.place_id,startnumber;
852         END IF;
853       END LOOP;
854     END IF;
855   END IF;
856
857 --RAISE WARNING 'interpolation points % ',newpoints;
858
859   RETURN newpoints;
860 END;
861 $$
862 LANGUAGE plpgsql;
863
864 CREATE OR REPLACE FUNCTION placex_insert() RETURNS TRIGGER
865   AS $$
866 DECLARE
867   i INTEGER;
868   postcode TEXT;
869   result BOOLEAN;
870   country_code VARCHAR(2);
871   default_language VARCHAR(10);
872   diameter FLOAT;
873 BEGIN
874 --  RAISE WARNING '%',NEW.osm_id;
875
876   -- just block these
877   IF NEW.class = 'highway' and NEW.type in ('turning_circle','traffic_signals','mini_roundabout','noexit','crossing') THEN
878 --    RAISE WARNING 'bad highway %',NEW.osm_id;
879     RETURN null;
880   END IF;
881   IF NEW.class in ('landuse','natural') and NEW.name is null THEN
882 --    RAISE WARNING 'empty landuse %',NEW.osm_id;
883     RETURN null;
884   END IF;
885
886   IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN  
887     -- block all invalid geometary - just not worth the risk.  seg faults are causing serious problems.
888 --    RAISE WARNING 'invalid geometry %',NEW.osm_id;
889     RETURN NULL;
890
891     -- Dead code
892     IF NEW.osm_type = 'R' THEN
893       -- invalid multipolygons can crash postgis, don't even bother to try!
894       RETURN NULL;
895     END IF;
896     NEW.geometry := ST_buffer(NEW.geometry,0);
897     IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN  
898 --      RAISE WARNING 'Invalid geometary, rejecting: % %', NEW.osm_type, NEW.osm_id;
899       RETURN NULL;
900     END IF;
901   END IF;
902
903   NEW.place_id := nextval('seq_place');
904   NEW.indexed_status := 1; --STATUS_NEW
905
906   NEW.country_code := lower(get_country_code(NEW.geometry, NEW.country_code));
907   NEW.partition := get_partition(NEW.geometry, NEW.country_code);
908   NEW.geometry_sector := geometry_sector(NEW.partition, NEW.geometry);
909
910   -- copy 'name' to or from the default language (if there is a default language)
911   IF NEW.name is not null AND array_upper(%#NEW.name,1) > 1 THEN
912     default_language := get_country_language_code(NEW.country_code);
913     IF default_language IS NOT NULL THEN
914       IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
915         NEW.name := NEW.name || (('name:'||default_language) => (NEW.name -> 'name'));
916       ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
917         NEW.name := NEW.name || ('name' => (NEW.name -> 'name:'||default_language));
918       END IF;
919     END IF;
920   END IF;
921
922   IF NEW.admin_level > 15 THEN
923     NEW.admin_level := 15;
924   END IF;
925
926   IF NEW.housenumber IS NOT NULL THEN
927     i := getorcreate_housenumber_id(make_standard_name(NEW.housenumber));
928   END IF;
929
930   IF NEW.osm_type = 'X' THEN
931     -- E'X'ternal records should already be in the right format so do nothing
932   ELSE
933     NEW.rank_search := 30;
934     NEW.rank_address := NEW.rank_search;
935
936     -- By doing in postgres we have the country available to us - currently only used for postcode
937     IF NEW.class = 'place' THEN
938       IF NEW.type in ('continent') THEN
939         NEW.rank_search := 2;
940         NEW.rank_address := NEW.rank_search;
941       ELSEIF NEW.type in ('sea') THEN
942         NEW.rank_search := 2;
943         NEW.rank_address := 0;
944       ELSEIF NEW.type in ('country') THEN
945         NEW.rank_search := 4;
946         NEW.rank_address := NEW.rank_search;
947       ELSEIF NEW.type in ('state') THEN
948         NEW.rank_search := 8;
949         NEW.rank_address := NEW.rank_search;
950       ELSEIF NEW.type in ('region') THEN
951         NEW.rank_search := 10;
952         NEW.rank_address := NEW.rank_search;
953       ELSEIF NEW.type in ('county') THEN
954         NEW.rank_search := 12;
955         NEW.rank_address := NEW.rank_search;
956       ELSEIF NEW.type in ('city') THEN
957         NEW.rank_search := 16;
958         NEW.rank_address := NEW.rank_search;
959       ELSEIF NEW.type in ('island') THEN
960         NEW.rank_search := 17;
961         NEW.rank_address := 0;
962       ELSEIF NEW.type in ('town') THEN
963         NEW.rank_search := 18;
964         NEW.rank_address := 16;
965       ELSEIF NEW.type in ('village','hamlet','municipality','district','unincorporated_area','borough') THEN
966         NEW.rank_search := 19;
967         NEW.rank_address := 16;
968       ELSEIF NEW.type in ('airport') AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
969         NEW.rank_search := 18;
970         NEW.rank_address := 17;
971       ELSEIF NEW.type in ('moor') AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
972         NEW.rank_search := 17;
973         NEW.rank_address := 18;
974       ELSEIF NEW.type in ('moor') THEN
975         NEW.rank_search := 17;
976         NEW.rank_address := 0;
977       ELSEIF NEW.type in ('national_park') THEN
978         NEW.rank_search := 18;
979         NEW.rank_address := 18;
980       ELSEIF NEW.type in ('suburb','croft','subdivision') THEN
981         NEW.rank_search := 20;
982         NEW.rank_address := NEW.rank_search;
983       ELSEIF NEW.type in ('farm','locality','islet') THEN
984         NEW.rank_search := 20;
985         NEW.rank_address := 0;
986       ELSEIF NEW.type in ('hall_of_residence','neighbourhood','housing_estate','nature_reserve') THEN
987         NEW.rank_search := 22;
988         NEW.rank_address := 22;
989       ELSEIF NEW.type in ('postcode') THEN
990
991         NEW.name := 'ref'=>NEW.postcode;
992
993         IF NEW.country_code = 'gb' THEN
994
995           IF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9][A-Z][A-Z])$' THEN
996             NEW.rank_search := 25;
997             NEW.rank_address := 5;
998           ELSEIF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9])$' THEN
999             NEW.rank_search := 23;
1000             NEW.rank_address := 5;
1001           ELSEIF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z])$' THEN
1002             NEW.rank_search := 21;
1003             NEW.rank_address := 5;
1004           END IF;
1005
1006         ELSEIF NEW.country_code = 'de' THEN
1007
1008           IF NEW.postcode ~ '^([0-9]{5})$' THEN
1009             NEW.rank_search := 21;
1010             NEW.rank_address := 11;
1011           END IF;
1012
1013         ELSE
1014           -- Guess at the postcode format and coverage (!)
1015           IF upper(NEW.postcode) ~ '^[A-Z0-9]{1,5}$' THEN -- Probably too short to be very local
1016             NEW.rank_search := 21;
1017             NEW.rank_address := 11;
1018           ELSE
1019             -- Does it look splitable into and area and local code?
1020             postcode := substring(upper(NEW.postcode) from '^([- :A-Z0-9]+)([- :][A-Z0-9]+)$');
1021
1022             IF postcode IS NOT NULL THEN
1023               NEW.rank_search := 25;
1024               NEW.rank_address := 11;
1025             ELSEIF NEW.postcode ~ '^[- :A-Z0-9]{6,}$' THEN
1026               NEW.rank_search := 21;
1027               NEW.rank_address := 11;
1028             END IF;
1029           END IF;
1030         END IF;
1031
1032       ELSEIF NEW.type in ('airport','street') THEN
1033         NEW.rank_search := 26;
1034         NEW.rank_address := NEW.rank_search;
1035       ELSEIF NEW.type in ('house','building') THEN
1036         NEW.rank_search := 30;
1037         NEW.rank_address := NEW.rank_search;
1038       ELSEIF NEW.type in ('houses') THEN
1039         -- can't guarantee all required nodes loaded yet due to caching in osm2pgsql
1040         -- insert new point into place for each derived building
1041         --i := create_interpolation(NEW.osm_id, NEW.housenumber);
1042         NEW.rank_search := 28;
1043         NEW.rank_address := 0;
1044       END IF;
1045
1046     ELSEIF NEW.class = 'boundary' THEN
1047       IF ST_GeometryType(NEW.geometry) NOT IN ('ST_Polygon','ST_MultiPolygon') THEN
1048 --        RAISE WARNING 'invalid boundary %',NEW.osm_id;
1049         return NULL;
1050       END IF;
1051       NEW.rank_search := NEW.admin_level * 2;
1052       NEW.rank_address := NEW.rank_search;
1053     ELSEIF NEW.class = 'landuse' AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
1054       NEW.rank_search := 22;
1055       NEW.rank_address := NEW.rank_search;
1056     -- any feature more than 5 square miles is probably worth indexing
1057     ELSEIF ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_Area(NEW.geometry) > 0.1 THEN
1058       NEW.rank_search := 22;
1059       NEW.rank_address := NEW.rank_search;
1060     ELSEIF NEW.class = 'highway' AND NEW.name is NULL AND 
1061            NEW.type in ('service','cycleway','path','footway','steps','bridleway','track','byway','motorway_link','primary_link','trunk_link','secondary_link','tertiary_link') THEN
1062 --      RAISE WARNING 'unnamed minor feature %',NEW.osm_id;
1063       RETURN NULL;
1064     ELSEIF NEW.class = 'railway' AND NEW.type in ('rail') THEN
1065       RETURN NULL;
1066     ELSEIF NEW.class = 'waterway' AND NEW.name is NULL THEN
1067       RETURN NULL;
1068     ELSEIF NEW.class = 'waterway' THEN
1069       NEW.rank_address := 17;
1070     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' AND NEW.type in ('service','cycleway','path','footway','steps','bridleway','motorway_link','primary_link','trunk_link','secondary_link','tertiary_link') THEN
1071       NEW.rank_search := 27;
1072       NEW.rank_address := NEW.rank_search;
1073     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' THEN
1074       NEW.rank_search := 26;
1075       NEW.rank_address := NEW.rank_search;
1076     ELSEIF NEW.class = 'natural' and NEW.type = 'sea' THEN
1077       NEW.rank_search := 4;
1078       NEW.rank_address := NEW.rank_search;
1079     ELSEIF NEW.class = 'natural' and NEW.type in ('coastline') THEN
1080       RETURN NULL;
1081     ELSEIF NEW.class = 'natural' and NEW.type in ('peak','volcano') THEN
1082       NEW.rank_search := 18;
1083       NEW.rank_address := 0;
1084     END IF;
1085
1086   END IF;
1087
1088   IF NEW.rank_search > 30 THEN
1089     NEW.rank_search := 30;
1090   END IF;
1091
1092   IF NEW.rank_address > 30 THEN
1093     NEW.rank_address := 30;
1094   END IF;
1095
1096   IF (NEW.extratags -> 'capital') = 'yes' THEN
1097     NEW.rank_search := NEW.rank_search -1;
1098   END IF;
1099
1100 -- Block import below rank 22
1101 --  IF NEW.rank_search > 22 THEN
1102 --    RETURN NULL;
1103 --  END IF;
1104
1105   RETURN NEW;  -- The following is not needed until doing diff updates, and slows the main index process down
1106
1107   IF (ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_IsValid(NEW.geometry)) THEN
1108     -- Performance: We just can't handle re-indexing for country level changes
1109     IF st_area(NEW.geometry) < 1 THEN
1110       -- mark items within the geometry for re-indexing
1111 --    RAISE WARNING 'placex poly insert: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1112 -- work around bug in postgis
1113       update placex set indexed_status = 2 where (ST_Contains(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry)) 
1114        AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point';
1115       update placex set indexed_status = 2 where (ST_Contains(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry)) 
1116        AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point';
1117     END IF;
1118   ELSE
1119     -- mark nearby items for re-indexing, where 'nearby' depends on the features rank_search and is a complete guess :(
1120     diameter := 0;
1121     -- 16 = city, anything higher than city is effectively ignored (polygon required!)
1122     IF NEW.type='postcode' THEN
1123       diameter := 0.05;
1124     ELSEIF NEW.rank_search < 16 THEN
1125       diameter := 0;
1126     ELSEIF NEW.rank_search < 18 THEN
1127       diameter := 0.1;
1128     ELSEIF NEW.rank_search < 20 THEN
1129       diameter := 0.05;
1130     ELSEIF NEW.rank_search = 21 THEN
1131       diameter := 0.001;
1132     ELSEIF NEW.rank_search < 24 THEN
1133       diameter := 0.02;
1134     ELSEIF NEW.rank_search < 26 THEN
1135       diameter := 0.002; -- 100 to 200 meters
1136     ELSEIF NEW.rank_search < 28 THEN
1137       diameter := 0.001; -- 50 to 100 meters
1138     END IF;
1139     IF diameter > 0 THEN
1140 --      RAISE WARNING 'placex point insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,diameter;
1141       update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter);
1142     END IF;
1143
1144   END IF;
1145
1146 --  IF NEW.rank_search < 26 THEN
1147 --    RAISE WARNING 'placex insert: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1148 --  END IF;
1149
1150   RETURN NEW;
1151
1152 END;
1153 $$
1154 LANGUAGE plpgsql;
1155
1156 CREATE OR REPLACE FUNCTION placex_update() RETURNS 
1157 TRIGGER
1158   AS $$
1159 DECLARE
1160
1161   place_centroid GEOMETRY;
1162
1163   search_maxdistance FLOAT[];
1164   search_mindistance FLOAT[];
1165   address_havelevel BOOLEAN[];
1166 --  search_scores wordscore[];
1167 --  search_scores_pos INTEGER;
1168
1169   i INTEGER;
1170   iMax FLOAT;
1171   location RECORD;
1172   way RECORD;
1173   relation RECORD;
1174   search_diameter FLOAT;
1175   search_prevdiameter FLOAT;
1176   search_maxrank INTEGER;
1177   address_maxrank INTEGER;
1178   address_street_word_id INTEGER;
1179   parent_place_id_rank BIGINT;
1180   
1181   isin TEXT[];
1182   isin_tokens INT[];
1183
1184   location_rank_search INTEGER;
1185   location_distance FLOAT;
1186
1187   tagpairid INTEGER;
1188
1189   name_vector INTEGER[];
1190   nameaddress_vector INTEGER[];
1191
1192   result BOOLEAN;
1193 BEGIN
1194
1195 --RAISE WARNING '%',NEW.place_id;
1196 --RAISE WARNING '%', NEW;
1197
1198   IF NEW.class = 'place' AND NEW.type = 'postcodearea' THEN
1199     -- Silently do nothing
1200     RETURN NEW;
1201   END IF;
1202
1203   -- defered delete
1204   IF OLD.indexed_status = 100 THEN
1205     delete from placex where osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type;
1206     RETURN NULL;
1207   END IF;
1208
1209   IF NEW.indexed_status = 0 and OLD.indexed_status != 0 THEN
1210
1211     NEW.indexed_date = now();
1212
1213     IF NEW.class = 'place' AND NEW.type = 'houses' THEN
1214       i := create_interpolation(NEW.osm_id, NEW.housenumber);
1215       RETURN NEW;
1216     END IF;
1217
1218     result := deleteSearchName(NEW.partition, NEW.place_id);
1219     DELETE FROM place_addressline WHERE place_id = NEW.place_id;
1220     DELETE FROM place_boundingbox where place_id = NEW.place_id;
1221     result := deleteRoad(NEW.partition, NEW.place_id);
1222     result := deleteLocationArea(NEW.partition, NEW.place_id);
1223
1224     -- reclaculate country and partition (should probably have a country_code and calculated_country_code as seperate fields)
1225     SELECT country_code from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO NEW.country_code;
1226     NEW.country_code := lower(get_country_code(NEW.geometry, NEW.country_code));
1227     NEW.partition := get_partition(NEW.geometry, NEW.country_code);
1228     NEW.geometry_sector := geometry_sector(NEW.partition, NEW.geometry);
1229
1230     -- Adding ourselves to the list simplifies address calculations later
1231     INSERT INTO place_addressline VALUES (NEW.place_id, NEW.place_id, true, true, 0, NEW.rank_address); 
1232
1233     -- What level are we searching from
1234     search_maxrank := NEW.rank_search;
1235
1236     -- Speed up searches - just use the centroid of the feature
1237     -- cheaper but less acurate
1238     place_centroid := ST_Centroid(NEW.geometry);
1239
1240     -- Initialise the name vector using our name
1241     name_vector := make_keywords(NEW.name);
1242     nameaddress_vector := '{}'::int[];
1243
1244     -- some tag combinations add a special id for search
1245     tagpairid := get_tagpair(NEW.class,NEW.type);
1246     IF tagpairid IS NOT NULL THEN
1247       name_vector := name_vector + tagpairid;
1248     END IF;
1249
1250     FOR i IN 1..28 LOOP
1251       address_havelevel[i] := false;
1252     END LOOP;
1253
1254 --RAISE WARNING '% %', NEW.place_id, NEW.rank_search;
1255
1256     -- For low level elements we inherit from our parent road
1257     IF (NEW.rank_search > 27 OR (NEW.type = 'postcode' AND NEW.rank_search = 25)) THEN
1258
1259 --RAISE WARNING 'finding street for %', NEW;
1260
1261       NEW.parent_place_id := null;
1262
1263       -- to do that we have to find our parent road
1264       -- Copy data from linked items (points on ways, addr:street links, relations)
1265       -- Note that addr:street links can only be indexed once the street itself is indexed
1266       IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'N' THEN
1267
1268         -- Is this node part of a relation?
1269         FOR relation IN select * from planet_osm_rels where parts @> ARRAY[NEW.osm_id::integer] and members @> ARRAY['n'||NEW.osm_id]
1270         LOOP
1271           -- At the moment we only process one type of relation - associatedStreet
1272           IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1273             FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1274               IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1275 --RAISE WARNING 'node in relation %',relation;
1276                 SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::integer 
1277                   and rank_search = 26 INTO NEW.parent_place_id;
1278               END IF;
1279             END LOOP;
1280           END IF;
1281         END LOOP;      
1282
1283 --RAISE WARNING 'x1';
1284         -- Is this node part of a way?
1285         FOR way IN select id from planet_osm_ways where nodes && ARRAY[NEW.osm_id::integer] LOOP
1286 --RAISE WARNING '%', way;
1287         FOR location IN select * from placex where osm_type = 'W' and osm_id = way.id
1288         LOOP
1289 --RAISE WARNING '%', location;
1290           -- Way IS a road then we are on it - that must be our road
1291           IF location.rank_search = 26 AND NEW.parent_place_id IS NULL THEN
1292 --RAISE WARNING 'node in way that is a street %',location;
1293             NEW.parent_place_id := location.place_id;
1294           END IF;
1295
1296           -- Is the WAY part of a relation
1297           FOR relation IN select * from planet_osm_rels where parts @> ARRAY[location.osm_id::integer] and members @> ARRAY['w'||location.osm_id]
1298           LOOP
1299             -- At the moment we only process one type of relation - associatedStreet
1300             IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1301               FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1302                 IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1303 --RAISE WARNING 'node in way that is in a relation %',relation;
1304                   SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::integer 
1305                     and rank_search = 26 INTO NEW.parent_place_id;
1306                 END IF;
1307               END LOOP;
1308             END IF;
1309           END LOOP;
1310           
1311           -- If the way contains an explicit name of a street copy it
1312           IF NEW.street IS NULL AND location.street IS NOT NULL THEN
1313 --RAISE WARNING 'node in way that has a streetname %',location;
1314             NEW.street := location.street;
1315           END IF;
1316
1317           -- If this way is a street interpolation line then it is probably as good as we are going to get
1318           IF NEW.parent_place_id IS NULL AND NEW.street IS NULL AND location.class = 'place' and location.type='houses' THEN
1319             -- Try and find a way that is close roughly parellel to this line
1320             FOR relation IN SELECT place_id FROM placex
1321               WHERE ST_DWithin(location.geometry, placex.geometry, 0.001) and placex.rank_search = 26
1322                 and st_geometrytype(location.geometry) in ('ST_LineString')
1323               ORDER BY (ST_distance(placex.geometry, ST_Line_Interpolate_Point(location.geometry,0))+
1324                         ST_distance(placex.geometry, ST_Line_Interpolate_Point(location.geometry,0.5))+
1325                         ST_distance(placex.geometry, ST_Line_Interpolate_Point(location.geometry,1))) ASC limit 1
1326             LOOP
1327 --RAISE WARNING 'using nearest street to address interpolation line,0.001 %',relation;
1328               NEW.parent_place_id := relation.place_id;
1329             END LOOP;
1330           END IF;
1331
1332         END LOOP;
1333         END LOOP;
1334                 
1335       END IF;
1336
1337 --RAISE WARNING 'x2';
1338
1339       IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'W' THEN
1340         -- Is this way part of a relation?
1341         FOR relation IN select * from planet_osm_rels where parts @> ARRAY[NEW.osm_id::integer] and members @> ARRAY['w'||NEW.osm_id]
1342         LOOP
1343           -- At the moment we only process one type of relation - associatedStreet
1344           IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1345             FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1346               IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1347 --RAISE WARNING 'way that is in a relation %',relation;
1348                 SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::integer
1349                   and rank_search = 26 INTO NEW.parent_place_id;
1350               END IF;
1351             END LOOP;
1352           END IF;
1353         END LOOP;
1354       END IF;
1355       
1356 --RAISE WARNING 'x3 %',NEW.parent_place_id;
1357
1358       IF NEW.parent_place_id IS NULL AND NEW.street IS NOT NULL THEN
1359         address_street_word_id := get_name_id(make_standard_name(NEW.street));
1360         IF address_street_word_id IS NOT NULL THEN
1361           FOR location IN SELECT * from getNearestNamedRoadFeature(NEW.partition, place_centroid, address_street_word_id) LOOP
1362             NEW.parent_place_id := location.place_id;
1363           END LOOP;
1364         END IF;
1365       END IF;
1366
1367 --RAISE WARNING 'x4 %',NEW.parent_place_id;
1368       -- Still nothing, just use the nearest road
1369       IF NEW.parent_place_id IS NULL THEN
1370         FOR location IN SELECT place_id FROM getNearestRoadFeature(NEW.partition, place_centroid) LOOP
1371           NEW.parent_place_id := location.place_id;
1372         END LOOP;
1373       END IF;
1374
1375 --return NEW;
1376 --RAISE WARNING 'x6 %',NEW.parent_place_id;
1377
1378       -- If we didn't find any road fallback to standard method
1379       IF NEW.parent_place_id IS NOT NULL THEN
1380
1381         -- Add the street to the address as zero distance to force to front of list
1382 --        INSERT INTO place_addressline VALUES (NEW.place_id, NEW.parent_place_id, true, true, 0, 26);
1383         address_havelevel[26] := true;
1384
1385         -- Import address details from parent, reclculating distance in process
1386 --        INSERT INTO place_addressline select NEW.place_id, x.address_place_id, x.fromarea, x.isaddress, ST_distance(NEW.geometry, placex.geometry), placex.rank_address
1387 --          from place_addressline as x join placex on (address_place_id = placex.place_id)
1388 --          where x.place_id = NEW.parent_place_id and x.address_place_id != NEW.parent_place_id;
1389
1390         -- Get the details of the parent road
1391         select * from search_name where place_id = NEW.parent_place_id INTO location;
1392         NEW.country_code := location.country_code;
1393
1394 --RAISE WARNING '%', NEW.name;
1395         -- If there is no name it isn't searchable, don't bother to create a search record
1396         IF NEW.name is NULL THEN
1397           return NEW;
1398         END IF;
1399
1400         -- Merge address from parent
1401         nameaddress_vector := array_merge(nameaddress_vector, location.nameaddress_vector);
1402 --return NEW;
1403         -- Performance, it would be more acurate to do all the rest of the import process but it takes too long
1404         -- Just be happy with inheriting from parent road only
1405
1406         IF NEW.rank_search <= 25 THEN
1407           result := add_location(NEW.place_id, NEW.country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.geometry);
1408         END IF;
1409
1410         result := insertSearchName(NEW.partition, NEW.place_id, NEW.country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid);
1411
1412         return NEW;
1413       END IF;
1414
1415     END IF;
1416
1417 -- RAISE WARNING '  INDEXING: %',NEW;
1418
1419     NEW.parent_place_id = 0;
1420     parent_place_id_rank = 0;
1421
1422     -- convert isin to array of tokenids
1423     isin_tokens := '{}'::int[];
1424     IF NEW.isin IS NOT NULL THEN
1425       isin := regexp_split_to_array(NEW.isin, E'[;,]');
1426       IF array_upper(isin, 1) IS NOT NULL THEN
1427         FOR i IN 1..array_upper(isin, 1) LOOP
1428           address_street_word_id := get_name_id(make_standard_name(isin[i]));
1429           IF address_street_word_id IS NOT NULL THEN
1430             isin_tokens := isin_tokens + address_street_word_id;
1431           END IF;
1432         END LOOP;
1433       END IF;
1434       isin_tokens := uniq(sort(isin_tokens));
1435     END IF;
1436     IF NEW.postcode IS NOT NULL THEN
1437       isin := regexp_split_to_array(NEW.postcode, E'[;,]');
1438       IF array_upper(isin, 1) IS NOT NULL THEN
1439         FOR i IN 1..array_upper(isin, 1) LOOP
1440           address_street_word_id := get_name_id(make_standard_name(isin[i]));
1441           IF address_street_word_id IS NOT NULL THEN
1442             isin_tokens := isin_tokens + address_street_word_id;
1443           END IF;
1444         END LOOP;
1445       END IF;
1446       isin_tokens := uniq(sort(isin_tokens));
1447     END IF;
1448 --RAISE WARNING 'ISIN: %', isin_tokens;
1449
1450     -- Process area matches
1451     location_rank_search := 100;
1452     location_distance := 0;
1453 --RAISE WARNING '  getNearFeatures(%,''%'',%,''%'')',NEW.partition, place_centroid, search_maxrank, isin_tokens;
1454     FOR location IN SELECT * from getNearFeatures(NEW.partition, place_centroid, search_maxrank, isin_tokens) LOOP
1455
1456 --RAISE WARNING '  AREA: %',location;
1457
1458       IF location.rank_search < location_rank_search THEN
1459         location_rank_search := location.rank_search;
1460         location_distance := location.distance * 1.5;
1461       END IF;
1462
1463       IF location.distance < location_distance OR NOT location.isguess THEN
1464
1465         -- Add it to the list of search terms
1466         nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1467         INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, true, NOT address_havelevel[location.rank_address], location.distance, location.rank_address); 
1468         address_havelevel[location.rank_address] := true;
1469
1470 --RAISE WARNING '  Terms: (%) %',location, nameaddress_vector;
1471
1472         IF location.rank_address > parent_place_id_rank THEN
1473           NEW.parent_place_id = location.place_id;
1474           parent_place_id_rank = location.rank_address;
1475         END IF;
1476
1477       END IF;
1478
1479     END LOOP;
1480
1481     -- try using the isin value to find parent places
1482     IF array_upper(isin_tokens, 1) IS NOT NULL THEN
1483       FOR i IN 1..array_upper(isin_tokens, 1) LOOP
1484 --RAISE WARNING '  getNearestNamedFeature: % % % %',NEW.partition, place_centroid, search_maxrank, isin_tokens[i];
1485
1486         FOR location IN SELECT * from getNearestNamedFeature(NEW.partition, place_centroid, search_maxrank, isin_tokens[i]) LOOP
1487
1488 --RAISE WARNING '  ISIN: %',location;
1489
1490           nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1491           INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, false, NOT address_havelevel[location.rank_address], location.distance, location.rank_address);
1492           address_havelevel[location.rank_address] := true;
1493
1494           IF location.rank_address > parent_place_id_rank THEN
1495             NEW.parent_place_id = location.place_id;
1496             parent_place_id_rank = location.rank_address;
1497           END IF;
1498
1499         END LOOP;
1500
1501       END LOOP;
1502     END IF;
1503
1504     -- for long ways we should add search terms for the entire length
1505     IF st_length(NEW.geometry) > 0.05 THEN
1506
1507       location_rank_search := 100;
1508       location_distance := 0;
1509
1510       FOR location IN SELECT * from getNearFeatures(NEW.partition, NEW.geometry, search_maxrank, isin_tokens) LOOP
1511
1512         IF location.rank_search < location_rank_search THEN
1513           location_rank_search := location.rank_search;
1514           location_distance := location.distance * 1.5;
1515         END IF;
1516
1517         IF location.distance < location_distance THEN
1518
1519           -- Add it to the list of search terms
1520           nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1521           INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, true, false, location.distance, location.rank_address); 
1522
1523         END IF;
1524
1525       END LOOP;
1526
1527     END IF;
1528
1529     -- if we have a name add this to the name search table
1530     IF NEW.name IS NOT NULL THEN
1531
1532       IF NEW.rank_search <= 25 THEN
1533         result := add_location(NEW.place_id, NEW.country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.geometry);
1534       END IF;
1535
1536       IF NEW.rank_search between 26 and 27 and NEW.class = 'highway' THEN
1537         result := insertLocationRoad(NEW.partition, NEW.place_id, NEW.country_code, NEW.geometry);
1538       END IF;
1539
1540       result := insertSearchName(NEW.partition, NEW.place_id, NEW.country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid);
1541
1542 --      INSERT INTO search_name values (NEW.place_id, NEW.rank_search, NEW.rank_search, 0, NEW.country_code, name_vector, nameaddress_vector, place_centroid);
1543     END IF;
1544
1545   END IF;
1546
1547   RETURN NEW;
1548 END;
1549 $$
1550 LANGUAGE plpgsql;
1551
1552 CREATE OR REPLACE FUNCTION placex_delete() RETURNS TRIGGER
1553   AS $$
1554 DECLARE
1555   b BOOLEAN;
1556 BEGIN
1557
1558   IF OLD.rank_address < 30 THEN
1559
1560     -- mark everything linked to this place for re-indexing
1561     UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = OLD.place_id 
1562       and placex.place_id = place_addressline.place_id and indexed_status = 0;
1563
1564     DELETE FROM place_addressline where address_place_id = OLD.place_id;
1565
1566     b := deleteRoad(OLD.partition, OLD.place_id);
1567
1568     update placex set indexed_status = 2 where parent_place_id = OLD.place_id and indexed_status = 0;
1569
1570   END IF;
1571
1572   IF OLD.rank_address < 26 THEN
1573     b := deleteLocationArea(OLD.partition, OLD.place_id);
1574   END IF;
1575
1576   IF OLD.name is not null THEN
1577     b := deleteSearchName(OLD.partition, OLD.place_id);
1578   END IF;
1579
1580   DELETE FROM place_addressline where place_id = OLD.place_id;
1581
1582   RETURN OLD;
1583
1584 END;
1585 $$
1586 LANGUAGE plpgsql;
1587
1588 CREATE OR REPLACE FUNCTION place_delete() RETURNS TRIGGER
1589   AS $$
1590 DECLARE
1591   placeid BIGINT;
1592 BEGIN
1593
1594 --  RAISE WARNING 'delete: % % % %',OLD.osm_type,OLD.osm_id,OLD.class,OLD.type;
1595
1596   -- deleting large polygons can have a massive effect ont he system - require manual intervention to let them through
1597   IF st_area(OLD.geometry) > 2 THEN
1598     insert into import_polygon_delete values (OLD.osm_type,OLD.osm_id,OLD.class,OLD.type);
1599     RETURN NULL;
1600   END IF;
1601
1602   -- mark for delete
1603   UPDATE placex set indexed_status = 100 where osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type;
1604
1605 --  delete from placex where osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type;
1606   RETURN OLD;
1607
1608 END;
1609 $$
1610 LANGUAGE plpgsql;
1611
1612 CREATE OR REPLACE FUNCTION place_insert() RETURNS TRIGGER
1613   AS $$
1614 DECLARE
1615   i INTEGER;
1616   existing RECORD;
1617   existingplacex RECORD;
1618   existinggeometry GEOMETRY;
1619   existingplace_id BIGINT;
1620   result BOOLEAN;
1621   partition INTEGER;
1622 BEGIN
1623
1624   IF FALSE and NEW.osm_type = 'R' THEN
1625     RAISE WARNING '-----------------------------------------------------------------------------------';
1626     RAISE WARNING 'place_insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,st_area(NEW.geometry);
1627     select * from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existingplacex;
1628     RAISE WARNING '%', existingplacex;
1629   END IF;
1630
1631   -- Just block these - lots and pointless
1632   IF NEW.class = 'highway' and NEW.type in ('turning_circle','traffic_signals','mini_roundabout','noexit','crossing') THEN
1633     RETURN null;
1634   END IF;
1635   IF NEW.class in ('landuse','natural') and NEW.name is null THEN
1636     RETURN null;
1637   END IF;
1638
1639   IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN  
1640     INSERT INTO import_polygon_error values (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.country_code, 
1641       now(), ST_IsValidReason(NEW.geometry), null, NEW.geometry);
1642 --    RAISE WARNING 'Invalid Geometry: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1643     RETURN null;
1644   END IF;
1645
1646   -- Patch in additional country names
1647   IF NEW.admin_level = 2 AND NEW.type = 'administrative' AND NEW.country_code is not null THEN
1648     select country_name.name || NEW.name from country_name where country_name.country_code = lower(NEW.country_code) INTO NEW.name;
1649   END IF;
1650     
1651   -- Have we already done this place?
1652   select * from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existing;
1653
1654   -- Get the existing place_id
1655   select * from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existingplacex;
1656
1657   -- Handle a place changing type by removing the old data
1658   -- My generated 'place' types are causing havok because they overlap with real keys
1659   -- TODO: move them to their own special purpose key/class to avoid collisions
1660   IF existing.osm_type IS NULL AND (NEW.type not in ('postcode','house','houses')) THEN
1661     DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type not in ('postcode','house','houses');
1662   END IF;
1663
1664 --  RAISE WARNING 'Existing: %',existing.place_id;
1665
1666   -- Log and discard 
1667   IF existing.geometry is not null AND st_isvalid(existing.geometry) 
1668     AND st_area(existing.geometry) > 0.02
1669     AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon')
1670     AND st_area(NEW.geometry) < st_area(existing.geometry)*0.5
1671     THEN
1672     INSERT INTO import_polygon_error values (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.country_code, now(), 
1673       'Area reduced from '||st_area(existing.geometry)||' to '||st_area(NEW.geometry), existing.geometry, NEW.geometry);
1674     RETURN null;
1675   END IF;
1676
1677   DELETE from import_polygon_error where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
1678   DELETE from import_polygon_delete where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
1679
1680   -- To paraphrase, if there isn't an existing item, OR if the admin level has changed, OR if it is a major change in geometry
1681   IF existing.osm_type IS NULL 
1682      OR existingplacex.osm_type IS NULL
1683      OR coalesce(existing.admin_level, 100) != coalesce(NEW.admin_level, 100) 
1684      OR coalesce(existing.country_code, '') != coalesce(NEW.country_code, '')
1685      OR (existing.geometry::text != NEW.geometry::text AND ST_Distance(ST_Centroid(existing.geometry),ST_Centroid(NEW.geometry)) > 0.01 AND NOT
1686      (ST_GeometryType(existing.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon')))
1687      THEN
1688
1689 --  IF existing.osm_type IS NULL THEN
1690 --    RAISE WARNING 'no existing place';
1691 --  END IF;
1692 --  IF existingplacex.osm_type IS NULL THEN
1693 --    RAISE WARNING 'no existing placex %', existingplacex;
1694 --  END IF;
1695
1696 --    RAISE WARNING 'delete and replace';
1697
1698     IF existing.osm_type IS NOT NULL THEN
1699 --      RAISE WARNING 'insert delete % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,ST_Distance(ST_Centroid(existing.geometry),ST_Centroid(NEW.geometry)),existing;
1700       DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
1701     END IF;   
1702
1703 --    RAISE WARNING 'delete and replace2';
1704
1705     -- No - process it as a new insertion (hopefully of low rank or it will be slow)
1706     insert into placex (osm_type, osm_id, class, type, name, admin_level, housenumber, 
1707       street, isin, postcode, country_code, extratags, geometry)
1708       values (NEW.osm_type
1709         ,NEW.osm_id
1710         ,NEW.class
1711         ,NEW.type
1712         ,NEW.name
1713         ,NEW.admin_level
1714         ,NEW.housenumber
1715         ,NEW.street
1716         ,NEW.isin
1717         ,NEW.postcode
1718         ,NEW.country_code
1719         ,NEW.extratags
1720         ,NEW.geometry
1721         );
1722
1723 --    RAISE WARNING 'insert done % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1724
1725     RETURN NEW;
1726   END IF;
1727
1728   -- Various ways to do the update
1729
1730   -- Debug, what's changed?
1731   IF FALSE THEN
1732     IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '') THEN
1733       RAISE WARNING 'update details, name: % % % %',NEW.osm_type,NEW.osm_id,existing.name::text,NEW.name::text;
1734     END IF;
1735     IF coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '') THEN
1736       RAISE WARNING 'update details, housenumber: % % % %',NEW.osm_type,NEW.osm_id,existing.housenumber,NEW.housenumber;
1737     END IF;
1738     IF coalesce(existing.street, '') != coalesce(NEW.street, '') THEN
1739       RAISE WARNING 'update details, street: % % % %',NEW.osm_type,NEW.osm_id,existing.street,NEW.street;
1740     END IF;
1741     IF coalesce(existing.isin, '') != coalesce(NEW.isin, '') THEN
1742       RAISE WARNING 'update details, isin: % % % %',NEW.osm_type,NEW.osm_id,existing.isin,NEW.isin;
1743     END IF;
1744     IF coalesce(existing.postcode, '') != coalesce(NEW.postcode, '') THEN
1745       RAISE WARNING 'update details, postcode: % % % %',NEW.osm_type,NEW.osm_id,existing.postcode,NEW.postcode;
1746     END IF;
1747     IF coalesce(existing.country_code, '') != coalesce(NEW.country_code, '') THEN
1748       RAISE WARNING 'update details, country_code: % % % %',NEW.osm_type,NEW.osm_id,existing.country_code,NEW.country_code;
1749     END IF;
1750   END IF;
1751
1752   -- Special case for polygon shape changes because they tend to be large and we can be a bit clever about how we handle them
1753   IF existing.geometry::text != NEW.geometry::text 
1754      AND ST_GeometryType(existing.geometry) in ('ST_Polygon','ST_MultiPolygon')
1755      AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') 
1756      THEN 
1757
1758     -- Get the version of the geometry actually used (in placex table)
1759     select geometry from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type into existinggeometry;
1760
1761     -- Performance limit
1762     IF st_area(NEW.geometry) < 0.000000001 AND st_area(existinggeometry) < 1 THEN
1763
1764       -- re-index points that have moved in / out of the polygon, could be done as a single query but postgres gets the index usage wrong
1765       update placex set indexed_status = 2 where indexed_status = 0 and 
1766           (ST_Contains(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
1767           AND NOT (ST_Contains(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
1768           AND rank_search > existingplacex.rank_search;
1769
1770       update placex set indexed_status = 2 where indexed_status = 0 and 
1771           (ST_Contains(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
1772           AND NOT (ST_Contains(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
1773           AND rank_search > existingplacex.rank_search;
1774
1775     END IF;
1776
1777   END IF;
1778
1779   -- Special case - if we are just adding extra words we hack them into the search_name table rather than reindexing
1780   IF FALSE AND existingplacex.rank_search < 26
1781      AND coalesce(existing.housenumber, '') = coalesce(NEW.housenumber, '')
1782      AND coalesce(existing.street, '') = coalesce(NEW.street, '')
1783      AND coalesce(existing.isin, '') = coalesce(NEW.isin, '')
1784      AND coalesce(existing.postcode, '') = coalesce(NEW.postcode, '')
1785      AND coalesce(existing.country_code, '') = coalesce(NEW.country_code, '')
1786      AND coalesce(existing.name::text, '') != coalesce(NEW.name::text, '') 
1787      THEN
1788
1789     IF NOT update_location_nameonly(existingplacex.place_id, NEW.name) THEN
1790
1791       IF st_area(NEW.geometry) < 0.5 THEN
1792         UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = existingplacex.place_id 
1793           and placex.place_id = place_addressline.place_id and indexed_status = 0;
1794       END IF;
1795
1796     END IF;
1797   
1798   ELSE
1799
1800     -- Anything else has changed - reindex the lot
1801     IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '')
1802         OR coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '')
1803         OR coalesce(existing.street, '') != coalesce(NEW.street, '')
1804         OR coalesce(existing.isin, '') != coalesce(NEW.isin, '')
1805         OR coalesce(existing.postcode, '') != coalesce(NEW.postcode, '')
1806         OR coalesce(existing.country_code, '') != coalesce(NEW.country_code, '') THEN
1807
1808       -- performance, can't take the load of re-indexing a whole country / huge area
1809       IF st_area(NEW.geometry) < 0.5 THEN
1810 --        UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = existingplacex.place_id 
1811 --          and placex.place_id = place_addressline.place_id and indexed_status = 0;
1812       END IF;
1813
1814     END IF;
1815
1816   END IF;
1817
1818   IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '')
1819      OR coalesce(existing.extratags::text, '') != coalesce(NEW.extratags::text, '')
1820      OR coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '')
1821      OR coalesce(existing.street, '') != coalesce(NEW.street, '')
1822      OR coalesce(existing.isin, '') != coalesce(NEW.isin, '')
1823      OR coalesce(existing.postcode, '') != coalesce(NEW.postcode, '')
1824      OR coalesce(existing.country_code, '') != coalesce(NEW.country_code, '')
1825      OR existing.geometry::text != NEW.geometry::text
1826      THEN
1827
1828     update place set 
1829       name = NEW.name,
1830       housenumber  = NEW.housenumber,
1831       street = NEW.street,
1832       isin = NEW.isin,
1833       postcode = NEW.postcode,
1834       country_code = NEW.country_code,
1835       extratags = NEW.extratags,
1836       geometry = NEW.geometry
1837       where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
1838
1839     update placex set 
1840       name = NEW.name,
1841       housenumber = NEW.housenumber,
1842       street = NEW.street,
1843       isin = NEW.isin,
1844       postcode = NEW.postcode,
1845       country_code = NEW.country_code,
1846       parent_place_id = null,
1847       extratags = NEW.extratags,
1848       indexed_status = 2,    
1849       geometry = NEW.geometry
1850       where place_id = existingplacex.place_id;
1851
1852 -- now done as part of insert
1853 --    partition := get_partition(NEW.geometry, existingplacex.country_code);
1854 --    result := update_location(partition, existingplacex.place_id, existingplacex.country_code, NEW.name, existingplacex.rank_search, existingplacex.rank_address, NEW.geometry);
1855
1856   END IF;
1857
1858   -- Abort the add (we modified the existing place instead)
1859   RETURN NULL;
1860
1861 END; 
1862 $$ LANGUAGE plpgsql;
1863
1864 CREATE OR REPLACE FUNCTION get_name_by_language(name hstore, languagepref TEXT[]) RETURNS TEXT
1865   AS $$
1866 DECLARE
1867   search TEXT[];
1868   found BOOLEAN;
1869 BEGIN
1870
1871   IF name is null THEN
1872     RETURN null;
1873   END IF;
1874
1875   search := languagepref;
1876
1877   FOR j IN 1..array_upper(search, 1) LOOP
1878     IF name ? search[j] AND trim(name->search[j]) != '' THEN
1879       return trim(name->search[j]);
1880     END IF;
1881   END LOOP;
1882
1883   RETURN null;
1884 END;
1885 $$
1886 LANGUAGE plpgsql IMMUTABLE;
1887
1888 CREATE OR REPLACE FUNCTION get_connected_ways(way_ids INTEGER[]) RETURNS SETOF planet_osm_ways
1889   AS $$
1890 DECLARE
1891   searchnodes INTEGER[];
1892   location RECORD;
1893   j INTEGER;
1894 BEGIN
1895
1896   searchnodes := '{}';
1897   FOR j IN 1..array_upper(way_ids, 1) LOOP
1898     FOR location IN 
1899       select nodes from planet_osm_ways where id = way_ids[j] LIMIT 1
1900     LOOP
1901       searchnodes := searchnodes | location.nodes;
1902     END LOOP;
1903   END LOOP;
1904
1905   RETURN QUERY select * from planet_osm_ways where nodes && searchnodes and NOT ARRAY[id] <@ way_ids;
1906 END;
1907 $$
1908 LANGUAGE plpgsql IMMUTABLE;
1909
1910 CREATE OR REPLACE FUNCTION get_address_postcode(for_place_id BIGINT) RETURNS TEXT
1911   AS $$
1912 DECLARE
1913   result TEXT[];
1914   search TEXT[];
1915   for_postcode TEXT;
1916   found INTEGER;
1917   location RECORD;
1918 BEGIN
1919
1920   found := 1000;
1921   search := ARRAY['ref'];
1922   result := '{}';
1923
1924   select postcode from placex where place_id = for_place_id limit 1 into for_postcode;
1925
1926   FOR location IN 
1927     select rank_address,name,distance,length(name::text) as namelength 
1928       from place_addressline join placex on (address_place_id = placex.place_id) 
1929       where place_addressline.place_id = for_place_id and rank_address in (5,11)
1930       order by rank_address desc,rank_search desc,fromarea desc,distance asc,namelength desc
1931   LOOP
1932     IF array_upper(search, 1) IS NOT NULL AND array_upper(location.name, 1) IS NOT NULL THEN
1933       FOR j IN 1..array_upper(search, 1) LOOP
1934         FOR k IN 1..array_upper(location.name, 1) LOOP
1935           IF (found > location.rank_address AND location.name[k].key = search[j] AND location.name[k].value != '') AND NOT result && ARRAY[trim(location.name[k].value)] AND (for_postcode IS NULL OR location.name[k].value ilike for_postcode||'%') THEN
1936             result[(100 - location.rank_address)] := trim(location.name[k].value);
1937             found := location.rank_address;
1938           END IF;
1939         END LOOP;
1940       END LOOP;
1941     END IF;
1942   END LOOP;
1943
1944   RETURN array_to_string(result,', ');
1945 END;
1946 $$
1947 LANGUAGE plpgsql;
1948
1949 CREATE OR REPLACE FUNCTION get_address_by_language(for_place_id BIGINT, languagepref TEXT[]) RETURNS TEXT
1950   AS $$
1951 DECLARE
1952   result TEXT[];
1953   currresult TEXT;
1954   prevresult TEXT;
1955   location RECORD;
1956 BEGIN
1957
1958   result := '{}';
1959   prevresult := '';
1960
1961   FOR location IN select * from get_addressdata(for_place_id) where isaddress order by rank_address desc LOOP
1962     currresult := trim(get_name_by_language(location.name, languagepref));
1963     IF currresult != prevresult AND currresult IS NOT NULL THEN
1964       result[(100 - location.rank_address)] := trim(get_name_by_language(location.name, languagepref));
1965       prevresult := currresult;
1966     END IF;
1967   END LOOP;
1968
1969   RETURN array_to_string(result,', ');
1970 END;
1971 $$
1972 LANGUAGE plpgsql;
1973
1974 DROP TYPE addressline CASCADE;
1975 create type addressline as (
1976   place_id BIGINT,
1977   osm_type CHAR(1),
1978   osm_id INTEGER,
1979   name HSTORE,
1980   class TEXT,
1981   type TEXT,
1982   admin_level INTEGER,
1983   fromarea BOOLEAN,  
1984   isaddress BOOLEAN,  
1985   rank_address INTEGER,
1986   distance FLOAT
1987 );
1988
1989 CREATE OR REPLACE FUNCTION get_addressdata(in_place_id BIGINT) RETURNS setof addressline 
1990   AS $$
1991 DECLARE
1992   for_place_id BIGINT;
1993   result TEXT[];
1994   search TEXT[];
1995   found INTEGER;
1996   location RECORD;
1997   countrylocation RECORD;
1998   searchcountrycode varchar(2);
1999   searchhousenumber TEXT;
2000   searchhousename HSTORE;
2001   searchrankaddress INTEGER;
2002   searchpostcode TEXT;
2003   searchclass TEXT;
2004   searchtype TEXT;
2005   countryname HSTORE;
2006   hadcountry BOOLEAN;
2007 BEGIN
2008
2009   select parent_place_id,'us', housenumber, 30, postcode, null, 'place', 'house' from location_property_tiger 
2010     WHERE place_id = in_place_id 
2011     INTO for_place_id,searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2012
2013   IF for_place_id IS NULL THEN
2014     select parent_place_id,'us', housenumber, 30, postcode, null, 'place', 'house' from location_property_aux
2015       WHERE place_id = in_place_id 
2016       INTO for_place_id,searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2017   END IF;
2018
2019   IF for_place_id IS NULL THEN
2020     select parent_place_id, country_code, housenumber, rank_address, postcode, name, class, type from placex 
2021       WHERE place_id = in_place_id and rank_address = 30 
2022       INTO for_place_id, searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2023   END IF;
2024
2025   IF for_place_id IS NULL THEN
2026     for_place_id := in_place_id;
2027     select country_code, housenumber, rank_address, postcode, null from placex where place_id = for_place_id 
2028       INTO searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename;
2029   END IF;
2030
2031 --RAISE WARNING '% % % %',searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode;
2032
2033   found := 1000;
2034   hadcountry := false;
2035   FOR location IN 
2036     select placex.place_id, osm_type, osm_id,
2037       CASE WHEN class = 'place' and type = 'postcode' THEN 'name' => postcode ELSE name END as name,
2038       class, type, admin_level, true as fromarea, true as isaddress,
2039       CASE WHEN rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2040       0 as distance, country_code
2041       from placex
2042       where place_id = for_place_id 
2043   LOOP
2044 --RAISE WARNING '%',location;
2045     IF searchcountrycode IS NULL AND location.country_code IS NOT NULL THEN
2046       searchcountrycode := location.country_code;
2047     END IF;
2048     IF searchpostcode IS NOT NULL and location.type = 'postcode' THEN
2049       location.isaddress := FALSE;
2050     END IF;
2051     IF location.rank_address = 4 AND location.isaddress THEN
2052       hadcountry := true;
2053     END IF;
2054     IF location.rank_address < 4 AND NOT hadcountry THEN
2055       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2056       IF countryname IS NOT NULL THEN
2057         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2058         RETURN NEXT countrylocation;
2059       END IF;
2060     END IF;
2061     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class, 
2062                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address, 
2063                            location.distance)::addressline;
2064     RETURN NEXT countrylocation;
2065     found := location.rank_address;
2066   END LOOP;
2067
2068   FOR location IN 
2069     select placex.place_id, osm_type, osm_id,
2070       CASE WHEN class = 'place' and type = 'postcode' THEN 'name' => postcode ELSE name END as name,
2071       class, type, admin_level, fromarea, isaddress,
2072       CASE WHEN address_place_id = for_place_id AND rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2073       distance,country_code
2074       from place_addressline join placex on (address_place_id = placex.place_id) 
2075       where place_addressline.place_id = for_place_id 
2076       and (cached_rank_address > 0 AND cached_rank_address < searchrankaddress)
2077       and address_place_id != for_place_id
2078       and (placex.country_code IS NULL OR searchcountrycode IS NULL OR placex.country_code = searchcountrycode OR rank_address < 4)
2079       order by rank_address desc,isaddress desc,fromarea desc,distance asc,rank_search desc
2080   LOOP
2081 --RAISE WARNING '%',location;
2082     IF searchcountrycode IS NULL AND location.country_code IS NOT NULL THEN
2083       searchcountrycode := location.country_code;
2084     END IF;
2085     IF searchpostcode IS NOT NULL and location.type = 'postcode' THEN
2086       location.isaddress := FALSE;
2087     END IF;
2088     IF location.rank_address = 4 AND location.isaddress THEN
2089       hadcountry := true;
2090     END IF;
2091     IF location.rank_address < 4 AND NOT hadcountry THEN
2092       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2093       IF countryname IS NOT NULL THEN
2094         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2095         RETURN NEXT countrylocation;
2096       END IF;
2097     END IF;
2098     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class, 
2099                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address, 
2100                            location.distance)::addressline;
2101     RETURN NEXT countrylocation;
2102     found := location.rank_address;
2103   END LOOP;
2104
2105   IF found > 4 THEN
2106     select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2107 --RAISE WARNING '% % %',found,searchcountrycode,countryname;
2108     IF countryname IS NOT NULL THEN
2109       location := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2110       RETURN NEXT location;
2111     END IF;
2112   END IF;
2113
2114   IF searchcountrycode IS NOT NULL THEN
2115     location := ROW(null, null, null, 'ref'=>searchcountrycode, 'place', 'country_code', null, true, false, 4, 0)::addressline;
2116     RETURN NEXT location;
2117   END IF;
2118
2119   IF searchhousename IS NOT NULL THEN
2120     location := ROW(in_place_id, null, null, searchhousename, searchclass, searchtype, null, true, true, 29, 0)::addressline;
2121 --    location := ROW(in_place_id, null, null, searchhousename, 'place', 'house_name', null, true, true, 29, 0)::addressline;
2122     RETURN NEXT location;
2123   END IF;
2124
2125   IF searchhousenumber IS NOT NULL THEN
2126     location := ROW(in_place_id, null, null, 'ref'=>searchhousenumber, 'place', 'house_number', null, true, true, 28, 0)::addressline;
2127     RETURN NEXT location;
2128   END IF;
2129
2130   IF searchpostcode IS NOT NULL THEN
2131     location := ROW(null, null, null, 'ref'=>searchpostcode, 'place', 'postcode', null, true, true, 5, 0)::addressline;
2132     RETURN NEXT location;
2133   END IF;
2134
2135   RETURN;
2136 END;
2137 $$
2138 LANGUAGE plpgsql;
2139
2140 CREATE OR REPLACE FUNCTION get_place_boundingbox(search_place_id BIGINT) RETURNS place_boundingbox
2141   AS $$
2142 DECLARE
2143   result place_boundingbox;
2144   numfeatures integer;
2145 BEGIN
2146   select * from place_boundingbox into result where place_id = search_place_id;
2147   IF result.place_id IS NULL THEN
2148 -- remove  isaddress = true because if there is a matching polygon it always wins
2149     select count(*) from place_addressline where address_place_id = search_place_id into numfeatures;
2150     insert into place_boundingbox select place_id,
2151              ST_Y(ST_PointN(ExteriorRing(ST_Box2D(geometry)),4)),ST_Y(ST_PointN(ExteriorRing(ST_Box2D(geometry)),2)),
2152              ST_X(ST_PointN(ExteriorRing(ST_Box2D(geometry)),1)),ST_X(ST_PointN(ExteriorRing(ST_Box2D(geometry)),3)),
2153              numfeatures, ST_Area(geometry),
2154              geometry as area from location_area where place_id = search_place_id;
2155     select * from place_boundingbox into result where place_id = search_place_id;
2156   END IF;
2157   IF result.place_id IS NULL THEN
2158 -- TODO 0.0001
2159     insert into place_boundingbox select address_place_id,
2160              min(ST_Y(ST_Centroid(geometry))) as minlon,max(ST_Y(ST_Centroid(geometry))) as maxlon,
2161              min(ST_X(ST_Centroid(geometry))) as minlat,max(ST_X(ST_Centroid(geometry))) as maxlat,
2162              count(*), ST_Area(ST_Buffer(ST_Convexhull(ST_Collect(geometry)),0.0001)) as area,
2163              ST_Buffer(ST_Convexhull(ST_Collect(geometry)),0.0001) as boundary 
2164              from (select * from place_addressline where address_place_id = search_place_id order by cached_rank_address limit 4000) as place_addressline join placex using (place_id) 
2165              where address_place_id = search_place_id
2166 --               and (isaddress = true OR place_id = search_place_id)
2167                and (st_length(geometry) < 0.01 or place_id = search_place_id)
2168              group by address_place_id limit 1;
2169     select * from place_boundingbox into result where place_id = search_place_id;
2170   END IF;
2171   return result;
2172 END;
2173 $$
2174 LANGUAGE plpgsql;
2175
2176 -- don't do the operation if it would be slow
2177 CREATE OR REPLACE FUNCTION get_place_boundingbox_quick(search_place_id BIGINT) RETURNS place_boundingbox
2178   AS $$
2179 DECLARE
2180   result place_boundingbox;
2181   numfeatures integer;
2182   rank integer;
2183 BEGIN
2184   select * from place_boundingbox into result where place_id = search_place_id;
2185   IF result IS NULL AND rank > 14 THEN
2186     select count(*) from place_addressline where address_place_id = search_place_id and isaddress = true into numfeatures;
2187     insert into place_boundingbox select place_id,
2188              ST_Y(ST_PointN(ExteriorRing(ST_Box2D(geometry)),4)),ST_Y(ST_PointN(ExteriorRing(ST_Box2D(geometry)),2)),
2189              ST_X(ST_PointN(ExteriorRing(ST_Box2D(geometry)),1)),ST_X(ST_PointN(ExteriorRing(ST_Box2D(geometry)),3)),
2190              numfeatures, ST_Area(geometry),
2191              geometry as area from location_area where place_id = search_place_id;
2192     select * from place_boundingbox into result where place_id = search_place_id;
2193   END IF;
2194   IF result IS NULL THEN
2195     select rank_search from placex where place_id = search_place_id into rank;
2196     IF rank > 20 THEN
2197 -- TODO 0.0001
2198       insert into place_boundingbox select address_place_id,
2199              min(ST_Y(ST_Centroid(geometry))) as minlon,max(ST_Y(ST_Centroid(geometry))) as maxlon,
2200              min(ST_X(ST_Centroid(geometry))) as minlat,max(ST_X(ST_Centroid(geometry))) as maxlat,
2201              count(*), ST_Area(ST_Buffer(ST_Convexhull(ST_Collect(geometry)),0.0001)) as area,
2202              ST_Buffer(ST_Convexhull(ST_Collect(geometry)),0.0001) as boundary 
2203              from place_addressline join placex using (place_id) 
2204              where address_place_id = search_place_id 
2205                and (isaddress = true OR place_id = search_place_id)
2206                and (st_length(geometry) < 0.01 or place_id = search_place_id)
2207              group by address_place_id limit 1;
2208       select * from place_boundingbox into result where place_id = search_place_id;
2209     END IF;
2210   END IF;
2211   return result;
2212 END;
2213 $$
2214 LANGUAGE plpgsql;
2215
2216 CREATE OR REPLACE FUNCTION update_place(search_place_id BIGINT) RETURNS BOOLEAN
2217   AS $$
2218 DECLARE
2219   result place_boundingbox;
2220   numfeatures integer;
2221 BEGIN
2222   update placex set 
2223       name = place.name,
2224       housenumber = place.housenumber,
2225       street = place.street,
2226       isin = place.isin,
2227       postcode = place.postcode,
2228       country_code = place.country_code,
2229       parent_place_id = null
2230       from place
2231       where placex.place_id = search_place_id 
2232         and place.osm_type = placex.osm_type and place.osm_id = placex.osm_id
2233         and place.class = placex.class and place.type = placex.type;
2234   update placex set indexed_status = 2 where place_id = search_place_id;
2235   update placex set indexed_status = 0 where place_id = search_place_id;
2236   return true;
2237 END;
2238 $$
2239 LANGUAGE plpgsql;
2240
2241 CREATE OR REPLACE FUNCTION get_searchrank_label(rank INTEGER) RETURNS TEXT
2242   AS $$
2243 DECLARE
2244 BEGIN
2245   IF rank < 2 THEN
2246     RETURN 'Continent';
2247   ELSEIF rank < 4 THEN
2248     RETURN 'Sea';
2249   ELSEIF rank < 8 THEN
2250     RETURN 'Country';
2251   ELSEIF rank < 12 THEN
2252     RETURN 'State';
2253   ELSEIF rank < 16 THEN
2254     RETURN 'County';
2255   ELSEIF rank = 16 THEN
2256     RETURN 'City';
2257   ELSEIF rank = 17 THEN
2258     RETURN 'Town / Island';
2259   ELSEIF rank = 18 THEN
2260     RETURN 'Village / Hamlet';
2261   ELSEIF rank = 20 THEN
2262     RETURN 'Suburb';
2263   ELSEIF rank = 21 THEN
2264     RETURN 'Postcode Area';
2265   ELSEIF rank = 22 THEN
2266     RETURN 'Croft / Farm / Locality / Islet';
2267   ELSEIF rank = 23 THEN
2268     RETURN 'Postcode Area';
2269   ELSEIF rank = 25 THEN
2270     RETURN 'Postcode Point';
2271   ELSEIF rank = 26 THEN
2272     RETURN 'Street / Major Landmark';
2273   ELSEIF rank = 27 THEN
2274     RETURN 'Minory Street / Path';
2275   ELSEIF rank = 28 THEN
2276     RETURN 'House / Building';
2277   ELSE
2278     RETURN 'Other: '||rank;
2279   END IF;
2280   
2281 END;
2282 $$
2283 LANGUAGE plpgsql;
2284
2285 CREATE OR REPLACE FUNCTION get_addressrank_label(rank INTEGER) RETURNS TEXT
2286   AS $$
2287 DECLARE
2288 BEGIN
2289   IF rank = 0 THEN
2290     RETURN 'None';
2291   ELSEIF rank < 2 THEN
2292     RETURN 'Continent';
2293   ELSEIF rank < 4 THEN
2294     RETURN 'Sea';
2295   ELSEIF rank = 5 THEN
2296     RETURN 'Postcode';
2297   ELSEIF rank < 8 THEN
2298     RETURN 'Country';
2299   ELSEIF rank < 12 THEN
2300     RETURN 'State';
2301   ELSEIF rank < 16 THEN
2302     RETURN 'County';
2303   ELSEIF rank = 16 THEN
2304     RETURN 'City';
2305   ELSEIF rank = 17 THEN
2306     RETURN 'Town / Village / Hamlet';
2307   ELSEIF rank = 20 THEN
2308     RETURN 'Suburb';
2309   ELSEIF rank = 21 THEN
2310     RETURN 'Postcode Area';
2311   ELSEIF rank = 22 THEN
2312     RETURN 'Croft / Farm / Locality / Islet';
2313   ELSEIF rank = 23 THEN
2314     RETURN 'Postcode Area';
2315   ELSEIF rank = 25 THEN
2316     RETURN 'Postcode Point';
2317   ELSEIF rank = 26 THEN
2318     RETURN 'Street / Major Landmark';
2319   ELSEIF rank = 27 THEN
2320     RETURN 'Minory Street / Path';
2321   ELSEIF rank = 28 THEN
2322     RETURN 'House / Building';
2323   ELSE
2324     RETURN 'Other: '||rank;
2325   END IF;
2326   
2327 END;
2328 $$
2329 LANGUAGE plpgsql;
2330
2331 CREATE OR REPLACE FUNCTION get_word_suggestion(srcword TEXT) RETURNS TEXT
2332   AS $$
2333 DECLARE
2334   trigramtoken TEXT;
2335   result TEXT;
2336 BEGIN
2337
2338   trigramtoken := regexp_replace(make_standard_name(srcword),E'([^0-9])\\1+',E'\\1','g');
2339   SELECT word FROM word WHERE word_trigram like ' %' and word_trigram % trigramtoken ORDER BY similarity(word_trigram, trigramtoken) DESC, word limit 1 into result;
2340
2341   return result;
2342 END;
2343 $$
2344 LANGUAGE plpgsql;
2345
2346 CREATE OR REPLACE FUNCTION get_word_suggestions(srcword TEXT) RETURNS TEXT[]
2347   AS $$
2348 DECLARE
2349   trigramtoken TEXT;
2350   result TEXT[];
2351   r RECORD;
2352 BEGIN
2353
2354   trigramtoken := regexp_replace(make_standard_name(srcword),E'([^0-9])\\1+',E'\\1','g');
2355
2356   FOR r IN SELECT word,similarity(word_trigram, trigramtoken) as score FROM word 
2357     WHERE word_trigram like ' %' and word_trigram % trigramtoken ORDER BY similarity(word_trigram, trigramtoken) DESC, word limit 4
2358   LOOP
2359     result[coalesce(array_upper(result,1)+1,1)] := r.word;
2360   END LOOP;
2361
2362   return result;
2363 END;
2364 $$
2365 LANGUAGE plpgsql;
2366
2367 CREATE AGGREGATE array_agg(INT[])
2368 (
2369     sfunc = array_cat,
2370     stype = INT[],
2371     initcond = '{}'
2372 );
2373
2374 CREATE OR REPLACE FUNCTION tigger_create_interpolation(linegeo GEOMETRY, in_startnumber INTEGER, 
2375   in_endnumber INTEGER, interpolationtype TEXT, 
2376   in_street TEXT, in_isin TEXT, in_postcode TEXT) RETURNS INTEGER
2377   AS $$
2378 DECLARE
2379   
2380   startnumber INTEGER;
2381   endnumber INTEGER;
2382   stepsize INTEGER;
2383   housenum INTEGER;
2384   newpoints INTEGER;
2385   numberrange INTEGER;
2386   rangestartnumber INTEGER;
2387   place_centroid GEOMETRY;
2388   partition INTEGER;
2389   parent_place_id BIGINT;
2390   location RECORD;
2391   address_street_word_id INTEGER;  
2392
2393 BEGIN
2394
2395   IF in_endnumber > in_startnumber THEN
2396     startnumber = in_startnumber;
2397     endnumber = in_endnumber;
2398   ELSE
2399     startnumber = in_endnumber;
2400     endnumber = in_startnumber;
2401   END IF;
2402
2403   numberrange := endnumber - startnumber;
2404   rangestartnumber := startnumber;
2405
2406   IF (interpolationtype = 'odd' AND startnumber%2 = 0) OR (interpolationtype = 'even' AND startnumber%2 = 1) THEN
2407     startnumber := startnumber + 1;
2408     stepsize := 2;
2409   ELSE
2410     IF (interpolationtype = 'odd' OR interpolationtype = 'even') THEN
2411       stepsize := 2;
2412     ELSE -- everything else assumed to be 'all'
2413       stepsize := 1;
2414     END IF;
2415   END IF;
2416
2417   -- Filter out really broken tiger data
2418   IF numberrange > 0 AND (numberrange::float/stepsize::float > 500) 
2419                     AND ST_length(linegeo)/(numberrange::float/stepsize::float) < 0.000001 THEN
2420     RAISE WARNING 'Road too short for number range % to % on %, % (%)',startnumber,endnumber,in_street,in_isin,
2421                   ST_length(linegeo)/(numberrange::float/stepsize::float);    
2422     RETURN 0;
2423   END IF;
2424
2425   place_centroid := ST_Centroid(linegeo);
2426   partition := get_partition(place_centroid, 'us');
2427   parent_place_id := null;
2428
2429   address_street_word_id := get_name_id(make_standard_name(in_street));
2430   IF address_street_word_id IS NOT NULL THEN
2431     FOR location IN SELECT * from getNearestNamedRoadFeature(partition, place_centroid, address_street_word_id) LOOP
2432       parent_place_id := location.place_id;
2433     END LOOP;
2434   END IF;
2435
2436   IF parent_place_id IS NULL THEN
2437     FOR location IN SELECT place_id FROM getNearestParellelRoadFeature(partition, linegeo) LOOP
2438       parent_place_id := location.place_id;
2439     END LOOP;    
2440   END IF;
2441
2442   IF parent_place_id IS NULL THEN
2443     FOR location IN SELECT place_id FROM getNearestRoadFeature(partition, place_centroid) LOOP
2444       parent_place_id := location.place_id;
2445     END LOOP;    
2446   END IF;
2447
2448   newpoints := 0;
2449   FOR housenum IN startnumber..endnumber BY stepsize LOOP
2450     insert into location_property_tiger (place_id, partition, parent_place_id, housenumber, postcode, centroid)
2451     values (nextval('seq_place'), partition, parent_place_id, housenum, in_postcode,
2452       ST_Line_Interpolate_Point(linegeo, (housenum::float-rangestartnumber::float)/numberrange::float));
2453     newpoints := newpoints + 1;
2454   END LOOP;
2455
2456   RETURN newpoints;
2457 END;
2458 $$
2459 LANGUAGE plpgsql;
2460
2461 CREATE OR REPLACE FUNCTION aux_create_property(pointgeo GEOMETRY, in_housenumber TEXT, 
2462   in_street TEXT, in_isin TEXT, in_postcode TEXT, in_countrycode char(2)) RETURNS INTEGER
2463   AS $$
2464 DECLARE
2465
2466   newpoints INTEGER;
2467   place_centroid GEOMETRY;
2468   partition INTEGER;
2469   out_parent_place_id BIGINT;
2470   location RECORD;
2471   address_street_word_id INTEGER;  
2472   out_postcode TEXT;
2473
2474 BEGIN
2475
2476   place_centroid := ST_Centroid(pointgeo);
2477   partition := get_partition(place_centroid, in_countrycode);
2478   out_parent_place_id := null;
2479
2480   address_street_word_id := get_name_id(make_standard_name(in_street));
2481   IF address_street_word_id IS NOT NULL THEN
2482     FOR location IN SELECT * from getNearestNamedRoadFeature(partition, place_centroid, address_street_word_id) LOOP
2483       out_parent_place_id := location.place_id;
2484     END LOOP;
2485   END IF;
2486
2487   IF out_parent_place_id IS NULL THEN
2488     FOR location IN SELECT place_id FROM getNearestRoadFeature(partition, place_centroid) LOOP
2489       out_parent_place_id := location.place_id;
2490     END LOOP;    
2491   END IF;
2492
2493   out_postcode := in_postcode;
2494   IF out_postcode IS NULL THEN
2495     SELECT postcode from placex where place_id = out_parent_place_id INTO out_postcode;
2496   END IF;
2497   IF out_postcode IS NULL THEN
2498     out_postcode := getNearestPostcode(partition, place_centroid);
2499   END IF;
2500
2501   newpoints := 0;
2502   insert into location_property_aux (place_id, partition, parent_place_id, housenumber, postcode, centroid)
2503     values (nextval('seq_place'), partition, out_parent_place_id, in_housenumber, out_postcode, place_centroid);
2504   newpoints := newpoints + 1;
2505
2506   RETURN newpoints;
2507 END;
2508 $$
2509 LANGUAGE plpgsql;