sql/functions.sql

   1 -- Splits the line at the given point and returns the two parts
   2 -- in a multilinestring.
   3 CREATE OR REPLACE FUNCTION split_line_on_node(line GEOMETRY, point GEOMETRY)
   4 RETURNS GEOMETRY
   5   AS $$
   6 BEGIN
   7   RETURN ST_Split(ST_Snap(line, point, 0.0005), point);
   8 END;
   9 $$
  10 LANGUAGE plpgsql;
  11
  12
  13 CREATE OR REPLACE FUNCTION geometry_sector(partition INTEGER, place geometry) RETURNS INTEGER
  14   AS $$
  15 DECLARE
  16   NEWgeometry geometry;
  17 BEGIN
  18 --  RAISE WARNING '%',place;
  19   NEWgeometry := ST_PointOnSurface(place);
  20   RETURN (partition*1000000) + (500-ST_X(NEWgeometry)::integer)*1000 + (500-ST_Y(NEWgeometry)::integer);
  21 END;
  22 $$
  23 LANGUAGE plpgsql IMMUTABLE;
  24
  25 CREATE OR REPLACE FUNCTION transliteration(text) RETURNS text
  26   AS '{modulepath}/nominatim.so', 'transliteration'
  27 LANGUAGE c IMMUTABLE STRICT;
  28
  29 CREATE OR REPLACE FUNCTION gettokenstring(text) RETURNS text
  30   AS '{modulepath}/nominatim.so', 'gettokenstring'
  31 LANGUAGE c IMMUTABLE STRICT;
  32
  33 CREATE OR REPLACE FUNCTION make_standard_name(name TEXT) RETURNS TEXT
  34   AS $$
  35 DECLARE
  36   o TEXT;
  37 BEGIN
  38   o := gettokenstring(transliteration(name));
  39   RETURN trim(substr(o,1,length(o)));
  40 END;
  41 $$
  42 LANGUAGE 'plpgsql' IMMUTABLE;
  43
  44 -- returns NULL if the word is too common
  45 CREATE OR REPLACE FUNCTION getorcreate_word_id(lookup_word TEXT)
  46   RETURNS INTEGER
  47   AS $$
  48 DECLARE
  49   lookup_token TEXT;
  50   return_word_id INTEGER;
  51   count INTEGER;
  52 BEGIN
  53   lookup_token := trim(lookup_word);
  54   SELECT min(word_id), max(search_name_count) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id, count;
  55   IF return_word_id IS NULL THEN
  56     return_word_id := nextval('seq_word');
  57     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, null, 0);
  58   ELSE
  59     IF count > get_maxwordfreq() THEN
  60       return_word_id := NULL;
  61     END IF;
  62   END IF;
  63   RETURN return_word_id;
  64 END;
  65 $$
  66 LANGUAGE plpgsql;
  67
  68 CREATE OR REPLACE FUNCTION getorcreate_housenumber_id(lookup_word TEXT)
  69   RETURNS INTEGER
  70   AS $$
  71 DECLARE
  72   lookup_token TEXT;
  73   return_word_id INTEGER;
  74 BEGIN
  75   lookup_token := ' '||trim(lookup_word);
  76   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class='place' and type='house' into return_word_id;
  77   IF return_word_id IS NULL THEN
  78     return_word_id := nextval('seq_word');
  79     INSERT INTO word VALUES (return_word_id, lookup_token, null, 'place', 'house', null, 0);
  80   END IF;
  81   RETURN return_word_id;
  82 END;
  83 $$
  84 LANGUAGE plpgsql;
  85
  86 CREATE OR REPLACE FUNCTION getorcreate_country(lookup_word TEXT, lookup_country_code varchar(2))
  87   RETURNS INTEGER
  88   AS $$
  89 DECLARE
  90   lookup_token TEXT;
  91   return_word_id INTEGER;
  92 BEGIN
  93   lookup_token := ' '||trim(lookup_word);
  94   SELECT min(word_id) FROM word WHERE word_token = lookup_token and country_code=lookup_country_code into return_word_id;
  95   IF return_word_id IS NULL THEN
  96     return_word_id := nextval('seq_word');
  97     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, lookup_country_code, 0);
  98   END IF;
  99   RETURN return_word_id;
 100 END;
 101 $$
 102 LANGUAGE plpgsql;
 103
 104 CREATE OR REPLACE FUNCTION getorcreate_amenity(lookup_word TEXT, normalized_word TEXT, lookup_class text, lookup_type text)
 105   RETURNS INTEGER
 106   AS $$
 107 DECLARE
 108   lookup_token TEXT;
 109   return_word_id INTEGER;
 110 BEGIN
 111   lookup_token := ' '||trim(lookup_word);
 112   SELECT min(word_id) FROM word WHERE word_token = lookup_token and word=normalized_word and class=lookup_class and type = lookup_type into return_word_id;
 113   IF return_word_id IS NULL THEN
 114     return_word_id := nextval('seq_word');
 115     INSERT INTO word VALUES (return_word_id, lookup_token, normalized_word, lookup_class, lookup_type, null, 0);
 116   END IF;
 117   RETURN return_word_id;
 118 END;
 119 $$
 120 LANGUAGE plpgsql;
 121
 122 CREATE OR REPLACE FUNCTION getorcreate_amenityoperator(lookup_word TEXT, normalized_word TEXT, lookup_class text, lookup_type text, op text)
 123   RETURNS INTEGER
 124   AS $$
 125 DECLARE
 126   lookup_token TEXT;
 127   return_word_id INTEGER;
 128 BEGIN
 129   lookup_token := ' '||trim(lookup_word);
 130   SELECT min(word_id) FROM word WHERE word_token = lookup_token and word=normalized_word and class=lookup_class and type = lookup_type and operator = op into return_word_id;
 131   IF return_word_id IS NULL THEN
 132     return_word_id := nextval('seq_word');
 133     INSERT INTO word VALUES (return_word_id, lookup_token, normalized_word, lookup_class, lookup_type, null, 0, op);
 134   END IF;
 135   RETURN return_word_id;
 136 END;
 137 $$
 138 LANGUAGE plpgsql;
 139
 140 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT, src_word TEXT)
 141   RETURNS INTEGER
 142   AS $$
 143 DECLARE
 144   lookup_token TEXT;
 145   nospace_lookup_token TEXT;
 146   return_word_id INTEGER;
 147 BEGIN
 148   lookup_token := ' '||trim(lookup_word);
 149   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
 150   IF return_word_id IS NULL THEN
 151     return_word_id := nextval('seq_word');
 152     INSERT INTO word VALUES (return_word_id, lookup_token, src_word, null, null, null, 0);
 153 --    nospace_lookup_token := replace(replace(lookup_token, '-',''), ' ','');
 154 --    IF ' '||nospace_lookup_token != lookup_token THEN
 155 --      INSERT INTO word VALUES (return_word_id, '-'||nospace_lookup_token, null, src_word, null, null, null, 0, null);
 156 --    END IF;
 157   END IF;
 158   RETURN return_word_id;
 159 END;
 160 $$
 161 LANGUAGE plpgsql;
 162
 163 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT)
 164   RETURNS INTEGER
 165   AS $$
 166 DECLARE
 167 BEGIN
 168   RETURN getorcreate_name_id(lookup_word, '');
 169 END;
 170 $$
 171 LANGUAGE plpgsql;
 172
 173 CREATE OR REPLACE FUNCTION get_word_id(lookup_word TEXT)
 174   RETURNS INTEGER
 175   AS $$
 176 DECLARE
 177   lookup_token TEXT;
 178   return_word_id INTEGER;
 179 BEGIN
 180   lookup_token := trim(lookup_word);
 181   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
 182   RETURN return_word_id;
 183 END;
 184 $$
 185 LANGUAGE plpgsql IMMUTABLE;
 186
 187 CREATE OR REPLACE FUNCTION get_name_id(lookup_word TEXT)
 188   RETURNS INTEGER
 189   AS $$
 190 DECLARE
 191   lookup_token TEXT;
 192   return_word_id INTEGER;
 193 BEGIN
 194   lookup_token := ' '||trim(lookup_word);
 195   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
 196   RETURN return_word_id;
 197 END;
 198 $$
 199 LANGUAGE plpgsql IMMUTABLE;
 200
 201 CREATE OR REPLACE FUNCTION get_name_ids(lookup_word TEXT)
 202   RETURNS INTEGER[]
 203   AS $$
 204 DECLARE
 205   lookup_token TEXT;
 206   return_word_ids INTEGER[];
 207 BEGIN
 208   lookup_token := ' '||trim(lookup_word);
 209   SELECT array_agg(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_ids;
 210   RETURN return_word_ids;
 211 END;
 212 $$
 213 LANGUAGE plpgsql IMMUTABLE;
 214
 215 CREATE OR REPLACE FUNCTION array_merge(a INTEGER[], b INTEGER[])
 216   RETURNS INTEGER[]
 217   AS $$
 218 DECLARE
 219   i INTEGER;
 220   r INTEGER[];
 221 BEGIN
 222   IF array_upper(a, 1) IS NULL THEN
 223     RETURN b;
 224   END IF;
 225   IF array_upper(b, 1) IS NULL THEN
 226     RETURN a;
 227   END IF;
 228   r := a;
 229   FOR i IN 1..array_upper(b, 1) LOOP
 230     IF NOT (ARRAY[b[i]] <@ r) THEN
 231       r := r || b[i];
 232     END IF;
 233   END LOOP;
 234   RETURN r;
 235 END;
 236 $$
 237 LANGUAGE plpgsql IMMUTABLE;
 238
 239
 240 CREATE OR REPLACE FUNCTION get_postcode_rank(country_code VARCHAR(2), postcode TEXT,
 241                                       OUT rank_search SMALLINT, OUT rank_address SMALLINT)
 242 AS $$
 243 DECLARE
 244   part TEXT;
 245 BEGIN
 246     rank_search := 30;
 247     rank_address := 30;
 248
 249     IF country_code = 'gb' THEN
 250         IF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9][A-Z][A-Z])$' THEN
 251             rank_search := 25;
 252             rank_address := 5;
 253         ELSEIF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9])$' THEN
 254             rank_search := 23;
 255             rank_address := 5;
 256         ELSEIF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z])$' THEN
 257             rank_search := 21;
 258             rank_address := 5;
 259         END IF;
 260
 261     ELSEIF country_code = 'sg' THEN
 262         IF postcode ~ '^([0-9]{6})$' THEN
 263             rank_search := 25;
 264             rank_address := 11;
 265         END IF;
 266
 267     ELSEIF country_code = 'de' THEN
 268         IF postcode ~ '^([0-9]{5})$' THEN
 269             rank_search := 21;
 270             rank_address := 11;
 271         END IF;
 272
 273     ELSE
 274         -- Guess at the postcode format and coverage (!)
 275         IF postcode ~ '^[A-Z0-9]{1,5}$' THEN -- Probably too short to be very local
 276             rank_search := 21;
 277             rank_address := 11;
 278         ELSE
 279             -- Does it look splitable into and area and local code?
 280             part := substring(postcode from '^([- :A-Z0-9]+)([- :][A-Z0-9]+)$');
 281
 282             IF part IS NOT NULL THEN
 283                 rank_search := 25;
 284                 rank_address := 11;
 285             ELSEIF postcode ~ '^[- :A-Z0-9]{6,}$' THEN
 286                 rank_search := 21;
 287                 rank_address := 11;
 288             END IF;
 289         END IF;
 290     END IF;
 291
 292 END;
 293 $$
 294 LANGUAGE plpgsql IMMUTABLE;
 295
 296 -- Find the nearest artificial postcode for the given geometry.
 297 -- TODO For areas there should not be more than two inside the geometry.
 298 CREATE OR REPLACE FUNCTION get_nearest_postcode(country VARCHAR(2), geom GEOMETRY) RETURNS TEXT
 299   AS $$
 300 DECLARE
 301   item RECORD;
 302 BEGIN
 303     FOR item IN
 304         SELECT postcode FROM location_postcode
 305         WHERE ST_DWithin(geom, location_postcode.geometry, 0.05)
 306               AND location_postcode.country_code = country
 307         ORDER BY ST_Distance(geom, location_postcode.geometry)
 308         LIMIT 1
 309     LOOP
 310         RETURN item.postcode;
 311     END LOOP;
 312
 313     RETURN null;
 314 END;
 315 $$
 316 LANGUAGE plpgsql;
 317
 318
 319 CREATE OR REPLACE FUNCTION create_country(src HSTORE, lookup_country_code varchar(2)) RETURNS VOID
 320   AS $$
 321 DECLARE
 322   s TEXT;
 323   w INTEGER;
 324   words TEXT[];
 325   item RECORD;
 326   j INTEGER;
 327 BEGIN
 328   FOR item IN SELECT (each(src)).* LOOP
 329
 330     s := make_standard_name(item.value);
 331     w := getorcreate_country(s, lookup_country_code);
 332
 333     words := regexp_split_to_array(item.value, E'[,;()]');
 334     IF array_upper(words, 1) != 1 THEN
 335       FOR j IN 1..array_upper(words, 1) LOOP
 336         s := make_standard_name(words[j]);
 337         IF s != '' THEN
 338           w := getorcreate_country(s, lookup_country_code);
 339         END IF;
 340       END LOOP;
 341     END IF;
 342   END LOOP;
 343 END;
 344 $$
 345 LANGUAGE plpgsql;
 346
 347 CREATE OR REPLACE FUNCTION make_keywords(src HSTORE) RETURNS INTEGER[]
 348   AS $$
 349 DECLARE
 350   result INTEGER[];
 351   s TEXT;
 352   w INTEGER;
 353   words TEXT[];
 354   item RECORD;
 355   j INTEGER;
 356 BEGIN
 357   result := '{}'::INTEGER[];
 358
 359   FOR item IN SELECT (each(src)).* LOOP
 360
 361     s := make_standard_name(item.value);
 362
 363     w := getorcreate_name_id(s, item.value);
 364
 365     IF not(ARRAY[w] <@ result) THEN
 366       result := result || w;
 367     END IF;
 368
 369     w := getorcreate_word_id(s);
 370
 371     IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 372       result := result || w;
 373     END IF;
 374
 375     words := string_to_array(s, ' ');
 376     IF array_upper(words, 1) IS NOT NULL THEN
 377       FOR j IN 1..array_upper(words, 1) LOOP
 378         IF (words[j] != '') THEN
 379           w = getorcreate_word_id(words[j]);
 380           IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 381             result := result || w;
 382           END IF;
 383         END IF;
 384       END LOOP;
 385     END IF;
 386
 387     words := regexp_split_to_array(item.value, E'[,;()]');
 388     IF array_upper(words, 1) != 1 THEN
 389       FOR j IN 1..array_upper(words, 1) LOOP
 390         s := make_standard_name(words[j]);
 391         IF s != '' THEN
 392           w := getorcreate_word_id(s);
 393           IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 394             result := result || w;
 395           END IF;
 396         END IF;
 397       END LOOP;
 398     END IF;
 399
 400     s := regexp_replace(item.value, '市$', '');
 401     IF s != item.value THEN
 402       s := make_standard_name(s);
 403       IF s != '' THEN
 404         w := getorcreate_name_id(s, item.value);
 405         IF NOT (ARRAY[w] <@ result) THEN
 406           result := result || w;
 407         END IF;
 408       END IF;
 409     END IF;
 410
 411   END LOOP;
 412
 413   RETURN result;
 414 END;
 415 $$
 416 LANGUAGE plpgsql IMMUTABLE;
 417
 418 CREATE OR REPLACE FUNCTION make_keywords(src TEXT) RETURNS INTEGER[]
 419   AS $$
 420 DECLARE
 421   result INTEGER[];
 422   s TEXT;
 423   w INTEGER;
 424   words TEXT[];
 425   i INTEGER;
 426   j INTEGER;
 427 BEGIN
 428   result := '{}'::INTEGER[];
 429
 430   s := make_standard_name(src);
 431   w := getorcreate_name_id(s, src);
 432
 433   IF NOT (ARRAY[w] <@ result) THEN
 434     result := result || w;
 435   END IF;
 436
 437   w := getorcreate_word_id(s);
 438
 439   IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 440     result := result || w;
 441   END IF;
 442
 443   words := string_to_array(s, ' ');
 444   IF array_upper(words, 1) IS NOT NULL THEN
 445     FOR j IN 1..array_upper(words, 1) LOOP
 446       IF (words[j] != '') THEN
 447         w = getorcreate_word_id(words[j]);
 448         IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 449           result := result || w;
 450         END IF;
 451       END IF;
 452     END LOOP;
 453   END IF;
 454
 455   words := regexp_split_to_array(src, E'[,;()]');
 456   IF array_upper(words, 1) != 1 THEN
 457     FOR j IN 1..array_upper(words, 1) LOOP
 458       s := make_standard_name(words[j]);
 459       IF s != '' THEN
 460         w := getorcreate_word_id(s);
 461         IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 462           result := result || w;
 463         END IF;
 464       END IF;
 465     END LOOP;
 466   END IF;
 467
 468   s := regexp_replace(src, '市$', '');
 469   IF s != src THEN
 470     s := make_standard_name(s);
 471     IF s != '' THEN
 472       w := getorcreate_name_id(s, src);
 473       IF NOT (ARRAY[w] <@ result) THEN
 474         result := result || w;
 475       END IF;
 476     END IF;
 477   END IF;
 478
 479   RETURN result;
 480 END;
 481 $$
 482 LANGUAGE plpgsql IMMUTABLE;
 483
 484 CREATE OR REPLACE FUNCTION get_country_code(place geometry) RETURNS TEXT
 485   AS $$
 486 DECLARE
 487   place_centre GEOMETRY;
 488   nearcountry RECORD;
 489 BEGIN
 490   place_centre := ST_PointOnSurface(place);
 491
 492 -- RAISE WARNING 'get_country_code, start: %', ST_AsText(place_centre);
 493
 494   -- Try for a OSM polygon
 495   FOR nearcountry IN select country_code from location_area_country where country_code is not null and not isguess and st_covers(geometry, place_centre) limit 1
 496   LOOP
 497     RETURN nearcountry.country_code;
 498   END LOOP;
 499
 500 -- RAISE WARNING 'osm fallback: %', ST_AsText(place_centre);
 501
 502   -- Try for OSM fallback data
 503   -- The order is to deal with places like HongKong that are 'states' within another polygon
 504   FOR nearcountry IN select country_code from country_osm_grid where st_covers(geometry, place_centre) order by area asc limit 1
 505   LOOP
 506     RETURN nearcountry.country_code;
 507   END LOOP;
 508
 509 -- RAISE WARNING 'natural earth: %', ST_AsText(place_centre);
 510
 511   -- Natural earth data
 512   FOR nearcountry IN select country_code from country_naturalearthdata where st_covers(geometry, place_centre) limit 1
 513   LOOP
 514     RETURN nearcountry.country_code;
 515   END LOOP;
 516
 517 -- RAISE WARNING 'near osm fallback: %', ST_AsText(place_centre);
 518
 519   --
 520   FOR nearcountry IN select country_code from country_osm_grid where st_dwithin(geometry, place_centre, 0.5) order by st_distance(geometry, place_centre) asc, area asc limit 1
 521   LOOP
 522     RETURN nearcountry.country_code;
 523   END LOOP;
 524
 525 -- RAISE WARNING 'near natural earth: %', ST_AsText(place_centre);
 526
 527   -- Natural earth data
 528   FOR nearcountry IN select country_code from country_naturalearthdata where st_dwithin(geometry, place_centre, 0.5) limit 1
 529   LOOP
 530     RETURN nearcountry.country_code;
 531   END LOOP;
 532
 533   RETURN NULL;
 534 END;
 535 $$
 536 LANGUAGE plpgsql IMMUTABLE;
 537
 538 CREATE OR REPLACE FUNCTION get_country_language_code(search_country_code VARCHAR(2)) RETURNS TEXT
 539   AS $$
 540 DECLARE
 541   nearcountry RECORD;
 542 BEGIN
 543   FOR nearcountry IN select distinct country_default_language_code from country_name where country_code = search_country_code limit 1
 544   LOOP
 545     RETURN lower(nearcountry.country_default_language_code);
 546   END LOOP;
 547   RETURN NULL;
 548 END;
 549 $$
 550 LANGUAGE plpgsql IMMUTABLE;
 551
 552 CREATE OR REPLACE FUNCTION get_country_language_codes(search_country_code VARCHAR(2)) RETURNS TEXT[]
 553   AS $$
 554 DECLARE
 555   nearcountry RECORD;
 556 BEGIN
 557   FOR nearcountry IN select country_default_language_codes from country_name where country_code = search_country_code limit 1
 558   LOOP
 559     RETURN lower(nearcountry.country_default_language_codes);
 560   END LOOP;
 561   RETURN NULL;
 562 END;
 563 $$
 564 LANGUAGE plpgsql IMMUTABLE;
 565
 566 CREATE OR REPLACE FUNCTION get_partition(in_country_code VARCHAR(10)) RETURNS INTEGER
 567   AS $$
 568 DECLARE
 569   nearcountry RECORD;
 570 BEGIN
 571   FOR nearcountry IN select partition from country_name where country_code = in_country_code
 572   LOOP
 573     RETURN nearcountry.partition;
 574   END LOOP;
 575   RETURN 0;
 576 END;
 577 $$
 578 LANGUAGE plpgsql IMMUTABLE;
 579
 580 CREATE OR REPLACE FUNCTION delete_location(OLD_place_id BIGINT) RETURNS BOOLEAN
 581   AS $$
 582 DECLARE
 583 BEGIN
 584   DELETE FROM location_area where place_id = OLD_place_id;
 585 -- TODO:location_area
 586   RETURN true;
 587 END;
 588 $$
 589 LANGUAGE plpgsql;
 590
 591 CREATE OR REPLACE FUNCTION add_location(
 592     place_id BIGINT,
 593     country_code varchar(2),
 594     partition INTEGER,
 595     keywords INTEGER[],
 596     rank_search INTEGER,
 597     rank_address INTEGER,
 598     in_postcode TEXT,
 599     geometry GEOMETRY
 600   )
 601   RETURNS BOOLEAN
 602   AS $$
 603 DECLARE
 604   locationid INTEGER;
 605   centroid GEOMETRY;
 606   diameter FLOAT;
 607   x BOOLEAN;
 608   splitGeom RECORD;
 609   secgeo GEOMETRY;
 610   postcode TEXT;
 611 BEGIN
 612
 613   IF rank_search > 25 THEN
 614     RAISE EXCEPTION 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
 615   END IF;
 616
 617   x := deleteLocationArea(partition, place_id, rank_search);
 618
 619   -- add postcode only if it contains a single entry, i.e. ignore postcode lists
 620   postcode := NULL;
 621   IF in_postcode is not null AND in_postcode not similar to '%(,|;)%' THEN
 622       postcode := upper(trim (both ' ' from in_postcode));
 623   END IF;
 624
 625   IF ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
 626     centroid := ST_Centroid(geometry);
 627
 628     FOR secgeo IN select split_geometry(geometry) AS geom LOOP
 629       x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, false, postcode, centroid, secgeo);
 630     END LOOP;
 631
 632   ELSE
 633
 634     diameter := 0.02;
 635     IF rank_address = 0 THEN
 636       diameter := 0.02;
 637     ELSEIF rank_search <= 14 THEN
 638       diameter := 1.2;
 639     ELSEIF rank_search <= 15 THEN
 640       diameter := 1;
 641     ELSEIF rank_search <= 16 THEN
 642       diameter := 0.5;
 643     ELSEIF rank_search <= 17 THEN
 644       diameter := 0.2;
 645     ELSEIF rank_search <= 21 THEN
 646       diameter := 0.05;
 647     ELSEIF rank_search = 25 THEN
 648       diameter := 0.005;
 649     END IF;
 650
 651 --    RAISE WARNING 'adding % diameter %', place_id, diameter;
 652
 653     secgeo := ST_Buffer(geometry, diameter);
 654     x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, true, postcode, ST_Centroid(geometry), secgeo);
 655
 656   END IF;
 657
 658   RETURN true;
 659 END;
 660 $$
 661 LANGUAGE plpgsql;
 662
 663
 664 -- find the parent road of the cut road parts
 665 CREATE OR REPLACE FUNCTION get_interpolation_parent(wayid BIGINT, street TEXT, place TEXT,
 666                                                     partition INTEGER, centroid GEOMETRY, geom GEOMETRY)
 667 RETURNS BIGINT AS $$
 668 DECLARE
 669   addr_street TEXT;
 670   addr_place TEXT;
 671   parent_place_id BIGINT;
 672   address_street_word_ids INTEGER[];
 673
 674   waynodes BIGINT[];
 675
 676   location RECORD;
 677 BEGIN
 678   addr_street = street;
 679   addr_place = place;
 680
 681   IF addr_street is null and addr_place is null THEN
 682     select nodes from planet_osm_ways where id = wayid INTO waynodes;
 683     FOR location IN SELECT placex.address from placex
 684                     where osm_type = 'N' and osm_id = ANY(waynodes)
 685                           and placex.address is not null
 686                           and (placex.address ? 'street' or placex.address ? 'place')
 687                           and indexed_status < 100
 688                     limit 1 LOOP
 689       addr_street = location.address->'street';
 690       addr_place = location.address->'place';
 691     END LOOP;
 692   END IF;
 693
 694   IF addr_street IS NOT NULL THEN
 695     address_street_word_ids := get_name_ids(make_standard_name(addr_street));
 696     IF address_street_word_ids IS NOT NULL THEN
 697       FOR location IN SELECT place_id from getNearestNamedRoadFeature(partition, centroid, address_street_word_ids) LOOP
 698         parent_place_id := location.place_id;
 699       END LOOP;
 700     END IF;
 701   END IF;
 702
 703   IF parent_place_id IS NULL AND addr_place IS NOT NULL THEN
 704     address_street_word_ids := get_name_ids(make_standard_name(addr_place));
 705     IF address_street_word_ids IS NOT NULL THEN
 706       FOR location IN SELECT place_id from getNearestNamedPlaceFeature(partition, centroid, address_street_word_ids) LOOP
 707         parent_place_id := location.place_id;
 708       END LOOP;
 709     END IF;
 710   END IF;
 711
 712   IF parent_place_id is null THEN
 713     FOR location IN SELECT place_id FROM placex
 714         WHERE ST_DWithin(geom, placex.geometry, 0.001) and placex.rank_search = 26
 715         ORDER BY (ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,0))+
 716                   ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,0.5))+
 717                   ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,1))) ASC limit 1
 718     LOOP
 719       parent_place_id := location.place_id;
 720     END LOOP;
 721   END IF;
 722
 723   IF parent_place_id is null THEN
 724     RETURN 0;
 725   END IF;
 726
 727   RETURN parent_place_id;
 728 END;
 729 $$
 730 LANGUAGE plpgsql;
 731
 732
 733 CREATE OR REPLACE FUNCTION osmline_insert() RETURNS TRIGGER
 734   AS $$
 735 BEGIN
 736   NEW.place_id := nextval('seq_place');
 737   NEW.indexed_date := now();
 738
 739   IF NEW.indexed_status IS NULL THEN
 740       IF NEW.address is NULL OR NOT NEW.address ? 'interpolation'
 741          OR NEW.address->'interpolation' NOT IN ('odd', 'even', 'all') THEN
 742           -- other interpolation types than odd/even/all (e.g. numeric ones) are not supported
 743           RETURN NULL;
 744       END IF;
 745
 746       NEW.indexed_status := 1; --STATUS_NEW
 747       NEW.country_code := lower(get_country_code(NEW.linegeo));
 748
 749       NEW.partition := get_partition(NEW.country_code);
 750       NEW.geometry_sector := geometry_sector(NEW.partition, NEW.linegeo);
 751   END IF;
 752
 753   RETURN NEW;
 754 END;
 755 $$
 756 LANGUAGE plpgsql;
 757
 758
 759 CREATE OR REPLACE FUNCTION placex_insert() RETURNS TRIGGER
 760   AS $$
 761 DECLARE
 762   i INTEGER;
 763   postcode TEXT;
 764   result BOOLEAN;
 765   country_code VARCHAR(2);
 766   default_language VARCHAR(10);
 767   diameter FLOAT;
 768   classtable TEXT;
 769   line RECORD;
 770 BEGIN
 771   --DEBUG: RAISE WARNING '% % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
 772
 773   NEW.place_id := nextval('seq_place');
 774   NEW.indexed_status := 1; --STATUS_NEW
 775
 776   NEW.country_code := lower(get_country_code(NEW.geometry));
 777
 778   NEW.partition := get_partition(NEW.country_code);
 779   NEW.geometry_sector := geometry_sector(NEW.partition, NEW.geometry);
 780
 781   -- copy 'name' to or from the default language (if there is a default language)
 782   IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
 783     default_language := get_country_language_code(NEW.country_code);
 784     IF default_language IS NOT NULL THEN
 785       IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
 786         NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
 787       ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
 788         NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
 789       END IF;
 790     END IF;
 791   END IF;
 792
 793   IF NEW.osm_type = 'X' THEN
 794     -- E'X'ternal records should already be in the right format so do nothing
 795   ELSE
 796     NEW.rank_search := 30;
 797     NEW.rank_address := NEW.rank_search;
 798
 799     -- By doing in postgres we have the country available to us - currently only used for postcode
 800     IF NEW.class in ('place','boundary') AND NEW.type in ('postcode','postal_code') THEN
 801
 802         IF NEW.address IS NULL OR NOT NEW.address ? 'postcode' THEN
 803             -- most likely just a part of a multipolygon postcode boundary, throw it away
 804             RETURN NULL;
 805         END IF;
 806
 807         NEW.name := hstore('ref', NEW.postcode);
 808
 809         SELECT * FROM get_postcode_rank(NEW.country_code, NEW.postcode)
 810           INTO NEW.rank_search, NEW.rank_address;
 811
 812     ELSEIF NEW.class = 'place' THEN
 813       IF NEW.type in ('continent') THEN
 814         NEW.rank_search := 2;
 815         NEW.rank_address := NEW.rank_search;
 816         NEW.country_code := NULL;
 817       ELSEIF NEW.type in ('sea') THEN
 818         NEW.rank_search := 2;
 819         NEW.rank_address := 0;
 820         NEW.country_code := NULL;
 821       ELSEIF NEW.type in ('country') THEN
 822         NEW.rank_search := 4;
 823         NEW.rank_address := NEW.rank_search;
 824       ELSEIF NEW.type in ('state') THEN
 825         NEW.rank_search := 8;
 826         NEW.rank_address := NEW.rank_search;
 827       ELSEIF NEW.type in ('region') THEN
 828         NEW.rank_search := 18; -- dropped from previous value of 10
 829         NEW.rank_address := 0; -- So badly miss-used that better to just drop it!
 830       ELSEIF NEW.type in ('county') THEN
 831         NEW.rank_search := 12;
 832         NEW.rank_address := NEW.rank_search;
 833       ELSEIF NEW.type in ('city') THEN
 834         NEW.rank_search := 16;
 835         NEW.rank_address := NEW.rank_search;
 836       ELSEIF NEW.type in ('island') THEN
 837         NEW.rank_search := 17;
 838         NEW.rank_address := 0;
 839       ELSEIF NEW.type in ('town') THEN
 840         NEW.rank_search := 18;
 841         NEW.rank_address := 16;
 842       ELSEIF NEW.type in ('village','hamlet','municipality','district','unincorporated_area','borough') THEN
 843         NEW.rank_search := 19;
 844         NEW.rank_address := 16;
 845       ELSEIF NEW.type in ('suburb','croft','subdivision','isolated_dwelling') THEN
 846         NEW.rank_search := 20;
 847         NEW.rank_address := NEW.rank_search;
 848       ELSEIF NEW.type in ('farm','locality','islet','mountain_pass') THEN
 849         NEW.rank_search := 20;
 850         NEW.rank_address := 0;
 851         -- Irish townlands, tagged as place=locality and locality=townland
 852         IF (NEW.extratags -> 'locality') = 'townland' THEN
 853           NEW.rank_address := 20;
 854         END IF;
 855       ELSEIF NEW.type in ('neighbourhood') THEN
 856         NEW.rank_search := 22;
 857         NEW.rank_address := 22;
 858       ELSEIF NEW.type in ('house','building') THEN
 859         NEW.rank_search := 30;
 860         NEW.rank_address := NEW.rank_search;
 861       ELSEIF NEW.type in ('houses') THEN
 862         -- can't guarantee all required nodes loaded yet due to caching in osm2pgsql
 863         NEW.rank_search := 28;
 864         NEW.rank_address := 0;
 865       END IF;
 866
 867     ELSEIF NEW.class = 'boundary' THEN
 868       IF ST_GeometryType(NEW.geometry) NOT IN ('ST_Polygon','ST_MultiPolygon') THEN
 869 --        RAISE WARNING 'invalid boundary %',NEW.osm_id;
 870         return NULL;
 871       END IF;
 872       NEW.rank_search := NEW.admin_level * 2;
 873       IF NEW.type = 'administrative' THEN
 874         NEW.rank_address := NEW.rank_search;
 875       ELSE
 876         NEW.rank_address := 0;
 877       END IF;
 878     ELSEIF NEW.class = 'landuse' AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
 879       NEW.rank_search := 22;
 880       IF NEW.type in ('residential', 'farm', 'farmyard', 'industrial', 'commercial', 'allotments', 'retail') THEN
 881         NEW.rank_address := NEW.rank_search;
 882       ELSE
 883         NEW.rank_address := 0;
 884       END IF;
 885     ELSEIF NEW.class = 'natural' and NEW.type in ('peak','volcano','mountain_range') THEN
 886       NEW.rank_search := 18;
 887       NEW.rank_address := 0;
 888     ELSEIF NEW.class = 'natural' and NEW.type = 'sea' THEN
 889       NEW.rank_search := 4;
 890       NEW.rank_address := NEW.rank_search;
 891     -- any feature more than 5 square miles is probably worth indexing
 892     ELSEIF ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_Area(NEW.geometry) > 0.1 THEN
 893       NEW.rank_search := 22;
 894       NEW.rank_address := 0;
 895     ELSEIF NEW.class = 'railway' AND NEW.type in ('rail') THEN
 896       RETURN NULL;
 897     ELSEIF NEW.class = 'waterway' THEN
 898       IF NEW.osm_type = 'R' THEN
 899         NEW.rank_search := 16;
 900       ELSE
 901         NEW.rank_search := 17;
 902       END IF;
 903       NEW.rank_address := 0;
 904     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' AND NEW.type in ('service','cycleway','path','footway','steps','bridleway','motorway_link','primary_link','trunk_link','secondary_link','tertiary_link') THEN
 905       NEW.rank_search := 27;
 906       NEW.rank_address := NEW.rank_search;
 907     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' THEN
 908       NEW.rank_search := 26;
 909       NEW.rank_address := NEW.rank_search;
 910     ELSEIF NEW.class = 'mountain_pass' THEN
 911         NEW.rank_search := 20;
 912         NEW.rank_address := 0;
 913     END IF;
 914
 915   END IF;
 916
 917   IF NEW.rank_search > 30 THEN
 918     NEW.rank_search := 30;
 919   END IF;
 920
 921   IF NEW.rank_address > 30 THEN
 922     NEW.rank_address := 30;
 923   END IF;
 924
 925   IF (NEW.extratags -> 'capital') = 'yes' THEN
 926     NEW.rank_search := NEW.rank_search - 1;
 927   END IF;
 928
 929   -- a country code make no sense below rank 4 (country)
 930   IF NEW.rank_search < 4 THEN
 931     NEW.country_code := NULL;
 932   END IF;
 933
 934 -- Block import below rank 22
 935 --  IF NEW.rank_search > 22 THEN
 936 --    RETURN NULL;
 937 --  END IF;
 938
 939   --DEBUG: RAISE WARNING 'placex_insert:END: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
 940
 941   RETURN NEW; -- %DIFFUPDATES% The following is not needed until doing diff updates, and slows the main index process down
 942
 943   IF NEW.rank_address > 0 THEN
 944     IF (ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_IsValid(NEW.geometry)) THEN
 945       -- Performance: We just can't handle re-indexing for country level changes
 946       IF st_area(NEW.geometry) < 1 THEN
 947         -- mark items within the geometry for re-indexing
 948   --    RAISE WARNING 'placex poly insert: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
 949
 950         -- work around bug in postgis, this may have been fixed in 2.0.0 (see http://trac.osgeo.org/postgis/ticket/547)
 951         update placex set indexed_status = 2 where (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
 952          AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point' and (rank_search < 28 or name is not null or (NEW.rank_search >= 16 and address ? 'place'));
 953         update placex set indexed_status = 2 where (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
 954          AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point' and (rank_search < 28 or name is not null or (NEW.rank_search >= 16 and address ? 'place'));
 955       END IF;
 956     ELSE
 957       -- mark nearby items for re-indexing, where 'nearby' depends on the features rank_search and is a complete guess :(
 958       diameter := 0;
 959       -- 16 = city, anything higher than city is effectively ignored (polygon required!)
 960       IF NEW.type='postcode' THEN
 961         diameter := 0.05;
 962       ELSEIF NEW.rank_search < 16 THEN
 963         diameter := 0;
 964       ELSEIF NEW.rank_search < 18 THEN
 965         diameter := 0.1;
 966       ELSEIF NEW.rank_search < 20 THEN
 967         diameter := 0.05;
 968       ELSEIF NEW.rank_search = 21 THEN
 969         diameter := 0.001;
 970       ELSEIF NEW.rank_search < 24 THEN
 971         diameter := 0.02;
 972       ELSEIF NEW.rank_search < 26 THEN
 973         diameter := 0.002; -- 100 to 200 meters
 974       ELSEIF NEW.rank_search < 28 THEN
 975         diameter := 0.001; -- 50 to 100 meters
 976       END IF;
 977       IF diameter > 0 THEN
 978   --      RAISE WARNING 'placex point insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,diameter;
 979         IF NEW.rank_search >= 26 THEN
 980           -- roads may cause reparenting for >27 rank places
 981           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter);
 982           -- reparenting also for OSM Interpolation Lines (and for Tiger?)
 983           update location_property_osmline set indexed_status = 2 where indexed_status = 0 and ST_DWithin(location_property_osmline.linegeo, NEW.geometry, diameter);
 984         ELSEIF NEW.rank_search >= 16 THEN
 985           -- up to rank 16, street-less addresses may need reparenting
 986           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter) and (rank_search < 28 or name is not null or address ? 'place');
 987         ELSE
 988           -- for all other places the search terms may change as well
 989           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter) and (rank_search < 28 or name is not null);
 990         END IF;
 991       END IF;
 992     END IF;
 993   END IF;
 994
 995
 996    -- add to tables for special search
 997    -- Note: won't work on initial import because the classtype tables
 998    -- do not yet exist. It won't hurt either.
 999   classtable := 'place_classtype_' || NEW.class || '_' || NEW.type;
1000   SELECT count(*)>0 FROM pg_tables WHERE tablename = classtable and schemaname = current_schema() INTO result;
1001   IF result THEN
1002     EXECUTE 'INSERT INTO ' || classtable::regclass || ' (place_id, centroid) VALUES ($1,$2)'
1003     USING NEW.place_id, ST_Centroid(NEW.geometry);
1004   END IF;
1005
1006   RETURN NEW;
1007
1008 END;
1009 $$
1010 LANGUAGE plpgsql;
1011
1012 CREATE OR REPLACE FUNCTION osmline_update() RETURNS
1013 TRIGGER
1014   AS $$
1015 DECLARE
1016   place_centroid GEOMETRY;
1017   waynodes BIGINT[];
1018   prevnode RECORD;
1019   nextnode RECORD;
1020   startnumber INTEGER;
1021   endnumber INTEGER;
1022   housenum INTEGER;
1023   linegeo GEOMETRY;
1024   splitline GEOMETRY;
1025   sectiongeo GEOMETRY;
1026   postcode TEXT;
1027   seg_postcode TEXT;
1028 BEGIN
1029   -- deferred delete
1030   IF OLD.indexed_status = 100 THEN
1031     delete from location_property_osmline where place_id = OLD.place_id;
1032     RETURN NULL;
1033   END IF;
1034
1035   IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 THEN
1036     RETURN NEW;
1037   END IF;
1038
1039   NEW.interpolationtype = NEW.address->'interpolation';
1040
1041   place_centroid := ST_PointOnSurface(NEW.linegeo);
1042   NEW.parent_place_id = get_interpolation_parent(NEW.osm_id, NEW.address->'street',
1043                                                  NEW.address->'place',
1044                                                  NEW.partition, place_centroid, NEW.linegeo);
1045
1046
1047   IF NEW.address is not NULL and NEW.address ? 'postcode' THEN
1048       NEW.postcode = NEW.address->'postcode';
1049   END IF;
1050
1051   -- if the line was newly inserted, split the line as necessary
1052   IF OLD.indexed_status = 1 THEN
1053       select nodes from planet_osm_ways where id = NEW.osm_id INTO waynodes;
1054
1055       IF array_upper(waynodes, 1) IS NULL THEN
1056         RETURN NEW;
1057       END IF;
1058
1059       linegeo := NEW.linegeo;
1060       startnumber := NULL;
1061       postcode := NEW.postcode;
1062
1063       FOR nodeidpos in 1..array_upper(waynodes, 1) LOOP
1064
1065         select osm_id, address, geometry
1066           from place where osm_type = 'N' and osm_id = waynodes[nodeidpos]::BIGINT
1067                            and address is not NULL and address ? 'housenumber' limit 1 INTO nextnode;
1068         --RAISE NOTICE 'Nextnode.place_id: %s', nextnode.place_id;
1069         IF nextnode.osm_id IS NOT NULL THEN
1070           --RAISE NOTICE 'place_id is not null';
1071           IF nodeidpos > 1 and nodeidpos < array_upper(waynodes, 1) THEN
1072             -- Make sure that the point is actually on the line. That might
1073             -- be a bit paranoid but ensures that the algorithm still works
1074             -- should osm2pgsql attempt to repair geometries.
1075             splitline := split_line_on_node(linegeo, nextnode.geometry);
1076             sectiongeo := ST_GeometryN(splitline, 1);
1077             linegeo := ST_GeometryN(splitline, 2);
1078           ELSE
1079             sectiongeo = linegeo;
1080           END IF;
1081           endnumber := substring(nextnode.address->'housenumber','[0-9]+')::integer;
1082
1083           IF startnumber IS NOT NULL AND endnumber IS NOT NULL
1084              AND startnumber != endnumber
1085              AND ST_GeometryType(sectiongeo) = 'ST_LineString' THEN
1086
1087             IF (startnumber > endnumber) THEN
1088               housenum := endnumber;
1089               endnumber := startnumber;
1090               startnumber := housenum;
1091               sectiongeo := ST_Reverse(sectiongeo);
1092             END IF;
1093
1094             seg_postcode := coalesce(postcode,
1095                                      prevnode.address->'postcode',
1096                                      nextnode.address->'postcode');
1097
1098             IF NEW.startnumber IS NULL THEN
1099                 NEW.startnumber := startnumber;
1100                 NEW.endnumber := endnumber;
1101                 NEW.linegeo := sectiongeo;
1102                 NEW.postcode := seg_postcode;
1103              ELSE
1104               insert into location_property_osmline
1105                      (linegeo, partition, osm_id, parent_place_id,
1106                       startnumber, endnumber, interpolationtype,
1107                       address, postcode, country_code,
1108                       geometry_sector, indexed_status)
1109               values (sectiongeo, NEW.partition, NEW.osm_id, NEW.parent_place_id,
1110                       startnumber, endnumber, NEW.interpolationtype,
1111                       NEW.address, seg_postcode,
1112                       NEW.country_code, NEW.geometry_sector, 0);
1113              END IF;
1114           END IF;
1115
1116           -- early break if we are out of line string,
1117           -- might happen when a line string loops back on itself
1118           IF ST_GeometryType(linegeo) != 'ST_LineString' THEN
1119               RETURN NEW;
1120           END IF;
1121
1122           startnumber := substring(nextnode.address->'housenumber','[0-9]+')::integer;
1123           prevnode := nextnode;
1124         END IF;
1125       END LOOP;
1126   END IF;
1127
1128   -- marking descendants for reparenting is not needed, because there are
1129   -- actually no descendants for interpolation lines
1130   RETURN NEW;
1131 END;
1132 $$
1133 LANGUAGE plpgsql;
1134
1135 -- Trigger for updates of location_postcode
1136 --
1137 -- Computes the parent object the postcode most likely refers to.
1138 -- This will be the place that determines the address displayed when
1139 -- searching for this postcode.
1140 CREATE OR REPLACE FUNCTION postcode_update() RETURNS
1141 TRIGGER
1142   AS $$
1143 DECLARE
1144   partition SMALLINT;
1145   location RECORD;
1146 BEGIN
1147     IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 THEN
1148         RETURN NEW;
1149     END IF;
1150
1151     NEW.indexed_date = now();
1152
1153     partition := get_partition(NEW.country_code);
1154
1155     SELECT * FROM get_postcode_rank(NEW.country_code, NEW.postcode)
1156       INTO NEW.rank_search, NEW.rank_address;
1157
1158     NEW.parent_place_id = 0;
1159     FOR location IN
1160       SELECT place_id
1161         FROM getNearFeatures(partition, NEW.geometry, NEW.rank_search, '{}'::int[])
1162         WHERE NOT isguess ORDER BY rank_address DESC LIMIT 1
1163     LOOP
1164         NEW.parent_place_id = location.place_id;
1165     END LOOP;
1166
1167     RETURN NEW;
1168 END;
1169 $$
1170 LANGUAGE plpgsql;
1171
1172 CREATE OR REPLACE FUNCTION placex_update() RETURNS
1173 TRIGGER
1174   AS $$
1175 DECLARE
1176
1177   place_centroid GEOMETRY;
1178
1179   search_maxdistance FLOAT[];
1180   search_mindistance FLOAT[];
1181   address_havelevel BOOLEAN[];
1182
1183   i INTEGER;
1184   iMax FLOAT;
1185   location RECORD;
1186   way RECORD;
1187   relation RECORD;
1188   relation_members TEXT[];
1189   relMember RECORD;
1190   linkedplacex RECORD;
1191   search_diameter FLOAT;
1192   search_prevdiameter FLOAT;
1193   search_maxrank INTEGER;
1194   address_maxrank INTEGER;
1195   address_street_word_id INTEGER;
1196   address_street_word_ids INTEGER[];
1197   parent_place_id_rank BIGINT;
1198
1199   addr_street TEXT;
1200   addr_place TEXT;
1201
1202   isin TEXT[];
1203   isin_tokens INT[];
1204
1205   location_rank_search INTEGER;
1206   location_distance FLOAT;
1207   location_parent GEOMETRY;
1208   location_isaddress BOOLEAN;
1209   location_keywords INTEGER[];
1210
1211   default_language TEXT;
1212   name_vector INTEGER[];
1213   nameaddress_vector INTEGER[];
1214
1215   linked_node_id BIGINT;
1216   linked_importance FLOAT;
1217   linked_wikipedia TEXT;
1218
1219   result BOOLEAN;
1220 BEGIN
1221   -- deferred delete
1222   IF OLD.indexed_status = 100 THEN
1223     --DEBUG: RAISE WARNING 'placex_update delete % %',NEW.osm_type,NEW.osm_id;
1224     delete from placex where place_id = OLD.place_id;
1225     RETURN NULL;
1226   END IF;
1227
1228   IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 THEN
1229     RETURN NEW;
1230   END IF;
1231
1232   --DEBUG: RAISE WARNING 'placex_update % % (%)',NEW.osm_type,NEW.osm_id,NEW.place_id;
1233
1234   NEW.indexed_date = now();
1235
1236   result := deleteSearchName(NEW.partition, NEW.place_id);
1237   DELETE FROM place_addressline WHERE place_id = NEW.place_id;
1238   result := deleteRoad(NEW.partition, NEW.place_id);
1239   result := deleteLocationArea(NEW.partition, NEW.place_id, NEW.rank_search);
1240   UPDATE placex set linked_place_id = null, indexed_status = 2
1241          where linked_place_id = NEW.place_id;
1242   -- update not necessary for osmline, cause linked_place_id does not exist
1243
1244   IF NEW.linked_place_id is not null THEN
1245     --DEBUG: RAISE WARNING 'place already linked to %', NEW.linked_place_id;
1246     RETURN NEW;
1247   END IF;
1248
1249   --DEBUG: RAISE WARNING 'Copy over address tags';
1250   IF NEW.address is not NULL THEN
1251       IF NEW.address ? 'conscriptionnumber' THEN
1252         i := getorcreate_housenumber_id(make_standard_name(NEW.address->'conscriptionnumber'));
1253         IF NEW.address ? 'streetnumber' THEN
1254             i := getorcreate_housenumber_id(make_standard_name(NEW.address->'streetnumber'));
1255             NEW.housenumber := (NEW.address->'conscriptionnumber') || '/' || (NEW.address->'streetnumber');
1256         ELSE
1257             NEW.housenumber := NEW.address->'conscriptionnumber';
1258         END IF;
1259       ELSEIF NEW.address ? 'streetnumber' THEN
1260         NEW.housenumber := NEW.address->'streetnumber';
1261         i := getorcreate_housenumber_id(make_standard_name(NEW.address->'streetnumber'));
1262       ELSEIF NEW.address ? 'housenumber' THEN
1263         NEW.housenumber := NEW.address->'housenumber';
1264         i := getorcreate_housenumber_id(make_standard_name(NEW.housenumber));
1265       END IF;
1266
1267       addr_street = NEW.address->'street';
1268       addr_place = NEW.address->'place';
1269   END IF;
1270
1271   -- Speed up searches - just use the centroid of the feature
1272   -- cheaper but less acurate
1273   place_centroid := ST_PointOnSurface(NEW.geometry);
1274   NEW.centroid := null;
1275   NEW.postcode := null;
1276   --DEBUG: RAISE WARNING 'Computing preliminary centroid at %',ST_AsText(place_centroid);
1277
1278   -- recalculate country and partition
1279   IF NEW.rank_search = 4 AND NEW.address is not NULL AND NEW.address ? 'country' THEN
1280     -- for countries, believe the mapped country code,
1281     -- so that we remain in the right partition if the boundaries
1282     -- suddenly expand.
1283     NEW.country_code := lower(NEW.address->'country');
1284     NEW.partition := get_partition(lower(NEW.country_code));
1285     IF NEW.partition = 0 THEN
1286       NEW.country_code := lower(get_country_code(place_centroid));
1287       NEW.partition := get_partition(NEW.country_code);
1288     END IF;
1289   ELSE
1290     IF NEW.rank_search >= 4 THEN
1291       NEW.country_code := lower(get_country_code(place_centroid));
1292     ELSE
1293       NEW.country_code := NULL;
1294     END IF;
1295     NEW.partition := get_partition(NEW.country_code);
1296   END IF;
1297   --DEBUG: RAISE WARNING 'Country updated: "%"', NEW.country_code;
1298
1299   -- waterway ways are linked when they are part of a relation and have the same class/type
1300   IF NEW.osm_type = 'R' and NEW.class = 'waterway' THEN
1301       FOR relation_members IN select members from planet_osm_rels r where r.id = NEW.osm_id and r.parts != array[]::bigint[]
1302       LOOP
1303           FOR i IN 1..array_upper(relation_members, 1) BY 2 LOOP
1304               IF relation_members[i+1] in ('', 'main_stream', 'side_stream') AND substring(relation_members[i],1,1) = 'w' THEN
1305                 --DEBUG: RAISE WARNING 'waterway parent %, child %/%', NEW.osm_id, i, relation_members[i];
1306                 FOR linked_node_id IN SELECT place_id FROM placex
1307                   WHERE osm_type = 'W' and osm_id = substring(relation_members[i],2,200)::bigint
1308                   and class = NEW.class and type = NEW.type
1309                   and ( relation_members[i+1] != 'side_stream' or NEW.name->'name' = name->'name')
1310                 LOOP
1311                   UPDATE placex SET linked_place_id = NEW.place_id WHERE place_id = linked_node_id;
1312                 END LOOP;
1313               END IF;
1314           END LOOP;
1315       END LOOP;
1316       --DEBUG: RAISE WARNING 'Waterway processed';
1317   END IF;
1318
1319   -- Adding ourselves to the list simplifies address calculations later
1320   INSERT INTO place_addressline (place_id, address_place_id, fromarea, isaddress, distance, cached_rank_address)
1321     VALUES (NEW.place_id, NEW.place_id, true, true, 0, NEW.rank_address);
1322
1323   -- What level are we searching from
1324   search_maxrank := NEW.rank_search;
1325
1326   -- Thought this wasn't needed but when we add new languages to the country_name table
1327   -- we need to update the existing names
1328   IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
1329     default_language := get_country_language_code(NEW.country_code);
1330     IF default_language IS NOT NULL THEN
1331       IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
1332         NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
1333       ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
1334         NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
1335       END IF;
1336     END IF;
1337   END IF;
1338   --DEBUG: RAISE WARNING 'Local names updated';
1339
1340   -- Initialise the name vector using our name
1341   name_vector := make_keywords(NEW.name);
1342   nameaddress_vector := '{}'::int[];
1343
1344   FOR i IN 1..28 LOOP
1345     address_havelevel[i] := false;
1346   END LOOP;
1347
1348   NEW.importance := null;
1349   select language||':'||title,importance from get_wikipedia_match(NEW.extratags, NEW.country_code) INTO NEW.wikipedia,NEW.importance;
1350   IF NEW.importance IS NULL THEN
1351     select language||':'||title,importance from wikipedia_article where osm_type = NEW.osm_type and osm_id = NEW.osm_id order by importance desc limit 1 INTO NEW.wikipedia,NEW.importance;
1352   END IF;
1353
1354 --DEBUG: RAISE WARNING 'Importance computed from wikipedia: %', NEW.importance;
1355
1356   -- ---------------------------------------------------------------------------
1357   -- For low level elements we inherit from our parent road
1358   IF (NEW.rank_search > 27 OR (NEW.type = 'postcode' AND NEW.rank_search = 25)) THEN
1359
1360     --DEBUG: RAISE WARNING 'finding street for % %', NEW.osm_type, NEW.osm_id;
1361
1362     -- We won't get a better centroid, besides these places are too small to care
1363     NEW.centroid := place_centroid;
1364
1365     NEW.parent_place_id := null;
1366
1367     -- if we have a POI and there is no address information,
1368     -- see if we can get it from a surrounding building
1369     IF NEW.osm_type = 'N' AND addr_street IS NULL AND addr_place IS NULL
1370        AND NEW.housenumber IS NULL THEN
1371       FOR location IN select * from placex where ST_Covers(geometry, place_centroid)
1372             and address is not null
1373             and (address ? 'housenumber' or address ? 'street' or address ? 'place')
1374             and rank_search > 28 AND ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon')
1375             limit 1
1376       LOOP
1377         NEW.housenumber := location.address->'housenumber';
1378         addr_street := location.address->'street';
1379         addr_place := location.address->'place';
1380         --DEBUG: RAISE WARNING 'Found surrounding building % %', location.osm_type, location.osm_id;
1381       END LOOP;
1382     END IF;
1383
1384     -- We have to find our parent road.
1385     -- Copy data from linked items (points on ways, addr:street links, relations)
1386
1387     -- Is this object part of a relation?
1388     FOR relation IN select * from planet_osm_rels where parts @> ARRAY[NEW.osm_id] and members @> ARRAY[lower(NEW.osm_type)||NEW.osm_id]
1389     LOOP
1390       -- At the moment we only process one type of relation - associatedStreet
1391       IF relation.tags @> ARRAY['associatedStreet'] THEN
1392         FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1393           IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1394 --RAISE WARNING 'node in relation %',relation;
1395             SELECT place_id from placex where osm_type = 'W'
1396               and osm_id = substring(relation.members[i],2,200)::bigint
1397               and rank_search = 26 and name is not null INTO NEW.parent_place_id;
1398           END IF;
1399         END LOOP;
1400       END IF;
1401     END LOOP;
1402     --DEBUG: RAISE WARNING 'Checked for street relation (%)', NEW.parent_place_id;
1403
1404     -- Note that addr:street links can only be indexed once the street itself is indexed
1405     IF NEW.parent_place_id IS NULL AND addr_street IS NOT NULL THEN
1406       address_street_word_ids := get_name_ids(make_standard_name(addr_street));
1407       IF address_street_word_ids IS NOT NULL THEN
1408         FOR location IN SELECT * from getNearestNamedRoadFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1409             NEW.parent_place_id := location.place_id;
1410         END LOOP;
1411       END IF;
1412     END IF;
1413     --DEBUG: RAISE WARNING 'Checked for addr:street (%)', NEW.parent_place_id;
1414
1415     IF NEW.parent_place_id IS NULL AND addr_place IS NOT NULL THEN
1416       address_street_word_ids := get_name_ids(make_standard_name(addr_place));
1417       IF address_street_word_ids IS NOT NULL THEN
1418         FOR location IN SELECT * from getNearestNamedPlaceFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1419           NEW.parent_place_id := location.place_id;
1420         END LOOP;
1421       END IF;
1422     END IF;
1423     --DEBUG: RAISE WARNING 'Checked for addr:place (%)', NEW.parent_place_id;
1424
1425     -- Is this node part of an interpolation?
1426     IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'N' THEN
1427       FOR location IN
1428         SELECT q.parent_place_id FROM location_property_osmline q, planet_osm_ways x
1429          WHERE q.linegeo && NEW.geometry and x.id = q.osm_id and NEW.osm_id = any(x.nodes)
1430          LIMIT 1
1431       LOOP
1432          NEW.parent_place_id := location.parent_place_id;
1433       END LOOP;
1434     END IF;
1435     --DEBUG: RAISE WARNING 'Checked for interpolation (%)', NEW.parent_place_id;
1436
1437     -- Is this node part of a way?
1438     IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'N' THEN
1439
1440       FOR location IN select p.place_id, p.osm_id, p.parent_place_id, p.rank_search, p.address from placex p, planet_osm_ways w
1441          where p.osm_type = 'W' and p.rank_search >= 26 and p.geometry && NEW.geometry and w.id = p.osm_id and NEW.osm_id = any(w.nodes)
1442       LOOP
1443         --DEBUG: RAISE WARNING 'Node is part of way % ', location.osm_id;
1444
1445         -- Way IS a road then we are on it - that must be our road
1446         IF location.rank_search < 28 AND NEW.parent_place_id IS NULL THEN
1447 --RAISE WARNING 'node in way that is a street %',location;
1448           NEW.parent_place_id := location.place_id;
1449         END IF;
1450         --DEBUG: RAISE WARNING 'Checked if way is street (%)', NEW.parent_place_id;
1451
1452         -- If the way mentions a street or place address, try that for parenting.
1453         IF NEW.parent_place_id IS NULL AND location.address ? 'street' THEN
1454           address_street_word_ids := get_name_ids(make_standard_name(location.address->'street'));
1455           IF address_street_word_ids IS NOT NULL THEN
1456             FOR linkedplacex IN SELECT place_id from getNearestNamedRoadFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1457                 NEW.parent_place_id := linkedplacex.place_id;
1458             END LOOP;
1459           END IF;
1460         END IF;
1461         --DEBUG: RAISE WARNING 'Checked for addr:street in way (%)', NEW.parent_place_id;
1462
1463         IF NEW.parent_place_id IS NULL AND location.address ? 'place' THEN
1464           address_street_word_ids := get_name_ids(make_standard_name(location.address->'place'));
1465           IF address_street_word_ids IS NOT NULL THEN
1466             FOR linkedplacex IN SELECT place_id from getNearestNamedPlaceFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1467               NEW.parent_place_id := linkedplacex.place_id;
1468             END LOOP;
1469           END IF;
1470         END IF;
1471         --DEBUG: RAISE WARNING 'Checked for addr:place in way (%)', NEW.parent_place_id;
1472
1473         -- Is the WAY part of a relation
1474         IF NEW.parent_place_id IS NULL THEN
1475             FOR relation IN select * from planet_osm_rels where parts @> ARRAY[location.osm_id] and members @> ARRAY['w'||location.osm_id]
1476             LOOP
1477               -- At the moment we only process one type of relation - associatedStreet
1478               IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1479                 FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1480                   IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1481   --RAISE WARNING 'node in way that is in a relation %',relation;
1482                     SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::bigint
1483                       and rank_search = 26 and name is not null INTO NEW.parent_place_id;
1484                   END IF;
1485                 END LOOP;
1486               END IF;
1487             END LOOP;
1488         END IF;
1489         --DEBUG: RAISE WARNING 'Checked for street relation in way (%)', NEW.parent_place_id;
1490
1491       END LOOP;
1492
1493     END IF;
1494
1495     -- Still nothing, just use the nearest road
1496     IF NEW.parent_place_id IS NULL THEN
1497       FOR location IN SELECT place_id FROM getNearestRoadFeature(NEW.partition, place_centroid) LOOP
1498         NEW.parent_place_id := location.place_id;
1499       END LOOP;
1500     END IF;
1501     --DEBUG: RAISE WARNING 'Checked for nearest way (%)', NEW.parent_place_id;
1502
1503
1504     -- If we didn't find any road fallback to standard method
1505     IF NEW.parent_place_id IS NOT NULL THEN
1506
1507       -- Get the details of the parent road
1508       select * from search_name where place_id = NEW.parent_place_id INTO location;
1509       NEW.country_code := location.country_code;
1510       --DEBUG: RAISE WARNING 'Got parent details from search name';
1511
1512       -- determine postcode
1513       IF NEW.address is not null AND NEW.address ? 'postcode' THEN
1514           NEW.postcode = NEW.address->'postcode';
1515       ELSE
1516          SELECT postcode FROM placex WHERE place_id = NEW.parent_place_id INTO NEW.postcode;
1517       END IF;
1518       IF NEW.postcode is null THEN
1519         NEW.postcode := get_nearest_postcode(NEW.country_code, place_centroid);
1520       END IF;
1521
1522       -- Merge the postcode into the parent's address if necessary
1523       IF NEW.postcode IS NOT NULL THEN
1524         --DEBUG: RAISE WARNING 'Merging postcode into parent';
1525         isin_tokens := '{}'::int[];
1526         address_street_word_id := getorcreate_word_id(make_standard_name(NEW.postcode));
1527         IF address_street_word_id is not null
1528            and not ARRAY[address_street_word_id] <@ location.nameaddress_vector THEN
1529            isin_tokens := isin_tokens || address_street_word_id;
1530         END IF;
1531         address_street_word_id := getorcreate_name_id(make_standard_name(NEW.postcode));
1532         IF address_street_word_id is not null
1533            and not ARRAY[address_street_word_id] <@ location.nameaddress_vector THEN
1534            isin_tokens := isin_tokens || address_street_word_id;
1535         END IF;
1536         IF isin_tokens != '{}'::int[] THEN
1537            UPDATE search_name
1538               SET nameaddress_vector = search_name.nameaddress_vector || isin_tokens
1539             WHERE place_id = NEW.parent_place_id;
1540         END IF;
1541       END IF;
1542
1543       -- If there is no name it isn't searchable, don't bother to create a search record
1544       IF NEW.name is NULL THEN
1545         --DEBUG: RAISE WARNING 'Not a searchable place % %', NEW.osm_type, NEW.osm_id;
1546         return NEW;
1547       END IF;
1548
1549       -- Merge address from parent
1550       nameaddress_vector := array_merge(nameaddress_vector, location.nameaddress_vector);
1551       nameaddress_vector := array_merge(nameaddress_vector, location.name_vector);
1552
1553       -- Performance, it would be more acurate to do all the rest of the import
1554       -- process but it takes too long
1555       -- Just be happy with inheriting from parent road only
1556
1557       IF NEW.rank_search <= 25 and NEW.rank_address > 0 THEN
1558         result := add_location(NEW.place_id, NEW.country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.address->'postcode', NEW.geometry);
1559         --DEBUG: RAISE WARNING 'Place added to location table';
1560       END IF;
1561
1562       result := insertSearchName(NEW.partition, NEW.place_id, NEW.country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid, NEW.geometry);
1563       --DEBUG: RAISE WARNING 'Place added to search table';
1564
1565       return NEW;
1566     END IF;
1567
1568   END IF;
1569
1570   -- ---------------------------------------------------------------------------
1571   -- Full indexing
1572   --DEBUG: RAISE WARNING 'Using full index mode for % %', NEW.osm_type, NEW.osm_id;
1573
1574   IF NEW.osm_type = 'R' AND NEW.rank_search < 26 THEN
1575
1576     -- see if we have any special relation members
1577     select members from planet_osm_rels where id = NEW.osm_id INTO relation_members;
1578     --DEBUG: RAISE WARNING 'Got relation members';
1579
1580     IF relation_members IS NOT NULL THEN
1581       FOR relMember IN select get_osm_rel_members(relation_members,ARRAY['label']) as member LOOP
1582         --DEBUG: RAISE WARNING 'Found label member %', relMember.member;
1583
1584         FOR linkedPlacex IN select * from placex where osm_type = upper(substring(relMember.member,1,1))::char(1)
1585           and osm_id = substring(relMember.member,2,10000)::bigint
1586           and class = 'place' order by rank_search desc limit 1 LOOP
1587
1588           -- If we don't already have one use this as the centre point of the geometry
1589           IF NEW.centroid IS NULL THEN
1590             NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1591           END IF;
1592
1593           -- merge in the label name, re-init word vector
1594           IF NOT linkedPlacex.name IS NULL THEN
1595             NEW.name := linkedPlacex.name || NEW.name;
1596             name_vector := array_merge(name_vector, make_keywords(linkedPlacex.name));
1597           END IF;
1598
1599           -- merge in extra tags
1600           NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1601
1602           -- mark the linked place (excludes from search results)
1603           UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1604
1605           -- keep a note of the node id in case we need it for wikipedia in a bit
1606           linked_node_id := linkedPlacex.osm_id;
1607           select language||':'||title,importance from get_wikipedia_match(linkedPlacex.extratags, NEW.country_code) INTO linked_wikipedia,linked_importance;
1608           --DEBUG: RAISE WARNING 'Linked label member';
1609         END LOOP;
1610
1611       END LOOP;
1612
1613       IF NEW.centroid IS NULL THEN
1614
1615         FOR relMember IN select get_osm_rel_members(relation_members,ARRAY['admin_center','admin_centre']) as member LOOP
1616           --DEBUG: RAISE WARNING 'Found admin_center member %', relMember.member;
1617
1618           FOR linkedPlacex IN select * from placex where osm_type = upper(substring(relMember.member,1,1))::char(1)
1619             and osm_id = substring(relMember.member,2,10000)::bigint
1620             and class = 'place' order by rank_search desc limit 1 LOOP
1621
1622             -- For an admin centre we also want a name match - still not perfect, for example 'new york, new york'
1623             -- But that can be fixed by explicitly setting the label in the data
1624             IF make_standard_name(NEW.name->'name') = make_standard_name(linkedPlacex.name->'name')
1625               AND NEW.rank_address = linkedPlacex.rank_address THEN
1626
1627               -- If we don't already have one use this as the centre point of the geometry
1628               IF NEW.centroid IS NULL THEN
1629                 NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1630               END IF;
1631
1632               -- merge in the name, re-init word vector
1633               IF NOT linkedPlacex.name IS NULL THEN
1634                 NEW.name := linkedPlacex.name || NEW.name;
1635                 name_vector := make_keywords(NEW.name);
1636               END IF;
1637
1638               -- merge in extra tags
1639               NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1640
1641               -- mark the linked place (excludes from search results)
1642               UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1643
1644               -- keep a note of the node id in case we need it for wikipedia in a bit
1645               linked_node_id := linkedPlacex.osm_id;
1646               select language||':'||title,importance from get_wikipedia_match(linkedPlacex.extratags, NEW.country_code) INTO linked_wikipedia,linked_importance;
1647               --DEBUG: RAISE WARNING 'Linked admin_center';
1648             END IF;
1649
1650           END LOOP;
1651
1652         END LOOP;
1653
1654       END IF;
1655     END IF;
1656
1657   END IF;
1658
1659   -- Name searches can be done for ways as well as relations
1660   IF NEW.osm_type in ('W','R') AND NEW.rank_search < 26 AND NEW.rank_address > 0 THEN
1661
1662     -- not found one yet? how about doing a name search
1663     IF NEW.centroid IS NULL AND (NEW.name->'name') is not null and make_standard_name(NEW.name->'name') != '' THEN
1664
1665       --DEBUG: RAISE WARNING 'Looking for nodes with matching names';
1666       FOR linkedPlacex IN select placex.* from placex WHERE
1667         make_standard_name(name->'name') = make_standard_name(NEW.name->'name')
1668         AND placex.rank_address = NEW.rank_address
1669         AND placex.place_id != NEW.place_id
1670         AND placex.osm_type = 'N'::char(1) AND placex.rank_search < 26
1671         AND st_covers(NEW.geometry, placex.geometry)
1672       LOOP
1673         --DEBUG: RAISE WARNING 'Found matching place node %', linkedPlacex.osm_id;
1674         -- If we don't already have one use this as the centre point of the geometry
1675         IF NEW.centroid IS NULL THEN
1676           NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1677         END IF;
1678
1679         -- merge in the name, re-init word vector
1680         NEW.name := linkedPlacex.name || NEW.name;
1681         name_vector := make_keywords(NEW.name);
1682
1683         -- merge in extra tags
1684         NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1685
1686         -- mark the linked place (excludes from search results)
1687         UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1688
1689         -- keep a note of the node id in case we need it for wikipedia in a bit
1690         linked_node_id := linkedPlacex.osm_id;
1691         select language||':'||title,importance from get_wikipedia_match(linkedPlacex.extratags, NEW.country_code) INTO linked_wikipedia,linked_importance;
1692         --DEBUG: RAISE WARNING 'Linked named place';
1693       END LOOP;
1694     END IF;
1695
1696     IF NEW.centroid IS NOT NULL THEN
1697       place_centroid := NEW.centroid;
1698       -- Place might have had only a name tag before but has now received translations
1699       -- from the linked place. Make sure a name tag for the default language exists in
1700       -- this case.
1701       IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
1702         default_language := get_country_language_code(NEW.country_code);
1703         IF default_language IS NOT NULL THEN
1704           IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
1705             NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
1706           ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
1707             NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
1708           END IF;
1709         END IF;
1710       END IF;
1711       --DEBUG: RAISE WARNING 'Names updated from linked places';
1712     END IF;
1713
1714     -- Use the maximum importance if a one could be computed from the linked object.
1715     IF linked_importance is not null AND
1716         (NEW.importance is null or NEW.importance < linked_importance) THEN
1717         NEW.importance = linked_importance;
1718     END IF;
1719
1720     -- Still null? how about looking it up by the node id
1721     IF NEW.importance IS NULL THEN
1722       --DEBUG: RAISE WARNING 'Looking up importance by linked node id';
1723       select language||':'||title,importance from wikipedia_article where osm_type = 'N'::char(1) and osm_id = linked_node_id order by importance desc limit 1 INTO NEW.wikipedia,NEW.importance;
1724     END IF;
1725
1726   END IF;
1727
1728   -- make sure all names are in the word table
1729   IF NEW.admin_level = 2 AND NEW.class = 'boundary' AND NEW.type = 'administrative' AND NEW.country_code IS NOT NULL THEN
1730     perform create_country(NEW.name, lower(NEW.country_code));
1731     --DEBUG: RAISE WARNING 'Country names updated';
1732   END IF;
1733
1734   NEW.parent_place_id = 0;
1735   parent_place_id_rank = 0;
1736
1737
1738   -- convert isin to array of tokenids
1739   --DEBUG: RAISE WARNING 'Starting address search';
1740   isin_tokens := '{}'::int[];
1741   IF NEW.address IS NOT NULL THEN
1742     isin := avals(NEW.address);
1743     IF array_upper(isin, 1) IS NOT NULL THEN
1744       FOR i IN 1..array_upper(isin, 1) LOOP
1745         -- TODO further split terms with comma and semicolon
1746         address_street_word_id := get_name_id(make_standard_name(isin[i]));
1747         IF address_street_word_id IS NOT NULL AND NOT(ARRAY[address_street_word_id] <@ isin_tokens) THEN
1748           nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1749           isin_tokens := isin_tokens || address_street_word_id;
1750         END IF;
1751
1752         -- merge word into address vector
1753         address_street_word_id := get_word_id(make_standard_name(isin[i]));
1754         IF address_street_word_id IS NOT NULL THEN
1755           nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1756         END IF;
1757       END LOOP;
1758     END IF;
1759   END IF;
1760
1761   -- %NOTIGERDATA% IF 0 THEN
1762   -- for the USA we have an additional address table.  Merge in zip codes from there too
1763   IF NEW.rank_search = 26 AND NEW.country_code = 'us' THEN
1764     FOR location IN SELECT distinct postcode from location_property_tiger where parent_place_id = NEW.place_id LOOP
1765       address_street_word_id := get_name_id(make_standard_name(location.postcode));
1766       nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1767       isin_tokens := isin_tokens || address_street_word_id;
1768
1769       -- also merge in the single word version
1770       address_street_word_id := get_word_id(make_standard_name(location.postcode));
1771       nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1772     END LOOP;
1773   END IF;
1774   --DEBUG: RAISE WARNING 'Tiger postcodes collected';
1775   -- %NOTIGERDATA% END IF;
1776
1777 -- RAISE WARNING 'ISIN: %', isin_tokens;
1778
1779   -- Process area matches
1780   location_rank_search := 0;
1781   location_distance := 0;
1782   location_parent := NULL;
1783   -- added ourself as address already
1784   address_havelevel[NEW.rank_address] := true;
1785   --DEBUG: RAISE WARNING '  getNearFeatures(%,''%'',%,''%'')',NEW.partition, place_centroid, search_maxrank, isin_tokens;
1786   FOR location IN
1787     SELECT * from getNearFeatures(NEW.partition,
1788                                   CASE WHEN NEW.rank_search >= 26
1789                                              AND NEW.rank_search < 30
1790                                        THEN NEW.geometry
1791                                        ELSE place_centroid END,
1792                                   search_maxrank, isin_tokens)
1793   LOOP
1794     IF location.rank_address != location_rank_search THEN
1795       location_rank_search := location.rank_address;
1796       IF location.isguess THEN
1797         location_distance := location.distance * 1.5;
1798       ELSE
1799         IF location.rank_address <= 12 THEN
1800           -- for county and above, if we have an area consider that exact
1801           -- (It would be nice to relax the constraint for places close to
1802           --  the boundary but we'd need the exact geometry for that. Too
1803           --  expensive.)
1804           location_distance = 0;
1805         ELSE
1806           -- Below county level remain slightly fuzzy.
1807           location_distance := location.distance * 0.5;
1808         END IF;
1809       END IF;
1810     ELSE
1811       CONTINUE WHEN location.keywords <@ location_keywords;
1812     END IF;
1813
1814     IF location.distance < location_distance OR NOT location.isguess THEN
1815       location_keywords := location.keywords;
1816
1817       location_isaddress := NOT address_havelevel[location.rank_address];
1818       IF location_isaddress AND location.isguess AND location_parent IS NOT NULL THEN
1819           location_isaddress := ST_Contains(location_parent,location.centroid);
1820       END IF;
1821
1822       -- RAISE WARNING '% isaddress: %', location.place_id, location_isaddress;
1823       -- Add it to the list of search terms
1824       IF location.rank_search > 4 THEN
1825           nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1826       END IF;
1827       INSERT INTO place_addressline (place_id, address_place_id, fromarea, isaddress, distance, cached_rank_address)
1828         VALUES (NEW.place_id, location.place_id, true, location_isaddress, location.distance, location.rank_address);
1829
1830       IF location_isaddress THEN
1831         -- add postcode if we have one
1832         -- (If multiple postcodes are available, we end up with the highest ranking one.)
1833         IF location.postcode is not null THEN
1834             NEW.postcode = location.postcode;
1835         END IF;
1836
1837         address_havelevel[location.rank_address] := true;
1838         IF NOT location.isguess THEN
1839           SELECT geometry FROM placex WHERE place_id = location.place_id INTO location_parent;
1840         END IF;
1841
1842         IF location.rank_address > parent_place_id_rank THEN
1843           NEW.parent_place_id = location.place_id;
1844           parent_place_id_rank = location.rank_address;
1845         END IF;
1846
1847       END IF;
1848
1849     --DEBUG: RAISE WARNING '  Terms: (%) %',location, nameaddress_vector;
1850
1851     END IF;
1852
1853   END LOOP;
1854   --DEBUG: RAISE WARNING 'address computed';
1855
1856   -- try using the isin value to find parent places
1857   IF array_upper(isin_tokens, 1) IS NOT NULL THEN
1858     FOR i IN 1..array_upper(isin_tokens, 1) LOOP
1859 --RAISE WARNING '  getNearestNamedFeature: % % % %',NEW.partition, place_centroid, search_maxrank, isin_tokens[i];
1860       IF NOT ARRAY[isin_tokens[i]] <@ nameaddress_vector THEN
1861
1862         FOR location IN SELECT * from getNearestNamedFeature(NEW.partition, place_centroid, search_maxrank, isin_tokens[i]) LOOP
1863
1864 --RAISE WARNING '  ISIN: %',location;
1865
1866           IF location.rank_search > 4 THEN
1867               nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1868               INSERT INTO place_addressline (place_id, address_place_id, fromarea, isaddress, distance, cached_rank_address)
1869                 VALUES (NEW.place_id, location.place_id, false, NOT address_havelevel[location.rank_address], location.distance, location.rank_address);
1870               IF NEW.postcode is null AND location.postcode is not null
1871                  AND NOT address_havelevel[location.rank_address] THEN
1872                 NEW.postcode := location.postcode;
1873               END IF;
1874
1875               address_havelevel[location.rank_address] := true;
1876
1877               IF location.rank_address > parent_place_id_rank THEN
1878                 NEW.parent_place_id = location.place_id;
1879                 parent_place_id_rank = location.rank_address;
1880               END IF;
1881           END IF;
1882         END LOOP;
1883
1884       END IF;
1885
1886     END LOOP;
1887   END IF;
1888   --DEBUG: RAISE WARNING 'isin tokens processed';
1889
1890   -- for long ways we should add search terms for the entire length
1891   IF st_length(NEW.geometry) > 0.05 THEN
1892
1893     location_rank_search := 0;
1894     location_distance := 0;
1895
1896     FOR location IN SELECT * from getNearFeatures(NEW.partition, NEW.geometry, search_maxrank, isin_tokens) LOOP
1897
1898       IF location.rank_address != location_rank_search THEN
1899         location_rank_search := location.rank_address;
1900         location_distance := location.distance * 1.5;
1901       END IF;
1902
1903       IF location.rank_search > 4 AND location.distance < location_distance THEN
1904
1905         -- Add it to the list of search terms
1906         nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1907         INSERT INTO place_addressline (place_id, address_place_id, fromarea, isaddress, distance, cached_rank_address)
1908           VALUES (NEW.place_id, location.place_id, true, false, location.distance, location.rank_address);
1909
1910       END IF;
1911
1912     END LOOP;
1913
1914   END IF;
1915   --DEBUG: RAISE WARNING 'search terms for long ways added';
1916
1917   IF NEW.address is not null AND NEW.address ? 'postcode'
1918      AND NEW.address->'postcode' not similar to '%(,|;)%' THEN
1919     NEW.postcode := NEW.address->'postcode';
1920   END IF;
1921
1922   IF NEW.postcode is null AND NEW.rank_search > 8 THEN
1923     NEW.postcode := get_nearest_postcode(NEW.country_code, NEW.geometry);
1924   END IF;
1925
1926   -- if we have a name add this to the name search table
1927   IF NEW.name IS NOT NULL THEN
1928
1929     IF NEW.rank_search <= 25 and NEW.rank_address > 0 THEN
1930       result := add_location(NEW.place_id, NEW.country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.address->'postcode', NEW.geometry);
1931       --DEBUG: RAISE WARNING 'added to location (full)';
1932     END IF;
1933
1934     IF NEW.rank_search between 26 and 27 and NEW.class = 'highway' THEN
1935       result := insertLocationRoad(NEW.partition, NEW.place_id, NEW.country_code, NEW.geometry);
1936       --DEBUG: RAISE WARNING 'insert into road location table (full)';
1937     END IF;
1938
1939     result := insertSearchName(NEW.partition, NEW.place_id, NEW.country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid, NEW.geometry);
1940     --DEBUG: RAISE WARNING 'added to serach name (full)';
1941
1942   END IF;
1943
1944   -- If we've not managed to pick up a better one - default centroid
1945   IF NEW.centroid IS NULL THEN
1946     NEW.centroid := place_centroid;
1947   END IF;
1948
1949   --DEBUG: RAISE WARNING 'place update % % finsihed.', NEW.osm_type, NEW.osm_id;
1950
1951   RETURN NEW;
1952 END;
1953 $$
1954 LANGUAGE plpgsql;
1955
1956 CREATE OR REPLACE FUNCTION placex_delete() RETURNS TRIGGER
1957   AS $$
1958 DECLARE
1959   b BOOLEAN;
1960   classtable TEXT;
1961 BEGIN
1962   -- RAISE WARNING 'placex_delete % %',OLD.osm_type,OLD.osm_id;
1963
1964   update placex set linked_place_id = null, indexed_status = 2 where linked_place_id = OLD.place_id and indexed_status = 0;
1965   --DEBUG: RAISE WARNING 'placex_delete:01 % %',OLD.osm_type,OLD.osm_id;
1966   update placex set linked_place_id = null where linked_place_id = OLD.place_id;
1967   --DEBUG: RAISE WARNING 'placex_delete:02 % %',OLD.osm_type,OLD.osm_id;
1968
1969   IF OLD.rank_address < 30 THEN
1970
1971     -- mark everything linked to this place for re-indexing
1972     --DEBUG: RAISE WARNING 'placex_delete:03 % %',OLD.osm_type,OLD.osm_id;
1973     UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = OLD.place_id
1974       and placex.place_id = place_addressline.place_id and indexed_status = 0 and place_addressline.isaddress;
1975
1976     --DEBUG: RAISE WARNING 'placex_delete:04 % %',OLD.osm_type,OLD.osm_id;
1977     DELETE FROM place_addressline where address_place_id = OLD.place_id;
1978
1979     --DEBUG: RAISE WARNING 'placex_delete:05 % %',OLD.osm_type,OLD.osm_id;
1980     b := deleteRoad(OLD.partition, OLD.place_id);
1981
1982     --DEBUG: RAISE WARNING 'placex_delete:06 % %',OLD.osm_type,OLD.osm_id;
1983     update placex set indexed_status = 2 where parent_place_id = OLD.place_id and indexed_status = 0;
1984     --DEBUG: RAISE WARNING 'placex_delete:07 % %',OLD.osm_type,OLD.osm_id;
1985     -- reparenting also for OSM Interpolation Lines (and for Tiger?)
1986     update location_property_osmline set indexed_status = 2 where indexed_status = 0 and parent_place_id = OLD.place_id;
1987
1988   END IF;
1989
1990   --DEBUG: RAISE WARNING 'placex_delete:08 % %',OLD.osm_type,OLD.osm_id;
1991
1992   IF OLD.rank_address < 26 THEN
1993     b := deleteLocationArea(OLD.partition, OLD.place_id, OLD.rank_search);
1994   END IF;
1995
1996   --DEBUG: RAISE WARNING 'placex_delete:09 % %',OLD.osm_type,OLD.osm_id;
1997
1998   IF OLD.name is not null THEN
1999     b := deleteSearchName(OLD.partition, OLD.place_id);
2000   END IF;
2001
2002   --DEBUG: RAISE WARNING 'placex_delete:10 % %',OLD.osm_type,OLD.osm_id;
2003
2004   DELETE FROM place_addressline where place_id = OLD.place_id;
2005
2006   --DEBUG: RAISE WARNING 'placex_delete:11 % %',OLD.osm_type,OLD.osm_id;
2007
2008   -- remove from tables for special search
2009   classtable := 'place_classtype_' || OLD.class || '_' || OLD.type;
2010   SELECT count(*)>0 FROM pg_tables WHERE tablename = classtable and schemaname = current_schema() INTO b;
2011   IF b THEN
2012     EXECUTE 'DELETE FROM ' || classtable::regclass || ' WHERE place_id = $1' USING OLD.place_id;
2013   END IF;
2014
2015   --DEBUG: RAISE WARNING 'placex_delete:12 % %',OLD.osm_type,OLD.osm_id;
2016
2017   RETURN OLD;
2018
2019 END;
2020 $$
2021 LANGUAGE plpgsql;
2022
2023 CREATE OR REPLACE FUNCTION place_delete() RETURNS TRIGGER
2024   AS $$
2025 DECLARE
2026   has_rank BOOLEAN;
2027 BEGIN
2028
2029   --DEBUG: RAISE WARNING 'delete: % % % %',OLD.osm_type,OLD.osm_id,OLD.class,OLD.type;
2030
2031   -- deleting large polygons can have a massive effect on the system - require manual intervention to let them through
2032   IF st_area(OLD.geometry) > 2 and st_isvalid(OLD.geometry) THEN
2033     SELECT bool_or(not (rank_address = 0 or rank_address > 26)) as ranked FROM placex WHERE osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type INTO has_rank;
2034     IF has_rank THEN
2035       insert into import_polygon_delete (osm_type, osm_id, class, type) values (OLD.osm_type,OLD.osm_id,OLD.class,OLD.type);
2036       RETURN NULL;
2037     END IF;
2038   END IF;
2039
2040   -- mark for delete
2041   UPDATE placex set indexed_status = 100 where osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type;
2042
2043   -- interpolations are special
2044   IF OLD.osm_type='W' and OLD.class = 'place' and OLD.type = 'houses' THEN
2045     UPDATE location_property_osmline set indexed_status = 100 where osm_id = OLD.osm_id; -- osm_id = wayid (=old.osm_id)
2046   END IF;
2047
2048   RETURN OLD;
2049
2050 END;
2051 $$
2052 LANGUAGE plpgsql;
2053
2054 CREATE OR REPLACE FUNCTION place_insert() RETURNS TRIGGER
2055   AS $$
2056 DECLARE
2057   i INTEGER;
2058   existing RECORD;
2059   existingplacex RECORD;
2060   existingline RECORD;
2061   existinggeometry GEOMETRY;
2062   existingplace_id BIGINT;
2063   result BOOLEAN;
2064   partition INTEGER;
2065 BEGIN
2066
2067   --DEBUG: RAISE WARNING '-----------------------------------------------------------------------------------';
2068   --DEBUG: RAISE WARNING 'place_insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,st_area(NEW.geometry);
2069   -- filter wrong tupels
2070   IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN
2071     INSERT INTO import_polygon_error (osm_type, osm_id, class, type, name, country_code, updated, errormessage, prevgeometry, newgeometry)
2072       VALUES (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.address->'country', now(), ST_IsValidReason(NEW.geometry), null, NEW.geometry);
2073 --    RAISE WARNING 'Invalid Geometry: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
2074     RETURN null;
2075   END IF;
2076
2077   -- decide, whether it is an osm interpolation line => insert intoosmline, or else just placex
2078   IF NEW.class='place' and NEW.type='houses' and NEW.osm_type='W' and ST_GeometryType(NEW.geometry) = 'ST_LineString' THEN
2079     -- Have we already done this place?
2080     select * from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existing;
2081
2082     -- Get the existing place_id
2083     select * from location_property_osmline where osm_id = NEW.osm_id INTO existingline;
2084
2085     -- Handle a place changing type by removing the old data (this trigger is executed BEFORE INSERT of the NEW tupel)
2086     IF existing.osm_type IS NULL THEN
2087       DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class;
2088     END IF;
2089
2090     DELETE from import_polygon_error where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2091     DELETE from import_polygon_delete where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2092
2093     -- update method for interpolation lines: delete all old interpolation lines with same osm_id (update on place) and insert the new one(s) (they can be split up, if they have > 2 nodes)
2094     IF existingline.osm_id IS NOT NULL THEN
2095       delete from location_property_osmline where osm_id = NEW.osm_id;
2096     END IF;
2097
2098     -- for interpolations invalidate all nodes on the line
2099     update placex p set indexed_status = 2
2100       from planet_osm_ways w
2101       where w.id = NEW.osm_id and p.osm_type = 'N' and p.osm_id = any(w.nodes);
2102
2103
2104     INSERT INTO location_property_osmline (osm_id, address, linegeo)
2105       VALUES (NEW.osm_id, NEW.address, NEW.geometry);
2106
2107
2108     IF existing.osm_type IS NULL THEN
2109       return NEW;
2110     END IF;
2111
2112     IF coalesce(existing.address, ''::hstore) != coalesce(NEW.address, ''::hstore)
2113        OR (coalesce(existing.extratags, ''::hstore) != coalesce(NEW.extratags, ''::hstore))
2114        OR existing.geometry::text != NEW.geometry::text
2115        THEN
2116
2117       update place set
2118         name = NEW.name,
2119         address = NEW.address,
2120         extratags = NEW.extratags,
2121         admin_level = NEW.admin_level,
2122         geometry = NEW.geometry
2123         where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2124     END IF;
2125
2126     RETURN NULL;
2127
2128   ELSE -- insert to placex
2129
2130     -- Patch in additional country names
2131     IF NEW.admin_level = 2 AND NEW.type = 'administrative'
2132           AND NEW.address is not NULL AND NEW.address ? 'country' THEN
2133         SELECT name FROM country_name WHERE country_code = lower(NEW.address->'country') INTO existing;
2134         IF existing.name IS NOT NULL THEN
2135             NEW.name = existing.name || NEW.name;
2136         END IF;
2137     END IF;
2138
2139     -- Have we already done this place?
2140     select * from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existing;
2141
2142     -- Get the existing place_id
2143     select * from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existingplacex;
2144
2145     -- Handle a place changing type by removing the old data
2146     -- My generated 'place' types are causing havok because they overlap with real keys
2147     -- TODO: move them to their own special purpose key/class to avoid collisions
2148     IF existing.osm_type IS NULL THEN
2149       DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class;
2150     END IF;
2151
2152     --DEBUG: RAISE WARNING 'Existing: %',existing.osm_id;
2153     --DEBUG: RAISE WARNING 'Existing PlaceX: %',existingplacex.place_id;
2154
2155     -- Log and discard
2156     IF existing.geometry is not null AND st_isvalid(existing.geometry)
2157       AND st_area(existing.geometry) > 0.02
2158       AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon')
2159       AND st_area(NEW.geometry) < st_area(existing.geometry)*0.5
2160       THEN
2161       INSERT INTO import_polygon_error (osm_type, osm_id, class, type, name, country_code, updated, errormessage, prevgeometry, newgeometry)
2162         VALUES (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.address->'country', now(),
2163         'Area reduced from '||st_area(existing.geometry)||' to '||st_area(NEW.geometry), existing.geometry, NEW.geometry);
2164       RETURN null;
2165     END IF;
2166
2167     DELETE from import_polygon_error where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2168     DELETE from import_polygon_delete where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2169
2170     -- To paraphrase, if there isn't an existing item, OR if the admin level has changed
2171     IF existingplacex.osm_type IS NULL OR
2172       (coalesce(existingplacex.admin_level, 15) != coalesce(NEW.admin_level, 15) AND existingplacex.class = 'boundary' AND existingplacex.type = 'administrative')
2173     THEN
2174
2175       IF existingplacex.osm_type IS NOT NULL THEN
2176         -- sanity check: ignore admin_level changes on places with too many active children
2177         -- or we end up reindexing entire countries because somebody accidentally deleted admin_level
2178         --LIMIT INDEXING: SELECT count(*) FROM (SELECT 'a' FROM placex , place_addressline where address_place_id = existingplacex.place_id and placex.place_id = place_addressline.place_id and indexed_status = 0 and place_addressline.isaddress LIMIT 100001) sub INTO i;
2179         --LIMIT INDEXING: IF i > 100000 THEN
2180         --LIMIT INDEXING:  RETURN null;
2181         --LIMIT INDEXING: END IF;
2182       END IF;
2183
2184       IF existing.osm_type IS NOT NULL THEN
2185         -- pathological case caused by the triggerless copy into place during initial import
2186         -- force delete even for large areas, it will be reinserted later
2187         UPDATE place set geometry = ST_SetSRID(ST_Point(0,0), 4326) where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2188         DELETE from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2189       END IF;
2190
2191       -- No - process it as a new insertion (hopefully of low rank or it will be slow)
2192       insert into placex (osm_type, osm_id, class, type, name,
2193                           admin_level, address, extratags, geometry)
2194         values (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name,
2195                 NEW.admin_level, NEW.address, NEW.extratags, NEW.geometry);
2196
2197       --DEBUG: RAISE WARNING 'insert done % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,NEW.name;
2198
2199       RETURN NEW;
2200     END IF;
2201
2202     -- Special case for polygon shape changes because they tend to be large and we can be a bit clever about how we handle them
2203     IF existing.geometry::text != NEW.geometry::text
2204        AND ST_GeometryType(existing.geometry) in ('ST_Polygon','ST_MultiPolygon')
2205        AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon')
2206        THEN
2207
2208       -- Get the version of the geometry actually used (in placex table)
2209       select geometry from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type into existinggeometry;
2210
2211       -- Performance limit
2212       IF st_area(NEW.geometry) < 0.000000001 AND st_area(existinggeometry) < 1 THEN
2213
2214         -- re-index points that have moved in / out of the polygon, could be done as a single query but postgres gets the index usage wrong
2215         update placex set indexed_status = 2 where indexed_status = 0 and
2216             (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
2217             AND NOT (st_covers(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
2218             AND rank_search > existingplacex.rank_search AND (rank_search < 28 or name is not null);
2219
2220         update placex set indexed_status = 2 where indexed_status = 0 and
2221             (st_covers(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
2222             AND NOT (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
2223             AND rank_search > existingplacex.rank_search AND (rank_search < 28 or name is not null);
2224
2225       END IF;
2226
2227     END IF;
2228
2229
2230     IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '')
2231        OR coalesce(existing.extratags::text, '') != coalesce(NEW.extratags::text, '')
2232        OR coalesce(existing.address, ''::hstore) != coalesce(NEW.address, ''::hstore)
2233        OR coalesce(existing.admin_level, 15) != coalesce(NEW.admin_level, 15)
2234        OR existing.geometry::text != NEW.geometry::text
2235        THEN
2236
2237       update place set
2238         name = NEW.name,
2239         address = NEW.address,
2240         extratags = NEW.extratags,
2241         admin_level = NEW.admin_level,
2242         geometry = NEW.geometry
2243         where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2244
2245
2246       IF NEW.class in ('place','boundary') AND NEW.type in ('postcode','postal_code') THEN
2247           IF NEW.address is NULL OR NOT NEW.address ? 'postcode' THEN
2248               -- postcode was deleted, no longer retain in placex
2249               DELETE FROM placex where place_id = existingplacex.place_id;
2250               RETURN NULL;
2251           END IF;
2252
2253           NEW.name := hstore('ref', NEW.address->'postcode');
2254       END IF;
2255
2256       IF NEW.class in ('boundary')
2257          AND ST_GeometryType(NEW.geometry) not in ('ST_Polygon','ST_MultiPolygon') THEN
2258           DELETE FROM placex where place_id = existingplacex.place_id;
2259           RETURN NULL;
2260       END IF;
2261
2262       update placex set
2263         name = NEW.name,
2264         address = NEW.address,
2265         parent_place_id = null,
2266         extratags = NEW.extratags,
2267         admin_level = NEW.admin_level,
2268         indexed_status = 2,
2269         geometry = NEW.geometry
2270         where place_id = existingplacex.place_id;
2271
2272       -- if a node(=>house), which is part of a interpolation line, changes (e.g. the street attribute) => mark this line for reparenting
2273       -- (already here, because interpolation lines are reindexed before nodes, so in the second call it would be too late)
2274       IF NEW.osm_type='N' and NEW.class='place' and NEW.type='house' THEN
2275           -- Is this node part of an interpolation line? search for it in location_property_osmline and mark the interpolation line for reparenting
2276           update location_property_osmline p set indexed_status = 2 from planet_osm_ways w where p.linegeo && NEW.geometry and p.osm_id = w.id and NEW.osm_id = any(w.nodes);
2277       END IF;
2278
2279       -- linked places should get potential new naming and addresses
2280       IF existingplacex.linked_place_id is not NULL THEN
2281         update placex x set
2282           name = p.name,
2283           extratags = p.extratags,
2284           indexed_status = 2
2285         from place p
2286         where x.place_id = existingplacex.linked_place_id
2287               and x.indexed_status = 0
2288               and x.osm_type = p.osm_type
2289               and x.osm_id = p.osm_id
2290               and x.class = p.class;
2291       END IF;
2292
2293     END IF;
2294
2295     -- Abort the add (we modified the existing place instead)
2296     RETURN NULL;
2297   END IF;
2298
2299 END;
2300 $$ LANGUAGE plpgsql;
2301
2302
2303 CREATE OR REPLACE FUNCTION get_name_by_language(name hstore, languagepref TEXT[]) RETURNS TEXT
2304   AS $$
2305 DECLARE
2306   result TEXT;
2307 BEGIN
2308   IF name is null THEN
2309     RETURN null;
2310   END IF;
2311
2312   FOR j IN 1..array_upper(languagepref,1) LOOP
2313     IF name ? languagepref[j] THEN
2314       result := trim(name->languagepref[j]);
2315       IF result != '' THEN
2316         return result;
2317       END IF;
2318     END IF;
2319   END LOOP;
2320
2321   -- anything will do as a fallback - just take the first name type thing there is
2322   RETURN trim((avals(name))[1]);
2323 END;
2324 $$
2325 LANGUAGE plpgsql IMMUTABLE;
2326
2327 --housenumber only needed for tiger data
2328 CREATE OR REPLACE FUNCTION get_address_by_language(for_place_id BIGINT, housenumber INTEGER, languagepref TEXT[]) RETURNS TEXT
2329   AS $$
2330 DECLARE
2331   result TEXT[];
2332   currresult TEXT;
2333   prevresult TEXT;
2334   location RECORD;
2335 BEGIN
2336
2337   result := '{}';
2338   prevresult := '';
2339
2340   FOR location IN select * from get_addressdata(for_place_id, housenumber) where isaddress order by rank_address desc LOOP
2341     currresult := trim(get_name_by_language(location.name, languagepref));
2342     IF currresult != prevresult AND currresult IS NOT NULL AND result[(100 - location.rank_address)] IS NULL THEN
2343       result[(100 - location.rank_address)] := trim(get_name_by_language(location.name, languagepref));
2344       prevresult := currresult;
2345     END IF;
2346   END LOOP;
2347
2348   RETURN array_to_string(result,', ');
2349 END;
2350 $$
2351 LANGUAGE plpgsql;
2352
2353 DROP TYPE IF EXISTS addressline CASCADE;
2354 create type addressline as (
2355   place_id BIGINT,
2356   osm_type CHAR(1),
2357   osm_id BIGINT,
2358   name HSTORE,
2359   class TEXT,
2360   type TEXT,
2361   admin_level INTEGER,
2362   fromarea BOOLEAN,
2363   isaddress BOOLEAN,
2364   rank_address INTEGER,
2365   distance FLOAT
2366 );
2367
2368 CREATE OR REPLACE FUNCTION get_addressdata(in_place_id BIGINT, in_housenumber INTEGER) RETURNS setof addressline
2369   AS $$
2370 DECLARE
2371   for_place_id BIGINT;
2372   result TEXT[];
2373   search TEXT[];
2374   found INTEGER;
2375   location RECORD;
2376   countrylocation RECORD;
2377   searchcountrycode varchar(2);
2378   searchhousenumber TEXT;
2379   searchhousename HSTORE;
2380   searchrankaddress INTEGER;
2381   searchpostcode TEXT;
2382   searchclass TEXT;
2383   searchtype TEXT;
2384   countryname HSTORE;
2385   hadcountry BOOLEAN;
2386 BEGIN
2387   -- first query osmline (interpolation lines)
2388   select parent_place_id, country_code, 30, postcode, null, 'place', 'house' from location_property_osmline
2389     WHERE place_id = in_place_id AND in_housenumber>=startnumber AND in_housenumber <= endnumber
2390     INTO for_place_id,searchcountrycode, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2391   IF for_place_id IS NOT NULL THEN
2392     searchhousenumber = in_housenumber::text;
2393   END IF;
2394
2395   --then query tiger data
2396   -- %NOTIGERDATA% IF 0 THEN
2397   IF for_place_id IS NULL THEN
2398     select parent_place_id,'us', 30, postcode, null, 'place', 'house' from location_property_tiger
2399       WHERE place_id = in_place_id AND in_housenumber>=startnumber AND in_housenumber <= endnumber
2400       INTO for_place_id,searchcountrycode, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2401     IF for_place_id IS NOT NULL THEN
2402       searchhousenumber = in_housenumber::text;
2403     END IF;
2404   END IF;
2405   -- %NOTIGERDATA% END IF;
2406
2407   -- %NOAUXDATA% IF 0 THEN
2408   IF for_place_id IS NULL THEN
2409     select parent_place_id,'us', housenumber, 30, postcode, null, 'place', 'house' from location_property_aux
2410       WHERE place_id = in_place_id
2411       INTO for_place_id,searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2412   END IF;
2413   -- %NOAUXDATA% END IF;
2414
2415   IF for_place_id IS NULL THEN
2416     select parent_place_id, country_code, housenumber, rank_search, postcode, name, class, type from placex
2417       WHERE place_id = in_place_id and  rank_search > 27
2418       INTO for_place_id, searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2419   END IF;
2420
2421   IF for_place_id IS NULL THEN
2422     select coalesce(linked_place_id, place_id),  country_code,
2423            housenumber, rank_search, postcode, null
2424       from placex where place_id = in_place_id
2425       INTO for_place_id, searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename;
2426   END IF;
2427
2428 --RAISE WARNING '% % % %',searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode;
2429
2430   found := 1000;
2431   hadcountry := false;
2432   FOR location IN
2433     select placex.place_id, osm_type, osm_id, name,
2434       class, type, admin_level, true as isaddress,
2435       CASE WHEN rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2436       0 as distance, country_code, postcode
2437       from placex
2438       where place_id = for_place_id
2439   LOOP
2440 --RAISE WARNING '%',location;
2441     IF searchcountrycode IS NULL AND location.country_code IS NOT NULL THEN
2442       searchcountrycode := location.country_code;
2443     END IF;
2444     IF location.type in ('postcode', 'postal_code') THEN
2445       location.isaddress := FALSE;
2446     ELSEIF location.rank_address = 4 THEN
2447       hadcountry := true;
2448     END IF;
2449     IF location.rank_address < 4 AND NOT hadcountry THEN
2450       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2451       IF countryname IS NOT NULL THEN
2452         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2453         RETURN NEXT countrylocation;
2454       END IF;
2455     END IF;
2456     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class,
2457                            location.type, location.admin_level, true, location.isaddress, location.rank_address,
2458                            location.distance)::addressline;
2459     RETURN NEXT countrylocation;
2460     found := location.rank_address;
2461   END LOOP;
2462
2463   FOR location IN
2464     select placex.place_id, osm_type, osm_id, name,
2465       CASE WHEN extratags ? 'place' THEN 'place' ELSE class END as class,
2466       CASE WHEN extratags ? 'place' THEN extratags->'place' ELSE type END as type,
2467       admin_level, fromarea, isaddress,
2468       CASE WHEN address_place_id = for_place_id AND rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2469       distance,country_code,postcode
2470       from place_addressline join placex on (address_place_id = placex.place_id)
2471       where place_addressline.place_id = for_place_id
2472       and (cached_rank_address > 0 AND cached_rank_address < searchrankaddress)
2473       and address_place_id != for_place_id
2474       and (placex.country_code IS NULL OR searchcountrycode IS NULL OR placex.country_code = searchcountrycode)
2475       order by rank_address desc,isaddress desc,fromarea desc,distance asc,rank_search desc
2476   LOOP
2477 --RAISE WARNING '%',location;
2478     IF searchcountrycode IS NULL AND location.country_code IS NOT NULL THEN
2479       searchcountrycode := location.country_code;
2480     END IF;
2481     IF location.type in ('postcode', 'postal_code') THEN
2482       location.isaddress := FALSE;
2483     END IF;
2484     IF location.rank_address = 4 AND location.isaddress THEN
2485       hadcountry := true;
2486     END IF;
2487     IF location.rank_address < 4 AND NOT hadcountry THEN
2488       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2489       IF countryname IS NOT NULL THEN
2490         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2491         RETURN NEXT countrylocation;
2492       END IF;
2493     END IF;
2494     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class,
2495                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address,
2496                            location.distance)::addressline;
2497     RETURN NEXT countrylocation;
2498     found := location.rank_address;
2499   END LOOP;
2500
2501   IF found > 4 THEN
2502     select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2503 --RAISE WARNING '% % %',found,searchcountrycode,countryname;
2504     IF countryname IS NOT NULL THEN
2505       location := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2506       RETURN NEXT location;
2507     END IF;
2508   END IF;
2509
2510   IF searchcountrycode IS NOT NULL THEN
2511     location := ROW(null, null, null, hstore('ref', searchcountrycode), 'place', 'country_code', null, true, false, 4, 0)::addressline;
2512     RETURN NEXT location;
2513   END IF;
2514
2515   IF searchhousename IS NOT NULL THEN
2516     location := ROW(in_place_id, null, null, searchhousename, searchclass, searchtype, null, true, true, 29, 0)::addressline;
2517     RETURN NEXT location;
2518   END IF;
2519
2520   IF searchhousenumber IS NOT NULL THEN
2521     location := ROW(in_place_id, null, null, hstore('ref', searchhousenumber), 'place', 'house_number', null, true, true, 28, 0)::addressline;
2522     RETURN NEXT location;
2523   END IF;
2524
2525   IF searchpostcode IS NOT NULL THEN
2526     location := ROW(null, null, null, hstore('ref', searchpostcode), 'place', 'postcode', null, true, true, 5, 0)::addressline;
2527     RETURN NEXT location;
2528   END IF;
2529
2530   RETURN;
2531 END;
2532 $$
2533 LANGUAGE plpgsql;
2534
2535
2536 CREATE OR REPLACE FUNCTION get_searchrank_label(rank INTEGER) RETURNS TEXT
2537   AS $$
2538 DECLARE
2539 BEGIN
2540   IF rank < 2 THEN
2541     RETURN 'Continent';
2542   ELSEIF rank < 4 THEN
2543     RETURN 'Sea';
2544   ELSEIF rank < 8 THEN
2545     RETURN 'Country';
2546   ELSEIF rank < 12 THEN
2547     RETURN 'State';
2548   ELSEIF rank < 16 THEN
2549     RETURN 'County';
2550   ELSEIF rank = 16 THEN
2551     RETURN 'City';
2552   ELSEIF rank = 17 THEN
2553     RETURN 'Town / Island';
2554   ELSEIF rank = 18 THEN
2555     RETURN 'Village / Hamlet';
2556   ELSEIF rank = 20 THEN
2557     RETURN 'Suburb';
2558   ELSEIF rank = 21 THEN
2559     RETURN 'Postcode Area';
2560   ELSEIF rank = 22 THEN
2561     RETURN 'Croft / Farm / Locality / Islet';
2562   ELSEIF rank = 23 THEN
2563     RETURN 'Postcode Area';
2564   ELSEIF rank = 25 THEN
2565     RETURN 'Postcode Point';
2566   ELSEIF rank = 26 THEN
2567     RETURN 'Street / Major Landmark';
2568   ELSEIF rank = 27 THEN
2569     RETURN 'Minory Street / Path';
2570   ELSEIF rank = 28 THEN
2571     RETURN 'House / Building';
2572   ELSE
2573     RETURN 'Other: '||rank;
2574   END IF;
2575
2576 END;
2577 $$
2578 LANGUAGE plpgsql;
2579
2580 CREATE OR REPLACE FUNCTION get_addressrank_label(rank INTEGER) RETURNS TEXT
2581   AS $$
2582 DECLARE
2583 BEGIN
2584   IF rank = 0 THEN
2585     RETURN 'None';
2586   ELSEIF rank < 2 THEN
2587     RETURN 'Continent';
2588   ELSEIF rank < 4 THEN
2589     RETURN 'Sea';
2590   ELSEIF rank = 5 THEN
2591     RETURN 'Postcode';
2592   ELSEIF rank < 8 THEN
2593     RETURN 'Country';
2594   ELSEIF rank < 12 THEN
2595     RETURN 'State';
2596   ELSEIF rank < 16 THEN
2597     RETURN 'County';
2598   ELSEIF rank = 16 THEN
2599     RETURN 'City';
2600   ELSEIF rank = 17 THEN
2601     RETURN 'Town / Village / Hamlet';
2602   ELSEIF rank = 20 THEN
2603     RETURN 'Suburb';
2604   ELSEIF rank = 21 THEN
2605     RETURN 'Postcode Area';
2606   ELSEIF rank = 22 THEN
2607     RETURN 'Croft / Farm / Locality / Islet';
2608   ELSEIF rank = 23 THEN
2609     RETURN 'Postcode Area';
2610   ELSEIF rank = 25 THEN
2611     RETURN 'Postcode Point';
2612   ELSEIF rank = 26 THEN
2613     RETURN 'Street / Major Landmark';
2614   ELSEIF rank = 27 THEN
2615     RETURN 'Minory Street / Path';
2616   ELSEIF rank = 28 THEN
2617     RETURN 'House / Building';
2618   ELSE
2619     RETURN 'Other: '||rank;
2620   END IF;
2621
2622 END;
2623 $$
2624 LANGUAGE plpgsql;
2625
2626 CREATE OR REPLACE FUNCTION aux_create_property(pointgeo GEOMETRY, in_housenumber TEXT,
2627   in_street TEXT, in_isin TEXT, in_postcode TEXT, in_countrycode char(2)) RETURNS INTEGER
2628   AS $$
2629 DECLARE
2630
2631   newpoints INTEGER;
2632   place_centroid GEOMETRY;
2633   out_partition INTEGER;
2634   out_parent_place_id BIGINT;
2635   location RECORD;
2636   address_street_word_id INTEGER;
2637   out_postcode TEXT;
2638
2639 BEGIN
2640
2641   place_centroid := ST_Centroid(pointgeo);
2642   out_partition := get_partition(in_countrycode);
2643   out_parent_place_id := null;
2644
2645   address_street_word_id := get_name_id(make_standard_name(in_street));
2646   IF address_street_word_id IS NOT NULL THEN
2647     FOR location IN SELECT * from getNearestNamedRoadFeature(out_partition, place_centroid, address_street_word_id) LOOP
2648       out_parent_place_id := location.place_id;
2649     END LOOP;
2650   END IF;
2651
2652   IF out_parent_place_id IS NULL THEN
2653     FOR location IN SELECT place_id FROM getNearestRoadFeature(out_partition, place_centroid) LOOP
2654       out_parent_place_id := location.place_id;
2655     END LOOP;
2656   END IF;
2657
2658   out_postcode := in_postcode;
2659   IF out_postcode IS NULL THEN
2660     SELECT postcode from placex where place_id = out_parent_place_id INTO out_postcode;
2661   END IF;
2662   -- XXX look into postcode table
2663
2664   newpoints := 0;
2665   insert into location_property_aux (place_id, partition, parent_place_id, housenumber, postcode, centroid)
2666     values (nextval('seq_place'), out_partition, out_parent_place_id, in_housenumber, out_postcode, place_centroid);
2667   newpoints := newpoints + 1;
2668
2669   RETURN newpoints;
2670 END;
2671 $$
2672 LANGUAGE plpgsql;
2673
2674 CREATE OR REPLACE FUNCTION get_osm_rel_members(members TEXT[], member TEXT) RETURNS TEXT[]
2675   AS $$
2676 DECLARE
2677   result TEXT[];
2678   i INTEGER;
2679 BEGIN
2680
2681   FOR i IN 1..ARRAY_UPPER(members,1) BY 2 LOOP
2682     IF members[i+1] = member THEN
2683       result := result || members[i];
2684     END IF;
2685   END LOOP;
2686
2687   return result;
2688 END;
2689 $$
2690 LANGUAGE plpgsql;
2691
2692 CREATE OR REPLACE FUNCTION get_osm_rel_members(members TEXT[], memberLabels TEXT[]) RETURNS SETOF TEXT
2693   AS $$
2694 DECLARE
2695   i INTEGER;
2696 BEGIN
2697
2698   FOR i IN 1..ARRAY_UPPER(members,1) BY 2 LOOP
2699     IF members[i+1] = ANY(memberLabels) THEN
2700       RETURN NEXT members[i];
2701     END IF;
2702   END LOOP;
2703
2704   RETURN;
2705 END;
2706 $$
2707 LANGUAGE plpgsql;
2708
2709 -- See: http://stackoverflow.com/questions/6410088/how-can-i-mimic-the-php-urldecode-function-in-postgresql
2710 CREATE OR REPLACE FUNCTION decode_url_part(p varchar) RETURNS varchar
2711   AS $$
2712 SELECT convert_from(CAST(E'\\x' || array_to_string(ARRAY(
2713     SELECT CASE WHEN length(r.m[1]) = 1 THEN encode(convert_to(r.m[1], 'SQL_ASCII'), 'hex') ELSE substring(r.m[1] from 2 for 2) END
2714     FROM regexp_matches($1, '%[0-9a-f][0-9a-f]|.', 'gi') AS r(m)
2715 ), '') AS bytea), 'UTF8');
2716 $$
2717 LANGUAGE SQL IMMUTABLE STRICT;
2718
2719 CREATE OR REPLACE FUNCTION catch_decode_url_part(p varchar) RETURNS varchar
2720   AS $$
2721 DECLARE
2722 BEGIN
2723   RETURN decode_url_part(p);
2724 EXCEPTION
2725   WHEN others THEN return null;
2726 END;
2727 $$
2728 LANGUAGE plpgsql IMMUTABLE;
2729
2730 DROP TYPE wikipedia_article_match CASCADE;
2731 create type wikipedia_article_match as (
2732   language TEXT,
2733   title TEXT,
2734   importance FLOAT
2735 );
2736
2737 CREATE OR REPLACE FUNCTION get_wikipedia_match(extratags HSTORE, country_code varchar(2)) RETURNS wikipedia_article_match
2738   AS $$
2739 DECLARE
2740   langs TEXT[];
2741   i INT;
2742   wiki_article TEXT;
2743   wiki_article_title TEXT;
2744   wiki_article_language TEXT;
2745   result wikipedia_article_match;
2746 BEGIN
2747   langs := ARRAY['english','country','ar','bg','ca','cs','da','de','en','es','eo','eu','fa','fr','ko','hi','hr','id','it','he','lt','hu','ms','nl','ja','no','pl','pt','kk','ro','ru','sk','sl','sr','fi','sv','tr','uk','vi','vo','war','zh'];
2748   i := 1;
2749   WHILE langs[i] IS NOT NULL LOOP
2750     wiki_article := extratags->(case when langs[i] in ('english','country') THEN 'wikipedia' ELSE 'wikipedia:'||langs[i] END);
2751     IF wiki_article is not null THEN
2752       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3}).wikipedia.org/wiki/',E'\\2:');
2753       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3}).wikipedia.org/w/index.php\\?title=',E'\\2:');
2754       wiki_article := regexp_replace(wiki_article,E'^(.*?)/([a-z]{2,3})/wiki/',E'\\2:');
2755       --wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3})[=:]',E'\\2:');
2756       wiki_article := replace(wiki_article,' ','_');
2757       IF strpos(wiki_article, ':') IN (3,4) THEN
2758         wiki_article_language := lower(trim(split_part(wiki_article, ':', 1)));
2759         wiki_article_title := trim(substr(wiki_article, strpos(wiki_article, ':')+1));
2760       ELSE
2761         wiki_article_title := trim(wiki_article);
2762         wiki_article_language := CASE WHEN langs[i] = 'english' THEN 'en' WHEN langs[i] = 'country' THEN get_country_language_code(country_code) ELSE langs[i] END;
2763       END IF;
2764
2765       select wikipedia_article.language,wikipedia_article.title,wikipedia_article.importance
2766         from wikipedia_article
2767         where language = wiki_article_language and
2768         (title = wiki_article_title OR title = catch_decode_url_part(wiki_article_title) OR title = replace(catch_decode_url_part(wiki_article_title),E'\\',''))
2769       UNION ALL
2770       select wikipedia_article.language,wikipedia_article.title,wikipedia_article.importance
2771         from wikipedia_redirect join wikipedia_article on (wikipedia_redirect.language = wikipedia_article.language and wikipedia_redirect.to_title = wikipedia_article.title)
2772         where wikipedia_redirect.language = wiki_article_language and
2773         (from_title = wiki_article_title OR from_title = catch_decode_url_part(wiki_article_title) OR from_title = replace(catch_decode_url_part(wiki_article_title),E'\\',''))
2774       order by importance desc limit 1 INTO result;
2775
2776       IF result.language is not null THEN
2777         return result;
2778       END IF;
2779     END IF;
2780     i := i + 1;
2781   END LOOP;
2782   RETURN NULL;
2783 END;
2784 $$
2785 LANGUAGE plpgsql;
2786
2787 CREATE OR REPLACE FUNCTION quad_split_geometry(geometry GEOMETRY, maxarea FLOAT, maxdepth INTEGER)
2788   RETURNS SETOF GEOMETRY
2789   AS $$
2790 DECLARE
2791   xmin FLOAT;
2792   ymin FLOAT;
2793   xmax FLOAT;
2794   ymax FLOAT;
2795   xmid FLOAT;
2796   ymid FLOAT;
2797   secgeo GEOMETRY;
2798   secbox GEOMETRY;
2799   seg INTEGER;
2800   geo RECORD;
2801   area FLOAT;
2802   remainingdepth INTEGER;
2803   added INTEGER;
2804
2805 BEGIN
2806
2807 --  RAISE WARNING 'quad_split_geometry: maxarea=%, depth=%',maxarea,maxdepth;
2808
2809   IF (ST_GeometryType(geometry) not in ('ST_Polygon','ST_MultiPolygon') OR NOT ST_IsValid(geometry)) THEN
2810     RETURN NEXT geometry;
2811     RETURN;
2812   END IF;
2813
2814   remainingdepth := maxdepth - 1;
2815   area := ST_AREA(geometry);
2816   IF remainingdepth < 1 OR area < maxarea THEN
2817     RETURN NEXT geometry;
2818     RETURN;
2819   END IF;
2820
2821   xmin := st_xmin(geometry);
2822   xmax := st_xmax(geometry);
2823   ymin := st_ymin(geometry);
2824   ymax := st_ymax(geometry);
2825   secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(ymin,xmin),ST_Point(ymax,xmax)),4326);
2826
2827   -- if the geometry completely covers the box don't bother to slice any more
2828   IF ST_AREA(secbox) = area THEN
2829     RETURN NEXT geometry;
2830     RETURN;
2831   END IF;
2832
2833   xmid := (xmin+xmax)/2;
2834   ymid := (ymin+ymax)/2;
2835
2836   added := 0;
2837   FOR seg IN 1..4 LOOP
2838
2839     IF seg = 1 THEN
2840       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymin),ST_Point(xmid,ymid)),4326);
2841     END IF;
2842     IF seg = 2 THEN
2843       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymid),ST_Point(xmid,ymax)),4326);
2844     END IF;
2845     IF seg = 3 THEN
2846       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymin),ST_Point(xmax,ymid)),4326);
2847     END IF;
2848     IF seg = 4 THEN
2849       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymid),ST_Point(xmax,ymax)),4326);
2850     END IF;
2851
2852     IF st_intersects(geometry, secbox) THEN
2853       secgeo := st_intersection(geometry, secbox);
2854       IF NOT ST_IsEmpty(secgeo) AND ST_GeometryType(secgeo) in ('ST_Polygon','ST_MultiPolygon') THEN
2855         FOR geo IN select quad_split_geometry(secgeo, maxarea, remainingdepth) as geom LOOP
2856           IF NOT ST_IsEmpty(geo.geom) AND ST_GeometryType(geo.geom) in ('ST_Polygon','ST_MultiPolygon') THEN
2857             added := added + 1;
2858             RETURN NEXT geo.geom;
2859           END IF;
2860         END LOOP;
2861       END IF;
2862     END IF;
2863   END LOOP;
2864
2865   RETURN;
2866 END;
2867 $$
2868 LANGUAGE plpgsql;
2869
2870 CREATE OR REPLACE FUNCTION split_geometry(geometry GEOMETRY)
2871   RETURNS SETOF GEOMETRY
2872   AS $$
2873 DECLARE
2874   geo RECORD;
2875 BEGIN
2876   -- 10000000000 is ~~ 1x1 degree
2877   FOR geo IN select quad_split_geometry(geometry, 0.25, 20) as geom LOOP
2878     RETURN NEXT geo.geom;
2879   END LOOP;
2880   RETURN;
2881 END;
2882 $$
2883 LANGUAGE plpgsql;
2884
2885
2886 CREATE OR REPLACE FUNCTION place_force_delete(placeid BIGINT) RETURNS BOOLEAN
2887   AS $$
2888 DECLARE
2889     osmid BIGINT;
2890     osmtype character(1);
2891     pclass text;
2892     ptype text;
2893 BEGIN
2894   SELECT osm_type, osm_id, class, type FROM placex WHERE place_id = placeid INTO osmtype, osmid, pclass, ptype;
2895   DELETE FROM import_polygon_delete where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2896   DELETE FROM import_polygon_error where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2897   -- force delete from place/placex by making it a very small geometry
2898   UPDATE place set geometry = ST_SetSRID(ST_Point(0,0), 4326) where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2899   DELETE FROM place where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2900
2901   RETURN TRUE;
2902 END;
2903 $$
2904 LANGUAGE plpgsql;
2905
2906 CREATE OR REPLACE FUNCTION place_force_update(placeid BIGINT) RETURNS BOOLEAN
2907   AS $$
2908 DECLARE
2909   placegeom GEOMETRY;
2910   geom GEOMETRY;
2911   diameter FLOAT;
2912   rank INTEGER;
2913 BEGIN
2914   UPDATE placex SET indexed_status = 2 WHERE place_id = placeid;
2915   SELECT geometry, rank_search FROM placex WHERE place_id = placeid INTO placegeom, rank;
2916   IF placegeom IS NOT NULL AND ST_IsValid(placegeom) THEN
2917     IF ST_GeometryType(placegeom) in ('ST_Polygon','ST_MultiPolygon') THEN
2918       FOR geom IN select split_geometry(placegeom) FROM placex WHERE place_id = placeid LOOP
2919         update placex set indexed_status = 2 where (st_covers(geom, placex.geometry) OR ST_Intersects(geom, placex.geometry))
2920         AND rank_search > rank and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point' and (rank_search < 28 or name is not null or (rank >= 16 and address ? 'place'));
2921         update placex set indexed_status = 2 where (st_covers(geom, placex.geometry) OR ST_Intersects(geom, placex.geometry))
2922         AND rank_search > rank and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point' and (rank_search < 28 or name is not null or (rank >= 16 and address ? 'place'));
2923       END LOOP;
2924     ELSE
2925         diameter := 0;
2926         IF rank = 11 THEN
2927           diameter := 0.05;
2928         ELSEIF rank < 18 THEN
2929           diameter := 0.1;
2930         ELSEIF rank < 20 THEN
2931           diameter := 0.05;
2932         ELSEIF rank = 21 THEN
2933           diameter := 0.001;
2934         ELSEIF rank < 24 THEN
2935           diameter := 0.02;
2936         ELSEIF rank < 26 THEN
2937           diameter := 0.002; -- 100 to 200 meters
2938         ELSEIF rank < 28 THEN
2939           diameter := 0.001; -- 50 to 100 meters
2940         END IF;
2941         IF diameter > 0 THEN
2942           IF rank >= 26 THEN
2943             -- roads may cause reparenting for >27 rank places
2944             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter);
2945           ELSEIF rank >= 16 THEN
2946             -- up to rank 16, street-less addresses may need reparenting
2947             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter) and (rank_search < 28 or name is not null or address ? 'place');
2948           ELSE
2949             -- for all other places the search terms may change as well
2950             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter) and (rank_search < 28 or name is not null);
2951           END IF;
2952         END IF;
2953     END IF;
2954     RETURN TRUE;
2955   END IF;
2956
2957   RETURN FALSE;
2958 END;
2959 $$
2960 LANGUAGE plpgsql;