sql/functions/utils.sql

   1 -- Assorted helper functions for the triggers.
   2
   3 CREATE OR REPLACE FUNCTION geometry_sector(partition INTEGER, place geometry)
   4   RETURNS INTEGER
   5   AS $$
   6 DECLARE
   7   NEWgeometry geometry;
   8 BEGIN
   9 --  RAISE WARNING '%',place;
  10   NEWgeometry := ST_PointOnSurface(place);
  11   RETURN (partition*1000000) + (500-ST_X(NEWgeometry)::integer)*1000 + (500-ST_Y(NEWgeometry)::integer);
  12 END;
  13 $$
  14 LANGUAGE plpgsql IMMUTABLE;
  15
  16
  17 CREATE OR REPLACE FUNCTION array_merge(a INTEGER[], b INTEGER[])
  18   RETURNS INTEGER[]
  19   AS $$
  20 DECLARE
  21   i INTEGER;
  22   r INTEGER[];
  23 BEGIN
  24   IF array_upper(a, 1) IS NULL THEN
  25     RETURN b;
  26   END IF;
  27   IF array_upper(b, 1) IS NULL THEN
  28     RETURN a;
  29   END IF;
  30   r := a;
  31   FOR i IN 1..array_upper(b, 1) LOOP
  32     IF NOT (ARRAY[b[i]] <@ r) THEN
  33       r := r || b[i];
  34     END IF;
  35   END LOOP;
  36   RETURN r;
  37 END;
  38 $$
  39 LANGUAGE plpgsql IMMUTABLE;
  40
  41
  42 CREATE OR REPLACE FUNCTION reverse_place_diameter(rank_search SMALLINT)
  43   RETURNS FLOAT
  44   AS $$
  45 BEGIN
  46   IF rank_search <= 4 THEN
  47     RETURN 5.0;
  48   ELSIF rank_search <= 8 THEN
  49     RETURN 1.8;
  50   ELSIF rank_search <= 12 THEN
  51     RETURN 0.6;
  52   ELSIF rank_search <= 17 THEN
  53     RETURN 0.16;
  54   ELSIF rank_search <= 18 THEN
  55     RETURN 0.08;
  56   ELSIF rank_search <= 19 THEN
  57     RETURN 0.04;
  58   END IF;
  59
  60   RETURN 0.02;
  61 END;
  62 $$
  63 LANGUAGE plpgsql IMMUTABLE;
  64
  65
  66 CREATE OR REPLACE FUNCTION get_postcode_rank(country_code VARCHAR(2), postcode TEXT,
  67                                              OUT rank_search SMALLINT,
  68                                              OUT rank_address SMALLINT)
  69 AS $$
  70 DECLARE
  71   part TEXT;
  72 BEGIN
  73     rank_search := 30;
  74     rank_address := 30;
  75     postcode := upper(postcode);
  76
  77     IF country_code = 'gb' THEN
  78         IF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9][A-Z][A-Z])$' THEN
  79             rank_search := 25;
  80             rank_address := 5;
  81         ELSEIF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9])$' THEN
  82             rank_search := 23;
  83             rank_address := 5;
  84         ELSEIF postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z])$' THEN
  85             rank_search := 21;
  86             rank_address := 5;
  87         END IF;
  88
  89     ELSEIF country_code = 'sg' THEN
  90         IF postcode ~ '^([0-9]{6})$' THEN
  91             rank_search := 25;
  92             rank_address := 11;
  93         END IF;
  94
  95     ELSEIF country_code = 'de' THEN
  96         IF postcode ~ '^([0-9]{5})$' THEN
  97             rank_search := 21;
  98             rank_address := 11;
  99         END IF;
 100
 101     ELSE
 102         -- Guess at the postcode format and coverage (!)
 103         IF postcode ~ '^[A-Z0-9]{1,5}$' THEN -- Probably too short to be very local
 104             rank_search := 21;
 105             rank_address := 11;
 106         ELSE
 107             -- Does it look splitable into and area and local code?
 108             part := substring(postcode from '^([- :A-Z0-9]+)([- :][A-Z0-9]+)$');
 109
 110             IF part IS NOT NULL THEN
 111                 rank_search := 25;
 112                 rank_address := 11;
 113             ELSEIF postcode ~ '^[- :A-Z0-9]{6,}$' THEN
 114                 rank_search := 21;
 115                 rank_address := 11;
 116             END IF;
 117         END IF;
 118     END IF;
 119
 120 END;
 121 $$
 122 LANGUAGE plpgsql IMMUTABLE;
 123
 124
 125 -- Find the nearest artificial postcode for the given geometry.
 126 -- TODO For areas there should not be more than two inside the geometry.
 127 CREATE OR REPLACE FUNCTION get_nearest_postcode(country VARCHAR(2), geom GEOMETRY)
 128   RETURNS TEXT
 129   AS $$
 130 DECLARE
 131   outcode TEXT;
 132   cnt INTEGER;
 133 BEGIN
 134     -- If the geometry is an area then only one postcode must be within
 135     -- that area, otherwise consider the area as not having a postcode.
 136     IF ST_GeometryType(geom) in ('ST_Polygon','ST_MultiPolygon') THEN
 137         SELECT min(postcode), count(*) FROM
 138               (SELECT postcode FROM location_postcode
 139                 WHERE ST_Contains(geom, location_postcode.geometry) LIMIT 2) sub
 140           INTO outcode, cnt;
 141
 142         IF cnt = 1 THEN
 143             RETURN outcode;
 144         ELSE
 145             RETURN null;
 146         END IF;
 147     END IF;
 148
 149     SELECT postcode FROM location_postcode
 150      WHERE ST_DWithin(geom, location_postcode.geometry, 0.05)
 151           AND location_postcode.country_code = country
 152      ORDER BY ST_Distance(geom, location_postcode.geometry) LIMIT 1
 153     INTO outcode;
 154
 155     RETURN outcode;
 156 END;
 157 $$
 158 LANGUAGE plpgsql STABLE;
 159
 160
 161 CREATE OR REPLACE FUNCTION get_country_code(place geometry)
 162   RETURNS TEXT
 163   AS $$
 164 DECLARE
 165   place_centre GEOMETRY;
 166   nearcountry RECORD;
 167 BEGIN
 168   place_centre := ST_PointOnSurface(place);
 169
 170 -- RAISE WARNING 'get_country_code, start: %', ST_AsText(place_centre);
 171
 172   -- Try for a OSM polygon
 173   FOR nearcountry IN
 174     SELECT country_code from location_area_country
 175     WHERE country_code is not null and st_covers(geometry, place_centre) limit 1
 176   LOOP
 177     RETURN nearcountry.country_code;
 178   END LOOP;
 179
 180 -- RAISE WARNING 'osm fallback: %', ST_AsText(place_centre);
 181
 182   -- Try for OSM fallback data
 183   -- The order is to deal with places like HongKong that are 'states' within another polygon
 184   FOR nearcountry IN
 185     SELECT country_code from country_osm_grid
 186     WHERE st_covers(geometry, place_centre) order by area asc limit 1
 187   LOOP
 188     RETURN nearcountry.country_code;
 189   END LOOP;
 190
 191 -- RAISE WARNING 'near osm fallback: %', ST_AsText(place_centre);
 192
 193   --
 194   FOR nearcountry IN
 195     SELECT country_code from country_osm_grid
 196     WHERE st_dwithin(geometry, place_centre, 0.5)
 197     ORDER BY st_distance(geometry, place_centre) asc, area asc limit 1
 198   LOOP
 199     RETURN nearcountry.country_code;
 200   END LOOP;
 201
 202   RETURN NULL;
 203 END;
 204 $$
 205 LANGUAGE plpgsql STABLE;
 206
 207
 208 CREATE OR REPLACE FUNCTION get_country_language_code(search_country_code VARCHAR(2))
 209   RETURNS TEXT
 210   AS $$
 211 DECLARE
 212   nearcountry RECORD;
 213 BEGIN
 214   FOR nearcountry IN
 215     SELECT distinct country_default_language_code from country_name
 216     WHERE country_code = search_country_code limit 1
 217   LOOP
 218     RETURN lower(nearcountry.country_default_language_code);
 219   END LOOP;
 220   RETURN NULL;
 221 END;
 222 $$
 223 LANGUAGE plpgsql STABLE;
 224
 225
 226 CREATE OR REPLACE FUNCTION get_country_language_codes(search_country_code VARCHAR(2))
 227   RETURNS TEXT[]
 228   AS $$
 229 DECLARE
 230   nearcountry RECORD;
 231 BEGIN
 232   FOR nearcountry IN
 233     SELECT country_default_language_codes from country_name
 234     WHERE country_code = search_country_code limit 1
 235   LOOP
 236     RETURN lower(nearcountry.country_default_language_codes);
 237   END LOOP;
 238   RETURN NULL;
 239 END;
 240 $$
 241 LANGUAGE plpgsql STABLE;
 242
 243
 244 CREATE OR REPLACE FUNCTION get_partition(in_country_code VARCHAR(10))
 245   RETURNS INTEGER
 246   AS $$
 247 DECLARE
 248   nearcountry RECORD;
 249 BEGIN
 250   FOR nearcountry IN
 251     SELECT partition from country_name where country_code = in_country_code
 252   LOOP
 253     RETURN nearcountry.partition;
 254   END LOOP;
 255   RETURN 0;
 256 END;
 257 $$
 258 LANGUAGE plpgsql STABLE;
 259
 260
 261 CREATE OR REPLACE FUNCTION delete_location(OLD_place_id BIGINT)
 262   RETURNS BOOLEAN
 263   AS $$
 264 DECLARE
 265 BEGIN
 266   DELETE FROM location_area where place_id = OLD_place_id;
 267 -- TODO:location_area
 268   RETURN true;
 269 END;
 270 $$
 271 LANGUAGE plpgsql;
 272
 273
 274 CREATE OR REPLACE FUNCTION add_location(place_id BIGINT, country_code varchar(2),
 275                                         partition INTEGER, keywords INTEGER[],
 276                                         rank_search INTEGER, rank_address INTEGER,
 277                                         in_postcode TEXT, geometry GEOMETRY)
 278   RETURNS BOOLEAN
 279   AS $$
 280 DECLARE
 281   locationid INTEGER;
 282   centroid GEOMETRY;
 283   diameter FLOAT;
 284   x BOOLEAN;
 285   splitGeom RECORD;
 286   secgeo GEOMETRY;
 287   postcode TEXT;
 288 BEGIN
 289
 290   IF rank_search > 25 THEN
 291     RAISE EXCEPTION 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
 292   END IF;
 293
 294   x := deleteLocationArea(partition, place_id, rank_search);
 295
 296   -- add postcode only if it contains a single entry, i.e. ignore postcode lists
 297   postcode := NULL;
 298   IF in_postcode is not null AND in_postcode not similar to '%(,|;)%' THEN
 299       postcode := upper(trim (in_postcode));
 300   END IF;
 301
 302   IF ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
 303     centroid := ST_Centroid(geometry);
 304
 305     FOR secgeo IN select split_geometry(geometry) AS geom LOOP
 306       x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, false, postcode, centroid, secgeo);
 307     END LOOP;
 308
 309   ELSE
 310
 311     diameter := 0.02;
 312     IF rank_address = 0 THEN
 313       diameter := 0.02;
 314     ELSEIF rank_search <= 14 THEN
 315       diameter := 1.2;
 316     ELSEIF rank_search <= 15 THEN
 317       diameter := 1;
 318     ELSEIF rank_search <= 16 THEN
 319       diameter := 0.5;
 320     ELSEIF rank_search <= 17 THEN
 321       diameter := 0.2;
 322     ELSEIF rank_search <= 21 THEN
 323       diameter := 0.05;
 324     ELSEIF rank_search = 25 THEN
 325       diameter := 0.005;
 326     END IF;
 327
 328 --    RAISE WARNING 'adding % diameter %', place_id, diameter;
 329
 330     secgeo := ST_Buffer(geometry, diameter);
 331     x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, true, postcode, ST_Centroid(geometry), secgeo);
 332
 333   END IF;
 334
 335   RETURN true;
 336 END;
 337 $$
 338 LANGUAGE plpgsql;
 339
 340
 341 CREATE OR REPLACE FUNCTION quad_split_geometry(geometry GEOMETRY, maxarea FLOAT,
 342                                                maxdepth INTEGER)
 343   RETURNS SETOF GEOMETRY
 344   AS $$
 345 DECLARE
 346   xmin FLOAT;
 347   ymin FLOAT;
 348   xmax FLOAT;
 349   ymax FLOAT;
 350   xmid FLOAT;
 351   ymid FLOAT;
 352   secgeo GEOMETRY;
 353   secbox GEOMETRY;
 354   seg INTEGER;
 355   geo RECORD;
 356   area FLOAT;
 357   remainingdepth INTEGER;
 358   added INTEGER;
 359 BEGIN
 360
 361 --  RAISE WARNING 'quad_split_geometry: maxarea=%, depth=%',maxarea,maxdepth;
 362
 363   IF (ST_GeometryType(geometry) not in ('ST_Polygon','ST_MultiPolygon') OR NOT ST_IsValid(geometry)) THEN
 364     RETURN NEXT geometry;
 365     RETURN;
 366   END IF;
 367
 368   remainingdepth := maxdepth - 1;
 369   area := ST_AREA(geometry);
 370   IF remainingdepth < 1 OR area < maxarea THEN
 371     RETURN NEXT geometry;
 372     RETURN;
 373   END IF;
 374
 375   xmin := st_xmin(geometry);
 376   xmax := st_xmax(geometry);
 377   ymin := st_ymin(geometry);
 378   ymax := st_ymax(geometry);
 379   secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(ymin,xmin),ST_Point(ymax,xmax)),4326);
 380
 381   -- if the geometry completely covers the box don't bother to slice any more
 382   IF ST_AREA(secbox) = area THEN
 383     RETURN NEXT geometry;
 384     RETURN;
 385   END IF;
 386
 387   xmid := (xmin+xmax)/2;
 388   ymid := (ymin+ymax)/2;
 389
 390   added := 0;
 391   FOR seg IN 1..4 LOOP
 392
 393     IF seg = 1 THEN
 394       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymin),ST_Point(xmid,ymid)),4326);
 395     END IF;
 396     IF seg = 2 THEN
 397       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymid),ST_Point(xmid,ymax)),4326);
 398     END IF;
 399     IF seg = 3 THEN
 400       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymin),ST_Point(xmax,ymid)),4326);
 401     END IF;
 402     IF seg = 4 THEN
 403       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymid),ST_Point(xmax,ymax)),4326);
 404     END IF;
 405
 406     IF st_intersects(geometry, secbox) THEN
 407       secgeo := st_intersection(geometry, secbox);
 408       IF NOT ST_IsEmpty(secgeo) AND ST_GeometryType(secgeo) in ('ST_Polygon','ST_MultiPolygon') THEN
 409         FOR geo IN select quad_split_geometry(secgeo, maxarea, remainingdepth) as geom LOOP
 410           IF NOT ST_IsEmpty(geo.geom) AND ST_GeometryType(geo.geom) in ('ST_Polygon','ST_MultiPolygon') THEN
 411             added := added + 1;
 412             RETURN NEXT geo.geom;
 413           END IF;
 414         END LOOP;
 415       END IF;
 416     END IF;
 417   END LOOP;
 418
 419   RETURN;
 420 END;
 421 $$
 422 LANGUAGE plpgsql IMMUTABLE;
 423
 424
 425 CREATE OR REPLACE FUNCTION split_geometry(geometry GEOMETRY)
 426   RETURNS SETOF GEOMETRY
 427   AS $$
 428 DECLARE
 429   geo RECORD;
 430 BEGIN
 431   -- 10000000000 is ~~ 1x1 degree
 432   FOR geo IN select quad_split_geometry(geometry, 0.25, 20) as geom LOOP
 433     RETURN NEXT geo.geom;
 434   END LOOP;
 435   RETURN;
 436 END;
 437 $$
 438 LANGUAGE plpgsql IMMUTABLE;
 439
 440
 441 CREATE OR REPLACE FUNCTION place_force_delete(placeid BIGINT)
 442   RETURNS BOOLEAN
 443   AS $$
 444 DECLARE
 445     osmid BIGINT;
 446     osmtype character(1);
 447     pclass text;
 448     ptype text;
 449 BEGIN
 450   SELECT osm_type, osm_id, class, type FROM placex WHERE place_id = placeid INTO osmtype, osmid, pclass, ptype;
 451   DELETE FROM import_polygon_delete where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
 452   DELETE FROM import_polygon_error where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
 453   -- force delete from place/placex by making it a very small geometry
 454   UPDATE place set geometry = ST_SetSRID(ST_Point(0,0), 4326) where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
 455   DELETE FROM place where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
 456
 457   RETURN TRUE;
 458 END;
 459 $$
 460 LANGUAGE plpgsql;
 461
 462
 463 CREATE OR REPLACE FUNCTION place_force_update(placeid BIGINT)
 464   RETURNS BOOLEAN
 465   AS $$
 466 DECLARE
 467   placegeom GEOMETRY;
 468   geom GEOMETRY;
 469   diameter FLOAT;
 470   rank INTEGER;
 471 BEGIN
 472   UPDATE placex SET indexed_status = 2 WHERE place_id = placeid;
 473   SELECT geometry, rank_search FROM placex WHERE place_id = placeid INTO placegeom, rank;
 474   IF placegeom IS NOT NULL AND ST_IsValid(placegeom) THEN
 475     IF ST_GeometryType(placegeom) in ('ST_Polygon','ST_MultiPolygon') THEN
 476       FOR geom IN select split_geometry(placegeom) FROM placex WHERE place_id = placeid LOOP
 477         update placex set indexed_status = 2 where (st_covers(geom, placex.geometry) OR ST_Intersects(geom, placex.geometry))
 478         AND rank_search > rank and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point' and (rank_search < 28 or name is not null or (rank >= 16 and address ? 'place'));
 479         update placex set indexed_status = 2 where (st_covers(geom, placex.geometry) OR ST_Intersects(geom, placex.geometry))
 480         AND rank_search > rank and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point' and (rank_search < 28 or name is not null or (rank >= 16 and address ? 'place'));
 481       END LOOP;
 482     ELSE
 483         diameter := 0;
 484         IF rank = 11 THEN
 485           diameter := 0.05;
 486         ELSEIF rank < 18 THEN
 487           diameter := 0.1;
 488         ELSEIF rank < 20 THEN
 489           diameter := 0.05;
 490         ELSEIF rank = 21 THEN
 491           diameter := 0.001;
 492         ELSEIF rank < 24 THEN
 493           diameter := 0.02;
 494         ELSEIF rank < 26 THEN
 495           diameter := 0.002; -- 100 to 200 meters
 496         ELSEIF rank < 28 THEN
 497           diameter := 0.001; -- 50 to 100 meters
 498         END IF;
 499         IF diameter > 0 THEN
 500           IF rank >= 26 THEN
 501             -- roads may cause reparenting for >27 rank places
 502             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter);
 503           ELSEIF rank >= 16 THEN
 504             -- up to rank 16, street-less addresses may need reparenting
 505             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter) and (rank_search < 28 or name is not null or address ? 'place');
 506           ELSE
 507             -- for all other places the search terms may change as well
 508             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter) and (rank_search < 28 or name is not null);
 509           END IF;
 510         END IF;
 511     END IF;
 512     RETURN TRUE;
 513   END IF;
 514
 515   RETURN FALSE;
 516 END;
 517 $$
 518 LANGUAGE plpgsql;