]> git.openstreetmap.org Git - chef.git/blobdiff - cookbooks/planet/recipes/replication.rb
Use strings for file modes
[chef.git] / cookbooks / planet / recipes / replication.rb
index 6e3b6bc1e79f6aa40bd1d0cd4bd443dc6718fda2..2579b511cf3fc8a00bf33de7cbb33100283afa4d 100644 (file)
@@ -1,14 +1,14 @@
 #
-# Cookbook Name:: planet
+# Cookbook:: planet
 # Recipe:: dump
 #
-# Copyright 2013, OpenStreetMap Foundation
+# Copyright:: 2013, OpenStreetMap Foundation
 #
 # Licensed under the Apache License, Version 2.0 (the "License");
 # you may not use this file except in compliance with the License.
 # You may obtain a copy of the License at
 #
-#     http://www.apache.org/licenses/LICENSE-2.0
+#     https://www.apache.org/licenses/LICENSE-2.0
 #
 # Unless required by applicable law or agreed to in writing, software
 # distributed under the License is distributed on an "AS IS" BASIS,
@@ -17,6 +17,7 @@
 # limitations under the License.
 #
 
+include_recipe "accounts"
 include_recipe "osmosis"
 
 db_passwords = data_bag_item("db", "passwords")
@@ -24,67 +25,119 @@ db_passwords = data_bag_item("db", "passwords")
 package "postgresql-client"
 
 package "ruby"
-package "rubygems"
+package "ruby-dev"
 package "ruby-libxml"
 
+package "make"
+package "gcc"
 package "libpq-dev"
+
 gem_package "pg"
 
+remote_directory "/opt/flush" do
+  source "flush"
+  owner "root"
+  group "root"
+  mode "755"
+  files_owner "root"
+  files_group "root"
+  files_mode 0o755
+end
+
+execute "/opt/flush/Makefile" do
+  action :nothing
+  command "make"
+  cwd "/opt/flush"
+  user "root"
+  group "root"
+  subscribes :run, "remote_directory[/opt/flush]"
+end
+
 remote_directory "/usr/local/bin" do
   source "replication-bin"
   owner "root"
   group "root"
-  mode 0755
+  mode "755"
   files_owner "root"
   files_group "root"
-  files_mode 0755
+  files_mode 0o755
+end
+
+template "/usr/local/bin/users-agreed" do
+  source "users-agreed.erb"
+  owner "root"
+  group "root"
+  mode "755"
+end
+
+template "/usr/local/bin/users-deleted" do
+  source "users-deleted.erb"
+  owner "root"
+  group "root"
+  mode "755"
+end
+
+remote_directory "/store/planet/users_deleted" do
+  source "users_deleted"
+  owner "planet"
+  group "planet"
+  mode "755"
+  files_owner "root"
+  files_group "root"
+  files_mode 0o644
 end
 
 remote_directory "/store/planet/replication" do
   source "replication-cgi"
   owner "root"
   group "root"
-  mode 0755
+  mode "755"
   files_owner "root"
   files_group "root"
-  files_mode 0755
+  files_mode 0o755
 end
 
 directory "/store/planet/replication/changesets" do
   owner "planet"
   group "planet"
-  mode 0755
+  mode "755"
 end
 
 directory "/store/planet/replication/day" do
   owner "planet"
   group "planet"
-  mode 0755
+  mode "755"
 end
 
 directory "/store/planet/replication/hour" do
   owner "planet"
   group "planet"
-  mode 0755
+  mode "755"
 end
 
 directory "/store/planet/replication/minute" do
   owner "planet"
   group "planet"
-  mode 0755
+  mode "755"
 end
 
 directory "/etc/replication" do
   owner "root"
   group "root"
-  mode 0755
+  mode "755"
+end
+
+directory "/var/run/lock/changeset-replication/" do
+  owner "planet"
+  group "planet"
+  mode "750"
 end
 
 template "/etc/replication/auth.conf" do
   source "replication.auth.erb"
   user "root"
   group "planet"
-  mode 0640
+  mode "640"
   variables :password => db_passwords["planetdiff"]
 end
 
@@ -92,7 +145,7 @@ template "/etc/replication/changesets.conf" do
   source "changesets.conf.erb"
   user "root"
   group "planet"
-  mode 0640
+  mode "640"
   variables :password => db_passwords["planetdiff"]
 end
 
@@ -100,27 +153,27 @@ template "/etc/replication/users-agreed.conf" do
   source "users-agreed.conf.erb"
   user "planet"
   group "planet"
-  mode 0600
+  mode "600"
   variables :password => db_passwords["planetdiff"]
 end
 
 directory "/var/lib/replication" do
   owner "planet"
   group "planet"
-  mode 0755
+  mode "755"
 end
 
 directory "/var/lib/replication/hour" do
   owner "planet"
   group "planet"
-  mode 0755
+  mode "755"
 end
 
 template "/var/lib/replication/hour/configuration.txt" do
   source "replication.config.erb"
   owner "planet"
   group "planet"
-  mode 0644
+  mode "644"
   variables :base => "minute", :interval => 3600
 end
 
@@ -131,14 +184,14 @@ end
 directory "/var/lib/replication/day" do
   owner "planet"
   group "planet"
-  mode 0755
+  mode "755"
 end
 
 template "/var/lib/replication/day/configuration.txt" do
   source "replication.config.erb"
   owner "planet"
   group "planet"
-  mode 0644
+  mode "644"
   variables :base => "hour", :interval => 86400
 end
 
@@ -146,37 +199,108 @@ link "/var/lib/replication/day/data" do
   to "/store/planet/replication/day"
 end
 
-template "/etc/cron.d/replication" do
-  source "replication.cron.erb"
-  owner "root"
-  group "root"
-  mode 0644
-end
+if node[:planet][:replication] == "enabled"
+  cron_d "users-agreed" do
+    minute "0"
+    hour "7"
+    user "planet"
+    command "/usr/local/bin/users-agreed"
+    mailto "zerebubuth@gmail.com"
+  end
 
-directory "/var/lib/replication/streaming" do
-  owner "planet"
-  group "planet"
-  mode 0755
-end
+  cron_d "users-deleted" do
+    minute "0"
+    hour "17"
+    user "planet"
+    command "/usr/local/bin/users-deleted"
+    mailto "zerebubuth@gmail.com"
+  end
 
-directory "/var/log/replication" do
-  owner "planet"
-  group "planet"
-  mode 0755
-end
+  cron_d "replication-changesets" do
+    user "planet"
+    command "/usr/local/bin/replicate-changesets /etc/replication/changesets.conf"
+    mailto "zerebubuth@gmail.com"
+  end
 
-[ "streaming-replicator", "streaming-server" ].each do |name|
-  template "/etc/init.d/#{name}" do
-    source "streaming.init.erb"
-    owner "root"
-    group "root"
-    mode 0755
-    variables :service => name
+  cron_d "replication-minutely" do
+    user "planet"
+    command "/usr/local/bin/osmosis -q --replicate-apidb authFile=/etc/replication/auth.conf validateSchemaVersion=false --write-replication workingDirectory=/store/planet/replication/minute"
+    mailto "brett@bretth.com"
+    environment "LD_PRELOAD" => "/opt/flush/flush.so"
   end
 
-  service name do
-    action [ :enable, :start ]
-    supports :restart => true, :status => true
-    subscribes :restart, "template[/etc/init.d/#{name}]"
+  cron_d "replication-hourly" do
+    minute "2,7,12,17"
+    user "planet"
+    command "/usr/local/bin/osmosis -q --merge-replication-files workingDirectory=/var/lib/replication/hour"
+    mailto "brett@bretth.com"
+    environment "LD_PRELOAD" => "/opt/flush/flush.so"
+  end
+
+  cron_d "replication-daily" do
+    minute "5,10,15,20"
+    user "planet"
+    command "/usr/local/bin/osmosis -q --merge-replication-files workingDirectory=/var/lib/replication/day"
+    mailto "brett@bretth.com"
+    environment "LD_PRELOAD" => "/opt/flush/flush.so"
+  end
+else
+  cron_d "users-agreed" do
+    action :delete
+  end
+
+  cron_d "users-deleted" do
+    action :delete
+  end
+
+  cron_d "replication-changesets" do
+    action :delete
+  end
+
+  cron_d "replication-minutely" do
+    action :delete
+  end
+
+  cron_d "replication-hourly" do
+    action :delete
+  end
+
+  cron_d "replication-daily" do
+    action :delete
   end
 end
+
+# directory "/var/lib/replication/streaming" do
+#   owner "planet"
+#   group "planet"
+#   mode 0o755
+# end
+#
+# directory "/var/log/replication" do
+#   owner "planet"
+#   group "planet"
+#   mode 0o755
+# end
+#
+# ["streaming-replicator", "streaming-server"].each do |name|
+#   template "/etc/init.d/#{name}" do
+#     source "streaming.init.erb"
+#     owner "root"
+#     group "root"
+#     mode 0o755
+#     variables :service => name
+#   end
+#
+#   if node[:planet][:replication] == "enabled"
+#     service name do
+#       action [:enable, :start]
+#       supports :restart => true, :status => true
+#       subscribes :restart, "template[/etc/init.d/#{name}]"
+#     end
+#   else
+#     service name do
+#       action [:disable, :stop]
+#       supports :restart => true, :status => true
+#     end
+#   end
+# end