]> git.openstreetmap.org Git - chef.git/blob - cookbooks/taginfo/recipes/default.rb
taginfo: renice rebuild to reduce power usage
[chef.git] / cookbooks / taginfo / recipes / default.rb
1 #
2 # Cookbook:: taginfo
3 # Recipe:: default
4 #
5 # Copyright:: 2014, OpenStreetMap Foundation
6 #
7 # Licensed under the Apache License, Version 2.0 (the "License");
8 # you may not use this file except in compliance with the License.
9 # You may obtain a copy of the License at
10 #
11 #     https://www.apache.org/licenses/LICENSE-2.0
12 #
13 # Unless required by applicable law or agreed to in writing, software
14 # distributed under the License is distributed on an "AS IS" BASIS,
15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 # See the License for the specific language governing permissions and
17 # limitations under the License.
18 #
19
20 require "json"
21
22 include_recipe "accounts"
23 include_recipe "apache"
24 include_recipe "git"
25 include_recipe "passenger"
26 include_recipe "planet::current"
27 include_recipe "prometheus"
28 include_recipe "ruby"
29
30 package %w[
31   libsqlite3-dev
32   zlib1g-dev
33   libbz2-dev
34   libboost-dev
35   libexpat1-dev
36   libsparsehash-dev
37   libgd-dev
38   libicu-dev
39   libboost-program-options-dev
40   libosmium2-dev
41   libprotozero-dev
42   cmake
43   make
44   g++
45 ]
46
47 package %w[
48   sqlite3
49   sqlite3-pcre
50   osmium-tool
51   pyosmium
52   curl
53   pbzip2
54 ]
55
56 apache_module "cache"
57 apache_module "cache_disk"
58 apache_module "headers"
59
60 directory "/var/log/taginfo" do
61   owner "taginfo"
62   group "taginfo"
63   mode "755"
64 end
65
66 template "/etc/sudoers.d/taginfo" do
67   source "sudoers.erb"
68   owner "root"
69   group "root"
70   mode "440"
71 end
72
73 systemd_service "taginfo-update@" do
74   description "Taginfo update for %i"
75   wants "planet-update.service"
76   after "planet-update.service"
77   exec_start "/srv/%i/bin/update"
78   user "taginfo"
79   sandbox :enable_network => true
80   restrict_address_families "AF_UNIX"
81   read_write_paths [
82     "/srv/%i/data",
83     "/srv/%i/download",
84     "/srv/%i/sources",
85     "/var/log/taginfo/%i"
86   ]
87   nice 10
88 end
89
90 systemd_timer "taginfo-update@" do
91   description "Taginfo update for %i"
92   on_calendar "01:37"
93 end
94
95 node[:taginfo][:sites].each do |site|
96   site_name = site[:name]
97   site_aliases = Array(site[:aliases])
98   directory = site[:directory] || "/srv/#{site_name}"
99   description = site[:description]
100   about = site[:about]
101   icon = site[:icon]
102   contact = site[:contact]
103
104   directory "/var/log/taginfo/#{site_name}" do
105     owner "taginfo"
106     group "taginfo"
107     mode "755"
108   end
109
110   directory directory do
111     owner "taginfo"
112     group "taginfo"
113     mode "755"
114   end
115
116   git "#{directory}/taginfo-tools" do
117     action :sync
118     repository "https://github.com/taginfo/taginfo-tools.git"
119     revision "osmorg-taginfo-live"
120     depth 1
121     enable_submodules true
122     user "taginfo"
123     group "taginfo"
124   end
125
126   directory "#{directory}/build" do
127     owner "taginfo"
128     group "taginfo"
129     mode "755"
130   end
131
132   execute "compile_taginfo_tools" do
133     action :nothing
134     user "taginfo"
135     group "taginfo"
136     cwd "#{directory}/build"
137     command "cmake #{directory}/taginfo-tools -DCMAKE_BUILD_TYPE=Release && make"
138     subscribes :run, "apt_package[libprotozero-dev]"
139     subscribes :run, "apt_package[libosmium2-dev]"
140     subscribes :run, "git[#{directory}/taginfo-tools]"
141   end
142
143   git "#{directory}/taginfo" do
144     action :sync
145     repository "https://github.com/taginfo/taginfo.git"
146     revision "osmorg-taginfo-live"
147     depth 1
148     user "taginfo"
149     group "taginfo"
150   end
151
152   settings = Chef::DelayedEvaluator.new do
153     settings = JSON.parse(IO.read("#{directory}/taginfo/taginfo-config-example.json"))
154
155     settings["instance"]["url"] = "https://#{site_name}/"
156     settings["instance"]["description"] = description
157     settings["instance"]["about"] = about
158     settings["instance"]["icon"] = "/img/logo/#{icon}.png"
159     settings["instance"]["contact"] = contact
160     settings["instance"]["access_control_allow_origin"] = ""
161     settings["logging"]["directory"] = "/var/log/taginfo/#{site_name}"
162     settings["opensearch"]["shortname"] = "Taginfo"
163     settings["opensearch"]["contact"] = "webmaster@openstreetmap.org"
164     settings["paths"]["bin_dir"] = "#{directory}/build/src"
165     settings["sources"]["download"] = ""
166     settings["sources"]["create"] = "db languages projects wiki wikidata chronology"
167     settings["sources"]["db"]["planetfile"] = "/var/lib/planet/planet.osh.pbf"
168     settings["sources"]["chronology"]["osm_history_file"] = "/var/lib/planet/planet.osh.pbf"
169     settings["tagstats"]["geodistribution"] = "DenseMmapArray"
170
171     JSON.pretty_generate(settings)
172   end
173
174   file "#{directory}/taginfo-config.json" do
175     owner "taginfo"
176     group "taginfo"
177     mode "644"
178     content settings
179     notifies :restart, "service[apache2]"
180   end
181
182   bundle_install "#{directory}/taginfo" do
183     action :nothing
184     user "root"
185     group "root"
186     subscribes :run, "git[#{directory}/taginfo]"
187     notifies :restart, "passenger_application[#{directory}/taginfo/web/public]"
188   end
189
190   %w[taginfo/web/tmp bin data data/old download sources].each do |dir|
191     directory "#{directory}/#{dir}" do
192       owner "taginfo"
193       group "taginfo"
194       mode "755"
195     end
196   end
197
198   template "#{directory}/bin/update" do
199     source "update.erb"
200     owner "taginfo"
201     group "taginfo"
202     mode "755"
203     variables :name => site_name, :directory => directory
204   end
205
206   passenger_application "#{directory}/taginfo/web/public" do
207     action :nothing
208   end
209
210   ssl_certificate site_name do
211     domains [site_name] + site_aliases
212     notifies :reload, "service[apache2]"
213   end
214
215   apache_site site_name do
216     template "apache.erb"
217     directory "#{directory}/taginfo/web/public"
218     variables :aliases => site_aliases
219   end
220
221   service "taginfo-update@#{site_name}.timer" do
222     action [:enable, :start]
223   end
224
225   prometheus_collector "taginfo-#{site_name}" do
226     interval "15m"
227     user "taginfo"
228     path "#{directory}/taginfo/sources/metrics.rb"
229     options "#{directory}/data"
230   end
231 end