cookbooks/prometheus/recipes/server.rb

   1 #
   2 # Cookbook:: prometheus
   3 # Recipe:: server
   4 #
   5 # Copyright:: 2020, OpenStreetMap Foundation
   6 #
   7 # Licensed under the Apache License, Version 2.0 (the "License");
   8 # you may not use this file except in compliance with the License.
   9 # You may obtain a copy of the License at
  10 #
  11 #     https://www.apache.org/licenses/LICENSE-2.0
  12 #
  13 # Unless required by applicable law or agreed to in writing, software
  14 # distributed under the License is distributed on an "AS IS" BASIS,
  15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16 # See the License for the specific language governing permissions and
  17 # limitations under the License.
  18 #
  19
  20 include_recipe "apache"
  21 include_recipe "apt::grafana"
  22 include_recipe "networking"
  23
  24 passwords = data_bag_item("prometheus", "passwords")
  25 tokens = data_bag_item("prometheus", "tokens")
  26 admins = data_bag_item("apache", "admins")
  27
  28 prometheus_exporter "fastly" do
  29   port 8080
  30   listen_switch "listen"
  31   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  32 end
  33
  34 prometheus_exporter "fastly_healthcheck" do
  35   port 9696
  36   scrape_interval "1m"
  37   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  38 end
  39
  40 prometheus_exporter "statuscake" do
  41   port 9595
  42   scrape_interval "5m"
  43   scrape_timeout "2m"
  44   environment "STATUSCAKE_APIKEY" => tokens["statuscake"]
  45 end
  46
  47 template "/etc/prometheus/cloudwatch.yml" do
  48   source "cloudwatch.yml.erb"
  49   owner "root"
  50   group "root"
  51   mode "644"
  52 end
  53
  54 prometheus_exporter "cloudwatch" do
  55   address "127.0.0.1"
  56   port 5000
  57   listen_switch "listen-address"
  58   options "--config.file=/etc/prometheus/cloudwatch.yml"
  59   environment "AWS_ACCESS_KEY_ID" => "AKIASQUXHPE7JHG37EA6",
  60               "AWS_SECRET_ACCESS_KEY" => tokens["cloudwatch"]
  61   subscribes :restart, "template[/etc/prometheus/cloudwatch.yml]"
  62 end
  63
  64 cache_dir = Chef::Config[:file_cache_path]
  65
  66 prometheus_version = "2.45.0"
  67 alertmanager_version = "0.25.0"
  68 karma_version = "0.114"
  69
  70 directory "/opt/prometheus-server" do
  71   owner "root"
  72   group "root"
  73   mode "755"
  74 end
  75
  76 prometheus_arch = if arm?
  77                     "arm64"
  78                   else
  79                     "amd64"
  80                   end
  81
  82 remote_file "#{cache_dir}/prometheus.linux.tar.gz" do
  83   source "https://github.com/prometheus/prometheus/releases/download/v#{prometheus_version}/prometheus-#{prometheus_version}.linux-#{prometheus_arch}.tar.gz"
  84   owner "root"
  85   group "root"
  86   mode "644"
  87   backup false
  88 end
  89
  90 archive_file "#{cache_dir}/prometheus.linux.tar.gz" do
  91   action :nothing
  92   destination "/opt/prometheus-server/prometheus"
  93   overwrite true
  94   strip_components 1
  95   owner "root"
  96   group "root"
  97   subscribes :extract, "remote_file[#{cache_dir}/prometheus.linux.tar.gz]", :immediately
  98 end
  99
 100 remote_file "#{cache_dir}/alertmanager.linux.tar.gz" do
 101   source "https://github.com/prometheus/alertmanager/releases/download/v#{alertmanager_version}/alertmanager-#{alertmanager_version}.linux-#{prometheus_arch}.tar.gz"
 102   owner "root"
 103   group "root"
 104   mode "644"
 105   backup false
 106 end
 107
 108 archive_file "#{cache_dir}/alertmanager.linux.tar.gz" do
 109   action :nothing
 110   destination "/opt/prometheus-server/alertmanager"
 111   overwrite true
 112   strip_components 1
 113   owner "root"
 114   group "root"
 115   subscribes :extract, "remote_file[#{cache_dir}/alertmanager.linux.tar.gz]", :immediately
 116 end
 117
 118 remote_file "#{cache_dir}/karma-linux.tar.gz" do
 119   source "https://github.com/prymitive/karma/releases/download/v#{karma_version}/karma-linux-#{prometheus_arch}.tar.gz"
 120   owner "root"
 121   group "root"
 122   mode "644"
 123   backup false
 124 end
 125
 126 archive_file "#{cache_dir}/karma-linux.tar.gz" do
 127   action :nothing
 128   destination "/opt/prometheus-server/karma"
 129   overwrite true
 130   owner "root"
 131   group "root"
 132   subscribes :extract, "remote_file[#{cache_dir}/karma-linux.tar.gz]", :immediately
 133 end
 134
 135 search(:node, "roles:gateway") do |gateway|
 136   allowed_ips = gateway.ipaddresses(:role => :internal).map(&:subnet)
 137
 138   node.default[:networking][:wireguard][:peers] << {
 139     :public_key => gateway[:networking][:wireguard][:public_key],
 140     :allowed_ips => allowed_ips,
 141     :endpoint => "#{gateway.name}:51820"
 142   }
 143 end
 144
 145 jobs = {}
 146 junos_targets = []
 147 snmp_targets = []
 148
 149 search(:node, "recipes:prometheus\\:\\:default").sort_by(&:name).each do |client|
 150   if client[:prometheus][:mode] == "wireguard"
 151     node.default[:networking][:wireguard][:peers] << {
 152       :public_key => client[:networking][:wireguard][:public_key],
 153       :allowed_ips => client[:networking][:wireguard][:address],
 154       :endpoint => "#{client.name}:51820"
 155     }
 156   end
 157
 158   client[:prometheus][:exporters].each do |key, exporter|
 159     if exporter.is_a?(Hash)
 160       name = exporter[:name]
 161       address = exporter[:address]
 162       sni = exporter[:sni]
 163       labels = Array(exporter[:labels])
 164       scrape_interval = exporter[:scrape_interval]
 165       scrape_timeout = exporter[:scrape_timeout]
 166       metric_relabel = exporter[:metric_relabel] || []
 167     else
 168       name = key
 169       address = exporter
 170       sni = nil
 171       labels = []
 172       scrape_interval = nil
 173       scrape_timeout = nil
 174       metric_relabel = []
 175     end
 176
 177     jobs[name] ||= []
 178     jobs[name] << {
 179       :address => address,
 180       :sni => sni,
 181       :instance => client.name.split(".").first,
 182       :labels => labels,
 183       :scrape_interval => scrape_interval,
 184       :scrape_timeout => scrape_timeout,
 185       :metric_relabel => metric_relabel
 186     }
 187   end
 188
 189   Hash(client[:prometheus][:junos]).each do |instance, details|
 190     junos_targets << {
 191       :instance => instance,
 192       :target => details[:address],
 193       :address => client[:prometheus][:addresses]["junos"],
 194       :labels => Array(details[:labels])
 195     }
 196   end
 197
 198   Hash(client[:prometheus][:snmp]).each do |instance, details|
 199     snmp_targets << {
 200       :instance => instance,
 201       :target => details[:address],
 202       :modules => details[:modules],
 203       :address => client[:prometheus][:addresses]["snmp"],
 204       :labels => Array(details[:labels])
 205     }
 206   end
 207 end
 208
 209 certificates = search(:node, "letsencrypt:certificates").each_with_object({}) do |n, c|
 210   n[:letsencrypt][:certificates].each do |name, details|
 211     c[name] ||= details.merge(:nodes => [])
 212
 213     c[name][:nodes] << {
 214       :name => n[:fqdn],
 215       :address => n.external_ipaddress || n.internal_ipaddress
 216     }
 217   end
 218 end
 219
 220 template "/etc/prometheus/ssl.yml" do
 221   source "ssl.yml.erb"
 222   owner "root"
 223   group "root"
 224   mode "644"
 225   variables :certificates => certificates
 226 end
 227
 228 prometheus_exporter "ssl" do
 229   address "127.0.0.1"
 230   port 9219
 231   options "--config.file=/etc/prometheus/ssl.yml"
 232   register_target false
 233 end
 234
 235 package "prometheus"
 236
 237 systemd_service "prometheus-executable" do
 238   service "prometheus"
 239   dropin "executable"
 240   exec_start "/opt/prometheus-server/prometheus/prometheus --config.file=/etc/prometheus/prometheus.yml --web.external-url=https://prometheus.openstreetmap.org/prometheus --storage.tsdb.path=/var/lib/prometheus/metrics2 --storage.tsdb.retention.time=540d"
 241   timeout_stop_sec 300
 242   notifies :restart, "service[prometheus]"
 243 end
 244
 245 template "/etc/prometheus/prometheus.yml" do
 246   source "prometheus.yml.erb"
 247   owner "root"
 248   group "root"
 249   mode "644"
 250   variables :jobs => jobs, :junos_targets => junos_targets, :snmp_targets => snmp_targets, :certificates => certificates
 251 end
 252
 253 template "/etc/prometheus/alert_rules.yml" do
 254   source "alert_rules.yml.erb"
 255   owner "root"
 256   group "root"
 257   mode "644"
 258 end
 259
 260 service "prometheus" do
 261   action [:enable, :start]
 262   subscribes :reload, "template[/etc/prometheus/prometheus.yml]"
 263   subscribes :reload, "template[/etc/prometheus/alert_rules.yml]"
 264   subscribes :restart, "archive_file[#{cache_dir}/prometheus.linux.tar.gz]"
 265 end
 266
 267 systemd_service "prometheus-alertmanager" do
 268   description "Prometheus alert manager"
 269   type "simple"
 270   user "prometheus"
 271   exec_start "/opt/prometheus-server/alertmanager/alertmanager --config.file=/etc/prometheus/alertmanager.yml --storage.path=/var/lib/prometheus/alertmanager --web.external-url=https://prometheus.openstreetmap.org/alertmanager"
 272   exec_reload "/bin/kill -HUP $MAINPID"
 273   timeout_stop_sec 20
 274   restart "on-failure"
 275   notifies :restart, "service[prometheus-alertmanager]"
 276 end
 277
 278 link "/usr/local/bin/promtool" do
 279   to "/opt/prometheus-server/prometheus/promtool"
 280 end
 281
 282 template "/etc/prometheus/alertmanager.yml" do
 283   source "alertmanager.yml.erb"
 284   owner "root"
 285   group "root"
 286   mode "644"
 287 end
 288
 289 directory "/var/lib/prometheus/alertmanager" do
 290   owner "prometheus"
 291   group "prometheus"
 292   mode "755"
 293 end
 294
 295 service "prometheus-alertmanager" do
 296   action [:enable, :start]
 297   subscribes :reload, "template[/etc/prometheus/alertmanager.yml]"
 298   subscribes :restart, "systemd_service[prometheus-alertmanager]"
 299   subscribes :restart, "archive_file[#{cache_dir}/alertmanager.linux.tar.gz]"
 300 end
 301
 302 directory "/etc/amtool" do
 303   owner "root"
 304   group "root"
 305   mode "755"
 306 end
 307
 308 template "/etc/amtool/config.yml" do
 309   source "amtool.yml.erb"
 310   owner "root"
 311   group "root"
 312   mode "644"
 313 end
 314
 315 link "/usr/local/bin/amtool" do
 316   to "/opt/prometheus-server/alertmanager/amtool"
 317 end
 318
 319 template "/etc/prometheus/karma.yml" do
 320   source "karma.yml.erb"
 321   owner "root"
 322   group "root"
 323   mode "644"
 324 end
 325
 326 systemd_service "prometheus-karma" do
 327   description "Alert dashboard for Prometheus Alertmanager"
 328   user "prometheus"
 329   exec_start "/opt/prometheus-server/karma/karma-linux-#{prometheus_arch} --config.file=/etc/prometheus/karma.yml"
 330   sandbox :enable_network => true
 331   restart "on-failure"
 332 end
 333
 334 service "prometheus-karma" do
 335   action [:enable, :start]
 336   subscribes :restart, "template[/etc/prometheus/karma.yml]"
 337   subscribes :restart, "archive_file[#{cache_dir}/karma-linux.tar.gz]"
 338   subscribes :restart, "systemd_service[prometheus-karma]"
 339 end
 340
 341 package "grafana-enterprise"
 342
 343 template "/etc/grafana/grafana.ini" do
 344   source "grafana.ini.erb"
 345   owner "root"
 346   group "grafana"
 347   mode "640"
 348   variables :passwords => passwords
 349 end
 350
 351 service "grafana-server" do
 352   action [:enable, :start]
 353   subscribes :restart, "template[/etc/grafana/grafana.ini]"
 354 end
 355
 356 apache_module "alias"
 357 apache_module "proxy_http"
 358 apache_module "proxy_wstunnel"
 359
 360 ssl_certificate "prometheus.openstreetmap.org" do
 361   domains ["prometheus.openstreetmap.org", "prometheus.osm.org"]
 362   notifies :reload, "service[apache2]"
 363 end
 364
 365 apache_site "prometheus.openstreetmap.org" do
 366   template "apache.erb"
 367   variables :admin_hosts => admins["hosts"]
 368 end
 369
 370 template "/etc/cron.daily/prometheus-backup" do
 371   source "backup.cron.erb"
 372   owner "root"
 373   group "root"
 374   mode "750"
 375 end