cookbooks/prometheus/recipes/server.rb

   1 #
   2 # Cookbook:: prometheus
   3 # Recipe:: server
   4 #
   5 # Copyright:: 2020, OpenStreetMap Foundation
   6 #
   7 # Licensed under the Apache License, Version 2.0 (the "License");
   8 # you may not use this file except in compliance with the License.
   9 # You may obtain a copy of the License at
  10 #
  11 #     https://www.apache.org/licenses/LICENSE-2.0
  12 #
  13 # Unless required by applicable law or agreed to in writing, software
  14 # distributed under the License is distributed on an "AS IS" BASIS,
  15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16 # See the License for the specific language governing permissions and
  17 # limitations under the License.
  18 #
  19
  20 include_recipe "apache"
  21 include_recipe "apt::grafana"
  22 include_recipe "apt::timescaledb"
  23 include_recipe "networking"
  24 include_recipe "timescaledb"
  25
  26 passwords = data_bag_item("prometheus", "passwords")
  27 tokens = data_bag_item("prometheus", "tokens")
  28 admins = data_bag_item("apache", "admins")
  29
  30 prometheus_exporter "fastly" do
  31   port 8080
  32   listen_switch "listen"
  33   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  34 end
  35
  36 prometheus_exporter "fastly_healthcheck" do
  37   port 9696
  38   scrape_interval "1m"
  39   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  40 end
  41
  42 prometheus_exporter "statuscake" do
  43   port 9595
  44   scrape_interval "5m"
  45   scrape_timeout "2m"
  46   environment "STATUSCAKE_APIKEY" => tokens["statuscake"]
  47 end
  48
  49 cache_dir = Chef::Config[:file_cache_path]
  50
  51 prometheus_version = "2.41.0"
  52 alertmanager_version = "0.24.0"
  53 karma_version = "0.111"
  54
  55 directory "/opt/prometheus-server" do
  56   owner "root"
  57   group "root"
  58   mode "755"
  59 end
  60
  61 remote_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  62   source "https://github.com/prometheus/prometheus/releases/download/v#{prometheus_version}/prometheus-#{prometheus_version}.linux-amd64.tar.gz"
  63   owner "root"
  64   group "root"
  65   mode "644"
  66   backup false
  67 end
  68
  69 archive_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  70   action :nothing
  71   destination "/opt/prometheus-server/prometheus"
  72   overwrite true
  73   strip_components 1
  74   owner "root"
  75   group "root"
  76   subscribes :extract, "remote_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]", :immediately
  77 end
  78
  79 remote_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  80   source "https://github.com/prometheus/alertmanager/releases/download/v#{alertmanager_version}/alertmanager-#{alertmanager_version}.linux-amd64.tar.gz"
  81   owner "root"
  82   group "root"
  83   mode "644"
  84   backup false
  85 end
  86
  87 archive_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  88   action :nothing
  89   destination "/opt/prometheus-server/alertmanager"
  90   overwrite true
  91   strip_components 1
  92   owner "root"
  93   group "root"
  94   subscribes :extract, "remote_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]", :immediately
  95 end
  96
  97 remote_file "#{cache_dir}/karma-linux-amd64.tar.gz" do
  98   source "https://github.com/prymitive/karma/releases/download/v#{karma_version}/karma-linux-amd64.tar.gz"
  99   owner "root"
 100   group "root"
 101   mode "644"
 102   backup false
 103 end
 104
 105 archive_file "#{cache_dir}/karma-linux-amd64.tar.gz" do
 106   action :nothing
 107   destination "/opt/prometheus-server/karma"
 108   overwrite true
 109   owner "root"
 110   group "root"
 111   subscribes :extract, "remote_file[#{cache_dir}/karma-linux-amd64.tar.gz]", :immediately
 112 end
 113
 114 promscale_version = "0.17.0"
 115 promscale_extension_version = "0.8.0-1"
 116
 117 database_version = node[:timescaledb][:database_version]
 118 database_cluster = "#{database_version}/main"
 119
 120 package %W[
 121   prometheus
 122   promscale-extension-postgresql-#{database_version}
 123 ]
 124
 125 package "promscale-extension-postgresql-#{database_version}" do
 126   version promscale_extension_version
 127 end
 128
 129 apt_preference "promscale-extension-postgresql" do
 130   pin "version #{promscale_extension_version}"
 131   pin_priority "1100"
 132 end
 133
 134 postgresql_user "prometheus" do
 135   cluster database_cluster
 136   superuser true
 137 end
 138
 139 postgresql_database "promscale" do
 140   cluster database_cluster
 141   owner "prometheus"
 142 end
 143
 144 directory "/opt/promscale" do
 145   owner "root"
 146   group "root"
 147   mode "755"
 148 end
 149
 150 directory "/opt/promscale/bin" do
 151   owner "root"
 152   group "root"
 153   mode "755"
 154 end
 155
 156 remote_file "/opt/promscale/bin/promscale" do
 157   action :create
 158   source "https://github.com/timescale/promscale/releases/download/#{promscale_version}/promscale_#{promscale_version}_Linux_x86_64"
 159   owner "root"
 160   group "root"
 161   mode "755"
 162 end
 163
 164 systemd_service "promscale" do
 165   description "Promscale Connector"
 166   type "simple"
 167   user "prometheus"
 168   exec_start "/opt/promscale/bin/promscale --db.uri postgresql:///promscale?host=/run/postgresql&port=5432 --db.connections-max 400"
 169   limit_nofile 16384
 170   sandbox :enable_network => true
 171   restrict_address_families "AF_UNIX"
 172 end
 173
 174 if node[:prometheus][:promscale]
 175   service "promscale" do
 176     action [:enable, :start]
 177     subscribes :restart, "remote_file[/opt/promscale/bin/promscale]"
 178     subscribes :restart, "systemd_service[promscale]"
 179   end
 180 else
 181   service "promscale" do
 182     action [:disable, :stop]
 183   end
 184 end
 185
 186 search(:node, "roles:gateway") do |gateway|
 187   allowed_ips = gateway.interfaces(:role => :internal).map do |interface|
 188     "#{interface[:network]}/#{interface[:prefix]}"
 189   end
 190
 191   node.default[:networking][:wireguard][:peers] << {
 192     :public_key => gateway[:networking][:wireguard][:public_key],
 193     :allowed_ips => allowed_ips,
 194     :endpoint => "#{gateway.name}:51820"
 195   }
 196 end
 197
 198 jobs = {}
 199 snmp_targets = []
 200
 201 search(:node, "recipes:prometheus\\:\\:default").sort_by(&:name).each do |client|
 202   if client[:prometheus][:mode] == "wireguard"
 203     node.default[:networking][:wireguard][:peers] << {
 204       :public_key => client[:networking][:wireguard][:public_key],
 205       :allowed_ips => client[:networking][:wireguard][:address],
 206       :endpoint => "#{client.name}:51820"
 207     }
 208   end
 209
 210   client[:prometheus][:exporters].each do |key, exporter|
 211     if exporter.is_a?(Hash)
 212       name = exporter[:name]
 213       address = exporter[:address]
 214       sni = exporter[:sni]
 215       scrape_interval = exporter[:scrape_interval]
 216       scrape_timeout = exporter[:scrape_timeout]
 217       metric_relabel = exporter[:metric_relabel] || []
 218     else
 219       name = key
 220       address = exporter
 221       sni = nil
 222       scrape_interval = nil
 223       scrape_timeout = nil
 224       metric_relabel = []
 225     end
 226
 227     jobs[name] ||= []
 228     jobs[name] << {
 229       :address => address,
 230       :sni => sni,
 231       :instance => client.name.split(".").first,
 232       :scrape_interval => scrape_interval,
 233       :scrape_timeout => scrape_timeout,
 234       :metric_relabel => metric_relabel
 235     }
 236   end
 237
 238   Hash(client[:prometheus][:snmp]).each do |instance, details|
 239     snmp_targets << {
 240       :instance => instance,
 241       :target => details[:address],
 242       :modules => details[:modules],
 243       :address => client[:prometheus][:addresses]["snmp"],
 244       :labels => Array(details[:labels])
 245     }
 246   end
 247 end
 248
 249 certificates = search(:node, "letsencrypt:certificates").each_with_object({}) do |n, c|
 250   n[:letsencrypt][:certificates].each do |name, details|
 251     c[name] ||= details.merge(:nodes => [])
 252
 253     c[name][:nodes] << {
 254       :name => n[:fqdn],
 255       :address => n.external_ipaddress || n.internal_ipaddress
 256     }
 257   end
 258 end
 259
 260 template "/etc/prometheus/ssl.yml" do
 261   source "ssl.yml.erb"
 262   owner "root"
 263   group "root"
 264   mode "644"
 265   variables :certificates => certificates
 266 end
 267
 268 prometheus_exporter "ssl" do
 269   address "127.0.0.1"
 270   port 9219
 271   options "--config.file=/etc/prometheus/ssl.yml"
 272   register_target false
 273 end
 274
 275 systemd_service "prometheus-executable" do
 276   service "prometheus"
 277   dropin "executable"
 278   exec_start "/opt/prometheus-server/prometheus/prometheus --config.file=/etc/prometheus/prometheus.yml --web.external-url=https://prometheus.openstreetmap.org/prometheus --storage.tsdb.path=/var/lib/prometheus/metrics2 --storage.tsdb.retention.time=30d"
 279   timeout_stop_sec 300
 280   notifies :restart, "service[prometheus]"
 281 end
 282
 283 template "/etc/prometheus/prometheus.yml" do
 284   source "prometheus.yml.erb"
 285   owner "root"
 286   group "root"
 287   mode "644"
 288   variables :jobs => jobs, :snmp_targets => snmp_targets, :certificates => certificates
 289 end
 290
 291 template "/etc/prometheus/alert_rules.yml" do
 292   source "alert_rules.yml.erb"
 293   owner "root"
 294   group "root"
 295   mode "644"
 296 end
 297
 298 service "prometheus" do
 299   action [:enable, :start]
 300   subscribes :reload, "template[/etc/prometheus/prometheus.yml]"
 301   subscribes :reload, "template[/etc/prometheus/alert_rules.yml]"
 302   subscribes :restart, "archive_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]"
 303 end
 304
 305 systemd_service "prometheus-alertmanager" do
 306   description "Prometheus alert manager"
 307   type "simple"
 308   user "prometheus"
 309   exec_start "/opt/prometheus-server/alertmanager/alertmanager --config.file=/etc/prometheus/alertmanager.yml --storage.path=/var/lib/prometheus/alertmanager --web.external-url=https://prometheus.openstreetmap.org/alertmanager"
 310   exec_reload "/bin/kill -HUP $MAINPID"
 311   timeout_stop_sec 20
 312   restart "on-failure"
 313   notifies :restart, "service[prometheus-alertmanager]"
 314 end
 315
 316 link "/usr/local/bin/promtool" do
 317   to "/opt/prometheus-server/prometheus/promtool"
 318 end
 319
 320 template "/etc/prometheus/alertmanager.yml" do
 321   source "alertmanager.yml.erb"
 322   owner "root"
 323   group "root"
 324   mode "644"
 325 end
 326
 327 directory "/var/lib/prometheus/alertmanager" do
 328   owner "prometheus"
 329   group "prometheus"
 330   mode "755"
 331 end
 332
 333 service "prometheus-alertmanager" do
 334   action [:enable, :start]
 335   subscribes :reload, "template[/etc/prometheus/alertmanager.yml]"
 336   subscribes :restart, "systemd_service[prometheus-alertmanager]"
 337   subscribes :restart, "archive_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]"
 338 end
 339
 340 directory "/etc/amtool" do
 341   owner "root"
 342   group "root"
 343   mode "755"
 344 end
 345
 346 template "/etc/amtool/config.yml" do
 347   source "amtool.yml.erb"
 348   owner "root"
 349   group "root"
 350   mode "644"
 351 end
 352
 353 link "/usr/local/bin/amtool" do
 354   to "/opt/prometheus-server/alertmanager/amtool"
 355 end
 356
 357 template "/etc/prometheus/karma.yml" do
 358   source "karma.yml.erb"
 359   owner "root"
 360   group "root"
 361   mode "644"
 362 end
 363
 364 systemd_service "prometheus-karma" do
 365   description "Alert dashboard for Prometheus Alertmanager"
 366   user "prometheus"
 367   exec_start "/opt/prometheus-server/karma/karma-linux-amd64 --config.file=/etc/prometheus/karma.yml"
 368   sandbox :enable_network => true
 369   restart "on-failure"
 370 end
 371
 372 service "prometheus-karma" do
 373   action [:enable, :start]
 374   subscribes :restart, "template[/etc/prometheus/karma.yml]"
 375   subscribes :restart, "archive_file[#{cache_dir}/karma-linux-amd64.tar.gz]"
 376   subscribes :restart, "systemd_service[prometheus-karma]"
 377 end
 378
 379 package "grafana-enterprise"
 380
 381 template "/etc/grafana/grafana.ini" do
 382   source "grafana.ini.erb"
 383   owner "root"
 384   group "grafana"
 385   mode "640"
 386   variables :passwords => passwords
 387 end
 388
 389 service "grafana-server" do
 390   action [:enable, :start]
 391   subscribes :restart, "template[/etc/grafana/grafana.ini]"
 392 end
 393
 394 apache_module "alias"
 395 apache_module "proxy_http"
 396
 397 ssl_certificate "prometheus.openstreetmap.org" do
 398   domains ["prometheus.openstreetmap.org", "prometheus.osm.org"]
 399   notifies :reload, "service[apache2]"
 400 end
 401
 402 apache_site "prometheus.openstreetmap.org" do
 403   template "apache.erb"
 404   variables :admin_hosts => admins["hosts"]
 405 end
 406
 407 template "/etc/cron.daily/prometheus-backup" do
 408   source "backup.cron.erb"
 409   owner "root"
 410   group "root"
 411   mode "750"
 412 end