cookbooks/prometheus/recipes/server.rb

   1 #
   2 # Cookbook:: prometheus
   3 # Recipe:: server
   4 #
   5 # Copyright:: 2020, OpenStreetMap Foundation
   6 #
   7 # Licensed under the Apache License, Version 2.0 (the "License");
   8 # you may not use this file except in compliance with the License.
   9 # You may obtain a copy of the License at
  10 #
  11 #     https://www.apache.org/licenses/LICENSE-2.0
  12 #
  13 # Unless required by applicable law or agreed to in writing, software
  14 # distributed under the License is distributed on an "AS IS" BASIS,
  15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16 # See the License for the specific language governing permissions and
  17 # limitations under the License.
  18 #
  19
  20 include_recipe "apache"
  21 include_recipe "apt"
  22 include_recipe "networking"
  23 include_recipe "timescaledb"
  24
  25 passwords = data_bag_item("prometheus", "passwords")
  26 tokens = data_bag_item("prometheus", "tokens")
  27 admins = data_bag_item("apache", "admins")
  28
  29 prometheus_exporter "fastly" do
  30   port 8080
  31   listen_switch "listen"
  32   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  33 end
  34
  35 prometheus_exporter "statuscake" do
  36   port 9595
  37   environment "STATUSCAKE_APIKEY" => tokens["statuscake"]
  38 end
  39
  40 cache_dir = Chef::Config[:file_cache_path]
  41
  42 prometheus_version = "2.31.1"
  43 alertmanager_version = "0.23.0"
  44 karma_version = "0.93"
  45
  46 directory "/opt/prometheus-server" do
  47   owner "root"
  48   group "root"
  49   mode "755"
  50 end
  51
  52 remote_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  53   source "https://github.com/prometheus/prometheus/releases/download/v#{prometheus_version}/prometheus-#{prometheus_version}.linux-amd64.tar.gz"
  54   owner "root"
  55   group "root"
  56   mode "644"
  57   backup false
  58 end
  59
  60 archive_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  61   action :nothing
  62   destination "/opt/prometheus-server/prometheus"
  63   overwrite true
  64   strip_components 1
  65   owner "root"
  66   group "root"
  67   subscribes :extract, "remote_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]"
  68 end
  69
  70 remote_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  71   source "https://github.com/prometheus/alertmanager/releases/download/v#{alertmanager_version}/alertmanager-#{alertmanager_version}.linux-amd64.tar.gz"
  72   owner "root"
  73   group "root"
  74   mode "644"
  75   backup false
  76 end
  77
  78 archive_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  79   action :nothing
  80   destination "/opt/prometheus-server/alertmanager"
  81   overwrite true
  82   strip_components 1
  83   owner "root"
  84   group "root"
  85   subscribes :extract, "remote_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]"
  86 end
  87
  88 remote_file "#{cache_dir}/karma-linux-amd64.tar.gz" do
  89   source "https://github.com/prymitive/karma/releases/download/v#{karma_version}/karma-linux-amd64.tar.gz"
  90   owner "root"
  91   group "root"
  92   mode "644"
  93   backup false
  94 end
  95
  96 archive_file "#{cache_dir}/karma-linux-amd64.tar.gz" do
  97   action :nothing
  98   destination "/opt/prometheus-server/karma"
  99   overwrite true
 100   owner "root"
 101   group "root"
 102   subscribes :extract, "remote_file[#{cache_dir}/karma-linux-amd64.tar.gz]"
 103 end
 104
 105 promscale_version = "0.11.0"
 106
 107 database_version = node[:timescaledb][:database_version]
 108 database_cluster = "#{database_version}/main"
 109
 110 package %W[
 111   prometheus
 112   prometheus-alertmanager
 113   promscale-extension-postgresql-#{database_version}
 114 ]
 115
 116 postgresql_user "prometheus" do
 117   cluster database_cluster
 118   superuser true
 119 end
 120
 121 postgresql_database "promscale" do
 122   cluster database_cluster
 123   owner "prometheus"
 124 end
 125
 126 directory "/opt/promscale" do
 127   owner "root"
 128   group "root"
 129   mode "755"
 130 end
 131
 132 directory "/opt/promscale/bin" do
 133   owner "root"
 134   group "root"
 135   mode "755"
 136 end
 137
 138 remote_file "/opt/promscale/bin/promscale" do
 139   action :create
 140   source "https://github.com/timescale/promscale/releases/download/#{promscale_version}/promscale_#{promscale_version}_Linux_x86_64"
 141   owner "root"
 142   group "root"
 143   mode "755"
 144 end
 145
 146 systemd_service "promscale" do
 147   description "Promscale Connector"
 148   type "simple"
 149   user "prometheus"
 150   exec_start "/opt/promscale/bin/promscale --db.uri postgresql:///promscale?host=/run/postgresql&port=5432 --db.connections-max 400"
 151   limit_nofile 16384
 152   private_tmp true
 153   protect_system "strict"
 154   protect_home true
 155   no_new_privileges true
 156 end
 157
 158 if node[:prometheus][:promscale]
 159   service "promscale" do
 160     action [:enable, :start]
 161     subscribes :restart, "remote_file[/opt/promscale/bin/promscale]"
 162     subscribes :restart, "systemd_service[promscale]"
 163   end
 164 else
 165   service "promscale" do
 166     action [:disable, :stop]
 167   end
 168 end
 169
 170 search(:node, "roles:gateway") do |gateway|
 171   allowed_ips = gateway.interfaces(:role => :internal).map do |interface|
 172     "#{interface[:network]}/#{interface[:prefix]}"
 173   end
 174
 175   node.default[:networking][:wireguard][:peers] << {
 176     :public_key => gateway[:networking][:wireguard][:public_key],
 177     :allowed_ips => allowed_ips,
 178     :endpoint => "#{gateway.name}:51820"
 179   }
 180 end
 181
 182 jobs = {}
 183 snmp_targets = []
 184
 185 search(:node, "recipes:prometheus\\:\\:default").sort_by(&:name).each do |client|
 186   if client[:prometheus][:mode] == "wireguard"
 187     node.default[:networking][:wireguard][:peers] << {
 188       :public_key => client[:networking][:wireguard][:public_key],
 189       :allowed_ips => client[:networking][:wireguard][:address],
 190       :endpoint => "#{client.name}:51820"
 191     }
 192   end
 193
 194   client[:prometheus][:exporters].each do |key, exporter|
 195     if exporter.is_a?(Hash)
 196       name = exporter[:name]
 197       address = exporter[:address]
 198       sni = exporter[:sni]
 199       metric_relabel = exporter[:metric_relabel] || []
 200     else
 201       name = key
 202       address = exporter
 203       sni = nil
 204       metric_relabel = []
 205     end
 206
 207     jobs[name] ||= []
 208     jobs[name] << {
 209       :address => address,
 210       :sni => sni,
 211       :instance => client.name.split(".").first,
 212       :metric_relabel => metric_relabel
 213     }
 214   end
 215
 216   Hash(client[:prometheus][:snmp]).each do |instance, details|
 217     snmp_targets << {
 218       :instance => instance,
 219       :target => details[:address],
 220       :modules => details[:modules],
 221       :address => client[:prometheus][:addresses]["snmp"],
 222       :labels => Array(details[:labels])
 223     }
 224   end
 225 end
 226
 227 certificates = search(:node, "letsencrypt:certificates").each_with_object({}) do |n, c|
 228   n[:letsencrypt][:certificates].each do |name, details|
 229     c[name] ||= details.merge(:nodes => [])
 230
 231     c[name][:nodes] << {
 232       :name => n[:fqdn],
 233       :address => n.external_ipaddress || n.internal_ipaddress
 234     }
 235   end
 236 end
 237
 238 template "/etc/prometheus/ssl.yml" do
 239   source "ssl.yml.erb"
 240   owner "root"
 241   group "root"
 242   mode "644"
 243   variables :certificates => certificates
 244 end
 245
 246 prometheus_exporter "ssl" do
 247   address "127.0.0.1"
 248   port 9219
 249   options "--config.file=/etc/prometheus/ssl.yml"
 250   register_target false
 251 end
 252
 253 systemd_service "prometheus-executable" do
 254   service "prometheus"
 255   dropin "executable"
 256   exec_start "/opt/prometheus-server/prometheus/prometheus --config.file=/etc/prometheus/prometheus.yml --web.external-url=https://prometheus.openstreetmap.org/prometheus --storage.tsdb.path=/var/lib/prometheus/metrics2 --storage.tsdb.retention.time=30d"
 257   timeout_stop_sec 300
 258   notifies :restart, "service[prometheus]"
 259 end
 260
 261 template "/etc/prometheus/prometheus.yml" do
 262   source "prometheus.yml.erb"
 263   owner "root"
 264   group "root"
 265   mode "644"
 266   variables :jobs => jobs, :snmp_targets => snmp_targets, :certificates => certificates
 267 end
 268
 269 template "/etc/prometheus/alert_rules.yml" do
 270   source "alert_rules.yml.erb"
 271   owner "root"
 272   group "root"
 273   mode "644"
 274 end
 275
 276 service "prometheus" do
 277   action [:enable, :start]
 278   subscribes :reload, "template[/etc/prometheus/prometheus.yml]"
 279   subscribes :reload, "template[/etc/prometheus/alert_rules.yml]"
 280   subscribes :restart, "archive_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]"
 281 end
 282
 283 systemd_service "prometheus-alertmanager-executable" do
 284   service "prometheus-alertmanager"
 285   dropin "executable"
 286   exec_start "/opt/prometheus-server/alertmanager/alertmanager --config.file=/etc/prometheus/alertmanager.yml --storage.path=/var/lib/prometheus/alertmanager --web.external-url=https://prometheus.openstreetmap.org/alertmanager"
 287   notifies :restart, "service[prometheus-alertmanager]"
 288 end
 289
 290 template "/etc/prometheus/alertmanager.yml" do
 291   source "alertmanager.yml.erb"
 292   owner "root"
 293   group "root"
 294   mode "644"
 295 end
 296
 297 service "prometheus-alertmanager" do
 298   action [:enable, :start]
 299   subscribes :reload, "template[/etc/prometheus/alertmanager.yml]"
 300   subscribes :restart, "archive_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]"
 301 end
 302
 303 template "/etc/prometheus/amtool.yml" do
 304   source "amtool.yml.erb"
 305   owner "root"
 306   group "root"
 307   mode "644"
 308 end
 309
 310 template "/etc/prometheus/karma.yml" do
 311   source "karma.yml.erb"
 312   owner "root"
 313   group "root"
 314   mode "644"
 315 end
 316
 317 systemd_service "prometheus-karma" do
 318   description "Alert dashboard for Prometheus Alertmanager"
 319   user "prometheus"
 320   exec_start "/opt/prometheus-server/karma/karma-linux-amd64 --config.file=/etc/prometheus/karma.yml"
 321   private_tmp true
 322   private_devices true
 323   protect_system "full"
 324   protect_home true
 325   no_new_privileges true
 326   restart "on-failure"
 327 end
 328
 329 service "prometheus-karma" do
 330   action [:enable, :start]
 331   subscribes :reload, "template[/etc/prometheus/karma.yml]"
 332   subscribes :restart, "archive_file[#{cache_dir}/karma-linux-amd64.tar.gz]"
 333 end
 334
 335 package "grafana-enterprise"
 336
 337 template "/etc/grafana/grafana.ini" do
 338   source "grafana.ini.erb"
 339   owner "root"
 340   group "grafana"
 341   mode "640"
 342   variables :passwords => passwords
 343 end
 344
 345 service "grafana-server" do
 346   action [:enable, :start]
 347   subscribes :restart, "template[/etc/grafana/grafana.ini]"
 348 end
 349
 350 apache_module "alias"
 351 apache_module "proxy_http"
 352
 353 ssl_certificate "prometheus.openstreetmap.org" do
 354   domains ["prometheus.openstreetmap.org", "prometheus.osm.org"]
 355   notifies :reload, "service[apache2]"
 356 end
 357
 358 apache_site "prometheus.openstreetmap.org" do
 359   template "apache.erb"
 360   variables :admin_hosts => admins["hosts"]
 361 end
 362
 363 template "/etc/cron.daily/prometheus-backup" do
 364   source "backup.cron.erb"
 365   owner "root"
 366   group "root"
 367   mode "750"
 368 end