cookbooks/prometheus/recipes/server.rb

   1 #
   2 # Cookbook:: prometheus
   3 # Recipe:: server
   4 #
   5 # Copyright:: 2020, OpenStreetMap Foundation
   6 #
   7 # Licensed under the Apache License, Version 2.0 (the "License");
   8 # you may not use this file except in compliance with the License.
   9 # You may obtain a copy of the License at
  10 #
  11 #     https://www.apache.org/licenses/LICENSE-2.0
  12 #
  13 # Unless required by applicable law or agreed to in writing, software
  14 # distributed under the License is distributed on an "AS IS" BASIS,
  15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16 # See the License for the specific language governing permissions and
  17 # limitations under the License.
  18 #
  19
  20 include_recipe "apache"
  21 include_recipe "apt"
  22 include_recipe "networking"
  23 include_recipe "timescaledb"
  24
  25 passwords = data_bag_item("prometheus", "passwords")
  26 tokens = data_bag_item("prometheus", "tokens")
  27 admins = data_bag_item("apache", "admins")
  28
  29 prometheus_exporter "fastly" do
  30   port 8080
  31   listen_switch "endpoint"
  32   listen_type "url"
  33   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  34 end
  35
  36 cache_dir = Chef::Config[:file_cache_path]
  37
  38 prometheus_version = "2.31.1"
  39 alertmanager_version = "0.23.0"
  40
  41 directory "/opt/prometheus-server" do
  42   owner "root"
  43   group "root"
  44   mode "755"
  45 end
  46
  47 remote_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  48   source "https://github.com/prometheus/prometheus/releases/download/v#{prometheus_version}/prometheus-#{prometheus_version}.linux-amd64.tar.gz"
  49   owner "root"
  50   group "root"
  51   mode "644"
  52   backup false
  53 end
  54
  55 archive_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  56   action :nothing
  57   destination "/opt/prometheus-server/prometheus"
  58   overwrite true
  59   strip_components 1
  60   owner "root"
  61   group "root"
  62   subscribes :extract, "remote_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]"
  63 end
  64
  65 remote_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  66   source "https://github.com/prometheus/alertmanager/releases/download/v#{alertmanager_version}/alertmanager-#{alertmanager_version}.linux-amd64.tar.gz"
  67   owner "root"
  68   group "root"
  69   mode "644"
  70   backup false
  71 end
  72
  73 archive_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  74   action :nothing
  75   destination "/opt/prometheus-server/alertmanager"
  76   overwrite true
  77   strip_components 1
  78   owner "root"
  79   group "root"
  80   subscribes :extract, "remote_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]"
  81 end
  82
  83 package %w[
  84   prometheus
  85   prometheus-alertmanager
  86 ]
  87
  88 promscale_version = "0.6.2"
  89
  90 database_version = node[:timescaledb][:database_version]
  91 database_cluster = "#{database_version}/main"
  92
  93 postgresql_user "prometheus" do
  94   cluster database_cluster
  95   superuser true
  96 end
  97
  98 postgresql_database "promscale" do
  99   cluster database_cluster
 100   owner "prometheus"
 101 end
 102
 103 directory "/opt/promscale" do
 104   owner "root"
 105   group "root"
 106   mode "755"
 107 end
 108
 109 cookbook_file "/usr/lib/postgresql/#{database_version}/lib/promscale.so" do
 110   source "postgresql-#{database_version}-promscale.so"
 111   owner "root"
 112   group "root"
 113   mode "644"
 114 end
 115
 116 directory "/opt/promscale/bin" do
 117   owner "root"
 118   group "root"
 119   mode "755"
 120 end
 121
 122 remote_file "/opt/promscale/bin/promscale" do
 123   action :create
 124   source "https://github.com/timescale/promscale/releases/download/#{promscale_version}/promscale_#{promscale_version}_Linux_x86_64"
 125   owner "root"
 126   group "root"
 127   mode "755"
 128 end
 129
 130 systemd_service "promscale" do
 131   description "Promscale Connector"
 132   type "simple"
 133   user "prometheus"
 134   exec_start "/opt/promscale/bin/promscale --db-uri postgresql:///promscale?host=/run/postgresql&port=5432 --db-connections-max 400"
 135   # exec_start lazy { "/opt/promscale/bin/promscale --db-host /run/postgresql --db-port #{node[:postgresql][:clusters][database_cluster][:port]} --db-user prometheus --db-name promscale --db-max-connections 400" }
 136   limit_nofile 16384
 137   private_tmp true
 138   protect_system "strict"
 139   protect_home true
 140   no_new_privileges true
 141 end
 142
 143 systemd_service "promscale-maintenance" do
 144   description "Promscale Maintenance"
 145   type "simple"
 146   user "prometheus"
 147   exec_start "/usr/bin/psql --command='CALL prom_api.execute_maintenance()' promscale"
 148   private_tmp true
 149   protect_system "strict"
 150   protect_home true
 151   no_new_privileges true
 152 end
 153
 154 systemd_timer "promscale-maintenance" do
 155   description "Promscale Maintenace"
 156   on_active_sec 1800
 157   on_unit_inactive_sec 1800
 158 end
 159
 160 if node[:prometheus][:promscale]
 161   service "promscale" do
 162     action [:enable, :start]
 163     subscribes :restart, "remote_file[/opt/promscale/bin/promscale]"
 164     subscribes :restart, "systemd_service[promscale]"
 165   end
 166
 167   service "promscale-maintenance.timer" do
 168     action [:enable, :start]
 169   end
 170 else
 171   service "promscale" do
 172     action [:disable, :stop]
 173   end
 174
 175   service "promscale-maintenance.timer" do
 176     action [:disable, :stop]
 177   end
 178 end
 179
 180 search(:node, "roles:gateway") do |gateway|
 181   allowed_ips = gateway.interfaces(:role => :internal).map do |interface|
 182     "#{interface[:network]}/#{interface[:prefix]}"
 183   end
 184
 185   node.default[:networking][:wireguard][:peers] << {
 186     :public_key => gateway[:networking][:wireguard][:public_key],
 187     :allowed_ips => allowed_ips,
 188     :endpoint => "#{gateway.name}:51820"
 189   }
 190 end
 191
 192 jobs = {}
 193 snmp_targets = []
 194
 195 search(:node, "recipes:prometheus\\:\\:default").sort_by(&:name).each do |client|
 196   if client[:prometheus][:mode] == "wireguard"
 197     node.default[:networking][:wireguard][:peers] << {
 198       :public_key => client[:networking][:wireguard][:public_key],
 199       :allowed_ips => client[:networking][:wireguard][:address],
 200       :endpoint => "#{client.name}:51820"
 201     }
 202   end
 203
 204   client[:prometheus][:exporters].each do |key, exporter|
 205     if exporter.is_a?(Hash)
 206       name = exporter[:name]
 207       address = exporter[:address]
 208       metric_relabel = exporter[:metric_relabel] || []
 209     else
 210       name = key
 211       address = exporter
 212       metric_relabel = []
 213     end
 214
 215     jobs[name] ||= []
 216     jobs[name] << {
 217       :address => address,
 218       :instance => client.name.split(".").first,
 219       :metric_relabel => metric_relabel
 220     }
 221   end
 222
 223   Hash(client[:prometheus][:snmp]).each do |instance, details|
 224     snmp_targets << {
 225       :instance => instance,
 226       :target => details[:address],
 227       :module => details[:module],
 228       :address => client[:prometheus][:addresses]["snmp"],
 229       :labels => Array(details[:labels])
 230     }
 231   end
 232 end
 233
 234 certificates = search(:node, "letsencrypt:certificates").each_with_object({}) do |n, c|
 235   n[:letsencrypt][:certificates].each do |name, details|
 236     c[name] ||= details.merge(:nodes => [])
 237
 238     c[name][:nodes] << {
 239       :name => n[:fqdn],
 240       :address => n.external_ipaddress || n.internal_ipaddress
 241     }
 242   end
 243 end
 244
 245 template "/etc/prometheus/ssl.yml" do
 246   source "ssl.yml.erb"
 247   owner "root"
 248   group "root"
 249   mode "644"
 250   variables :certificates => certificates
 251 end
 252
 253 prometheus_exporter "ssl" do
 254   address "127.0.0.1"
 255   port 9219
 256   options "--config.file=/etc/prometheus/ssl.yml"
 257   register_target false
 258 end
 259
 260 systemd_service "prometheus-executable" do
 261   service "prometheus"
 262   dropin "executable"
 263   exec_start "/opt/prometheus-server/prometheus/prometheus --config.file=/etc/prometheus/prometheus.yml --web.external-url=https://prometheus.openstreetmap.org/prometheus --storage.tsdb.path=/var/lib/prometheus/metrics2"
 264   notifies :restart, "service[prometheus]"
 265 end
 266
 267 template "/etc/prometheus/prometheus.yml" do
 268   source "prometheus.yml.erb"
 269   owner "root"
 270   group "root"
 271   mode "644"
 272   variables :jobs => jobs, :snmp_targets => snmp_targets, :certificates => certificates
 273 end
 274
 275 template "/etc/prometheus/alert_rules.yml" do
 276   source "alert_rules.yml.erb"
 277   owner "root"
 278   group "root"
 279   mode "644"
 280 end
 281
 282 service "prometheus" do
 283   action [:enable, :start]
 284   subscribes :reload, "template[/etc/prometheus/prometheus.yml]"
 285   subscribes :reload, "template[/etc/prometheus/alert_rules.yml]"
 286 end
 287
 288 systemd_service "prometheus-alertmanager-executable" do
 289   service "prometheus-alertmanager"
 290   dropin "executable"
 291   exec_start "/opt/prometheus-server/alertmanager/alertmanager --config.file=/etc/prometheus/alertmanager.yml --storage.path=/var/lib/prometheus/alertmanager --web.external-url=https://prometheus.openstreetmap.org/alertmanager"
 292   notifies :restart, "service[prometheus-alertmanager]"
 293 end
 294
 295 template "/etc/prometheus/alertmanager.yml" do
 296   source "alertmanager.yml.erb"
 297   owner "root"
 298   group "root"
 299   mode "644"
 300 end
 301
 302 service "prometheus-alertmanager" do
 303   action [:enable, :start]
 304   subscribes :reload, "template[/etc/prometheus/alertmanager.yml]"
 305 end
 306
 307 template "/etc/prometheus/amtool.yml" do
 308   source "amtool.yml.erb"
 309   owner "root"
 310   group "root"
 311   mode "644"
 312 end
 313
 314 package "grafana-enterprise"
 315
 316 template "/etc/grafana/grafana.ini" do
 317   source "grafana.ini.erb"
 318   owner "root"
 319   group "grafana"
 320   mode "640"
 321   variables :passwords => passwords
 322 end
 323
 324 service "grafana-server" do
 325   action [:enable, :start]
 326   subscribes :restart, "template[/etc/grafana/grafana.ini]"
 327 end
 328
 329 apache_module "alias"
 330 apache_module "proxy_http"
 331
 332 ssl_certificate "prometheus.openstreetmap.org" do
 333   domains ["prometheus.openstreetmap.org", "prometheus.osm.org"]
 334   notifies :reload, "service[apache2]"
 335 end
 336
 337 apache_site "prometheus.openstreetmap.org" do
 338   template "apache.erb"
 339   variables :admin_hosts => admins["hosts"]
 340 end
 341
 342 template "/etc/cron.daily/prometheus-backup" do
 343   source "backup.cron.erb"
 344   owner "root"
 345   group "root"
 346   mode "750"
 347 end