建设项目查询网站,深圳市官网网站建设,后端开发工程师前景,建设网站所需技术背景
ES 本身自带 监控#xff0c;属于xpack 中的内容#xff0c;为商业版#xff0c;需要收费#xff1b;
并且 monitor 功能必须要在security开启后才能使用#xff0c;还有就是集群监控自己#xff0c;将采集到的性能数据保存到本集群#xff0c;这是一个比较差的设…背景
ES 本身自带 监控属于xpack 中的内容为商业版需要收费
并且 monitor 功能必须要在security开启后才能使用还有就是集群监控自己将采集到的性能数据保存到本集群这是一个比较差的设计方式因为对于生产集群它不得不为监控提供额外的资源还有就是集群故障之后监控数据不可见在集群恢复之前无法查看监控数据
metricbeat
Metricbeat是一个轻量级的托运程序可以安装在服务器上定期从操作系统和服务器上运行的服务收集度量。Metricbeat获取它收集的度量和统计数据并将它们发送到您指定的输出例如Elasticsearch或Logstash。
Metricbeat 本身可以向kibana 发送dashboard 的模板用于kibana 的对监控信息的图形化展示
Kibana
Kibana是Elasticsearch的官方UI工具它提供了强大的可视化和搜索功能可以用于监控和调优Elasticsearch集群。Kibana提供了许多内置的仪表盘和可视化组件可以用来展示Elasticsearch的性能指标、日志和事件数据等。开发者和运维人员可以使用Kibana来监控集群的健康状况、索引状态、搜索响应时间等。
架构 部署单独用于保存监控数据的ES 集群(单节点也是可以的) 用于展示监控数据的 kibana; 一个 metricbeat 用于收集所有的 被监控的ES 集群(也可以一个ES cluster 一个对应的metricbeat这样更改一个的配置就不影响其他的信息收集) 被监控的cluster 需要开启相关配置允许被采集监控信息目前是在全部相同的ES7 版本上采集跨小版本是支持的对于跨ES大版本的情况未测试
实现步骤
1 配置被监控的cluster
配置启动收集监控数据
在 elasticsearch.yml 添加 xpack.monitoring.collection.enabled: true
也可以在 kibana 中执行
PUT /_cluster/settings
{persistent: {xpack.monitoring.collection.enabled: true}
}
这样被监控cluster 就可以被收集监控指标了
2配置 metricbeat
配置要收集的cluster 和 monitor ES 地址
2.1 启用 elasticsearch-xpack module
userEBJ1214112 metricbeat-7.10.1-1 % ./metricbeat modules enable elasticsearch-xpack
Enabled elasticsearch-xpack
userEBJ1214112 metricbeat-7.10.1-1 % ./metricbeat modules list
Enabled:
elasticsearch-xpack2.2 配置要被监控的ES cluster
# 上面的命令执行后可以配置 modules.d/elasticsearch-xpack.yml 了向其中添加 elasticsearch module
# 由于没有开启 xpack, 无需配置 username 和 password
userEBJ1214112 metricbeat-7.10.1-1 % cat modules.d/elasticsearch-xpack.yml# Module: elasticsearch
# Docs: https://www.elastic.co/guide/en/beats/metricbeat/7.10/metricbeat-module-elasticsearch.html- module: elasticsearchmetricsets:- ccr- cluster_stats- enrich- index- index_recovery- index_summary- ml_job- node- node_stats- pending_tasks- shardxpack.enabled: trueperiod: 10shosts: [http://cluster1:9201]scope: cluster#username: user#password: secret- module: elasticsearchmetricsets:- ccr- cluster_stats- enrich- index- index_recovery- index_summary- ml_job- node- node_stats- pending_tasks- shardxpack.enabled: trueperiod: 10shosts: [http://cluster2:9202]scope: cluster#username: user#password: secret
2.3 配置 metricbeat.yml
metricbeat.yml 其中包含了 elasticsearch out 信息、展示监控指标kibana的地址
# cat metricbeat.yml# Elasticsearch template setting
# 用于向 monitor ES 发送 template 的配置
setup.template.settings:index.number_of_shards: 1index.codec: best_compression#_source.enabled: false# Kibana # Starting with Beats version 6.0.0, the dashboards are loaded via the Kibana API.
# This requires a Kibana endpoint configuration.
# 向该kibana发送dashboard 信息
setup.kibana:host: monitor:5601# ---------------------------- Elasticsearch Output ----------------------------
# 采集的监控数据将被收到下面的ES 中
output.elasticsearch:# Array of hosts to connect to.hosts: [monitor:9200]# Protocol - either http (default) or https.#protocol: https# Authentication credentials - either API key or username/password.#api_key: id:api_key#username: elastic#password: changeme
2.4 启动 metricbeat
# 首先是预发执行
# setup : 向kibana 发出dashboard ,还有向 ES 发出template
# 查看下面日志
# 1 定义的 ILM 用于控制监控数据的大小及时删除旧数据
# 2 向ES 发送了 template 用于指导 index 的创建
# 3 Kibana dashboards successfully loaded
userEBJ1214112 metricbeat-7.10.1-darwin-x86_64 % ./metricbeat setup -e
……
2024-01-06T17:59:07.9780800 INFO [index-management] idxmgmt/std.go:261 Auto ILM enable success.
2024-01-06T17:59:07.9860800 INFO [index-management.ilm] ilm/std.go:139 do not generate ilm policy: existstrue, overwritefalse
2024-01-06T17:59:07.9860800 INFO [index-management] idxmgmt/std.go:274 ILM policy successfully loaded.
2024-01-06T17:59:07.9860800 INFO [index-management] idxmgmt/std.go:407 Set setup.template.name to {metricbeat-7.10.1 {now/d}-000001} as ILM is enabled.
2024-01-06T17:59:07.9860800 INFO [index-management] idxmgmt/std.go:412 Set setup.template.pattern to metricbeat-7.10.1-* as ILM is enabled.
2024-01-06T17:59:07.9860800 INFO [index-management] idxmgmt/std.go:446 Set settings.index.lifecycle.rollover_alias in template to {metricbeat-7.10.1 {now/d}-000001} as ILM is enabled.
2024-01-06T17:59:07.9870800 INFO [index-management] idxmgmt/std.go:450 Set settings.index.lifecycle.name in template to {metricbeat {policy:{phases:{hot:{actions:{rollover:{max_age:30d,max_size:50gb}}}}}}} as ILM is enabled.
2024-01-06T17:59:07.9910800 INFO template/load.go:183 Existing template will be overwritten, as overwrite is enabled.
2024-01-06T17:59:08.1750800 INFO template/load.go:117 Try loading template metricbeat-7.10.1 to Elasticsearch
2024-01-06T17:59:08.4300800 INFO template/load.go:109 template with name metricbeat-7.10.1 loaded.
2024-01-06T17:59:08.4300800 INFO [index-management] idxmgmt/std.go:298 Loaded index template.
2024-01-06T17:59:08.8180800 INFO [index-management] idxmgmt/std.go:309 Write alias successfully generated.
Index setup finished.
Loading dashboards (Kibana must be running and reachable)
2024-01-06T17:59:08.8180800 INFO kibana/client.go:119 Kibana url: http://localhost:5601
2024-01-06T17:59:09.0830800 INFO kibana/client.go:119 Kibana url: http://localhost:5601
2024-01-06T17:59:10.8800800 INFO [add_cloud_metadata] add_cloud_metadata/add_cloud_metadata.go:89 add_cloud_metadata: hosting provider type not detected.
2024-01-06T18:00:52.0560800 INFO instance/beat.go:815 Kibana dashboards successfully loaded.
Loaded dashboards# 上面准备工作执行完成就可以真正的采集数据了
userEBJ1214112 metricbeat-7.10.1-darwin-x86_64 % ./metricbeat -e3monitor ES
可以通过 kibana 查看ES 中的数据
GET .monitoring-es-7-mb-2024.01.07/_search
{size: 200, sort: [{timestamp: {order: desc}}]
}# 多次执行发现数据有变动说明数据已经已经存在了
4kibana 到目前为止很顺利我们在kibana 上看到了监控集群但是点进去看一下详细信息的时候发生了一下的提示意思是由于被监控的集群的 license 是 basic 所以不支持查看。 通过修改 metric 数据改变license 版本类型 哈哈license 变了之后再聊怎么变的。
点进一个cluster 可以看到监控了 5elasticsearch
由于 监控数据中保存了 原始集群的 license 信息所以我们改一下就好
# 保存监控数据index为 .monitoring-es-7-mb-2024.01.07
# 先为 license 添加mapping,使其可以被查询, 并可以改变
PUT /.monitoring-es-7-mb-2024.01.07/_mapping
{properties: {license: {properties: {type: {type: keyword}}}}
}# 定义 pipeline 用于改变 license
PUT _ingest/pipeline/set-license
{description : sets license,processors : [ {set : {field: license.type,value: platinum # 这里改为 铂金版}} ]
}# 执行 更改数据 查到 license.typebasic 改为 license.typeplatinum
POST .monitoring-es-7-mb-2024.01.07/_update_by_query?pipelineset-license
{query: {term: {license.type: {value: basic}}}
}
上面的改变数据license需要考验手速在 metricbeat period: 10s 之间改完然后点进cluster 监控dashbard 进去就可以慢慢看了。
ToDo
上述的方案虽然能实现多ES集群的监控但是由于需要拼手速是不完美的。改进的方案为
1 另外起一个 进程不断地更新license.type 为 basic 为 platinum
2在monitor ES中安装一个 plugin 其中定义 ActionFilter 用于过滤 bulk index 的请求改变其中的请求body ,将 license.type 为 basic 为 platinum 推荐但有开发量但不多
