网站建设需要的技术手段,影视类网站建设,长春网站搭建,公司网站建设设计公司排名前言
我们生产上公司是使用的CDP集群#xff0c;一次管理员通知#xff0c;Solr 组件的数据存放路径磁盘空间不够。
我们的solr 组件时为 Ranger 服务提供日志审计功能#xff0c;
在我们更改了磁盘路径#xff0c;并重启了Solr 组件#xff0c;然后发现相关组件#…前言
我们生产上公司是使用的CDP集群一次管理员通知Solr 组件的数据存放路径磁盘空间不够。
我们的solr 组件时为 Ranger 服务提供日志审计功能
在我们更改了磁盘路径并重启了Solr 组件然后发现相关组件如 HDFS, Kafka 等会报相关的报错。具体如下
报错
在重启 Solr 后有大量的404报错无法找到 ranger_audit 这个索引。 由于换了新的存储路径那么索引肯定时找不到了于是我们决定重启相关受影响的组件这样的话可能索引就会新建。
也正是这一步让我们一错再错。
重启
在重启相关受影响组件后发现 404 的报错是没了变成了 403 的报错。
并且新的路径下solr 的shard 数据也没有生成。
报错如下图 到这里才反应过来这个问题和其余的组件的关系不太主要根源是更改了新的路径后solr 集群之间solr 与 zk 之间的联系出了问题。
解决方案
1. 停止solr 组件
集群 - CDP INFRA SOLR - 操作 - 停止。 2. 更换新的路径
这部之前已经操作过了所以跳过。
3. zookeeper znode 清理
由于我们的zk 有jaas 认证所以需要先导入环境变量
export JVMFLAGS-Djava.secury.auth.login.confjaas.conf进入zookeeper
zookeeper-client -server hostname -f删除节点
rmr /solr-infra/collections/ranger_audits
rmr /solr-infra/configs/ranger_audits4. 优化审计索引存储时间副本数可跳过
这一步骤不是必须操作只是对 ranger_audit 该索引进行一些优化。如 TTL副本数shard个数 等等。这个因人而异配置符合自己集群性能才是关键。
修改最大shard 个数。
shard 个数
副本数
5. 启动Solr
集群 - CDP INFRA SOLR - 操作 - 启动。
6. 重启ranger
集群 - Ranger - 实例 - ranger admin - 重启。 到此问题应该是可以解决了如果相关受影响组件仍在报错。继续执行第七步。 7. 进入solr web ui 修改索引
跳转KNOX WEB UI
集群 - KNOX - KNOX GATEWAY HOME - Solr
删除collection
进入 solr web ui - Collections Delete collection - 输入要删除的collection 名字
此处输入 ranger_audit,然后点击 Delete 按钮。
新增collection
Add Collection - 内容如下
keyvaluenameranger_auditconfig setranger_auditnumsShards4replicationFact1maxShardsPer10此时观察日志发现已经恢复。问题解决。
