记录ElasticSearch分片被锁定导致无法分配处理过程
本篇文章记录最近ES做节点替换，从shard迁移过程中被锁定导致无法分配，主shard正常，希望可以帮助其它人
failed to create shard，failed to obtain in-memory shard lock，ShardLockObtainFailedException
一、问题描述
这次遇到的问题比较特殊，尝试过以下几种手段都没有恢复：
-
_cluster/reroute手动分片shard
- 由于是从shard无法分片，所以当时试过将所以的副本改成0，然后再设置成1，想通过重新生成副本来解决，结果也失败
接下来是排查问题的过程：
1、通过“GET _cat/shards/indexname”错误信息如下，从shard无法分配，主shard正常，正常的shard未展示出来：
indexname 3 r UNASSIGNED indexname 4 r UNASSIGNED indexname 1 r UNASSIGNED
之前在运维过程中也遇到过UNASSIGNED这种从shard无法分配的问题，通过"allocate_replica"命令手动分配可以解决，这类问题一般都是因为node节点重启或者失联导致的shard分片异常
2、通过“GET _cluster/allocation/explain”错误信息如下：
"index": "indexname", "shard": 3, "primary": false, "current_state": "unassigned", "unassigned_info": { "reason": "ALLOCATION_FAILED", "at": "2023-11-02T18:43:14.758Z", "failed_allocation_attempts": 300, "details": "failed shard on node [4MMOUt8-SMatWGCzX1asAQ]: failed to create shard, failure IOException[failed to obtain in-memory shard lock]; nested: ShardLockObtainFailedException[[indexname][3]: obtaining shard lock timed out after 5000ms]; ", "last_allocation_status": "no_attempt" }, "can_allocate": "no", "allocate_explanation": "cannot allocate because allocation is not permitted to any of the nodes",
大多数情况下shard的allocate相关的问题都可以通过“GET _cluster/allocation/explain”命令获取到有用的关键信息，从返回的内容来分析是索引的第3个shard导致的，在node节点[4MMOUt8-SMatWGCzX1asAQ]被锁定。
二、处理过程
知道问题原因了就有方法解决了，我准备了三套方案，如下：
前置工作
- 业务将索引的读写请求切走
- 创建一个测试索引验证shard是否都正常
- 备份索引数据
方案1：重启索引
--刷新索引 POST indexname/_flush --关闭索引 POST indexname/_close ---打开索引 POST indexname/_open
在本次处理过程中，使用了方案1重启索引就已经把问题解决了，但是方案一还是的业务配合将读写请求切走，否则索引close会导致应用的请求报错
方案2：重启节点node节点
[4MMOUt8-SMatWGCzX1asAQ]
PUT _cluster/settings { "persistent": { "cluster.routing.allocation.enable": "none" } } PUT _cluster/settings { "persistent": { "cluster.routing.allocation.enable": "all" } }
方案2重启锁定shard的节点理论上来说也是可以解决这个问题，但是因为方案一已经解决了问题就没机会做测试
方案3.重建索引
- 先还原备份到一个临时索引，验证数据没问题
- 删除当前索引，还原创建新索引
方案3是最后的方案了，如果方案1和2都解决不了的话只能通过方案3进行索引重建来解决，通过备份还原的方式来恢复索引其实也是很快的
三、思考总结
其实整个问题处理过程中还有一些其它的细节在文中没有提到，集群在默认开启自动shard均衡过程中由于shard多次尝试分配无法成功，达到默认的5次重试之后就会报错，这个时候其实可以尝试将集群的自动分片关闭"cluster.routing.allocation.enable": "none"，然后执行"POST /_cluster/reroute?retry_failed=true"来重置计数，最后通过手动分片shard的方式来做迁移也有可能能解决问题。只不过在每次遇到问题的时候需要结合当时的最佳场景去做判断，寻找影响范围最小的方案；
|
备注： 作者：pursuer.chen 博客：http://www.cnblogs.com/chenmh 本站点所有随笔都是原创，欢迎大家转载；但转载时必须注明文章来源，且在文章开头明显处给明链接。 《欢迎交流讨论》 |
