需求需要计算大容量环境下多个数据库数据的负载,并把分库关系迁移,以实现多个数据库节点负载均衡。
执行分库迁移脚本后,脚本执行进度始终保持 10%,组件 CPU 使用率冲到 95% 以上,且后台没有打印出有用的日志。
尝试重启组件并重写执行脚本:判断该故障是否可复现。结论:故障可以复现。
查看新增代码:发现新增代码量太大,若进行全面代码走查将耗费大量时间,且由于后台日志较少,增加了代码走查的难度。
使用 arthas 工具排查:
3.1 编译并打包 arthas,然后将其部署到节点上。
3.2 通过kubectl -n zenap cp {arthas-path} {pod}:{任意路径}
命令将 arthas 拷贝到容器中。
3.3 进入容器内的 arthas 目录,执行java -jar arthas-boot.jar
,并选择容器中运行的 java 进程 pid。
3.4 使用 arthas 提供的命令进行问题排查,首先执行dashboard
命令查看面板。
- 发现pool-47-thread-1
线程占用 CPU 90.98%,疑似进入死循环。
3.5 继续执行thread -n 3
命令找到该线程,查看其堆栈信息。
- 发现占用 CPU 的线程堆栈中,LoadMigrateJob
的regularMigrate
方法存在问题。
- 在while
循环中,第二个if
逻辑判断如果网元以cn.me
开头且配置为False
,则会继续循环。
- 但是,循环内没有对detailLoadsInOneDB_out
进行任何增减操作,导致每次循环都会走continue
流程,从而引发死循环。
- 这就是为什么 CPU 使用率会一直冲高。