测试基础 记一次 CPU 冲高的排查过程

AMEAME · 2024年08月13日 · 最后由 Vanessa 回复于 2024年08月16日 · 5680 次阅读

背景

需求需要计算大容量环境下多个数据库数据的负载,并把分库关系迁移,以实现多个数据库节点负载均衡。

现象

执行分库迁移脚本后,脚本执行进度始终保持 10%,组件 CPU 使用率冲到 95% 以上,且后台没有打印出有用的日志。

排查过程

  1. 尝试重启组件并重写执行脚本:判断该故障是否可复现。结论:故障可以复现。

  2. 查看新增代码:发现新增代码量太大,若进行全面代码走查将耗费大量时间,且由于后台日志较少,增加了代码走查的难度。

  3. 使用 arthas 工具排查

    3.1 编译并打包 arthas,然后将其部署到节点上。

    3.2 通过kubectl -n zenap cp {arthas-path} {pod}:{任意路径}命令将 arthas 拷贝到容器中。

    3.3 进入容器内的 arthas 目录,执行java -jar arthas-boot.jar,并选择容器中运行的 java 进程 pid。

    3.4 使用 arthas 提供的命令进行问题排查,首先执行dashboard命令查看面板。

    - 发现pool-47-thread-1线程占用 CPU 90.98%,疑似进入死循环。

3.5 继续执行thread -n 3命令找到该线程,查看其堆栈信息。

- 发现占用 CPU 的线程堆栈中,LoadMigrateJobregularMigrate方法存在问题。

  1. 代码问题定位

- 在while循环中,第二个if逻辑判断如果网元以cn.me开头且配置为False,则会继续循环。

- 但是,循环内没有对detailLoadsInOneDB_out进行任何增减操作,导致每次循环都会走continue流程,从而引发死循环。

- 这就是为什么 CPU 使用率会一直冲高。

共收到 6 条回复 时间 点赞

如果仅仅是查哪个线程占用 cpu 比较高,top 和 jstack 就够了,用 arthas 的话不是大炮打蚊子吗

zhoudian 回复

问题定位出来了在马后炮肯定能找到更简单的方法😀

AMEAME 回复

我个人理解在 cpu 使用率很高的情况下,用 top 和 jstack 是比较常用和快捷的方式,也不算是马后炮吧

不错不错,测试就应该学会这样去分析问题,这样才会有进步。

zhoudian 回复

确实使用 top 和 jstack 会更简单。但实际工作环境可能会遇到开发连续多天提交了很多次这部分代码,测试的代码不一定和开发代码保持同步了,或者环境上有其他人替换 jar 包之类的骚操作,很多时候发现问题了还要反编译确定下现在 jar 包代码情况,顺便也截图给开发当证据。 用 arthas 提供的功能会更多😐

arthas 确实是神器,用火焰图也可以很方便的找到问题

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册