线上项目CPU,内存都跑满了,怎么调试?

createh510小时前技术教程3

记得第一次当整个电商项目负责人的时候,在使用量高峰期时,运维的同事突然跑过来说,xx服务的某台机器的CPU,内存暴了(OOM了),赶紧想办法怎么做。当时的心情既高兴,又紧张。高兴的是产品真的有使用在使用了,有价值了;紧张的是出问题,要怎么解决?

出现这种问题有2种情况,一种是直接服务程序终止,一种是服务程序在还在(线程通过PS命令查看还在运行),但无法对外提供服务。

当然出现这种情况,都是第一时间让运维同事将nginx上的upstream对应的IP注释掉,不让流量在进来到故障的机器上。

对于第一种程序直接终止的,在启动的命令中,加上

-XX:+HeapDumpOnOutOfMemoryError \
-XX:HeapDumpPath=${HeapDumpPath} \

输出当时的jvm内存镜像,然后通过jconsole来进行分析。

最头痛的是第二情况,服务程序还在运行,但是CPU/内存都满了,这种也就是假死,通过日志文件啥的,很难分析到问题,在纠结的时候,有同事看到了Arthas,我靠,可以直接在线debug,于是乎就搞起来,但当时(三年前吧)只是命领行格式。当初通过

- dashboard
- thread
- jvm
- memory
- trace

等几个命令,就可以去分析问题。而最终的问题原因,都是程序没写好(哇 又写bug了

  • 程序对象没控制好,在高并发时拼命产生对象,加大jvm的回收。
  • 下游服务接口慢,然后调用方没有控制好,卡线程(积压),挂。
  • 其它单服务达到瓶劲,只能扩服务(这锅可以不背了)。

最近由于项目的需要,又去逛了一遍Arthas的官网,发现Arthas加上了很多功能,感觉更加强大了。比如:

1、 提供了Web Console的界面功能

通过Web浏览器就可以连接Arthas,在web界面就可以输入各种命令来查看信息,简单强大的不要不要的,来看看它的界面:

Arthas目前支持Web Console,用户在attach成功之后,可以直接访问:http://127.0.0.1:8563/。可以填入IP,远程连接其它机器上的arthas。

默认情况下,arthas只listen 127.0.0.1,所以如果想从远程连接,则可以使用 --target-ip参数指定listen的IP,更多参考-h的帮助说明。 注意会有安全风险,考虑下面的tunnel server的方案。

2、 提供springboot快速集成
arthas-spring-boot-starter

不像以前的使用方式,是在运行java的服务器,单独启动Arthas来查看对应的java进程的数据。传统是这样使用,启动,选择对应的进程来看。

$ java -jar arthas-boot.jar
* [1]: 35542
  [2]: 71560 member-api.jar
  [3]: 38871 order-api.jar

由于大部分的开发人员都不具备服务器的权限,根本无法执行上面的操作,官方大佬要考虑到这种情况,提供了
arthas-spring-boot-starter
,让使用者零代码接入(简直神器来的),只需要在pom中引入:

        <dependency>
            <groupId>com.taobao.arthas</groupId>
            <artifactId>arthas-spring-boot-starter</artifactId>
            <version>${arthas.version}</version>
    </dependency>

当前只支持spring-boot 2.0以上的版本。

默认情况下,
arthas-spring-boot-starter会禁掉stop命令。

当前版本是:3.6.1

集成arthas后,项目启动成功后,可以访问如下的URL,看是否集成成功。


http://localhost:8080/actuator/arthas(假定endpoint端口是 8080)

{
    "arthasConfigMap": {
        "agent-id": "hsehdfsfghhwertyfad",
        "tunnel-server": "ws://47.75.156.201:7777/ws",
    }
}

配合 Arthas Tunnel,实现完美的界面查看。

3、 提供了Arthas Tunnel的集成功能

这是一个Arthas的管理功能,在一般的情况,普通的开发人员是不具备服务器的使用权限,没办法登录到指定的机器上去看具体的命令Console,而这个服务,可以实现一种远程管理/连接多个Arthas(Agent)的功能。

Arthas Tunnel是一个spring boot的应用程序,可以从官网/github上进行下载,直接java -jar启动:

java -jar  arthas-tunnel-server.jar

默认情况下,arthas tunnel server的web端口是8080,arthas agent连接的端口是7777。

启动之后,可以访问 http://127.0.0.1:8080/ ,再通过agentId连接到已注册的arthas agent上。

通过Spring Boot的Endpoint,可以查看到具体的连接信息:
http://127.0.0.1:8080/actuator/arthas ,登陆用户名是arthas,密码在arthas tunnel server的日志里可以找到,比如:

32851 [main] INFO  o.s.b.a.s.s.UserDetailsServiceAutoConfiguration

Using generated security password: f1dca050-3777-48f4-a577-6367e55a78a2
复制代码

上面中的password,就是登录arthas的密码。

然后对第2点集成arthas时,添加上如下的配置,配置tunnel server实现远程管理:

arthas.agent-id=hsehdfsfghhwertyfad
arthas.tunnel-server=ws://47.75.156.201:7777/ws
复制代码

agent-id 不是必须的,不配置的话,会自动产生一个随机数,看实际的需要来配置。



原文链接:
https://juejin.cn/post/7101501357500137479



相关文章

代码调试,教给你

昨天我和一些朋友一起调试代码,他们做程序员这一行都不太久,我向他们展示了一些代码调试技巧。今天早上我在想,我应该如何教授他们学习代码调试?我在Twitter上发了一条推文说,我从来没有见过任何好的调试...

彻底搞懂容器启动、停止、调试的每一个细节!

开篇导读许多刚接触 Docker 的开发者都有一个误区:“镜像构建完就万事大吉,run 一下就部署成功了。”实际上,在生产环境中,我们面对的是:容器突然崩了?容器内怎么调试?怎么优雅重启?怎么持久化数...

使用VS Code调试PhpStudy环境里的代码

最近几个月把所有项目都迁过来 VS Code 了(除了因为Unity调试问题反而用回了 Visual Studio),PHP也就抛弃了最强的 PhpStorm 。这段时间抽空在帮朋友处理PHP项目,然...

容器网络调试怎么办?一条命令就搞定!

nsenter 命令是一个可以在指定进程的命令空间下运行指定程序的命令。它位于 util-linux 包中。用途一个最典型的用途就是进入容器的网络命令空间。相当多的容器为了轻量级,是不包含较为基础的命...

手把手教你nginx解决前端本地跨域问题

收到很多私信,有许多同学遇到本地开发静态文件,想要调试远程接口的问题,教大家一个解决跨域调试常用的方法。有什么其他问题也欢迎大家关注私信我,看到的会一一解答。先下载nginx,因为大部分人是windo...