TesterHome

性能测试工具 JMeter 实时监控仪表板配置 (Grafana + InfluxDB)

Keith Mo · 2017年12月16日 · 最后由 pablo 回复于 2021年01月27日 · 5156 次阅读
本帖已被设为精华帖！

从我的博客搬运：

http://keithmo.me/post/2017/12/2017-12-16-jmeter-grafana-dashboard/

【警告】这篇东西是配置笔记，你会看到满屏鸡肠，不打算自己做一个可以不看。成品我已经传到官网了，能直接导入 Grafana 里，地址如下：

https://grafana.com/dashboards/4026

接下来还会配 Gatling、服务器性能指标、数据库、MQ 的等等，都是把官网上一些比较好的拿来改造成方便自己看的样子

在服务器上跑 JMeter 做压测的话，给工具本身也配上实时监控是必须的，命令行输出能提供的信息太少。

JMeter 的 Backend Listener 支持 Graphite 和 InfluxDB，这里选择 InfluxDB 做时序数据库，支持类似 SQL 的查询语法是最大的优点。另外在 JMeter 3.2+ 里配置起来也比 Graphite 方便太多。（缺点是直到写这篇文章时官网文档都没更新，要自己查存储的字段，猜它有什么用）

Grafana 能配出非常漂亮的监控仪表板，就是配的过程非常痛苦，不做非常详细的笔记的话过几天又忘光了，于是有了这篇东西。

【前提】

  • 采集器：JMeter 3.2+，Backend Listener 里选择 InfluxdbBackendListenerClient
  • 数据源：InfluxDB 1.4+
  • 面板：Grafana 4.6+
    • 已添加好数据源
    • 新建面板，添加 3 行

【注意】

吞吐率和响应时间图表只计算成功的请求（失败的通常没意义，超时失败的能在表格里看到数量），结果可能会跟 JMeter 里看到的有出入。

【效果】

总体

错误数

单个接口

已经上传到 Grafana 官网，可以从以下地址下载 JSON 文件，或通过 ID 4026 直接导入：

https://grafana.com/dashboards/4026

JMeter Backend Listener 参考配置：

JMeter设置

Settings

  • General
    • Name: JMeter Dashboard
    • Description: Monitor your JMeter load test in real time with InfluxDB and Grafana.
    • Tags: load_test
  • Rows
    • Summary, Errors, Individual Transaction - $transaction

Templating

$data_source

  • Name: data_source
  • Type: Datasource
  • Type: InfluxDB

$application

  • Name: application
  • Type: Query
  • Data source: $data_source
  • Refresh: On Dashboard Load
  • Query: SHOW TAG VALUES FROM "$measurement_name" WITH KEY = "application"

$transaction

  • Name: transaction
  • Type: Query
  • Data source: $data_source
  • Refresh: On Dashboard Load
  • Query: SHOW TAG VALUES FROM "$measurement_name" WITH KEY = "transaction" WHERE "application" =~ /^$application$/ AND "transaction" != 'internal' AND "transaction" != 'all'

可惜 templating 里不支持 $timeFilter（由于 InfluxDB show tag values 语法的限制），时间久了之后各种接口名看着会比较乱。

$measurement_name

  • Name: measurement_name
  • Label: Measurement name
  • Type: Constant
  • Hide: Variable
  • Value: jmeter（JMeter Backend Listener 默认）

$send_interval

  • Name: send_interval
  • Label: Backend send interval
  • Type: Constant
  • Hide: Variable
  • Value: 5（JMeter InfluxdbBackendListenerClient 默认）

Annotations

编辑 Annotations & Alerts(Built-in)

  • Name: Start/stop marker
  • Data source: $data_source
  • Query: select text from events where $timeFilter

第 1 行

第 1 排

Singlestat - Total Requests, Span 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("count") FROM "$measurement_name" WHERE ("application" =~ /^$application$/ AND "transaction" = 'all') AND $timeFilter GROUP BY time($__interval) fill(null)
  • Options
    • Value
      • Stat: Total
      • Postfix: Requests
      • Decimals: 0
    • Coloring: Value，把中间的颜色换成浅一点的黄色
  • Value Mappings: null -> 0

Singlestat - Failed Requests, Span 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("countError") FROM "$measurement_name" WHERE ("transaction" = 'all' AND "application" =~ /^$application$/) AND $timeFilter GROUP BY time($__interval) fill(null)
  • Options
    • Value
      • Stat: Total
      • Postfix: Failed
      • Decimals: 0
    • Coloring: Value，把中间的颜色换成红色
  • Value Mappings: null -> 0

Singlestat - Error Rate %, Span 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("error") / sum("all") FROM (SELECT sum("count") AS "all" FROM "$measurement_name" WHERE "transaction" = 'all' AND "application" =~ /^$application$/ AND $timeFilter GROUP BY time($__interval) fill(null)), (SELECT sum("countError") AS "error" FROM "$measurement_name" WHERE "transaction" = 'all' AND "application" =~ /^$application$/ AND $timeFilter GROUP BY time($__interval) fill(null))
  • Options
    • Value
      • Stat: Total
      • Unit: percent(0.0-1.0)
      • Decimals: 2
    • Coloring: Value，Thresholds: 0,0.01
    • Gauge: Show，Max: 1
  • Value Mappings: null -> 0

第 2 排

Graph - Total Throughput, Span: 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT mean("count") / $send_interval FROM "$measurement_name" WHERE ("transaction" = 'all' AND "application" =~ /^$application$/) AND $timeFilter GROUP BY time($__interval) fill(null)
    • alias: Req / sec
  • Legend
    • As Table, Min, Max, Avg，Decimals: 2
  • Display
    • Lines，Fill: 7, Null value: null

Graph - Total Errors, Span: 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("countError") FROM "$measurement_name" WHERE ("transaction" = 'all' AND "application" =~ /^$application$/) AND $timeFilter GROUP BY time($__interval) fill(null)
    • alias: Num of Errors
  • Axes
    • Decimals: 0
  • Legend
    • As Table, Total，Decimals: 0
  • Display
    • Lines，Fill: 7, Null value: null

Graph - Active Threads, Span: 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT last("maxAT") FROM "$measurement_name" WHERE ("transaction" = 'internal' AND "application" =~ /^$application$/) AND $timeFilter GROUP BY time($__interval) fill(null)
    • alias: Threads
  • Axes
    • Decimals: 0
  • Legend
    • As Table, Current，Decimals: 0
  • Display
    • Lines，Fill: 7, Null value: null

第 3 排

Graph - Transactions Response Times (95th pct), Span: 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT mean("pct95.0") FROM "$measurement_name" WHERE ("statut" = 'ok' AND "application" =~ /^$application$/) AND $timeFilter GROUP BY "transaction", time($__interval) fill(null)
    • alias: $tag_transaction
  • Axes
    • Units: milliseconds(ms)
  • Legend
    • As Table, To the right, Max, Avg，Decimals: 2
  • Display
    • Lines，Null value: null
    • Thresholds
      • T1: lt 500, ok, Fill, Line
      • T2: gt 1500, warning, Line
      • T3: gt 5000, critical, Fill, Line

第 2 行

Table - Errors per Transaction, Span: 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("count") FROM "$measurement_name" WHERE ("application" =~ /^$application$/ AND "statut" = 'ko') AND $timeFilter GROUP BY "transaction"
    • format: Table
  • Column Styles
    • Time - Type: Hidden
    • /.*/ - Decimals: 0

Table - Error Info, Span: 8

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("count") FROM "$measurement_name" WHERE ("application" =~ /^$application$/ AND "responseCode" !~ /^$/) AND $timeFilter GROUP BY "responseCode","responseMessage"
    • format: Table
  • Column Styles
    • Time: Type - Hidden
    • /.*/ : Decimals 0

第 3 行

复制第 1 行的图表（除了线程图），改一下 SQL 和一些细节就行。

第 1 排

Singlestat - Total Requests - $transaction, Span 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("count") FROM "$measurement_name" WHERE ("application" =~ /^$application$/ AND "transaction" =~ /^$transaction$/ AND "statut" = 'all') AND $timeFilter GROUP BY time($__interval) fill(null)
  • Options
    • Value
      • Stat: Total
      • Postfix: Requests
      • Decimals: 0
    • Coloring: Value，把中间的颜色换成浅一点的黄色
  • Value Mappings: null -> 0

Singlestat - Failed Requests - $transaction, Span 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("count") FROM "$measurement_name" WHERE ("application" =~ /^$application$/ AND "transaction" =~ /^$transaction$/ AND "statut" = 'ko') AND $timeFilter GROUP BY time($__interval) fill(null)
  • Options
    • Value
      • Stat: Total
      • Postfix: Failed
      • Decimals: 0
    • Coloring: Value，把中间的颜色换成红色
  • Value Mappings: null -> 0

Singlestat - Error Rate % - $transaction, Span 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("error") / sum("all") FROM (SELECT sum("count") AS "all" FROM "$measurement_name" WHERE "transaction" =~ /^$transaction$/ AND "statut" = 'all' AND "application" =~ /^$application$/ AND $timeFilter GROUP BY time($__interval) fill(null)), (SELECT sum("count") AS "error" FROM "$measurement_name" WHERE "transaction" =~ /^$transaction$/ AND "statut" = 'ko' AND "application" =~ /^$application$/ AND $timeFilter GROUP BY time($__interval) fill(null))
  • Options
    • Value
      • Stat: Total
      • Unit: percent(0.0-1.0)
      • Decimals: 2
    • Coloring: Value，Thresholds: 0,0.01
    • Gauge: Show，Max: 1
  • Value Mappings: null -> 0

第 2 排

Graph - Throughput - $transaction, Span: 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT last("count") / $send_interval FROM "$measurement_name" WHERE ("transaction" =~ /^$transaction$/ AND "statut" = 'ok') AND $timeFilter GROUP BY time($__interval)
    • alias: Req / sec
  • Legend
    • As Table, Min, Max, Avg，Decimals: 2
  • Display
    • Lines，Fill: 7, Null value: null

Graph - Errors - $transaction, Span: 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT sum("count") FROM "$measurement_name" WHERE "application" =~ /^$application$/ AND "transaction" =~ /^$transaction$/ AND "statut" = 'ko' AND $timeFilter GROUP BY time($__interval) fill(null)
    • alias: Num of Errors
  • Axes
    • Decimals: 0
  • Legend
    • As Table, Total，Decimals: 0
  • Display
    • Lines，Fill: 7
    • Points, Point Radius: 1
    • Null value: null

第 3 排

Graph - Response Times - $transaction, Span: 4

  • Metric
    • Data Source: $data_source
      • Options - Min time interval: [[send_interval]]s
    • SELECT last("avg") FROM "$measurement_name" WHERE ("transaction" =~ /^$transaction$/ AND "statut" = 'ok') AND $timeFilter GROUP BY time($__interval)
      • alias: Average
    • SELECT last("pct50.0") FROM "$measurement_name" WHERE ("transaction" =~ /^$transaction$/ AND "statut" = 'ok') AND $timeFilter GROUP BY time($__interval)
      • alias: Median
    • SELECT last("pct90.0") FROM "$measurement_name" WHERE ("transaction" =~ /^$transaction$/ AND "statut" = 'ok') AND $timeFilter GROUP BY time($__interval) fill(null)
      • alias: 90th Percentile
    • SELECT last("pct95.0") FROM "$measurement_name" WHERE ("transaction" =~ /^$transaction$/ AND "statut" = 'ok') AND $timeFilter GROUP BY time($__interval) fill(null)
      • alias: 95th Percentile
    • SELECT last("pct99.0") FROM "$measurement_name" WHERE ("transaction" =~ /^$transaction$/ AND "statut" = 'ok') AND $timeFilter GROUP BY time($__interval) fill(null)
      • alias: 99th Percentile
    • SELECT last("max") FROM "$measurement_name" WHERE ("transaction" =~ /^$transaction$/ AND "statut" = 'ok') AND $timeFilter GROUP BY time($__interval) fill(null)
      • alias: Max
  • Axes
    • Units: milliseconds(ms)
  • Legend
    • As Table, To the right
    • Max, Avg，Decimals: 2
    • Hide Series: With only nulls
  • Display
    • Lines，Null value: null
    • Thresholds
      • T1: lt 500, ok, Fill, Line
      • T2: gt 1500, warning, Line
      • T3: gt 5000, critical, Fill, Line

导出的 JSON 文件没有 data source，无法直接导入，需要手动编辑文件，在 "__inputs": [] 里加入以下：

{
  "name": "JMETER_DASHBOARD",
  "label": "DB name",
  "description": "",
  "type": "datasource",
  "pluginId": "influxdb",
  "pluginName": "InfluxDB"
},

如果想上传到官网，为了能正确分类，"__requires": [] 里还要加入以下：

{
  "type": "datasource",
  "id": "influxdb",
  "name": "InfluxDB",
  "version": "1.4.0"
},

参考：

https://grafana.com/dashboards/3351

「原创声明：保留所有权利，禁止转载」
49 个赞
如果觉得我的文章对您有用，请随意打赏。您的支持将鼓励我继续创作！
打赏支持
共收到 24 条回复 时间 点赞
思寒_seveniruby #1 · 2017年12月17日

不错，JMeter 跟 grafana 是标配，多数人都没利用好这个特点

蒋刚毅 #2 · 2017年12月17日

很赞，有时间实践下

dy20082250 #3 · 2017年12月17日

看上去不错，我们也有同事在使用 jmeter，不知道能不能搞成这种高大上的

尹全旺 #4 · 2017年12月20日

请问下只需要修改 inputs 里面的 DBname 就好了么

Keith Mo #5 · 2017年12月22日 Author
对 尹全旺 回复

抱歉现在才看到，导入应该能看到 3 个选项，数据源选你自己的 db，然后指定表名和发送间隔（在 JMeter 里默认是 jmeter 和 5 秒，都按默认就不用改这 2 个）。

如果发现 bug 或有改进的建议欢迎随时告诉我。：）

以上全是我编的，我实在编不下去了……😆

wholegale39 · #6 · 2018年01月03日
僅樓主可見
Keith Mo #7 · 2018年01月16日 Author
对 wholegale39 回复

不好意思很少上论坛，现在才看到，估计早就解决了吧：P

如果没错误，Error info 是没有数据的。面板上如果显示不正常可以去 influxdb 里查一下数据。查一下有没有 statut 为 ko 的记录。

pct 95 那图表没数据的话看看 db 里有没有叫做 pct95.0 的列。在 JMeter 的 Backend Listener 里有个 percentiles 字段，我是设成 50;90;95;99 ，截图里有。这里写了多少，db 里就会有名为 pctXX.X 的列。如果你删了 95 就不会有那列。

潘鹏 #8 · 2018年02月23日

InfluxDB 1.4+ 无法访问 web 页面，因为这个版本是最新的，没有端口。就是想问你是怎么解决的呢 conf 文件配置无效，emmm

Keith Mo #9 · 2018年02月23日 Author
对 潘鹏 回复

influxdb 那个 web 控制台很早就没有了，直接上服务器查😀

隔壁👉老杨 #10 · 2018年02月24日

装个低版本然后再重装高版本，Linux 下还是可以有控制台的，

潘鹏 #11 · 2018年02月26日
对 Keith Mo 回复


这为什么只显示一个数据，没有全部的数据都出来啦。。我从官网上下载 json 文件来导入，应该没错吧

Keith Mo #12 · 2018年02月28日 Author
对 潘鹏 回复

你找个接口试试？debug sampler 的逻辑也许不一样

得来全不费工夫 #13 · 2018年04月10日

gatling 加 grafana 也是美的很

思寒_seveniruby 将本帖设为了精华贴 05月21日 23:11
15楼 已删除
16楼 已删除
若水三千 #17 · 2018年06月08日

请问楼主在搭建 grafana 过程中，有遇到不能发送邀请注册邮件么？配置文件中的 smtp 已经开启了；已解决

thomas · #18 · 2018年07月10日
僅樓主可見
老马 #19 · 2018年07月12日

@keithmork
apt 添加源方式 在 ubuntu18.04 安装的 influxdb 1.6.0 

 sudo systemctl start influxdb



遇到问题：

cmd@TR:~$ curl http://localhost:8083
curl: (7) Failed to connect to localhost port 8083: 拒绝连接


cmd@TR:~$ curl http://localhost:8086
404 page not found



cmd@TR:~$ sudo ufw allow 8086/tcp
[sudo] cmd 的密码：
防火墙规则已更新
规则已更新(v6)


cmd@TR:~$ sudo ufw allow 8083/tcp
防火墙规则已更新
规则已更新(v6)


curl 问题依旧


cmd@TR:~$ sudo ufw disable
防火墙在系统启动时自动禁用


重启系统， 启动 sudo systemctl start influxdb    curl问题依旧


启动influxd：
sudo  influxd   -config /etc/influxdb/influxdb.conf


cmd@TR:~$ influx
Connected to http://localhost:8086 version 1.6.0
InfluxDB shell version: 1.6.0

> CREATE DATABASE jmeter

> SHOW DATABASES
name: databases
name
----
telegraf
_internal
jmeter
> use jmeter
Using database jmeter


后续用Grafana配置添加DataSources到是连通jmeter数据库正常。暂时不管该问题。

请问为何会 

cmd@TR:~$ curl http://localhost:8083
curl: (7) Failed to connect to localhost port 8083: 拒绝连接


cmd@TR:~$ curl http://localhost:8086
404 page not found

已经 google 没有找到合适的答案 也尝试过一些修改 但仍旧是上述问题。

但在后续用 Grafana 配置添加 DataSources 到是连通 jmeter 数据库正常

sorry 官方 1.2 以上都移除了 web 页面监控 已经找到答案了 。

vickylovetesting #20 · 2018年11月27日

最近在做性能测试，看到这个贴子马上也上手试了一下。就是想请教一下，如果我在 grafana 上设定的是每隔 5 秒刷新数据的话，会影响被测对象或者是 client 的性能吗？另外，如果还想实时监控 server 端的 CPU 等资源占用情况，有什么推荐的工具吗？谢谢！

zhanglimin #21 · 2018年11月30日

请问楼主 如果是用这种方式的话是不是就不用在本地保存那么大的结果文件了，我是保存成 jtl csv 然后转换成 html 的

孙高飞 #22 · 2018年12月02日

不错不错， 我这边也是这样做的。 同时还结合普罗米修斯和 grafana 把监控的仪表盘也弄上去了

23楼 已删除
simple 在 专栏文章：[精华帖] 社区历年精华帖分类归总 中提及了此贴 12月13日 14:44
simple 在 [精彩盘点] TesterHome 社区 2018 年 度精华帖 中提及了此贴 01月07日 12:08
牧遥 #26 · 2019年07月25日
对 vickylovetesting 回复

不会影响被测试程序，无论怎么查询只是查询 InfluxDB，对 InfluxDB 所在的服务器造成点压力，跟被测对象程序没关系

J #28 · 2019年09月03日

请问楼主，我按照虫师的这篇文章https://www.cnblogs.com/wtfm/p/9973386.html

操作，到运行 JMETER 那一步出问题了，如图

。已经百度看了很多资料，也试了很多方法，还是不知道什么原因，希望能够得到大家的帮助

Prowess #29 · 2019年12月12日

感谢楼主, 工作中正好用到😆

pablo #30 · 2021年01月27日
对 J 回复

influxdb 配置文件里的 graphite 有放开么？最近刚做了这个

需要 登录 後方可回應，如果你還沒有帳號按這裡 注册。