测试之家

性能测试工具 MYSQL 性能测试方法 - 基准测试（benchmarking）

杨腾 · 2024年11月06日 · 632 次阅读

MYSQL 性能测试方法 - 基准测试（benchmarking）

近期有碰到 MYSQL 的性能测试需求，因此网上收集了 MYSQL 的测试方法，并使用 sysbench 完成了几次这次，这里分享下这次的总结（大多是参考资料里贴来的）。

基准测试

相较于全链路测试，基准测试是在特定时间点通过性能测试设定一个性能基准线。当系统软硬件环境变动后，可重新执行基准测试，以评估这些变化对性能的具体影响。
而针对数据库的基准测试，可以评估当前配置（含硬件、操作系统、数据库设置等）下的性能表现，确定性能阈值，并根据实际需求调整配置。这为数据库系统的硬件采购、架构设计及升级提供了关键数据支持。可以理解为针对数据库基础性能的一种压力测试，但这个测试不涉及业务逻辑，测试数据由工具生成，增删改查是固定脚本。

衡量指标

性能基准线需要关注的指标：
系统负载
·CPU：%user、%idle、%sys、%iowait # 最通用的几个指标·IO：tps、await、svctm、%util
·内存：free（free、shared、buffers、cached）、used，以及 swap
内存的利用率越多越好，所以我们主要关注空闲、使用、还有 swap ，si so
当前是否使用 swap 是否频繁使用 swap 也需要关注
MYSQL 运行指标
tps、rt、lock、hit ratio、waits
rt = response time

lock = row lock、table lock
hit ratio = cache/buffer hit ratio
waits = Innodb_buffer_pool_wait_free / Innodb_log_waits / Table_locks_waited / Innodb_row_lock_current_waits / Innodb_row_lock_waits

支持数据库基准测试的工具很多，当前选择了 sysbench

测试策略

prepare：执行准备工作。例如，在磁盘上创建必要的测试文件以进行 fileio 测试，或者在测试数据库上新建 100 万行数据以执行数据库基准测试。
run：使用 testname 参数指定的压测脚本执行对应的测试。
cleanup：在测试结束后删除临时数据或文件。

sysbench 在线安装

编译必需依赖

yum -y install make automake libtool pkgconfig libaio-devel

编译 MySQL 必需依赖, 在 RHEL/CentoS 5 上替换为 mysql-devel

yum -y install mariadb-devel openssl-devel

编译 PostgreSQL 必需依赖

yum -y install postgresql-devel

安装 sysbench

curl -s https://packagecloud.io/install/repositories/akopytov/sysbench/script.rpm.sh  | sudo bash
sudo yum -y install sysbench

sysbench 命令行

sysbench 命令语法如下：

sysbench [options]… [testname] [command]
  1. options（参数选项）：用于指定 sysbench 的并发度、压测时长等参数。
  2. testname（测试名称）：用于指定 sysbench 的基准测试名称，可选项包括 oltp_read_ write、oltp_read_only、oltp_write_only、oltp_insert、oltp_delete、oltp_update_index、oltp_update_non_index 等
  3. command（测试命令）：用于指定 sysbench 执行什么测试命令，可选项包括 prepare、run、cleanup 等。

options

常规选项

–threads=N：指定线程数，默认值为1，相当于sysbendh 0.5及之前版本中的–num-threads=N选项。
–events=N：指定总的请求数，默认值为0，表示不限制请求数，相当于sysbench 0.5及之前版本中的–max-requests选项。
–time=N：指定压测时长，默认值为10s，相当于sysbench 0.5及之前版本中的–max-time=N选项。
–forced-shutdown=STRING：有效值为off、N、N%（默认值为off）。off表示不启用强制关机功能；N表示在–time选项指定的时间到期后，再过N秒强制关机；N%表示在–time选项指定的时间到期后，再过–time*N%时间强制关机。
–thread-stack-size=SIZE：指定每个线程的堆栈大小，默认值为64KB。
–rate=N：限定事务速率（tps），默认值为0，表示不限制，相当于sysbench 0.5及之前版本中的–tx-rate=N选项。
–report-interval=N：指定中间统计结果报告的间隔时间，默认值为0，表示关闭中间统计结果报告输出。
–report-checkpoints=[LIST,…]：用逗号分隔的一组列表值，这些值在执行sysbench压测时被依次读取，表示执行多少秒就打印一次统计报告（例如–report- checkpoints=10,20,30，表示当执行10s、20s、30s时分别打印一次统计报告。注意，该数值是指从执行sysbench开始到现在的时间），默认值为空，表示在–time选项指定的时间到期后才打印统计报告。
–debug[=on|off]：是否打印调试信息，默认值为off。
–help[=on|off]：是否打印帮助信息，默认值为off。
–version[=on|off]：是否打印版本信息，默认值为off。

伪随机数创建选项

–rand-type=STRING：随机数分布类型，可选项包括uniform、gaussian、special、pareto，默认值为special。
–rand-spec-iter=N：随机数生成的迭代次数，默认值为12次。
–rand-spec-pct=N：对特定随机数分布来说被视为“特殊”值的百分比，默认值为1。
–rand-spec-res=N：对特定随机数分布来说“特殊”值的百分比，默认值为75。
–rand-seed=N：随机数发生器的种子。当该选项设置为0时，表示使用当前时间作为RNG种子。
–rand-pareto-h=N：用于指定pareto随机分布的h参数，默认值为0.2。

日志选项

–verbosity=N：日志打印的详细程度，5表示打印debug级别以上的日志，0表示只打印critical级别以上的日志。默认值为3。
–percentile=N：在延迟时间统计中选择哪个百分位数，可选范围为(1～100)，默认值为95。如果设置为0，则表示禁用延迟时间统计功能。
–histogram[=on|off]：是否打印延迟时间直方图报告，默认值为off。

常规数据库选项

–db-driver=STRING：指定数据库驱动程序（即指定数据库类型），当前版本支持MySQL和PostgreSQL。
–db-ps-mode=STRING：prepare命令使用模式，有效值为auto和disable，默认值为auto，在高并发压力下建议使用disable。
–db-debug[=on|off]：是否打印数据库的调试信息，默认值为off。

MySQL 选项

–mysql-host=MySQL服务器主机，默认值为localhost。
–mysql-port=MySQL服务器端口号，默认值为3306。
–mysql-socket= MySQL服务器Socket文件目录。
–mysql-user=连接MySQL服务器的用户名，默认值为sbtest。
–mysql-password=连接MySQL服务器的密码。
–mysql-db=连接MySQL服务器的数据库名，默认值为sbtest。
–mysql-ssl[=on|off]：连接MySQL服务器是否使用SSL，默认值为off。
–mysql-ssl-cipher=连接MySQL服务器使用SSL时的Cipher。
–mysql-compression[=on|off]：连接MySQL服务器是否使用压缩，默认值为off。
–mysql-debug[=on|off]：连接MySQL服务器是否跟踪所有的客户端库调用，默认值为off。
–mysql-ignore-errors=是否忽略MySQL返回的错误，默认值为[1213,1020,1205]。
–mysql-dry-run[=on|off]：是否空跑，只是调用MySQL客户端API，但是不真正执行。

pgsql 选项

–pgsql-host= PostgreSQL服务器主机，默认值为localhost。
–pgsql-port= PostgreSQL服务器端口，默认值为5432。
–pgsql-user=连接MySQL服务器的用户名，默认值为sbtest。
–pgsql-password=连接MySQL服务器的密码。
–pgsql-db=连接MySQL服务器的数据库名，默认值为sbtest。

其他选项
通过使用如下命令来查看额外的关于测试名称（事务模型）命令选项，只需要任意指定一个测试名称即可。

# 指定oltp_read_write测试名称来查看额外的帮助选项
[root@localhost ]# sysbench oltp_read_write help  
……
oltp_read_write options:
  –distinct_ranges=N Number of SELECT DISTINCT queries per transaction [1]
  –sum_ranges=N Number of SELECT SUM() queries per transaction [1]
  –skip_trx[=on|off] Don’t start explicit transactions and execute all queries in the AUTOCOMMIT mode [off]
……

各选项解释如下

–distinct_ranges=N：指定在每个事务中SELECT DISTINCT查询的执行次数，默认值为1。
-sum_ranges=N：指定在每个事务中SELECT SUM()查询的执行次数，默认值为1。
–skip_trx[=on|off]：指定在AUTOCOMMIT（自动提交）模式下是否需要跳过启动显式事务（使用START语句显式启动一个事务），默认值为off。
–secondary[=on|off]：指定是否需要使用一个二级索引来代替主键索引，默认值为off。
–create_secondary[=on|off]：指定除主键之外，是否还需要创建一个二级索引，默认值为on。
–index_updates=N：指定在每个事务中使用索引执行UPDATE语句的次数，默认值为1。
–range_size=N：指定在每个事务中范围SELECT查询的条件值，默认值为100。
–auto_inc[=on|off]：指定是否需要使用自增列的自增值作为主键值，如果不使用自增值，则使用sysbench自动生成的ID值作为主键值，默认值为on。
–delete_inserts=N：指定在每个事务中DELETE/INSERT组合语句的数量，默认值为1。
–tables=N：指定并行压测的表数量。
–mysql_storage_engine=STRING：指定表的存储引擎，默认值为InnoDB。
–non_index_updates=N：指定在每个事务中不使用索引执行UPDATE语句的次数，默认值为1。
–table_size=N：指定每个表的数据总量，默认值为10 000。
–pgsql_variant=STRING：当用PostgreSQL驱动程序运行时使用此PostgreSQL变体。目前唯一支持的变体是“redshift”。启用后，将自动禁用create_secondary，并将–delete_inserts选项设置为0。
–simple_ranges=N：指定在每个事务中简单范围SELECT查询（这里指的是BETWEEN范围查询）的次数，默认值为1。
–order_ranges=N：指定在每个事务中SELECT ORDER BY查询的次数，默认值为1。
–range_selects[=on|off]：指定是否需要打开或关闭所有的范围SELECT查询，默认值为on。
–point_selects=N：指定在每个事务中单行SELECT查询的次数，默认值为10。

备注项：

  1. 每一种测试名称对应的 Lua 脚本中都定义了需要使用的 DML 测试语句类型，每一种 DML 语句类型都可以通过选项单独指定在每一个事务中需要执行多少次。例如，在 oltp_read_write 测试名称中，一共有 9 种 DML 语句类型，按照默认的每一种语句的执行次数计算，在每一个事务中一共有 18 条语句，每一种 DML 语句类型的默认执行次数如下：
  2. * 简单等值 SELECT 语句：默认为 10 次。
  • 范围 SELECT（BETWEEN）语句：默认为 1 次。
  • SELECT SUM() 语句：默认为 1 次。
  • SELECT ORDER BY：默认为 1 次。
  • SELECT DISTINCT 语句：默认为 1 次。
  • DELETE 和 INSERT 组合语句：默认为 1 次。
  • 使用索引的 UPDATE 语句：默认为 1 次。
  • 不使用索引的 UPDATE 语句：默认为 1 次。

在执行 oltp_read_write 测试时，从 MySQL 的 general_log 中抓取的每个事务的语句数量也证实了，在默认的配置下一个事务中的语句数量为 18 条

testname
testname 用于指定 sysbench 的基准测试名称。基准测试包括：

  1. oltp _*.lua，数据库基准测试 Lua 脚本集合。这是 DBA 日常经常需要用到的测试脚本。
  2. fileio，文件系统级基准测试。
  3. cpu，简单的 CPU 基准测试。
  4. memory，内存访问基准测试。
  5. threads，基于线程的调度器基准测试。
  6. mutex，POSIX 互斥基准测试。

备注：在实际执行时，对于 Lua 新格式脚本，可以只写脚本名称（不写.lua 后缀），如 oltp_read_only，不再需要像 sysbench 0.5 及之前版本那样使用–test 选项来指定。

压测结果指标

SQL 统计结果

该项输出结果包括 sysbench 发起的读/写/其他/总计 SQL 查询数量、总计事务数及每秒事务数、总计请求数及每秒请求数、总计错误数及每秒错误数、总计重连接数及每秒重连接数。
SQL statistics:
queries performed:
read: 49084
write: 9513
other: 11523
total: 70120
transactions: 3506 (350.33 per sec.)
queries: 70120 (7006.63 per sec.)
ignored errors: 0 (0.00 per sec.)
reconnects: 0 (0.00 per sec.)

通用统计值

该项输出结果包括总计执行的时间、所有的事件数量（这里对应的是发起的 MySQL 事务数）。
General statistics:
total time: 10.0062s
total number of events: 3506

延迟时间统计结果

该项输出结果包括延迟时间最低值、平均值、最高值、第 95% 位值、总计值。
Latency (ms):
min: 4.56
avg: 11.41
max: 39.24
95th percentile: 19.65
sum: 39997.58

压测线程统计结果

该项输出结果包括每个压测线程的平均事件数及标准差、每个事务的平均执行时间及标准差。
Threads fairness:
events (avg/stddev): 876.5000/5.22
execution time (avg/stddev): 9.9994/0.00

压测示例

如下为只读场景示例，当前支持 mysql 压测的场景有：

  • 只读-oltp_read_only
  • 删除-oltp_delete
  • 索引更新-oltp_update_index
  • 非索引更新-oltp_update_non_index
  • 插入-oltp_insert
  • 混合读写-oltp_read_write

场景 - 只读

造数

sysbench --db-driver=mysql --mysql-host=localhost --mysql-port=3306 --mysql-user=admin1 --mysql-password=68667109!@#1 --mysql-db=sbtest --table_size=2500 --tables=25 --time=60  oltp_read_only prepare

参数解释：

  • sysbench：这是命令行工具的名称，用于启动 Sysbench 测试。
  • --db-driver=mysql：指定数据库驱动为 MySQL。Sysbench 支持多种数据库，通过这个参数指定要测试的数据库类型。
  • --mysql-host=localhost：指定 MySQL 数据库服务器的主机地址。这里使用的是一个 IP 地址，表明测试将在远程服务器上执行。
  • --mysql-port=3306：指定 MySQL 数据库服务器的端口号。3306 是 MySQL 的默认端口。
  • --mysql-user=admin1：指定用于连接 MySQL 服务器的用户名。
  • --mysql-password=68667109!@#1：指定用于连接 MySQL 服务器的用户密码。在实际使用中，密码应妥善保管，避免在命令行中明文显示。
  • --mysql-db=sbtest：指定要测试的数据库名称。在这个例子中，数据库名为 sbtest。
  • --table_size=2500：指定每个测试表中的数据行数。这里每个表将包含 2500 行数据。
  • --tables=25：指定要创建的测试表的数量。在这个例子中，将创建 25 个表。
  • --time=60：指定测试运行的时间（秒）。在这个例子中，测试将运行 60 秒。
  • oltp_read_only：指定要执行的测试类型。oltp_read_only 表示执行只读的事务处理（OLTP）测试，这种测试主要评估数据库的读取性能。
  • prepare：这个参数指示 Sysbench 执行测试前的准备工作，即创建所需的数据库和表，并填充数据。这通常是测试过程的第一步。

压测

sysbench  --db-driver=mysql --mysql-host=localhost --mysql-port=3306 --mysql-user=admin1 --mysql-password=68667109!@#1 --mysql-db=sbtest --percentile=80 --max-requests=0 --threads=11 --time=60 oltp_read_only run

参数说明：

  • sysbench：命令行工具的名称，用于启动 Sysbench 测试。
  • --db-driver=mysql：指定数据库驱动为 MySQL。
  • --mysql-host=localhost：指定 MySQL 数据库服务器的主机地址。
  • --mysql-port=3306：指定 MySQL 数据库服务器的端口号。
  • --mysql-user=admin1：指定连接 MySQL 服务器的用户名。
  • --mysql-password=68667109!@#1：指定连接 MySQL 服务器的用户密码。注意，出于安全考虑，通常不建议在命令行中明文显示密码。
  • --mysql-db=sbtest：指定要测试的数据库名称。
  • --percentile=80：指定在计算延迟统计时考虑的百分位数。这里设置为 80%，意味着会报告 80% 的请求在多少时间内完成，这有助于了解系统的性能瓶颈。
  • --max-requests=0：指定测试期间要执行的最大请求数。设置为 0 表示没有限制，测试将持续到指定的时间（--time 参数）结束。
  • --threads=11：指定用于测试的并发线程数。这里设置为 11，意味着将使用 11 个并发线程来模拟用户活动。
  • --time=60：指定测试运行的时间（秒）。
  • oltp_read_only：指定要执行的测试类型为只读事务处理测试。
  • run：这个参数指示 Sysbench 执行测试的实际运行阶段。在 prepare 阶段之后，你需要使用 run 参数来启动实际的性能测试。

清理

sysbench --db-driver=mysql --mysql-host=localhost --mysql-port=3306 --mysql-user=admin1 --mysql-password=68667109!@#1 --mysql-db=sbtest --table_size=2500 --tables=25 --time=60  oltp_read_only cleanup

参数说明

  • sysbench：命令行工具的名称，用于启动 Sysbench 测试。
  • --db-driver=mysql：指定数据库驱动为 MySQL，表明我们将要对 MySQL 数据库进行操作。
  • --mysql-host=localhost：指定 MySQL 数据库服务器的主机地址，即测试所连接的数据库服务器的 IP 地址。
  • --mysql-port=3306：指定 MySQL 数据库服务器的端口号，MySQL 的默认端口是 3306。
  • --mysql-user=admin1：指定用于连接 MySQL 服务器的用户名。
  • --mysql-password=68667109!@#1：指定用于连接 MySQL 服务器的用户密码。请注意，出于安全考虑，不建议在命令行中明文显示密码。
  • --mysql-db=sbtest：指定要操作的数据库名称，这里假设是为测试创建的名为 sbtest 的数据库。
  • --table_size=2500 和 --tables=25：这两个参数在 cleanup 阶段实际上是不需要的，因为清理过程会删除整个数据库或指定的表，而不会关心表的大小或数量。但是，它们通常与 prepare 命令一起使用，用于创建和填充测试表。
  • --time=60：在 cleanup 阶段，这个参数是不需要的，因为清理过程不会持续特定的时间。它通常与 run 命令一起使用，指定测试运行的时间。
  • oltp_read_only：指定测试类型为只读事务处理（OLTP）测试。在 cleanup 阶段，这个参数主要用于识别之前为测试创建的特定表或数据库结构。
  • cleanup：这个参数指示 Sysbench 执行清理操作，删除为测试创建的数据库或表。

压测结果模板


通过上图可以分析得出如下结论：
1) 60 秒内共执行读请求 28756 次，更新及其他类型的请求 4108 次，QPS：544.42；
2) 60s 内共执行事务操作 2054，TPS:34.03，成功率 100%；
3) 每个事务执行最小时间 272.88ms，最大时间 850.33ms，平均执行时间 322.46ms。
以上测试结果运行环境基本配置信息：
1) 虚拟机 1 颗 CPU、2G 内存，10G 存储空间;
2) MySQL 数据库参数未优化、调整。

特殊情况处理

一、会因为 mysql8.0 密码加密方式导致报错
FATAL: error 2059: Authentication plugin 'caching_sha2_password' cannot be loaded
ALTER USER 'admin1'@'%' IDENTIFIED WITH mysql_native_password BY '68667109!@#1'
flush privileges;

参考文档

mysql 性能解析系列教程：https://www.bilibili.com/video/BV1U64y1d7EE/?p=37
通过 sysbench 工具实现 MySQL 数据库的性能测试：https://blog.csdn.net/hongjian006/article/details/142760189
MySQL 的性能基线收集及压力测试：https://blog.51cto.com/yijiu/1566615
MySQL 性能测试（完整版）：https://developer.aliyun.com/article/1509755
MySQL 数据库性能基准测试之 sysbench 之 1—概念与工具分类及 sysbench 介绍：https://zhuanlan.zhihu.com/p/687978862
sysbench 安装：https://blog.csdn.net/m0_61066945/article/details/138163575
OLTP 负载测试：https://help.aliyun.com/zh/polardb/polardb-for-mysql/oltp-performance-test
lua 脚本说明：https://blog.csdn.net/zhou920786312/article/details/125095810
github：https://github.com/akopytov/sysbench#sysbench

1 个赞
如果觉得我的文章对您有用，请随意打赏。您的支持将鼓励我继续创作！
打赏支持
暂无回复。
需要 登录 后方可回复, 如果你还没有账号请点击这里 注册。