测试开发技术 Sysbench 测试神器:一条命令生成百万级测试数据

狂师 · 2020年10月27日 · 最后由 大帅 回复于 2020年10月27日 · 214 次阅读

1. 基准测试

基准测试(benchmarking)是性能测试的一种类型,强调的是对一类测试对象的某些性能指标进行定量的、可复现、可对比的测试。

进一步来理解,基准测试是在某个时候通过基准测试建立一个已知的性能水平(称为基准线),当系统的软硬件环境发生变化之后再进行一次基准测试以确定那些变化对性能的影响,这也是基准测试最常见的用途。其他用途包括测定某种负载水平下的性能极限、管理系统或环境的变化、发现可能导致性能问题的条件等等。

2. 基准测试的作用

对于大多数 Web 应用而言,系统的瓶颈往往很容易发生在数据库端,原因很简单:Web 应用中的其他因素,例如网络带宽、负载均衡节点、应用服务器(包括 CPU、内存、硬盘灯、连接数等)、缓存,都很容易通过水平的扩展(俗称加机器)来实现性能的提高。而对于数据库如MySQL,由于数据一致性的要求,无法通过增加机器来分散向数据库写数据带来的压力;虽然可以通过前置缓存(Redis 等)、读写分离、分库分表来减轻压力,但是与系统其它组件的水平扩展相比,受到了太多的限制。

而对数据库的基准测试的作用,就是分析在当前的配置下(包括硬件配置、OS、数据库设置等),数据库的性能表现,从而找出数据库的性能阈值,并根据实际系统的要求调整配置。除此之外,对数据库服务器进行基准测试,也通常用于观察对比数据库结构修改之前以及修改之后,其性能会受到什么样的影响。

3. 基准测试与压力测试区别

很多时候,基准测试和压力测试在实际使用的过程中,很容易被弄混淆。基准测试可以理解为针对系统的一种压力测试。但基准测试不关心业务逻辑,更加简单、直接、易于测试,数据可以由工具生成,不要求真实;而压力测试一般考虑业务逻辑 (如购物车业务),要求真实的数据。

4. 基准测试的指标及工具

常见的数据库指标包括:

  • TPS/QPS:主要用于衡量吞吐量。
  • 响应时间:包括平均响应时间、最小响应时间、最大响应时间、时间百分比等,其中时间百分比参考意义较大,如前 95% 的请求的最大响应时间。
  • 并发量:同时处理的查询请求的数量。

如果只是针对数据库服务器,例如只针对 MySQL 数据库开展基准测试,一般可以使用专门的工具进行,例如mysqlslapsysbench等。

mysqlslap是 MySQL5.1.4 之后自带的 benchmark 基准测试工具,该工具可以模拟多个客户端同时并发的向服务器发出查询更新,给出了性能测试数据而且提供了多种引擎的性能比较。

其中,sysbenchmysqlslap更通用、更强大,本文将给大家介绍如何使用sysbench来开展基准测试,之所以说它是测试神器,是因为除了能对利用它对各类基础设施对象开展基准测试以外,还可以利用它的实现思路帮助我们生成成百上千万的测试数据,往下看,一起来揭秘吧~

5. sysbench 基准测试

sysbench是一个模块化的、跨平台、多线程基准测试工具,主要用于评估测试各种不同系统参数下的数据库负载情况,它主要包括以下几种方式的测试:

  • cpu 性能
  • 磁盘 io 性能
  • 调度程序性能
  • 内存分配及传输速度
  • POSIX 线程性能
  • 数据库性能 (OLTP 基准测试)

目前 sysbench 主要支持MySQL,pgsql,Oracle这 3 类数据库

默认支持MySQL,如果需要测试 Oracle/PostgreSQL,则在 configure 时需要加上–with-oracle或者–with-pgsql参数.

通过 sysbench 工具对数据库开展基准测试最大的亮点在于:可以自动帮你在数据库里构造出来大量的数据,你想要多少数据,就自动给你构造出来多少条数据。同时还可以模拟几千个线程并发的访问数据库,模拟使用各种各样的 SQL 语句,包括模拟出来各种事务提交到你的数据库里去,甚至可以模拟出几十万的 TPS 去压测数据库。

6. sysbench 基本语法

1、在使用前,先要需要安装,建议在 Linux 下安装 sysbench

yum install -y sysbench

2、sysbench 的基本语法如下:

sysbench [options]... [testname] [command]

其中,command 是sysbench要执行的命令,包括prepareruncleanup
顾名思义:

  • prepare 是为测试提前准备数据
  • run 是执行正式的测试
  • cleanup 是在测试完成后对数据库进行清理。

testname 指定了要进行的测试,在老版本的 sysbench 中,可以通过--test 参数指定测试的脚本;而在新版本中,--test 参数已经声明为废弃,可以不使用--test,而是直接指定脚本。

如下两种方法效果是一样的:

sysbench --test=./tests/include/oltp_legacy/oltp.lua
sysbench ./tests/include/oltp_legacy/oltp.lua

测试时使用的脚本为 lua 脚本,可以使用 sysbench 自带脚本,也可以自己开发。对于大多数应用,使用 sysbench 自带的脚本就足够了。不同版本的 sysbench 中,lua 脚本的位置可能不同,可以自己在 sysbench 路径下使用 find 命令搜索oltp.lua

大多数数据服务都是 oltp 类型的,如果你不了解什么是 oltp,那么大概率你的数据服务就是 oltp 类型的。

7. sysbench 使用实践(一键构建百万级数据)

接下来,给大家演示一下,如何使用 sysbench 来对 MySQL 开展基准测试,以及如何利用sysbench一条命令来构建百万级测试数据。

注:sysbench基准测试技能,在笔者的全栈测试开发训练营数据库版块中,对训练营的学员有过专题介绍,本文算是给公号读者送福利了。

操作方法:

1、在基准测试 prepare 准备阶段,先创建默认的测试库,例如sysbench_test

mysql> create database sysbench_test;      #创建数据库

如此处,创建 sysbench_test 数据库

2、准备数据,时间比较长,本文主要为了演示方法,因此把 table_size 设置的小一点

sysbench /usr/share/sysbench/oltp_read_write.lua --tables=5 --table_size=100 --mysql-user=root --mysql-password=xxx --mysql-host=192.168.0.103 --mysql-port=3306 --mysql-db=sysbench_test prepare

其中,几个关键参数:

  • --tables:指定生成表的数量,此处设置了 5 张表,表明生成 5 张测试表,读者可根据实际需要,调整此值。
  • --table_size:指定生成表中生成的数据量,上述例子,表明每张表生成 100 条测试数据,实际可以根据需要调整引值,比如调整为:1000000,即代表生成一百万条测试数据。
  • --mysql-db: 连接的测试数据库名称。 其它几项参数较为简单,就不一一介绍了。

执行上述命令后,输出如下:

命令执行成功后,可以打开数据库查看生成的数据是否和设置的对应:

可以看到,已经自动生成了 100 条测试数据了,如果需要一键成生成百万条测试数据,只需要将--table_size=100 修改为 --table_size=1000000即可。

3、选择一个 lua 脚本进行测试,如验证读写性能,执行命令如下:

sysbench /usr/share/sysbench/oltp_read_write.lua --mysql-user=root --mysql-password=xxx --mysql-host=192.168.0.103 --mysql-port=3306 --mysql-db=sysbench_test --tables=5 --table_size=100 --threads=10 --time=30 --report-interval=3 run

上述命令,表明使用了 10 个并发线程数,执行时间为 30 秒,每 3 秒输出一次测试信息。
实际读者可以将--threads=10--time=30值调大一些。

输出信息类似如下:

其中,对于我们比较重要的信息包括:

  • queries:查询总数及 qps
  • transactions:事务总数及 tps
  • Latency-95th percentile:前 95% 的请求的响应时间。

4、执行完测试,拿到所需要的测试结后,最后一步,记得要清理数据,否则后面的测试可能会受到影响。

sysbench /usr/share/sysbench/oltp_read_write.lua --tables=5 --table_size=100 --mysql-user=root --mysql-password=xxx --mysql-host=192.168.0.103 --mysql-port=3306 --mysql-db=sysbench_test cleanup

如果觉得有用,帮忙点个好看朋友圈转发分享一下就行。

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
共收到 4 条回复 时间 点赞

收藏了😀

收藏,赞~

老师,好

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册