🎉 🎂 🍰 TesterHome 创立 9 周年纪念日 🍰 🎂 🎉

开源测试工具 从业务测试需求痛点到自动化测试平台设计开发

少年 · 2020年12月24日 · 最后由 少年 回复于 2021年02月03日 · 12329 次阅读
本帖已被设为精华帖!

目录

前言

这段时间用爱发电,在 UI 自动化测试平台上做了全新的探索和设计,在落地性,效益性,业务性等方面做了进一步思考和优化。

系统需求设计 + 技术框架选型 + 数据表结构设计 + 后端开发 + 前端开发 + 镜像打包部署 + docker 容器化上线 + CI/CD 兼容设计,都由我一个人独立设计开发完成的,挑战很大,但是能顺利完成,也算是给自己 2020 年一个满意的答卷,当然更满意的其实是打开了 UI 自动化测试平台新世界的大门。

系统从 0 到 1 大概花了两个月,基本下班有时间都在写,11 月份主要是在 业务需求痛点整理与思考 系统方案设计 技术实现的可行性 系统技术架构的扩展性和优越性 核心 demo 的实现 等方面进行研究和探索,12 月份就是 CRUD 及业务落地 demo 展示。

个人认为 11 月份其实才是最核心的思考,毕竟不结合业务的设计和不优化技术框架设计的开发都是为未来迭代埋雷。12 月份则落实这份思考,用成果展示出来。

在此分享一下我的一些心得体会, 这可能比我告诉你如何 CRUD 更有用。

UI 自动化的现状

市面上开源的优秀的 UI 自动化平台很少,至少比接口自动化平台少得多,原因其实也很简单:

1.难度大。

接口自动化平台本质上都只是在围绕 request 做文章,到 UI 自动化平台,除了思考 selenium + appium(目前普遍都是这个核心),还需要去思考页面变化大,元素管理难度大,落地成本高,任务调度方式,用例执行方式等等问题,以及不一定会思考的问题,比如如何优化这些缺点,以及如何做进一步的提升?

2.成本高。

此前也曾写过一个 UI 的自动化测试平台 Autotest_platform,主要是以 selenium 为核心,POM 为用例管理机制,定制关键字封装通用的方法,并通过填表格的方式完成 UI 测试用例的编写。

然而就算用 POM 模式去管理,维护成本一样很高,当然仅用作稳定的回归测试,还是很有价值的。

3.发展快。

UI 自动化测试框架,除了 selenium,appium,其他优秀的框架比如 cypress 以及 puppeteer 都在持续不断地迭代优化,成为新秀。

甚至,为了降低 UI 自动化的成本,很多的框架都支持通过录制的方式生成 UI 自动化脚本。当然录制有它的好,也有它的不好。

所以总结的现状就是:

  • 平台化的 UI 自动化大都基于 (selenium / appium) 等以 python / java 为体系。
  • 脚本化的 UI 自动化框架新秀都基于 (cypress / puppeteer) 等以 nodejs 为体系。

我为什么要做 UI 自动化平台

  • 做自动化框架的话,要 部门 / 组 的人起码都会写 UI 自动化脚本,但是大部分 UI 测试其实都是点点点,平台落地性比框架大。
  • 自动化脚本框架也要维护,为什么不直接做成平台?起码做成平台以后,在维护用例方面不需要会写代码的人。
  • 平台在人员管理,项目管理,用例管理,结果展示,数据统计等方面肯定更占优势。

我想做一个什么样的 UI 自动化平台

业务测试痛点

先说下我的业务测试痛点:

  • 很容易大变动 UI 的点点点,UI 自动化成本非常高。
  • 既然大变动那肯定没有回归测试,但是回归测试是很有必要的,因为不是全部都大变动,其实只是少数大变动而已。
  • 测试环境,预发布环境,灰度发布环境,线上环境,每个流程其实都在做重复的事情。
  • UI 异常流程测试,经常需要抓包工具来对某个流程里面每个 url 的各个状态来 mock / breakpoint / abort 等等等。
  • 测埋点。

由业务痛点提炼出来的需求

1.需要解决成本高且无回归测试问题。

  • 如果平台能够支持用 录制方式生成的脚本 来作为用例管理,成本不就减低了吗?

比如这样:

2.需要集成抓包工具的功能在 UI 流程的测试中。

比如这样:

3.能测埋点。

我大概是离不开测埋点这个命了,反正到手的业务基本都有这个需求,测起来其实是非常繁琐的。

从 2019 年开始就跟它抗争。

摸索了很多,然后到 2020 年又优化一版。

当然都是脚本框架的形式,需要把它们集成在平台上。

比如这样:

4.系统要高兼容性和高扩展性

虽然目前业务测试主要是基于 puppeteer 来做,但是路不能走窄,至少还能兼容其他测试框架,也可以扩展做压测等等。

比如这样:

5.异步与同步的用例执行

  • 同步: 要能实时获取结果和截图在线调试脚本

既然是在平台上设计用例,那肯定要能实时返回结果以供我调试,而不是说每次我都要执行完了才去结果页里面看结果,多麻烦,而且脚本错了我都不知道错哪里。

比如这样:

  • 异步: 脚本我调试好了,就直接一键帮我跑吧,我最后再看报告看看哪些用例不通过。

那这种时候很明显需要一个异步的任务集合。

比如这样:

由需求设计系统

经过上面的思考,所以项目的需求很清楚了。

项目背景

  • 前端页面变动大,无 UI 自动化,回归测试成本高。
  • 异常测试需要重复抓包中断或 mock,测试周期长,成本高。
  • 开源自动化测试 UI 平台大都基于 python + selenium 开发,无法支持快速录制测试,埋点测试,页面性能测试等功能。

项目需求

  • 能够支持扩展任意前端测试框架如 puppeteer/cypress/selenium/appium 等用例。
  • 能够通用于所有前端系统界面的 UI 自动化测试。
  • 能够通过快速录制脚本的方式生成测试用例。
  • 能够支持适配任何系统的埋点测试。
  • 能够支持任意 mock 数据测试。
  • 能够支持页面性能测试。

开发难点

  • 没得抄。

开源没有这种系统设计,这是一个全新的探索和优化设计,那只能从头来搞了。

为了更快落地投入使用,能不重复造轮子就不造,比如前端就用饿了么组件 CRUD。

但是后端的核心还是得自己写。

  • 工作量大。

毕竟前后端都是自己设计自己写。

  • 难度大。

后端毕竟是 nodejs 而不是 python,那其实技术栈要求还是比较高的。

系统架构设计必须是优越的,具备高扩展性,高兼容性,高执行性,等等。

新型 UI 自动化平台的可行性探索

所以平台的核心实现是什么?需要解决什么样的问题?

如果不攻克这些难关,那么平台的方案设计是无法实现的。

基本问题

  • 前端传过来录制好的脚本本质上只是个 string,如何执行录制的脚本用例?
  • 对于 puppeteer 里面支持的 api,比如那些 mock,埋点监听,页面性能分析等功能,如何在 UI 用例中使用?
  • 执行完用例以后,如何拿到我想要的断言结果信息?

优化问题

  • 要对接 selenium/puppeteer/appium... 等不同的测试框架,如何去适配对接兼容?
  • 测试用例数量非常多的场景下,如何提高执行速度?
  • 在调试测试用例过程中,如何同步获取到测试用例结果?基于 puppeteer 的 js 测试脚本都是异步设计,异步容易实现,同步如何实现?
  • 在调试测试用例过程中,从同步获取的测试用例结果数据中,截图是动态的,如何在前端动态展示?
  • 在调试测试用例过程中,同步获取测试结果会频繁读写数据库,如何优化?

如果能解决如上的所有问题,那么系统就具备可行性,扩展性,优越性。

从上面业务测试需求痛点的举例和系统的截图,其实都表明我已经给所有的问题做出了解答和优化,UI 自动化测试平台,自此打开了一条全新的大门。

当然,如何解决这些问题就是一个需要更长篇幅才能说清楚的事情了,这次主题主要是分享 从业务测试需求痛点到自动化测试平台设计开发 这一步过程中的思考。

除此之外其实还有很多的坑,一路开发过来,都是辛酸泪。

所幸快速成长,所幸披荆斩棘,所以就有这个平台,这次历程分享。

PS:技术交流 QQ 群 552643038

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
共收到 37 条回复 时间 点赞

测试平台也要一年一换了吗?😂

MarvinWu 回复

持续思考,持续进步 hhh

脚本化的 UI 自动化框架新秀都基于 (cypress / puppeteer) 等以 nodejs 为体系。这个观点不对吧!

里面抓包是基于 anyproxy 这种做的吗?

少年 #36 · 2020年12月25日 Author

目前只做了基于 puppeteer 的,mitmproxy / anyproxy 都可以扩展兼容。

愿闻其详

录制方式生成脚本是便捷,问题是生成的脚本几乎没有可维护性。

Thirty-Thirty 回复

不用维护,哪些 UI 改了就重录替代用例,快录快用。目的是没改的快速回归,以及很多第三方的置入功能,比如 mock 比如 埋点监听 等等。

少年 回复

很多时候某个功能点的变更会引起很多用例失败,这时候修改一两处就能维护好这些受影响的用例,而对这些用例都重新录制是很花时间精力的。
录制的思想,属于自动化测试的上古时期了吧。

Thirty-Thirty 回复

第一,自动化代码能够做到 修改一两处就能维护好这些受影响的用例,我感觉其实更花精力,还必须得项目很稳定。
第二, 修改一两处就能维护好这些受影响的用例,这种情况太理想了,更多时候 UI 是全部大改的,代码基本要重写。而且你要应用的项目不止一个,有 N 个项目都在迭代更新,真的能有这么多份写好的自动化代码吗?
第三,本身手工测试,就是要点点点,只不过这次,在 dev 环境点完了,开了录制,接下来就可以在 test / staging / release 上快速回归,不需要投入会写代码的人力物力。
第四,如果真的能够定位到 修改一两处就能维护好这些受影响的用例,其实对于录制来说,真的不用重新录,把某些改动的地方匹配替换一下就行了。

少年 回复

有个疑问,对于第三点提到的场景,第一个环境点完了,后面的可以直接回归。但不同环境数据乃至账号都不一样,怎么确保录制的脚本在数据不同的情况下还能正常回归?
另外,录制的脚本,对于界面关键元素展示的校验,应该还是得手动加上的吧?

少年 #12 · 2020年12月25日 Author
陈恒捷 回复

首先,登录问题可以用万能 token 做处理,对于所需的业务数据,其实用 mock 做处理直接返回,不需要真正请求到后端,然后只校验 UI 的正常显示,关于数据逻辑校验的还是放到接口测试来做。

断言的话,不用写在脚本里面,在用例里面配,不过确实要自己定位加,比如这样。

实际上需求可能根本没有你想象的那样
大部分人不会用自动化 公司也不会投入,对于页面功能测试 业务简单的 点点点更高效 业务复杂的 平台做不了;
UI 到底关注什么 首先是功能吧;
我不提倡大家都一股脑去做什么平台,先仔细想想自己公司需求是什么,你怎么做能提高效率 而不是今天用这个平台 明天用那个平台 学了很多平台的规矩 自己连平台是怎么做的也不知道;对测试本身来说你和点点点又有什么区别。本身也没有成长 我做什么平台。
建议在工作中 找到提高效率的本质方法 万变不离其宗。当需求足够时 引入或者自建 改造 适用于自己的才是最好的。

少年 #14 · 2020年12月29日 Author
TestDevWay 回复
  1. 大部分人不会用自动化,所以这个就是平台做出来就是为了给不会代码的人用的,因为只需要在点点点的时候开启录制即可。

  2. 业务简单的 点点点更高效,是点点点更快,但是回归呢?自动化本身意义是回归。

  3. UI到底关注什么 首先是功能吧,我的业务需求其实是更关注埋点,当然功能也关注。

  4. 我不提倡大家都一股脑去做什么平台,先仔细想想自己公司需求是什么,你怎么做能提高效率,这个你说的对,所以我这篇文章的核心其实是 从业务测试需求痛点到自动化测试平台设计开发,出发点要对,不然就是盲目开发,你应该详细看看文章。

  5. 建议在工作中 找到提高效率的本质方法 万变不离其宗。当需求足够时 引入或者自建 改造 适用于自己的才是最好的。 对的,核心就是为了提高回归效率和测埋点的效率,所以这个平台就是自建开发适用于我们业务测试的平台。

分享出来的目的主要是两点:

  1. 我是如何从业务测试痛点里面去找可以提高效率的点

  2. 除了传统的 python/java + selenium/appium,我们还能怎么样做 UI 自动化平台

Thirty-Thirty 回复

其实吧,现在也有录制的自动化测试平台,
只是人家有个 AI+Google
https://www.mabl.com/

YX-XiaoBai 2020 最后一天-年度总结 中提及了此贴 12月31日 15:29

我对自动化平台的一个疑问是,动态测试数据的准备和数据清理的步骤该怎么灵活处理?就是因为这个,我才一直坚持手撸代码的。

恒温 将本帖设为了精华贴 01月01日 08:34
少年 #19 · 2021年01月01日 Author
charles 回复

所有 UI 所需的数据,都内置 mock 做处理。

而且虽然脚本是录制的,但是其实不是只能录制,本质上只是个 js 脚本的 string 类型,所以很多处理可以根据业务自己用 js 去适配写些功能,后面这块准备抽出来单独做个业务的数据工厂和业务的函数工厂。

少年 回复

那我了解了,你这个纯粹做 UI 层的逻辑校验,不涉及后端逻辑。

少年 #21 · 2021年01月01日 Author
charles 回复

嗯,后端数据逻辑本来就更适合做在接口测试里面,没必要跟 UI 测试耦合在一起。

请问下上面提到的登陆用万能 token,如何获取,有啥限制条件呢

少年 #23 · 2021年01月04日 Author
luke 回复
  1. 系统是 jwt 设计的话,拿到 screct 自己就可以搞,去掉 expire 即可。

  2. 如果非 jwt 的单点登录的话,在开始 ui js 脚本前,手写 request 前置登录即可。

luke 回复

还可以和开发沟通后针对测试环境整一个

少年 救救孩子吧,实在不想用自动化测试平台了 中提及了此贴 01月05日 17:10

想请教下埋点的自动化测试,数据的准确性如何校验的?
每次版本上线都被埋点搞到崩溃,不是错报就是漏报,多报什么的。每个版本新的埋点 + 旧的埋点的回归。

少年 #27 · 2021年01月12日 Author
liuyang 回复

校验当然是以埋点文档为标准,自动化触发完以后,再神策对比。

liuyang 回复

建议要了解下背后的原因,一般风险应该在新埋点,老埋点不应该有影响。

还有一个招,让产品在测试环境就建好后续线上要用的几个主要漏斗报表,产品验收时让产品也看看数据有没有明显问题(比如漏报或错报引起转化断层)。

陈恒捷 回复

受教了。理论上是只会新的有问题,但是需求修改的时候不可避免会改到旧的逻辑。快速迭代情况下,很难覆盖到。

囤货 回复

感谢

liuyang 回复

改到旧逻辑的话,那通过代码 diff、和开发沟通等方式圈定影响范围,再针对性地去回归?一般改到旧逻辑,且改动较大,那就可以当做新功能完整测试了,这个时候原有的埋点也不一定能满足产品需要,需要产品更新下埋点需求。如果改动少,可以针对性回归。

这类问题用刚才我说的招也能快速发现最严重的问题,但很难保障无遗漏。核心点还是要知道开发改了啥,这样才能事半功倍。当然有资源直接把 UI 自动化和埋点检测结合,进行自动化验证,是最好的。不过听你说快速迭代和经常改到旧逻辑,估计你自动化维护成本也不会低。

有人部署成功的吗?怎么跨电脑使用?

我也是自己研发,自己写需求,自己造轮子,最后做了一个 整合 UI 和接口的平台,·1 个人做真心累,想商量的都没有,只有在不断的根据项目及易用性上进行改进!

charles 回复

可以使用调用方法的模式,自定义编写代码,然后在用例的步骤中需要执行的地方 插入就行 平台化里面 可以做到的

少年 #36 · 2021年01月18日 Author
lipenglo 回复

你 UI 自动化的核心是啥?selenium 吗?怎么解决维护成本问题?

是 web 断的 UI 自动化么?是否支持移动端

有一点不明白,既然 UI 变化很大,不停的变,录制一边变化和实际做一次测试的区别是啥呢?

少年 #39 · 2021年02月03日 Author
simonpatrick 回复
  1. 同一套动作,可以在 dev / test / staging / prod 等环境复用。
  2. 同一套动作,在埋点测试里面,每个用例里面拦截的 url 是不同的。
需要 登录 后方可回复, 如果你还没有账号请点击这里 注册