一、背景:

我司之前是没有技术驱动测试或工具驱动测试的历史,绝大部分测试是 “界面点点 + 在数据库手工查看数据” 的方式,所以需要开始建设测试技术体系,第一个切入点是做一个通吃公司主流项目的接口自动测试平台。我自己才转测开/自动化方向,难得有这种参与从无到有测试平台搭建的机会,于是看见我司留坑,加上老大肯收留,自己就跳进来了。

二、发帖缘由:

犹豫了很久要不要在社区里发这个贴。社区里关于接口自动测试、接口自动化已经有很多成熟的帖子,无论是实现思路还是底层编码,比我懂的大神有很多,我没必要去造一个已经存在的轮子。但同时我也留意到,社区里关于实现细节的普及贴其实不多而针对实现细节提问的同行不少,所以就想着要不要把自己这两个月踩过的一些坑总结发出来。询问了下老大建议后决定发。这也是第一次在 testerhome 上发帖,不足或说错的地方请各位大神多多纠正,欢迎带干货地喷,但拒绝为了喷而喷,毕竟在我眼里 testerhome 是个高大上的测试技术群😀 😀

三、踩坑总结:

第一类坑:跨语言带来的烦恼(业务代码是 java,接口测试平台是用 python 2.x):

1.1、https 参数的加密方式是我司自己写的,并不是公用的 md5、3des 算法。

理论上:

把对应的 java 代码拉下来,通过 jpype 模块去调用对应的类和方法,获取加密后的参数;

实际上:

jpype 每次调用都是先启动所在环境的 jvm,然后调用相关 java 类和方法,但是一次 python 脚本的启动只允许 jpype 启动关闭一次环境的 jvm,第二次启动 jvm 就会报错(网上找了一整天,没有得到很好的解决方案,老大这种测试专家表示呵呵),但一个接口通常伴随着 N 个 case,一个任务伴随着 N 个接口,不可能只调用一次 java 方法来加密参数。

解决方案:

方案一:以 beanshell 做中转,python 先通过命令调 beanshell,beanshell 去调对应的 java 文件,把加密后的参数放入公共临时文件(每次临时生成,使用完后当即删除),python 再去文件里取数据。可能有人问,为什么不存数据库临时表呢,呵呵说出来可能大家不相信,同环境下同一个 java 能成功操作 mysql,但用 beanshell 调用相关 java 时报 mysql 的 driver 找不到(我和老大又再次蒙圈。。)。写代码就是这么神奇的事情,永远会有逻辑上解释不通的灵异事件,都知道可能是环境或配置造成的,但你就是不知道环境哪里出错了。
方案二:把 java 的一些公共方法写到另一个服务端上,python 通过 http 访问该方法,获取服务端返回的加密参数,这是最合适的解决方案,不过我当时没有任何服务端的编程经验,连 spring mvc 也没使用过,考虑到项目时间成本不可能让我边学、边试、边做,老大说放春节后的重构工作里吧。

1.2、前端和后台数据格式上的协调(前端界面是老司机用 js 写,后台是我用 python2.x 写的)

理论上:

前端填写完接口配置信息,把数据丢到 mysql,前端操作触发后台开始跑接口测试,python 从 mysql 取出对应的接口配置信息,自动生成案例和对应参数(写入数据库),然后执行每条案例,将返回结果做断言,最后将断言结果、返回结果写入数据库。前端直接从 mysql 里取出对应信息在前台展示,简直完美!

实际上:

对于 json 字符串,js 和 python 的处理方式有区别,python 是先取出字符串可以直接 eval() 转 dict,随心所欲处理里面的数据,然后 str() 再转成字符串丢入 mysql 就行了,但 js 不行啦,js 要把字符串转成 json 的前提是字符串必须是标准的 json 字符串,而合法的 dict 和标准的 json 字符串之间还是有出入的(单双引号就能引发很多不兼容的血案),所以经常会出现这样的 bug,后台获取到接口返回数据(是 json 格式,只不过用的单引号...),数据不加工直接丢 mysql 里,前端取出后报错。

解决方案:

和前端老司机多沟通,每次出库把数据处理成 python 最爽的格式,每次入库前把数据处理成 js 最爽的方式,字面上看起来简单,但具体磨合,各种 replace 方法乱入的体验,只有经历过的新手才知道其中的 dan 疼。

1.3、服务器内部端到端的测试

就说一种情况,校验服务器内部端到端方法时,如果传的参数是个私有类怎么办(绝大部分都是传的一个自定义实体类过去,返回也是返回一个实体类)?
目前没有想好解决方案:按我的理解,这个级别的校验维度基本可以说是代码里的单个函数了,不走功能接口框架,放在白盒框架中实现,和老大讨论后,决定节后再说,先过个好年😆

第二类坑:语言自身底层的缺陷:

2.1 python 2.x 的隐式编码(就是不管你的编码格式是 utf-8 还是其它什么鬼,它都给你显示对应的 ascii 码,python3.x 没这个问题):

理论上:

当我用 requests.post 获取到接口返回内容时,只要 encode 成 utf-8,那么里面的汉字应该都能正常显示,并存入编码格式同为 utf-8 的 mysql 后依然正常显示;

实际上:

汉字部分确实是转成了 utf-8,但不好意思,python2.x 给你显示的是 ascii 码,就算加上 ascii=False 这样的参数都没用,并且存入 mysql 的依然是 ascii 码(python2.x 的这个坑真的害人不浅啊)。

解决方案:

方案一:
自己写方法将 dict 转 str,将 str(已经处理成标准的 json 格式)存入 mysql,ascii 码就会转成汉字
eg: {'name':'小今今','age':18},如果是 dict 格式,无论 print 还是存 mysql,“小今今” 都是以 ascii 码(如 u'\xe\xe3')显示,但如果循环这个 dict,最后拼成"{'name':'小今今','age':18}"字符串,print 和存入 mysql,“小今今” 能正常显示。
方案二:
少年,换 python3.x 吧😜

2.2 java 更适合处理数据结构已提前知晓的逻辑(针对流程级别的验证是用 java 实现):

理论上:

我设置一个预期结果(1 个标准的 json 字符串),通过 java 的 httpclient 获取到接口返回的内容(1 个标准的 json 字符串),我直接比较两个 json 字符串得到断言结果;

实际上:

java 不支持对象与对象直接进行比较。退一步,我自己写个方法来比较两个 json 是否相等,但对于测试平台而言,代码并不知道真实返回的 json 结构会是什么样子(有哪些 key,key 的数据类型是什么)。最低级的办法是统一把预期和实际结果的 json 统一转 json 字符串比较,但这样隐患很大,哪天返回的 json 数据顺序改变内容不变,这条 case 就废了。以前一直吐槽 jmeter 的断言太不好用了(只能是字符串唯独的比较),但自己遇到这个坑时才发现,jmeter 可能是不得不这么做😰

解决方案:

周五前端老司机在网上找到一个用 google.json 能对比两个 json 的帖子,准备下周一去试试,但如果后面断言要求我标出具体哪个 key 不一样,估计就 game over 了,为什么?因为我司开发返回的数据格式是 4 层 json 和 list 互套。。。结构还 TM 不统一,第一次看到后瞬间体会思寒大神之前帖子里那句 “浮沙上面建高楼” 的感觉。

四、结束语:

好啦,在代码层面目前让我觉得疼的坑就这么多,期间也有很多其它问题,但我觉得能自己百度、google、stackoverflow 等快速解决的问题,就没必要在这里提了,其实写到这里心中越来越觉得自己编码基础弱,但至少走出了这一步吧,小步慢跑式地成长我觉得最适合自己。另外,说下我自己对接口测试工具尤其是接口自动测试工具的理解吧:
1、接口测试工具的自动程度、使用门槛、通用型、轻量级四者一般得其二,如果自动程度高(自己生成案例、自己提 bug、自己锁定异常代码范围等)就必定伴随着定制程度高,基本建立在平台测试开发和业务开发团队之间互相制定的标准上,而且使用者要自己录入的接口配置信息(参数配置、预期结果设置等一系列信息),使用者必须了解最基本的接口测试和该接口底层协议知识,这样的平台也不太可能是脚本级别能做到的。如果通用型高、轻量级,请看 jmeter 和 postman,需要一定使用门槛,在不改写不二次封装的前提下自动程度可以算没有吧。

2、一个公司的测试整体技术水平发展很大程度上依赖这家公司的研发质量水平,之前已经有很多前辈发帖说明此观点,这里不累述。同理,一个公司的测试技术链的搭建很大程度依赖于这个公司整体的 IT 水平,比如关于落地项目的私钥生成方式、参数加密规则等问题,我和开发沟通了四轮才捋顺,为什么?因为开发发出来的文档、口头说的、代码里最终写的三者两两有出入(研发的沟通机制需要慢慢提高),最要命的是自己写的代码自己说不清楚也是没谁了。总之,未来的路任重而道远吧,求老大赶紧补位一个业内大神过来带我飞呀。

3、第一次发帖就扯这么多,只希望同行看到这篇帖子后,也许能跟自己现在或即将要做的同类项目产生联想或对比,也许能帮助规避或解决一些坑,那么,这篇帖子就发得值了。再不济,就当是给各位看官稍稍展示下一个菜鸟转型测试成长路上的踩坑史吧。

最后声明,因为我不清楚社区具体对帖子的处理规则,所以如果大家要转载也请在不违背社区帖子转载规则的前提下转,谢谢。最后再次提示,由于本人还在菜鸟阶段,要喷请带干货喷,testerhome 在我眼中是个高大上的测试技术群😺


↙↙↙阅读原文可查看相关链接,并与作者交流