Are you ready?

Are you ready?来 12 月的深圳穿短袖。2019年12月14日MTSC 深圳站,TesterHome 全体主创人员期待穿羽绒服的,穿冲锋衣的,穿棉服的,你、你、你一起穿起短袖,来一场火热的软件质量保障体系和测试研发技术交流

经过数月的征稿和审稿,我们的议题终于敲定,一大主会场,五大分会场,30 议题,我们相信,参会者定能大饱耳福,满载而归。

献上购票二维码,全价票即将售罄。

同时为了让大家在聆听演讲时候,对议题有更好的理解,我们想和大家聊聊深圳这次的议题,做到有的放矢,各取所需。虚的话就不多说,直接上正菜。我们从主会场开始。

主会场

公司 议题 讲师 会场 时间
软件绿色联盟 如何获得智能终端的真实质量? 朱少民 主会场 9:00-9:45
蚂蚁金服 蚂蚁金服工业级精细化测试体系建设 飞麦 主会场 9:45-10:30
腾讯 区块链的 AOP 异常测试实践之路 周勇钧 主会场 10:30-11:15
wetest 洞穿性能之 PerfDog 周绍胜 主会场 11:15-12:00

如何获得智能终端的真实质量?

为我们揭开序幕的是《全程软件测试》作者,软件绿色联盟标准评测组组长——朱少民教授。他此次给我们带来的议题是:如何获得智能终端的真实质量?

相信大家都被前几天的软件绿色联盟大会刷屏了,TesterHome 也有幸成为软件绿色联盟标准评测组的一员。作为软件绿色联盟标准评测组组长,朱教授此次会为我们分享绿盟标准评测组的成果,主要会聚焦在智能终端的稳定性、性能流畅、游戏体验、智能语音交互/语音助手等评测方法、技术和工具。从朱教授的分享中,我们可以了解目前业内应用的质量状况和面临的挑战。

蚂蚁金服工业级精细化测试体系建设

紧接着的是来自蚂蚁金服的飞麦给我们带来的蚂蚁金服工业级精细化测试体系建设,这个议题非常有意思,飞麦老师会为我们介绍:

  1. 蚂蚁金服测试现状&业务现状
  2. 业界精准化&精细化技术现状
  3. 蚂蚁精准化技术底盘 codecompass 介绍
  4. 蚂蚁工业级精准测试方案介绍
  5. 蚂蚁金服精准化测试成果探讨
  6. 精细化测试方向展望

这些都是蚂蚁成长到现在这个体量累积起来的测试体系,非常值得学习和借鉴。

区块链的 AOP 异常测试实践之路

从麻将演化出来的技术,目前是国内最火的技术,领导们都组织会议学习,各位还有什么理由不了解下。正规军进场,币圈被收编,链圈开始发力。去年北京 MTSC 大会的时候,我们接收到很多区块链的议题,我们都毙掉了。原因有二,一个不成熟,第二是都是区块链是什么的介绍。事实上到了今天,我们看看外面的分享也都是蜻蜓点水的分享,真正的区块链技术分享都在内部。

腾讯的周勇钧老师给我们带来的这个议题,可不是简单的介绍区块链是什么。这世界总是一部分人先富起来。当你还在想区块链是什么的时候,想着怎么测试的时候,人家已经研发出了 AOP 异常测试的思路和落地方案了。

在这次的分享中,周老师会为我们介绍,区块链会有哪些异常,如何利用 AOP 的技术来模拟这些异常,在不改动源代码基础上,在特定功能处理设置锚定点,注入增强字节码,从而做到精准的异常注入。

洞穿性能之 PerfDog

要我说,性能狗 PerfDog 是 WeTest 目前来说,推出来最好用的一款工具,也是 TesterHome 社区里反馈比较好,比较正向的工具,要知道,TesterHome 的用户都是比较挑剔,也反感商业解决方案的人,这次能接受 PerfDog,说明 PerfDog 真的是诚意之作。小编我也体验过一把,社区公众号也推过一篇关于 PerfDog 的文章。使用方便,数据直观,手机端,pc 端,web 端,三端数据齐全,完成度非常高。相信 WeTest 的周绍胜老师会给我们挖掘更多的使用技巧和使用场景,拭目以待。

高新专场

下面是高新专场,MTSC 深圳站下午,将会拆出 5 个分会场,时间从下午 1 点半到 5 点半。

小鹏汽车 智能车载系统自动化测试实践 林少康 高新专场 13:30-14:15
大疆创新 探索天空之城,寻觅质量轨迹 张志权 高雪健 高新专场 14:15-15:00
阿里文娱 让视频算法为质量服务 李禹 高新专场 15:00-15:45
中场 15 分钟休息
蚂蚁金服 测试有效性度量 张翔(义理) 高新专场 16:00-16:45
平安证券 基于生产日志的接口用例设计与优化 谭林斯 高新专场 16:45-17:30

智能车载系统自动化测试实践

一直都觉得汽车是一个奇迹。迄今为止,汽车仍然是大规模生产的民用产品中最为复杂的工业。数万个零件,且设计寿命往往是在十年甚至往上,这期间还得接受日晒、风吹、雨打的折磨。它要求维护尽可能简单,成本尽可能低,可靠性尽可能高。(以上 copy from 车界微视)

作为现代车上必不可少的智能车载系统,我一直好奇是怎么测试的,可能我就差辆车来测试智能车载系统了吧(滑稽脸)?这次来自小鹏汽车的林少康老师会从以下几个方面给我们介绍智能车载系统是如果测试的。

  1. 智能车载系统自动化测试发展路线
  2. 如何设计智能车载系统自动化测试框架
  3. 搭建智能车载系统自动化测试台架
  4. 智能车载系统性能、稳定性测试
  5. 自动化测试平台化

当你了解之后,还敢不敢开车或者坐车?软件质量有时候真的等于生命。

探索天空之城,寻觅质量轨迹

这个议题厉害了,我们看到 ppt 的时候,也是眼前一亮。有种我们平时就测测软件,突然来了个测飞机的人那种感觉。当然来自大疆创新的张志权、高雪健两位老师的确是给我们讲了大疆的无人机是怎么测试的。从 DJI 产品质量保障流程到 app 自动化测试,再到自动飞行测试,再到画质自动化测试,我一直在感叹,这测试成本真高,得爆多少机啊?

让视频算法为质量服务

来自阿里文娱的李禹(testly)老师沉浸视频算法多年,不仅技术做的好, ppt 写的也好。该议题从三方面给大家介绍了视频算法在视频质量上的作用和落地。

  1. 视频算法介绍&特点
  2. 客户端加载耗时评估方案&播放卡顿评测
  3. 视频算法&质量更多场景

从理论到实践,从用户痛点到测试痛点,详细讲述了视频算法如何帮助提高播放体验,非常适合做直播做视频网站的同学来学习。

测试有效性度量

这是一个比较开放性的议题了,测试有效性一直是业内的难题,也是非常灵魂的拷问,

“这么多的 CASE,花了了⼤大量量时间和资源去运⾏行行,真能发现 BUG 吗?”
“CI 做到 90% 的⾏行行覆盖率了了,能发现问题吗?”
“测试⽤用例例越来越多,删⼀一些,会不不会就发现不不了了问题了了?”
“怎么找出那些为了了覆盖⽽而覆盖,发现不不了了真正问题 的测试⽤用例例?” 你怎么知道你的测试是有效的?

来自蚂蚁金服的义理老师从理论推演上证明方案的有效性,并从工程角度进行了落地。运行时,进行链路扫描和内存注入,在非运⾏时,进行静态扫描和代码注⼊。有着坚实的理论支撑,工程化落地也更加可行。

基于生产日志的接口用例设计与优化

现有业内的自动化测试平台有哪些问题:

  1. 用例覆盖有限,接口层面细微的变化,测试人员可能并不知情,导致漏测
  2. 测试用例的设计高度依赖测试人员的能力,与真实的用户操作存在一定差距
  3. 自动化用例缺乏有效的监督检查,测试人员配置随意

怎么解决?在生产日志上做文章是目前一个主流的方向,网易的 TCPCopy,阿里的 Doom 都是这一类的。这次,来自平安证券谭林斯老师也给我们带来了这一方向的研究。从日志解析,自动生成用例,到用例自动评审,都有着非常独到的创新点,值得学习。

AI 专场

AI 专场里,有 3 个议题运用 AI 做智能化测试,有 2 个测试 AI 的议题。

腾讯 AI 算法的精准测试及样本之痛 鲁四喜 AI 专场 13:30-14:15
wetest 基于游戏的图像异常 AI 检测实践 王君乐 AI 专场 14:15-15:00
OPPO 基于图像分类的下一代速度类测试解决方案 冯张弛 AI 专场 15:00-15:45
中场 15 分钟休息
百度 API 测试在智能化测试时代的探索与实践 宿瀚元 AI 专场 16:00-16:45
百度 广告系统大规模机器学习质量保障实践 何晴 AI 专场 16:45-17:30

AI 算法的精准测试及样本之痛

腾讯的鲁四喜老师给我们带来的分享,是如何精准地测试 AI 算法。腾讯深海实验室提供 AI 能力,比如:

  1. 证件 OCR(分类器、香港身份证等)
  2. 证件鉴伪(香港身份证、通用鉴伪等)
  3. 活体检测
  4. 人证比对(证件人像抠图、证件生活照比对)

我们在使用银行类的软件基本都会用到。对于这些能力背后的 AI 算法,如果仅仅靠黑盒测试是远远不够的,因为:

  1. 端到端黑盒测试局限大
  2. 测试样本少
  3. 真实样本采集慢

鲁老师就针对 AI 算法测试中的痛点进行了一一解读,并提出了解决方案。

基于游戏的图像异常 AI 检测实践

WeTest 所在的腾讯互动娱乐品质管理部,一直以来保障着腾讯所有游戏的品质生命线。而像 Turing lab 这样的实验室为我们品质保障提供了坚实的技术后盾。这次邀请到王君乐老师正是腾讯互娱品质管理部 Turing Lab 图像团队负责人。

我们的 AI 在现在分成两个方向,一个是智能的自动操作化,另外一个就是智能的去检测。王君乐老师给我们带来的分享就是基于游戏的图像异常 AI 检测实践。

玩游戏的同学一定知道游戏时候画面异常有各种各样,雪花,拖影,跳跃,黑屏。尤其是在移动设备上,各种各样的机型,系统和分辨率,这类异常如果靠人去检测,那相当于要雇佣一个 24 小时的铁人在那边天天盯着了。Turing Lab 通过数据算法框架,到引入深度学习,再进行优化和演进,有了一套完整的测试方案。整体方案对测试人员提效显著。

基于图像分类的下一代速度类测试解决方案

大家都知道 OPPO 光学防抖,其实 OPPO 测试做技术也有一套。冯张弛老师对传统的速度类测试方案进行了改革。想想我们以前怎么测试应用启动速度的?

  1. 埋个点,拉日志出来,看看 activity 加载出来的时间。
  2. 如果觉得埋点不是人的感官速度,那么就用相机来拍摄,然后数帧。

随便想想就觉得烦,无论是埋点和数帧,首先不普适,第二耗人力。冯张弛老师通过图像识别和分类,打破传统方案的桎梏,实现了从半自动化到全自动化,并将该方案融入到持续集成中去,是一个过程可借鉴,结果可复制的方案。

API 测试在智能化测试时代的探索与实践

来自百度的宿瀚元老师,将会为我们介绍百度 API 测试平台,

  1. 百度 API 测试平台背景

  2. 智能化测试时代的新挑战

  3. 智能化测试时代的新挑战

  4. API 测试智能化 -用例智能选择

我们在高新场看到,有通过线上日志生成接口测试用例的实践,那百度的这个 API 测试平台就厉害了,直接利用 AI 技术,识别 API 信息,直接生成接口测试用例和脚本,更加有意思的是,还能根据场景,智能地选择测试用例。是不是很厉害?记得来现场,亲自问问宿瀚元老师吧。

广告系统大规模机器学习质量保障实践

这个议题来自百度搜索广告模型业务质量负责人——何晴老师。众所周知,广告系统是天生的大数据和大规模。当我们打开网页,打开朋友圈,打开抖音的时候,各种各样的广告铺面而来,你会发现很多广告越来越贴切你的需求,比如你是程序员,治疗脱发的广告肯定会推送给你。这就是广告系统中的推荐系统。何晴老师将会就以下两方面给我们介绍他们的质量保障体系。

  1. 机器学习质量定义
  2. 凤巢机器学习典型问题分析
  3. 凤巢机器学习质量保障建设

做推荐系统和搜索引擎的同学不能错过哦。

移动专场

移动专场是 TesterHome 的特长了,社区起始于移动测试,然后延伸到软件质量的方方面面。这次深圳站的移动专场议题同样非常给力。

阿里 UC 对 App 崩溃 Say No! 如何长期保持 1‰以下崩溃率 黄健基 移动专场 13:30-14:15
wetest 移动端 APP 自动化兼容性测试的提效之路 赖勇辉 移动专场 14:15-15:00
阿里巴巴 Aliexpress APP 端侧数据智能化测试实践 程召(天道) 移动专场 15:00-15:45
中场 15 分钟休息
望尘科技 游戏 UI 自动化实践 邓纯 移动专场 16:00-16:45
蚂蚁金服 进化的覆盖率——代码实时染色系统 周为 翟帅 移动专场 16:45-17:30
网易 移动端自动化测试的进化与落地 王建军 移动专场 17:30-18:15

对 App 崩溃 Say No! 如何长期保持 1‰以下崩溃率

主会场第一个议题里,朱教授会给大家介绍目前应用的崩溃率,其实整个业内平均一下是非常高的。但是在几个大厂里,App 崩溃却控制的很好,千分之一,甚至万分之一也不是吹牛。尤其是阿里系的应用,在亿级用户下,还能保持如此低的崩溃率,这其中必然有很多值得学习的地方。这次,阿里 UC 的黄健基老师为我们带来的这个分享,主要会从线上监控的角度来推动稳定性,主要涉及:

  1. 为什么要做线上监控?
  2. 崩溃采集能力建设
  3. 采集链路实时性建设
  4. 平台对崩溃的处理能力建设
  5. 多维分析能力,快速定位错误能力
  6. 监控报警能力建设

想要对 App 崩溃 Say No! 的同学,快来取经吧。

移动端 APP 自动化兼容性测试的提效之路

移动端最经典也最难解决的几个问题中肯定有兼容性测试这条。传统的做法一般是拉取主流机型,然后在日常测试中,随机选择机型进行测试。这样子既耗费人力,效率又低下。来自腾讯 IEG 图灵实验室的赖勇辉老师这次给我们带来了移动端 APP 自动化兼容性测试的提效之路,不但介绍了自动化兼容性测试,还延展到了如何对自动化兼容性测试进行提效。整个议题将围绕以下三方面展开:

  1. 自动化兼容性测试工具
  2. 自动化兼容性测试平台
  3. 自动化兼容性测试的提效之路

APP 端侧数据智能化测试实践

这个议题来自阿里 Express 的天道。去年北京大会的时候就想邀请他来,后面由于各种问题,没有成行。今年深圳站再次联系了天道,恰巧他搞了一套 App 端的录制回放,这个也是我在口碑时候,想搞的东西。这个 App 端的录制回放,没有接触过的人可以理解为客户端的 Doom。

当然天道的演讲不止于此,在演讲中,他会详细介绍分层测试方案中 APP 端侧基于数据智能化的解决方案,通过请求对比、请求回放、APPmock 提升客户端、服务端的测试工作效率。

通过他的演讲,听众将会了解进一两年 APP 测试体系在传统的 monkey 适配、真机远程、一些 APP 专项上,目前更关注哪些新东西,会了解 APP 端侧分层体系,寻求一直客户端、服务端前后端分离,避免、减低相互依赖,数据驱动的测试解决方案。

游戏 UI 自动化实践

UI 自动化稳定性一直是痛点,来自望尘科技的邓纯老师为我们带来的是游戏 UI 自动化的实践,讲师讲述了望尘科技的其中一个游戏项目写了 1000+ 以上的自动化用例,通过一些技巧来提升稳定性到 95% 的自动化实践分享。

在游戏自动化的运用了业内主流 pageObject 的三层模式,又为了提高速度采取四台机器一起来执行,在遇到执行不满足条件的阻塞情况,为了提高稳定性对项目定制了一套 UI 界面关系的建模,可以做为遇到异常进行自动化自动恢复,当然要做到自动化自动恢复,需要 case 最小颗粒度/互相独立。

听众在大会上可以了解三层模式的 pageObject 在实际工作中如何规划使用,如何在自身项目上定制建模,以及一些用例管理的思路。

进化的覆盖率——代码实时染色系统

MTSC 北京大会优秀议题深圳巡演,不吹牛的说,目前做的最好的覆盖率实践啦。错过北京大会的,不能再错过深圳大会了。

移动端自动化测试的进化与落地

2018 年,AirtestProject 次世代 UI 自动化测试解决方案在 MTSC 大会上亮相,技惊四座。一年过去了,很多游戏公司都用上了 Airtest。而项目本身也并没有停滞,这一年 Airtest Project 有了自己的工具生态链,可以用于游戏、原生 app、PC 端游戏等。基于 Airtest Project 用户可以搭建一套可靠、合用的基础设施。

本次来自网易的王建军老师会给大家分享 Airtest Project,AirLab 平台。做游戏测试的同学不可错过。

质量保障专场

360 给你一个测试团队 你该怎么管 高学文 质量保障 13:30-14:15
小赢科技 金融科技研发效能提升 游小华 质量保障 14:15-15:00
bilibili bilibili 质量体系建设探索与实践 王伯龙 质量保障 15:00-15:45
中场 15 分钟休息
网易云音乐 如何打造智能化的舆情监控平台 蒋超 质量保障 16:00-16:45
字节跳动 toB 业务的工程效能提升探索 张尤长 质量保障 16:45-17:30

给你一个测试团队,你该怎么管

听完高学文老师的议题,什么都不说了,我就差一个测试团队了。一样是 MTSC 北京大会优秀议题深圳巡演,和之前不同的是,高学文老师还整合上一次大会的反馈进行了改进。

作为 360 QTEST 负责人和测试总监,高学文老师结合自己多年带测试团队的经验,从以下三个方面讲诉了如何带好一个测试团队:

  1. 测试技术管理的核心
  2. 测试团队的组织转型及问题
  3. 测试组织的技术转型及流程优化及问题

如果你刚刚成为 leader,开始带领团队,那么这个议题会非常适合你。

金融科技研发效能提升

小赢科技,作为硕果仅存的几家互金企业,我们有必要请他们来问我们分享下金融科技公司的研发效能提升。游小华老师会为我们介绍小赢在环境治理,自动化测试,流程管控上的探索和实践。同时结合金融科技的业务特点,做出自己的落地方案。

bilibili 质量体系建设探索与实践

有传说是,每一个二次元都是 B 站的测试,因为带了二次元的标签,所以我们对哔哩哔哩的质量体系也很感兴趣。王伯龙老师在本次的演讲中会介绍 B 站的业务特点,QA 痛点,解决方案等一系列探索和实战。从服务端到客户端,从流程到 CI,是一整套质量体系的介绍。

如何打造智能化的舆情监控平台

传统的舆情都是服务台或者 call center 做的,最近几年,随着测试的右移,测试也开始关注舆情,通过舆情来反推产品体验和质量。众所周知,网易云音乐是最有温度的音乐应用,音乐的评价也是金句频出,一旦产品和用户的交流多了,舆情就显得尤为重要。 这次网易云音乐的蒋超老师给我们分享的议题就是如何打造智能化的舆情监控平台。整个演讲将围绕以下几点展开:

  1. 云音乐的舆情在哪里
  2. QA 为什么要做舆情监控
  3. 舆情监控实践
  4. 舆情监控的收益

议题中还引入了深度学习,NLP 等新技术,给听众呈现了一个非常完整的舆情监控平台。

ToB 业务的工程效能提升探索

大家对字节跳动的认知可能还停留在今日头条和抖音,事实上字节跳动在 B 端业务上也已经开始布局,投资石墨文档,做 lark,收购幕布,张一鸣有着一颗 To B 的野心。

这次,字节跳动的测试架构师张尤长,给我们带来的了有关 ToB 业务的工程效能提升探索的分享,演讲分为:

  1. 业务和管理理的挑战
  2. ⼯工程效能探索思路
  3. 实践及效果

完整地讲诉了字节跳动 ToB 业务的工程效能体系建设,遇到的困难,如何解决提效的过程。

开源和质量保障专场

由于质量保障议题投稿非常多,开源项目较少,所以我们把这两个整合成一个专场。

唯品会 唯品会高效自动化测试实践及快速反馈 马家麒 开源&质量保障 13:30-14:15
wetest 腾讯质量监控中台建设实战 刘华星 开源&质量保障 14:15-15:00
网易云音乐 网易云音乐稳定性保障体系 朱丽青 开源&质量保障 15:00-15:45
中场 15 分钟休息
蚂蚁金服 无线自动化测试框架 SoloPi 设计架构解析 茅舍 开源&质量保障 16:00-16:45
比格基地 Tcloud 云测平台 - 多服务框架分享 王杰 王金龙 开源&质量保障 16:45-17:30

高效自动化测试实践及快速反馈

来自唯品会的马家麒老师给我们带来的分享是唯品会高效自动化测试实践及快速反馈。议题的大纲如下:

  1. 自动化测试策略和架构
  2. 服务端自动化和 Mock
  3. 字节码增强与健壮性测试
  4. 覆盖率收集和统计
  5. 分布式调度及快速反馈

不得不说,又是一个非常经典而且完整的自动化体系。一年前,很多公司在这一方面都是零零碎碎的,今年基本上都是五脏俱全了。

腾讯质量监控中台建设实战

此中台,不是我们知道的最近最火的中台。来自 WeTest 的刘华星老师,在这个议题会为我们介绍腾讯客户端性能分析工具 QAPM,以及基于 QAPM 建设起来的质量监控中台。通过我们自己的内建,丰富 apm 功能,用最小的精力解决业务痛点,个性化需求,产生更多价值,影响行业,更重要的是借助腾讯优秀的经验服务于产业互联网。

网易云音乐稳定性保障体系

又是一个网易云音乐的议题,内容相当不错。网易云音乐的朱丽青老师,在该议题中,着重介绍了网易云音乐的稳定性保障体系:

  1. 基础设施建设
  2. 依赖治理实践
  3. 故障演练实践
  4. 后续规划

我们在审核 ppt 的时候,不少老师认为该议题可以帮助做移动应用的同学建立自己公司的稳定性保障体系。

无线自动化测试框架 SoloPi 设计架构解析

这个是我们 TTF(TesterHome Testing Foundation)项目的议题啦,2019 年 MTSC 北京大会,支付宝的 soloPi 闪亮登场,圈粉无数。半年过去了,经过了内部多次的迭代,soloPi 成为了什么样子,相信很多人一定很感兴趣。这里就不多说了,到现场一探究竟吧。

Tcloud 云测平台 - 多服务框架分享

一样还是我们 TTF(TesterHome Testing Foundation)项目的议题。 Tcloud(Test Cloud) 致力于打造云测平台,测试数据上云,移动终端云 (云真机)。统一定制化的流程系统,管理执行者工作效率,任务到期提醒,方便快捷查看 “我的” 相关任务,使需求->开发->测试->验收->发布更高效。最关键的是它是开源的。

此次,我们请来了 Tcloud 的作者王杰和王金龙两位老师,来分享他们做 Tcloud 的心路历程。

总结

至此,30 个议题,已经都走马看花一样,帮大家分析完毕,相信大家看完也会心有所属,有所思考和领悟。希望大家带着问题来,带着答案离开,我们 12 月 14 号,深圳不见不散!


↙↙↙阅读原文可查看相关链接,并与作者交流