商业转载请联系腾讯 WeTest 获得授权,非商业转载请注明出处。
原文链接:http://wetest.qq.com/lab/view/330.html
手游市场从 2015 年开始渐渐趋于平稳,“精品化” 概念已经成为手游重要的发展方向。国内手游行业存在着增速放缓、流量获取成本增高的情况。这种现状意味着,一旦手游质量发生闪失,同质产品会迅速涌入抢占市场。等手游开发者意识到质量问题并把问题解决后,市场已经落入竞品之手。因此,在如此市场格局之下,把控手游品质,似乎成为了手游突出重围,稳定增长的突破口。
兼容性问题是手游上线前最常见的问题,目前国内很多硬件厂商,对于 Android 版本,深度定制自己的 ROM、系统版本,例如小米的 MIUI、华为的 EMUI、联想的 VIBEUI 等。这就是 N 个厂商乘以 M 个版本,导致的版本数量爆炸,牵引出各种适配问题。
根据腾讯 WeTest2016 年全年测试数据得出,兼容问题出现最多的类型包括:安装失败、UI 异常、Exception、崩溃等。毫无疑问,这四个问题中的任何一个,都足以让玩家直接放弃游戏。
成功的手游很赚钱,如此火热的市场吸引了大量外挂、辅助、工作室等非法盈利团队,严重影响了游戏的收益、平衡,缩短游戏的生命周期。来自腾讯手游安全测试团队的专家曾多次展示过外挂的危害。
外挂的危害
为了保障游戏的收益不被影响,有众多爆款游戏的开发者不惜成立专门的安全对抗团队,与游戏外挂做斗争。
花屏、卡顿、延迟等游戏性能问题虽然不会直接导致玩家无法游戏,但直接影响游戏体验,逐渐造成用户流失。根据腾讯 WeTest 的公开数据,手游内存问题在低档机型上尤其严重,而角色扮演、动作冒险、飞行射击和网络游戏类均出现内存超标现象。整体手游的性能问题不容乐观,值得开发者关注。
这些让开发者头疼的问题,一样困扰着腾讯手游。为了解决问题,针对每一类问题成立了专项测试组,通过建立完整的测试流程和机制去保障质量,也就是外部开发者比较熟悉的腾讯手游锻造流程。
像 “兼容测试”、“安全测试” 以及 “性能测试”,均已经成为手游上线前必备测试环节,其重视程度可见一斑。以下我们为大家揭秘腾讯游戏是如何具体解决这些问题,其中又用到了哪些标准和原则。
手游上线前,必须对下面 6 个环节进行全量兼容测试;
全量兼容测试的 6 个环节
版本更新时,至少也需要做到安装、启动、登录、新手引导 4 个环节的测试,方能保障版本质量。而内部精品游戏的要求更高,关键游戏场景,还必须做深入的测试,以保障玩家体验。像《王者荣耀》这种现象级手游,即使是版本更新阶段,会深入核心 PVP 场景,反复测试兼容性。这也是《王者荣耀》得以在诸多同类产品竞争下保持市场领先地位的重要因素。
在腾讯游戏内部,大部分的兼容性测试仍然使用人工测试完成,其实测试成本非常高。所以在早期,因为团队人力紧张,排期有压力的时候,我们也考虑过采购第三方自动化兼容测试服务。但实际用下来,效果上有几点比较难受:
(1)问题的准确性、完整性不足
我们团队反馈问题必须要求验证必现性,>5 次 100% 出现才会归类为必现,还需反馈信息完整并且会根据市场占比评估出当前缺陷影响的人数范围,提出建议性的优先处理等级;而第三方服务会提出非常多的问题,需要测试投入精力去甄选出真正有效的问题,反而增加了确认工作的人力成本消耗。
(2)测试深度较浅,核心功能很难覆盖
第三方服务一般会测试到新手引导,但其实腾讯游戏对兼容测试的需要至少是覆盖核心功能和主要场景的。
(3)无法实现复杂操作
专业测试人员对缺陷的敏感度高,对缺陷定位准确。可以实现复杂操作步骤,如动作类、竞速类或随机事件。对音效、重力感应、AR/VR、智能玩具测试上无可替代。
整体评估下来效率有提升,但服务效果会有比较大的下滑。为了保障游戏测试的品质,也响应公司精品游戏的战略,在效率和质量 2 者中,我们最终选择了质量。我们愿意花更多的时间和成本把效果做好。
虽然兼容测试以人工测试为主,但我们始终也没有放弃对效率的追逐,团队其实也一直在研究自动化测试方案。其中,包括可以快速验证兼容的标准兼容测试,保障人工测试品质同时提高测试效率的多机同步助手;针对一些项目组提来的重度兼容需求,例如《王者荣耀》的 5v5 自动化测试,我们还针对性研发了 GAutomator 框架,获得 Unity 官方推荐,也是目前腾讯 unity 游戏的标配框架,被应用在《火影忍者》、《龙之谷》等众多项目的各种测试场景中。
目前,腾讯移动兼容性测试团队除了负责腾讯所有游戏的兼容性质量,也通过 WeTest 平台向外部开发者开放了同品质的兼容性测试服务。
2、手游安全专家测试
在腾讯内部,通常在游戏版本转功能测试的阶段就介入了安全模块的测试。腾讯 WeTest 的手游安全测试团队将审核的内容分为静态安全漏洞和动态安全漏洞。不同类型的问题测试思路和分析手段会有不同,对测试工具和测试方法也会有差别。
手游安全漏洞分析
(1)静态漏洞扫描
主要通过静态扫描的方式,对游戏 apk 中配置档、资源文件、脚本文件、manifest.xml、so 文件,通过自动扫描的方式来进行检查项的确认。(目前此块内容已集成到手游安全测试方案中,覆盖了 120+ 条安全检查项和信息安全测试项)
(2)动态风险分析
动态安全测试涉及的内容广泛,主要是根据游戏特定的内容和玩法,针对性地分析安全风险点,通过协议、函数、内存、脚本等技术,多维度检查游戏服务器对相应的风险点是否有完善的校验或反外挂策略。
根据对漏洞类型的提炼,手游安全测试团队总结了根据游戏中的获利点而生成的风险点,然后在不同的游戏中,结合具体玩法,又推导出相应的获益方式。通常根据风险点分析的方式,可以完整覆盖到游戏中涉及到安全的部分,结合检查点,就生成了可以在实际操作中执行的用例,形成闭环。
手游安全测试对于技术的要求也是非常高的,需要专业的技术人员进行逆向分析和工具支持,否则上述的测试点很有可能是纸上谈兵。
3、客户端性能测试
腾讯内部对于手游性能的测试和监控非常重视,新版本发布之前会再三确认性能是否符合发布标准,哪怕是 1% 的偏差也会被退回、无法发布。
为了针对性解决问题,用户常见的闪退、花屏等性能问题,也被内部的专家团队细分成具体的性能问题指标,再之上做处理和优化。
为了提升效率,腾讯 WeTest 的手游性能优化团队专门开发了 Cube 工具来帮助用户发现手游的通用性能、资源以及 mono 内存等问题。
Cube 手游标准性能分析结果部分截图
Cube 资源报告分析结果部分截图
在腾讯游戏内部需要专项组解决的问题,对外部手游开发者而言,要独立解决相当费时费力。
为了提高开发者的效率、节省成本,腾讯 WeTest 推出” 手游一站式质量提升方案 “,将专业方法和工具一并展示出来,而开发者只需要针对游戏类型的评估,参照上线流程,选择自己更需要的服务即可。
腾讯游戏精炼的手游质量测试流程
同时推出的,还有包括各类服务、更优惠的套餐包,可供开发者自由选择。
马上访问:http://wetest.qq.com/price 了解手游一站式质量提升方案。