这是鼎叔的第一百三十七篇原创文章。行业大牛和刚毕业的小白,都可以进来聊聊。
欢迎关注公众号《敏捷测试转型》,星标收藏,大量原创思考文章陆续推出。

传统自动化测试的指标问题
很多测试团队都会在 KPI 里设定自动化测试相关的指标,基于鼎叔过往的团队管理经验,传统的指标设定遇到过不少问题:

1 指标单一化
传统自动化测试目标就是 “替代手工”,所以考核指标就围绕 “执行效率提升” 来设定,如用例数、执行时长、通过率。

但只考察单一指标,与 “质量保障能力” 关联较弱,甚至可能反向激励低效行为。举例:

提升自动化用例总数导向,产生较多的重复、冗余的僵尸用例,或拆分过细粒度的用例,导致维护成本激增,但实际缺陷发现率未提升。

提升执行通过率导向,测试人员可能规避高风险高复杂度用例(如复杂业务流程、依赖外部系统的接口),临近考核期屏蔽部分参数断言或者绕过部分检查步骤,导致通过率虚高,掩盖真实质量问题。

2 和外部的质量提升感知脱节
尽管自动化测试指标节节攀升,但是外部感知的自动化收益并没有提升。比如

需求质量不足,频繁修改,会导致自动化用例变更,增加维护成本。

发布后缺乏 KPI 跟踪,导致自动化测试仅能验证 “发布前功能正常”,但无法发现生产环境特有的问题,需依赖人工救火。

跨团队协作没有纳入考核:开发和产品团队的影响测试质量的关键因素未被纳入 KPI,导致测试团队被迫为开发/产品的缺陷 “兜底”,阻碍了 “全员质量文化” 的形成。

3 激励错位,盲目推广自动化
传统自动化测试 KPI 常以 “工具使用规模” 为考核标准,而非 “工具带来的净收益”,可能导致团队为达标而盲目推广,忽视 “是否适合自动化” 的基本判断。主要表现:

强制要求自动化:对稳定性差、频繁变更的功能强制投入资源编写 UI 自动化用例,导致每周需大规模重构,维护成本超过手工测试。

为了 “工具覆盖率” 选择复杂工具或强行集成不匹配的工具链,导致使用效率低下。

4 缺乏对 “测试过程数据” 的挖掘
传统自动化测试的 KPI 多为 “结果型指标”,缺乏对 “测试过程价值” 的分析,无法驱动测试策略的持续优化。

缺陷分析缺失:仅统计 “自动化发现的缺陷总数”,但不分析 “缺陷集中在哪些模块/类型”,导致测试覆盖 “抓不住重点”。

用例有效性衰减:未跟踪 “用例随时间的变化效率”,导致失效用例长期保留。

风险预测能力弱:缺乏对 “高风险场景” 的识别指标,导致高风险功能漏测风险高。

我们大力引入持续测试概念及其技术方案建设,就是为了彻底升级团队的自动化收益:

从 “执行结果” 转向 “质量影响”
从 “单点阶段” 转向 “全生命周期协同”
从 “静态结果” 转向 “动态分析优化”
从 “测试孤立负责” 转向 “全员责任”。

持续测试 VS 传统自动化测试:定义对比
不少同僚对于持续测试和传统自动化测试的概念差异,难以分辨清楚。

我们从这几个方面进行定义和比较:

1 核心定位:从 “工具驱动” 到 “流程驱动”

维度
传统自动化测试
持续测试
核心定位
以 “工具替代手工” 为目标,聚焦特定测试阶段的效率提升(如用自动化替代 UI 手工回归)
以 “质量全链路保障” 为目标,聚焦研发全生命周期的质量实时反馈与持续改进(测试嵌入从需求到生产的每个环节)
本质
测试执行的 “自动化工具应用”,属于技术手段
研发流程的 “质量体系重构”,属于方法论 + 技术体系。

2 覆盖范围:从 “单点阶段” 到 “全生命周期”

维度
传统自动化测试
持续测试
覆盖阶段
聚焦单一或部分测试类型(如单元测试、集成测试或 UI 测试),通常不涉及需求/生产阶段。
覆盖研发全生命周期(需求→开发→测试→发布→生产),包括:

3 触发机制:从 “手动/定时” 到 “事件驱动”

维度
传统自动化测试
持续测试
触发条件
依赖人工触发或定时任务
由研发流程事件自动触发(如代码提交、合并请求、构建完成),实现 “测试随开发而动”
执行频率
低频(如每周/版本发布前执行)
高频(代码提交后秒级触发,每日多次全量执行)

4 技术复杂度:从 “单点工具” 到 “体系化平台”

维度
传统自动化测试
持续测试
技术栈
依赖单一工具,工具间独立。
需要工具链集成(CI/CD 平台 + 各种分层测试工具 + 监控工具 + 数据平台),支持端到端流程串联
数据处理
仅关注 “测试结果是否通过”,缺乏对测试数据的深度分析(如缺陷分布、用例有效性)
需分析全链路测试数据(需求 - 代码 - 测试 - 生产),可通过 AI 优化测试策略(如预测高风险用例)
环境管理
环境配置依赖人工(如手动搭建测试数据库),环境一致性难以保证。
需实现环境自服务化(容器化,快速创建隔离环境,配置版本控制)

5 价值维度:从 “效率提升” 到 “质量 + 效率双驱动”

维度
传统自动化测试
持续测试
核心价值
降低手工测试成本
同时提升质量保障能力(早期缺陷发现率提升)和交付效率(发布周期缩短)
反馈时效性
反馈滞后(如版本发布前才发现缺陷,修复成本高)
实时反馈(代码提交后分钟级发现问题,修复成本降低)
业务影响
主要支撑 “快速测试交付”,但对业务质量(如用户体验、安全性)的保障有限
全面保障业务质量(如生产环境 P0 缺陷率下降)

6 团队协作:从 “测试主导” 到 “全员质量责任”

维度
传统自动化测试
持续测试
责任主体
以测试团队为主导,开发/产品参与度低(仅提供用例建议)
强调全员质量责任(开发负责单元测试,产品参与需求测试场景设计,测试负责自动化策略)
协作模式
测试团队 “单向输出”(编写用例→执行→反馈缺陷),开发被动修复
跨角色实时协作(如需求评审时测试提出可测性建议,代码提交时开发自查单元测试覆盖率)
文化驱动
依赖 “流程规范”
依赖数据透明与持续改进(通过看板展示测试缺陷率、发布耗时,推动团队自主优化)

总结:
持续测试是传统自动化测试的 “体系化升级”
持续测试是 “将测试嵌入全生命周期” 的体系化变革。传统自动化是持续测试的基础能力,持续测试是传统自动化的扩展与深化。


↙↙↙阅读原文可查看相关链接,并与作者交流