测试发展要么往技术深度走要么往业务广度走,取决于你在什么行业,其实大部分人就是这样是被事推着走的。
少看广告,真要看可以去 boss 上搜一下,聊一下现在吹牛逼的太多了
这篇文章的主线是成立的,而且表达很顺:从 “review 跟不上生成速度” 推到 “审证据”,再用 BDD 把契约落地,逻辑完整。主要改进空间在于:把几个概念边界再压实,否则容易被读者质疑 “这是一个新名词包装老实践”。
建议重点改 5 处
目前写法像是在说行业已经有一个明确方法论叫 Trust Engineering。公开资料里确实有很多相近讨论,比如 trustworthy AI software engineers、programming with trust、AI harness engineering、spec-driven development,但 “Trust Engineering” 还不像 DevOps、SRE、BDD 那样有统一公认定义。
可以改成:
我把这种方法称为 Trust Engineering:不是单点工具,而是一套围绕 AI 产出物建立可验证信任的工程实践。
这样更稳,也更有原创表达空间。
你现在讲的是 “如何信任 AI 产物”,但更准确地说,应是 “如何证明 AI 产物具备可被信任的性质”。研究里也常区分:trust 是人的依赖决策,trustworthiness 是系统可证明的属性。可以补一句:
信任不是主观感觉,而是对 trustworthiness 的判断:系统是否具备足够的可验证证据,使人愿意在特定风险边界内依赖它。
这会让文章更严谨。可参考 Trustworthy AI Software Engineers。
你现在写 “Harness 管 AI 能做什么,但不回答怎么知道它做对了”。这个说法有道理,但略窄。最新关于 AI Harness Engineering 的讨论里,Harness 不只包含权限和沙箱,也包括验证、失败归因、可观测性、任务状态、episode package 等能力。也就是说,Harness 不只是 “防越权”,它可以成为 Trust Engineering 的运行时底座。
建议改成:
Harness 是 Trust Engineering 的执行基础设施,负责约束、记录和反馈 Agent 行为;Trust Engineering 则进一步定义如何把这些运行轨迹、测试结果和风险判定组织成可审查的证据链。
你已经提到 “自证闭环”,这是全篇最重要的点之一,可以再往前推一步:不是有测试就可信,而是证据必须满足几个条件。
建议加一个小段:
证据本身也需要质量门槛。有效证据至少要满足四点:来源尽量独立、过程可复现、结果可追溯、失败时能给出定位线索。否则 Evidence Package 只是更漂亮的自我声明。
这能把 “证据包” 从文档包装提升为工程标准。
现在文章偏重 merge 前验证,但真实系统的信任还来自上线后的持续观测。建议在六层之后补一个 “运行反馈层” 或在证据层里加入:
一句话可以写成:
Trust Engineering 不应止步于 CI 绿灯。真正的闭环是:线上异常、用户反馈、事故复盘都会反向进入 Change Contract 和回归测试库,让证据系统随系统演化。
可以补充的几个概念
一句话评价
文章方向很好,最需要加强的是 “概念严谨性” 和 “证据质量标准”。把 Trust Engineering 定义成你提出的一套实践框架,而不是已成型的行业标准;再把 Harness、BDD、Evidence Package、上线观测之间的边界说清楚,文章会更有说服力,也更不容易被技术读者挑概念漏洞。
来自 ChatGPT5.5 的重新评估,我个人觉得还是有进化空间的。当下 AI 已经基本覆盖 WEB UI,APP UI,API 等常规自动化覆盖和业务覆盖了,剩下专项测试我相信在这个领域深耕的人应该也会用的不错。确实现在的重点是面对庞大的生成该如何审核评估。
很有用的干货
自己写的所谓提示词工程再怎么搞,都不如 Claude 和 codex 的马鞍
AI 生成用例,审核用例,需求功能合理性推导,生成接口自动化,WEB UI,APP UI。人只去核对场景是否缺失,以及探索性测试,专项测试。感觉现在真的做到几年前大家的设想测试工程师应该去做更有价值的地方。一开始有点迷茫现在感觉就是这样的趋势走了
但现实基本上是先裁测试,发现还是得要几个测试再重新招
挺好的起码有事情可以做,等都 AI 化了测试组就该裁的没人了。
让我想起了应该是 2014 年左右,微软内部的 QA 全部转全栈的新闻。最后还是保留了 QA 的角色,我相信 AI 带来的软件行业的变化,最终不是将测试全部转为开发这么简单。如果是的话就不会有这个角色的设定了。这次不过是再走一回 2014 年
不是 monkey 不是猜测,前端整合出来的知识库会明确告知 AI 哪些元素是有意义的,对应元素点击后的响应是怎么样的
就是上面口语化的表达,你只需要告诉他调整效果就行了
人生很长 29 就不知道了往后怎么办。看看先吧不行就要跳出去干其他的积累经验了,别让自己的下一个十年还和现在一样
好用
RAG,pageindex,文本文档。不用纠结方式,你只要结构化掉,AI 自己就会去检索。
不冲突都可以,核心是用 AI 快速把页面关键元素扒下来,走的还是传统的 UI 自动化脚本 POM 框架的维护,只是节约了人工核对一个个点位的成本,毕竟 80% 的 UI 自动化成本都在元素定位上。这套方案就是把这个过程异步给 AI 去做了。不是自然语言的 AI+UI 那一套我自己也没咋用
没有业务权限就白瞎,只能从开发沉淀的知识库进行二次挖掘。一步步完善是说你现在只有一颗积木,你需要将所有有关联的积木都做出来,然后在分层构建流程节点,场景节点,风险节点等
接口文档是黑盒的状态,AI 只能通过字段语义去判断依赖。你直接把接口文档对应的后端项目给 AI,让 AI 去做出来的测试用例起码依赖会大体正确的。但是就算这样你还会遇到新的问题,业务上下文看不到,说白了微服务参与进来又是新的黑盒状态,你需要一步步的完善知识库链路流程,这样生成出来的结果就很详细了。
公司有预算就先做吧,成本飙升也是好事情,否则就真没人啥事了,现在只是 AI 驱动端到端测试有很高成本,AI+ 用例生成 + 人工提示修改这条路成本还是相对低廉的。
你是一位有 10 年经验的测试架构师,精通等价类划分、边界值分析、判定表、正交实验法等测试设计方法。
这个提示词已经是去年的过去式了。感慨一下去年学提示词工程,今年已经完全可以不 care 了,AI coding 的马鞍发展太快了,现在是一个月一个变化的感觉。
兄弟说实话,这个节点和以前几年你裸辞真不一样。真不如硬扛着,然后在公司里落地 AI 相关的流程实践。我不知道你是否已经做了充足的准备,但是今年真的是 AI 应用元年,变化太大了。以前你裸辞也就裸辞了现在是天堑横着。
你应该庆幸,AI 还没在开发团队产生质量优化的效果。其实这一点的问题很容易解决,特别是你自己以测开的角色去做工具的开发和自测的时候你就能发现并解决问题,并将这个 skills 优化到团队里面。但是我目前是更倾向于还是迭代的慢点,给人留一条活路吧。反正我自己开发工具现在的开发质量是直线上升了,就看你们业务团队是否也去这样做。
感觉你没有使用 codex,Claude code 这类工具直接进行工作而是绕了一层做 prompt,实话说有点落伍了。
已经废了,现在完全 skills 化了,下一个新的能力成熟起来就转移过去或迁移进去。目前完全看不到行业的希望,效率提升有很多有个 2 倍吧,开发效率提升 5 倍都多。反正就这样再吃几年饭就准备退休了。
感觉还是老问题呀,你说的一堆失败异常,不应该回归到自动化代码质量为何这么差吗?还是业务需求的高速迭代为何变动如此大,基础框架为何不支持维护变动大的需求场景。寄托于 AI 或者人工取分析一堆失败有什么意义,分析完看起来没有改进和收敛的效果,有的话那自动化的结果应该是越来越稳定,而不是又还是每天一堆异常需要分析呀。例如我们稳定的脚本大批量失败,一定是一个大的更前序的链路出问题了,基本都很好统计和分析原因。所以你的回答并没有脱离老问题诶。
你说的这些问题还是老问题,以前怎么解决现在还是怎么解决只是加一个 AI 罢了。