你自己折腾出来的马鞍,不如 codex,Claude 一根毛。除非你们下定决心要持续维护了,反正舍本逐末你们老大怎么说就怎么搞吧。听老板就行
先开通 codex ChatGPT plus 试试先
AI 目前对逻辑覆盖,场景碰撞已经有较好的探索和覆盖了。但是前段时间发现整个研发链路(产品 - 开发 - 测试)都用 AI 后最大的问题是,AI 无法判断业务的使用方式,功能好不好用。交互在人类世界是否友好,这样的功能到底有没有用。这些就算有描述去堆积,执行时的判断体感 AI 都很难做出有效结果。
后端 50%,前端 50%-80%,测试 80%-100%。对了这个是噶人的比例
为什么要用需求文档去生成,我是建议用前端代码去生成,增量部分 ai 完全都能识别出来转化率基本是 100%,不可转化的原因也能很清晰的评估出来。需求文档拿来评估实现差异,实现缺失,增量实现部分用于人审评估。
codex ChatGPT5.6 启动,帮我生成一个覆盖功能测试用例较为全面的 skills,要包含生成,审核,标记标准 sop,然后帮我优化一下这个 skills 还有没有改进空间。
xxx 为什么没有生成,帮我看一下为什么然后优化到 skills 中。
一直重复就行
测试发展要么往技术深度走要么往业务广度走,取决于你在什么行业,其实大部分人就是这样是被事推着走的。
少看广告,真要看可以去 boss 上搜一下,聊一下现在吹牛逼的太多了
这篇文章的主线是成立的,而且表达很顺:从 “review 跟不上生成速度” 推到 “审证据”,再用 BDD 把契约落地,逻辑完整。主要改进空间在于:把几个概念边界再压实,否则容易被读者质疑 “这是一个新名词包装老实践”。
建议重点改 5 处
目前写法像是在说行业已经有一个明确方法论叫 Trust Engineering。公开资料里确实有很多相近讨论,比如 trustworthy AI software engineers、programming with trust、AI harness engineering、spec-driven development,但 “Trust Engineering” 还不像 DevOps、SRE、BDD 那样有统一公认定义。
可以改成:
我把这种方法称为 Trust Engineering:不是单点工具,而是一套围绕 AI 产出物建立可验证信任的工程实践。
这样更稳,也更有原创表达空间。
你现在讲的是 “如何信任 AI 产物”,但更准确地说,应是 “如何证明 AI 产物具备可被信任的性质”。研究里也常区分:trust 是人的依赖决策,trustworthiness 是系统可证明的属性。可以补一句:
信任不是主观感觉,而是对 trustworthiness 的判断:系统是否具备足够的可验证证据,使人愿意在特定风险边界内依赖它。
这会让文章更严谨。可参考 Trustworthy AI Software Engineers。
你现在写 “Harness 管 AI 能做什么,但不回答怎么知道它做对了”。这个说法有道理,但略窄。最新关于 AI Harness Engineering 的讨论里,Harness 不只包含权限和沙箱,也包括验证、失败归因、可观测性、任务状态、episode package 等能力。也就是说,Harness 不只是 “防越权”,它可以成为 Trust Engineering 的运行时底座。
建议改成:
Harness 是 Trust Engineering 的执行基础设施,负责约束、记录和反馈 Agent 行为;Trust Engineering 则进一步定义如何把这些运行轨迹、测试结果和风险判定组织成可审查的证据链。
你已经提到 “自证闭环”,这是全篇最重要的点之一,可以再往前推一步:不是有测试就可信,而是证据必须满足几个条件。
建议加一个小段:
证据本身也需要质量门槛。有效证据至少要满足四点:来源尽量独立、过程可复现、结果可追溯、失败时能给出定位线索。否则 Evidence Package 只是更漂亮的自我声明。
这能把 “证据包” 从文档包装提升为工程标准。
现在文章偏重 merge 前验证,但真实系统的信任还来自上线后的持续观测。建议在六层之后补一个 “运行反馈层” 或在证据层里加入:
一句话可以写成:
Trust Engineering 不应止步于 CI 绿灯。真正的闭环是:线上异常、用户反馈、事故复盘都会反向进入 Change Contract 和回归测试库,让证据系统随系统演化。
可以补充的几个概念
一句话评价
文章方向很好,最需要加强的是 “概念严谨性” 和 “证据质量标准”。把 Trust Engineering 定义成你提出的一套实践框架,而不是已成型的行业标准;再把 Harness、BDD、Evidence Package、上线观测之间的边界说清楚,文章会更有说服力,也更不容易被技术读者挑概念漏洞。
来自 ChatGPT5.5 的重新评估,我个人觉得还是有进化空间的。当下 AI 已经基本覆盖 WEB UI,APP UI,API 等常规自动化覆盖和业务覆盖了,剩下专项测试我相信在这个领域深耕的人应该也会用的不错。确实现在的重点是面对庞大的生成该如何审核评估。
很有用的干货