敏捷测试转型 聊聊智能化需求评审

鼎叔 · 2026年09月14日 · 81 次阅读

这是鼎叔的第一百四十六篇原创文章。行业大牛和刚毕业的小白,都可以进来聊聊。
欢迎关注公众号《敏捷测试转型》,星标收藏,大量原创思考文章陆续推出。

这一年针对测试团队可以做的 AI 提效实践,我总结了一个词 “三预”,即在测试和开发实现 “用 AI 结对工作” 之前,聚焦三个提效场景:预评审、预验收、预分析。本文从鼎叔去年的个人实践讲起,聊聊如何借助 AI 进行需求预评审。
现在 AI 工具不断进化了,肯定有更酷炫的评审方式,但基于精益的需求分析框架是难以被替换的。
在这个时代大多数人都急着让 AI 尽快写代码和构建产品,而我认为 “质量左移” 在 AI 编程时代依然(更加)有效,让 AI 提高需求文档的质量永远是事半功倍的举措。
当时代演进到 “文档即代码” 的阶段,需求评审就更加重要了,这是整个软件生命周期中价值最大的地方。

实践背景

一年前我曾推荐一套需求文档质量提升的评审方案,但是要实际落地执行需要技术和产品人员进行人工评估,推广和学习成本高,在理解上也不容易一致。

当公司内部 AI 应用基础服务开始广泛落地时,用 AI 应用来实现智能化评审就有了低成本实现的可能。

我们可以通过 AI 应用,结合在敏捷需求和质量左移的理论,一次性输出需求文档的质量问题,进而输出测试人员关心的质量风险和用例推荐:

总结需求。
拆解用户故事
给需求质量按上述模型评分(满分 100),并给出改进意见。这个环节还可以检查出需求文档中的歧义表达,不清晰或不一致的地方。
暴露产研协作和测试风险
给出需求验收用例和完整测试用例清单
评估开发和测试的工时(基于上述拆解分析后,貌似效果不错)

使用效果

在飞书上搜索我注册好的机器人

注意,在工作流配置上,我暂时只支持了.docx 格式的需求处理,所以需要上传这个格式的文档才能完成充分的分析。

把原文贴入对话框,也是可以正常分析的。

其他格式如 PDF 未来配置工作流也可以支持。

提醒:进行评审需求的 AI 首先要学习项目知识库 聊聊企业使用 AI 知识库的体验,并指定 AI 的人设(具体可以看截图 prompt),才能提供有针对性的更精准的评审意见。

评审机器人会连续输出各个部分的分析结果,耗时比较长,深度思考比较多。


最终所有分析内容自动生成飞书文档,可通过权限设置分享相关人员阅读

智能评审应用的实现过程

因精力有限,鼎叔没有对需求各种文档类型做分头处理,这个后继补充也比较容易。

目前版本是配置一本道工作流完成,这里也附上配置过程(我默认会把思维链都打开):









探索的过程

最早我是尝试用飞书多维表格来进行 AI 需求评审

初步使用效果还不错,但是有两个问题:

一,如果不使用字节默认的 AI 模型,是要额外收费的,免费额度很快耗尽

二,多维表格不支持配置公司飞书的知识库,无法学到业务知识库的内容

三,生产内容信息量感觉不大

但飞书多维表格模式也有优势,员工可以直接在多维表格上对生成内容进行评价和整理,以后可以继续尝试。

然后,我尝试了艾莉同学的对话框模式来进行需求评审。使用很方便,我把上述七个处理步骤,保存在飞书 aily 的项目中,让她依次输出结果:

初用起来也是感觉不错,但也有两点不方便:

一,飞书项目已有知识库没法整体纳入 AI 学习,只能手动上传知识,这块比较麻烦,也有泄密风险。

二,如果用单个步骤取得结果,想完成所有步骤挺麻烦。如果一次性完成项目中的 7 个步骤结果,艾莉同学在后面内容的生成越来越敷衍了,没法看。

比如下面这个,只生成两个用例,后面的都 “以此类推” 了:

所以,我最终选择用飞书 aily 的工作流应用来创建需求评审智能体。

最近很久没有升级了,听说又上了不少新功能。

几点感悟

AI 做需求评审初看效果还可以,尽职尽责,但也不能要求高。

每次能分析出一些闪光点和启发是没问题的,但很多内容也是大路货,或者正确的废话。

比如我用 AI 评审结果在需求评审会上提意见,效果还可以,比如通过 AI 会启发我 XX 场景下可能存在违规风险,或者 XX 场景可能有资金核对损失。

使用 AI 真正的好处是成本为 0,有一定启发就是正收益。且在使用中能推广大家对质量内建的意识。

所以我认为:AI 是专家传播方法论的放大器,同时减少了主观评价他人的尴尬。

除了前文给出的需求质量评分模型,还有上图中 AI 给出的风险等级,是基于我对业务风险场景级别的定义模型来评估的,这块下次可以另起一篇。

记录一些踩坑

1 LLM 总是反馈:由于我无法直接访问外部链接...

方法一:如果让工作流直接读取你的飞书文档,使用飞书云文档节点 - 读取飞书文档纯文本内容,并需申请开通你应用的相关权限。(不建议,因为还是会有安全风险,安全侧会自己评估审批的)

方法二:先把需求文档下载下来,手动脱敏后以 pdf 的形式上传,然后使用文档解析节点,把你上传的文档进行解析。再传给大模型(推荐)。

2 AI 评审应用保存云文档申请权限问题

发布了新应用 AIGE,把 AI 分析结果保存在云文档,但是云文档访问需要申请权限,这个权限是向应用申请的,我怎么审批呢?

另外,其他人员用这个应用生成了文档,能否不申请权限就可以访问呢?

方法:这个需要找安全同学进行评估审批,审批是一次性的。

同时需要在工作流后续步骤里,将文档授权给你,然后将你设置为编辑者。

3 生成文档的协作访问问题

我的应用发布成功了,我自己使用没问题,完美生成文档。

但是我让别人使用,在添加云文档协作者时就报错了,我怎样才能让别的用户也添加我作为文档协作者?

方法:默认的协作者是个固定的值,即你自己。

看之前的功能描述这部分添加的协作者是当前的对话人员,而不是始终是你自己

需要注意 ID 的转换,对话者信息可以从全局变量的 message 中拿到。

配置 id 类型直接用 open_id , open_id 可以从全局变量的 message 中拿到。

另外注意测试环境的 open_id 是没有值的,测试的时候可以发布一个线上环境拿到当前用户的 open_id 写死后进行测试。

另外,申请了用户身份的应用不能开全员。

4 飞书开发后台的一个 BUG

从应用身份到用户身份的权限修改时,发现没有生效。原来是飞书开发后台没有自动更新,需要自己登录 “开发者后台” 手动更新下。


5 LLM 如何读取上传文件

工作流里输入一个 DOC 文件,让 AI 来分析,AI 可以读取和分析文件中的图片内容么?

另外,我在对话框输入一个 DOC 文件,但是感觉 AI 工作流的第一个 LLM 分析能读取文件内容,第二个 LLM 分析就读取不到文件内容了

方法:可以识别文件,一般是先用一个「文档解析」节点来提取文档内容,再把内容交给后续的节点去处理。

6 配了多个 LLM,后面的 LLM 分析文件不正常

如果给应用传入 DOC 文件,工作流有几个 LLM 对它进行分析,都用的输入参数={{query}},感觉第一个 LLM 分析正常,第二个及以后的 LLM 就无法正常读取文档内容了。

方法:{{query}}只会有文本的内容,如果直接丢的是 query,一般 LLM 只会拿到文件名,你可以看下日志的出入参的具体内容(猜测是 LLM 在根据文件名做内容生成)。但这不是个处理文档的正确用法,推荐直接用 file 参数通过文档解析去处理吧。

7 生成的云文档如何删除

用户生成的云文档如何删除?删除时显示要向应用(父目录)申请,但申请了结果直接报错。

方法:需要看这个文件夹的权限设置,把自己加成文件夹的所有者,这样会有最大的权限。

(这部分属于的飞书文档的功能)需要核对创建文档的所有者和文件夹的所有者。

结语

当然,咱们还可以参考多 agents 玩法,AI 模拟出多个不同专业的角色在需求评审中进行多轮次的 PK 吵架,相信能碰撞出更多精彩的火花。

对于 AI 评审的所有结果,都批判性地看,尝试通过各种调整让它变得更好(少漏,少扯蛋)。

因为 AI 说的,都是错的。

暂无回复。
需要 登录 后方可回复, 如果你还没有账号请点击这里 注册