AI 正在改变测试的实施方式和团队的协作方式,但测试的本质并没有消失。变化在于,测试人员不仅要验证功能是否符合预期,还要面对模型输出的波动、上下文依赖、工具调用和安全边界。
这会带来岗位焦虑,但不必把职业转型理解成一场脱离实际工作的竞赛。对测试人员来说,真正重要的不是会不会写几条提示词,而是能否把 AI 用进当前工作,并判断结果是否可靠。一条能持续走下去的学习路径,可以从工具使用开始,逐步过渡到模型评估和安全测试,最后回到测试工程的基本功。
学习过程中可以持续阅读研究报告、观察产品演示、了解相关规范和安全议题。但这些输入只有转化为测试任务,才会变成自己的能力。每一步都应留下可复核的过程和结论,而不是只记得某次工具体验的印象。
最合适的起点不是挑一个看起来炫酷的 AI 演示,而是从手头已有的测试任务里找切入点。需求澄清、测试设计、数据准备、日志分析、结果比较和缺陷报告,都可以成为练习场景。选择任务时,优先挑选输入来源清楚、目标说得明白、最后能人工验证的工作。这样才能知道 AI 到底帮到了哪里。
对于探索式测试人员,AI 更像研究助理:它可以帮助梳理需求、提出测试思路、识别隐含假设、生成测试数据、分析日志、比较输出和汇总证据。它负责提供候选方向,你负责判断这些方向是否成立。实际使用时,先写清问题背景和已知约束,再让它提出假设或测试角度,避免把模糊问题直接丢给模型。
对测试工程师来说,Claude Code、GitHub Copilot 一类工具可以协助生成和重构测试、调试失败代码、解释陌生代码,也能用来构建小型实用工具。但生成不等于可用。每次使用后,都要检查生成内容有没有覆盖目标场景、有没有带入错误假设、有没有漏掉失败路径。
可以用下面这个闭环练习工具能力:
每周选一项真实任务跑完这个闭环。你积累的不是某个工具的熟练度,而是把工具输出转化为可靠测试证据的能力。这也是后续学习模型评估的基础。
传统自动化测试通常面对确定性规则:输入满足条件时,输出应当稳定。AI 系统不同,它会同时受到概率性输出、上下文内容、提示词、模型版本、智能体规划和工具调用的影响。同一任务在不同运行中出现差异,并不一定代表系统出错,但必须纳入测试设计。
理解这些变化的目的,不是要求每位测试人员都去研究模型底层原理,而是帮助我们提出更有效的测试问题:哪些结果必须稳定,哪些结果允许波动;上下文变化会影响什么;出现幻觉时如何识别;外部内容会不会诱导系统偏离任务;工具执行是否超出了用户意图。
可以把测试目标拆成两类。第一类是确定性约束,例如敏感操作不能在未获授权时发生,关键字段不能丢失,工具不能超出范围调用。第二类是质量约束,例如回答是否完整、是否遵循上下文、是否覆盖问题核心。前一类更适合定义清晰的通过或失败条件,后一类更需要样本、重复运行和人工判断。
因此,测试用例不应只记录一个提示词和一个标准答案。还要记录输入、上下文、允许调用的工具、观察到的输出,以及判定依据。条件可追溯后,团队才能判断一次结果差异到底来自模型、上下文变化,还是测试设计本身不完整。
AI 测试不只验证单次回答,而是验证系统在不同条件下是否仍保持可接受的行为。研究报告、公开案例和产品缺陷,都是培养这类测试直觉的重要素材。
模型评估不是研究人员的专属工作。只要产品把 AI 放进面向用户的流程,测试团队就要回答:什么行为可以接受,什么行为必须拦截,什么情况必须交给人工判断。评估的价值不在于给模型贴上高低分标签,而在于把这些边界变成团队能执行的决策依据。
一套基础评估方法至少应包含下面几个部分:
实际执行时,可以先为一个小场景建立最小数据集,再逐步补充边界输入和失败样本。每次评估后,把结果分为可接受、需复核和不可接受三类,再回看各自对应的输入条件。这样既能避免一开始就追求过大的评估体系,也能让测试数据和失效标准一起完善。
人工判断也不是评估失败后的补丁。对于业务风险高、语义高度依赖上下文,或无法用单一规则覆盖的场景,人工判断本来就是控制链路的一部分。关键在于明确谁在什么条件下介入,以及介入后怎样记录结论。
评估能力决定了我们能否把 AI 从一次性演示带进稳定的业务流程。当评估闭环跑起来,测试团队才能说明模型在什么条件下可信、在什么条件下需要更谨慎地使用。
AI 系统的风险不只来自回答错误,也来自它拿到了什么上下文、能调用什么工具,以及输出会不会被下游系统直接执行。OWASP 的 LLM 安全资料可以作为起点,但更重要的是把风险转成可执行的测试问题,而不是只记住几个风险名词。
这些测试不能只在上线前做一次。每当模型、提示词、上下文来源或工具权限发生变化,都应重新检查原有的安全假设是否还成立。这样才能把安全从单点检查变成持续关注的测试项。
安全不是上线前补的一项检查,而应成为测试设计的输入条件。当智能体可以访问工具和数据时,测试范围必须从模型回答扩展到整条执行链路。
AI 不会淘汰测试基本功,反而会放大它们的价值。可接受结果的判断标准、覆盖率、基于风险的测试、可测试性、批判性思维和系统思维,仍然决定你能否设计有效测试,并看懂测试结果真正说明了什么。
面对看似合理的模型输出,先定义可接受结果的判断标准,避免把第一个听起来顺畅的回答当成正确答案。基于风险的测试帮助我们优先覆盖高影响场景,而不是把有限时间平均分给所有输入。可测试性则要求系统保留足够的输入、上下文和执行痕迹,否则即使发现异常,也很难定位问题出在模型、工具还是流程。
测试证据则帮助我们区分一次偶然成功和可重复的可靠表现。一次通过,可能只是恰好碰上了容易回答的输入;多次运行、不同上下文和不同风险场景下的表现,才能支撑更稳健的判断。最终,测试人员仍要按业务风险报告结论,而不是把模型生成的结果原样交给业务。
这条学习路径没有终点:先在工作中使用工具,再理解模型行为,建立评估方法,把安全纳入测试,并不断打磨基本功。真正的竞争力,不是离开一线去谈 AI,而是能用 AI 把一线问题做得更扎实。
相关阅读
##### FunTester 名片|万粉千文,百无一用