大四 | 前滴滴测开实习 · 前码上飞AI 测试

        从零搭过一套 AI 自愈测试体系,1.2 万条用例自动跑,人力省 85%。也把智慧农业 SaaS 的回归测试从 10 小时压到 3.2 小时。算法竞赛打过 ACM 拿过铜。

        这个博客写 AI+ 测试的实践,踩坑记为主,偶尔复盘。

  • 这模型在特定场景下,小有颠覆力的👍

  • 对于输入侧,一方面是 state,你要确保量足够精简,不要放长篇大论,它有截断上限的;另外一方面是 questions,这块才是提高输入侧质量的关键,我测试了多组 questions,发现了比较稳定的最佳实践:1.放一个问题、2.问题不要有歧义、3.你自己人为事先判断该问题你自己是否能够 2s 内回答(当然人与人差异比较大,3s?5s?这块需要长时间,还是建议回归 LLM)、4.场景一定要巧妙,我自己是用到了项目的置信度评分环节。

  • 首先,我认为智能体评测,与大模型相关的,只需要评测大模型路由、大模型与智能体的兼容性,而文章中提及的大模型评测那一套压根与你自己的标题差了十万八千里。我认为完全没必要。

    其次,文章的智能体评测缺乏智能体性能测试,其实智能体性能测试也非常典型,譬如你并发调用 subagent,或者 agent 能否长时间稳定运行。

    最后,文章缺少了对于智能体 RAG 链路的评测,这个我认为是智能体评测最重要的一环,几乎必不可少,且这条链路铺开那才是顶级评测思维!

  • 我秋招发现字节跳动的岗位以 Agent 评测为主,很多!有机会我可以写一篇文章,谈谈 Agent 评测。

  • 模型实测了一下,发现你的输入质量很关键,需要把握好使用时机。

  • 学习的一个核心可以放在 RAG + AI Coding 驱动的智能化升级,譬如用 Codex 写一个自动化测试平台的智能体

  • 你好,有时间可以看一下本人的文章《AI 赋能测试实践》系列,希望能给你一些启发。

    不过在这里,我也简单的谈一些我的看法,借助 AI 去测试效率提升的核心在于,自动化的智能化。

    因为我接触到的大厂,在 AI 提效方面,往往从自动化为切入点,辅佐以 AI,去智能化。譬如:用例自愈、智能生成测试数据、智能优化 Allure 报告。

  • OMG,你真是吓到我了,合着你的评论区和短视频那种心浮气躁的评论味道一样才不是 AI 味是吗?没事多读点书,微信读书欢迎你。

  • 哎呦喂,我哪里能是你哥呀😂 你才是我的大哥啊👍 👍 👍 👍 👍 👍 👍 👍 👍 👍 👍 👍

  • 况且我的评论只是简单的总结一下你的文章,有何不可吗?我挺喜欢认真阅读一篇文章,发下我自己的理解感悟和总结,认为这样才能让我从文章中吸取到精华。老是看到你这种自以为是的评论,这就是为啥我不想评论了。你觉得我 AI 评论你的文章目的是啥呢?有没有可能我的评论习惯就是这样啊?合着非得我 mean 你的时候,你才恍然大悟,哦原来只有人类才会这么 mean,原来的 AI 呢?继续清醒去吧。

        大四 | 前滴滴测开实习 · 前码上飞AI 测试

        从零搭过一套 AI 自愈测试体系,1.2 万条用例自动跑,人力省 85%。也把智慧农业 SaaS 的回归测试从 10 小时压到 3.2 小时。算法竞赛打过 ACM 拿过铜。

        这个博客写 AI+ 测试的实践,踩坑记为主,偶尔复盘。