本文写给所有正在考虑转型的测试工程师/SDET。不讲虚的,从行业现状、技术栈、学习路线、项目实战、面试要点五个维度,把测试转AI这件事讲透。
0. 为什么要写这篇文章?
2026年Q3,我系统拉取了Boss直聘、猎聘、拉勾上"AI测试"“大模型评测”“Agent测试”"AI质量"相关岗位JD共127份,分析了岗位技能要求的Top N关键词。
结论很清晰:
- 83%的岗位要求Python(你大概率已经会)
- 76%的岗位要求大模型/LLM评测经验
- 61%的岗位要求RAG/知识库测试经验
- 54%的岗位要求Agent/多轮对话测试经验
- 47%的岗位要求AI安全/红队测试经验
- 39%的岗位要求CI/CD质量门禁设计经验
传统测试的"会用例设计、会接口测试、会自动化"这些能力,是基础分;上面这些AI相关的,才是决定你能不能拿到offer的差异化能力。
1. 三条转型路径的技术栈对比
| 路径 | 核心技术栈 | 学习周期 | 难度 | 薪资涨幅 |
|---|---|---|---|---|
| A. AI评测工程师 | Python + RAGAS + DeepEval + Promptfoo + LLM-as-Judge | 4-6个月 | ⭐⭐⭐ | 30%-50% |
| B. AI辅助SDET | Copilot/Cursor + Playwright/Pytest + Prompt工程 | 2-3个月 | ⭐⭐ | 10%-20% |
| C. AI应用开发 | LangChain + RAG + 向量数据库 + CrewAI + MCP | 6-9个月 | ⭐⭐⭐⭐ | 50%-100% |
本文重点讲路径A,因为它是测试出身最顺、岗位缺口最大的选择。
2. 路径A的技术栈拆解
2.1 基础层(必须掌握)
- Python进阶:Requests(调大模型API)、Pytest(写评测脚本)、Pandas(处理评测数据)、异步基础(aiohttp并发调API)
- 大模型基础概念:
- Token、上下文窗口(context window)、温度(temperature)、top_p
- Function Calling / Tool Use
- 幻觉(hallucination)产生的原因
- RAG(检索增强生成)的完整流程
- Agent(智能体)的工作循环:感知→规划→行动→观察
- API调用:DeepSeek、豆包、通义千问、OpenAI兼容接口,能独立完成多轮对话、Function Calling调用
2.2 评测框架层(核心竞争力)
-
RAGAS:RAG评测的事实标准
- faithfulness(忠实度:回答是否基于检索内容)
- answer_relevancy(答案相关性)
- context_precision(上下文精确度)
- context_recall(上下文召回率)
- 能独立构造测试集、跑评测、输出报告
-
DeepEval:单元测试风格的LLM评测框架
- hallucination metric
- toxicity / bias metric
- PEX(Expected Behavior Score)
- 能像写Pytest一样写LLM评测用例
-
Promptfoo:Prompt回归与红队
- 批量Prompt变体测试
- 对比不同模型的输出
- 红队测试(Prompt injection、jailbreak)
- CI/CD集成
2.3 方法理论层
- LLM-as-a-Judge:用强模型(如GPT-4/DeepSeek-R1)给弱模型输出打分的方法论,理解其偏差、位置偏好、长度偏好
- A/B测试:模型版本迭代的统计显著性检验
- Bad Case归因:区分是"检索问题"“Prompt问题”“模型能力问题"还是"知识库数据问题”
- 评测集构建:如何从真实用户Query中采样、如何标注黄金答案、如何平衡覆盖度与成本
2.4 安全测试层(2026年必问)
- Prompt注入:直接注入、间接注入(通过RAG知识库投毒)
- 越狱(Jailbreak):DAN类、角色扮演类、编码类绕过
- 数据泄露:系统Prompt提取、训练数据提取
- 偏见与毒性:性别、种族、地域偏见
- 工具:Garak、PyRIT、Promptfoo red-team
2.5 工程化层
- 评测流水线接入CI/CD(GitHub Actions / Jenkins)
- 评测报告可视化(Grafana / 自定义Dashboard)
- 成本控制:缓存、批量调用、小模型代理打简单分
3. 6个月学习路线(按周)
Month 1:基础
- Week 1:Python Requests/Pytest巩固 + DeepSeek API跑通Hello World
- Week 2:LangChain基础 + 一个最简单的RAG Demo(Chroma + 文档加载)
- Week 3:RAG流程拆解——检索、重排、生成每一步能干什么
- Week 4:Function Calling / Tool Use,能写一个带工具调用的Agent Demo
Month 2:AI辅助测试
- Week 5:用Cursor把旧项目的手工用例转成Playwright/Pytest自动化
- Week 6:Prompt Engineering系统学——角色、Few-shot、CoT、约束
- Week 7:写一个"PRD→测试用例"的Prompt模板,验证3个真实PRD的输出质量
- Week 8:接口Mock、测试数据生成、日志智能分析
Month 3:评测体系
- Week 9:RAGAS四个核心指标原理 + 给Demo项目跑第一份评测报告
- Week 10:DeepEval写LLM单元测试,hallucination/bias/toxicity
- Week 11:Promptfoo批量Prompt回归,对比3个Prompt版本
- Week 12:LLM-as-a-Judge打分流程搭建,分析Judge的偏差
Month 4:Agent测试 + 安全
- Week 13:Agent Trace-based测试,记录每一步工具调用
- Week 14:多轮对话状态机测试、失败注入、重试逻辑验证
- Week 15:Garak/PyRIT红队测试,Prompt注入/越狱/数据泄露
- Week 16:CI/CD集成,把评测做成质量门禁
4. 项目作品集建议(至少2个)
项目1:RAG评测体系
- 选一个开源RAG项目(比如LangChain的docs Q&A示例)
- 构造100条测试集(Query + 黄金答案 + 相关文档ID)
- 用RAGAS + DeepEval跑评测
- 输出报告:准确率、召回率、幻觉率、Bad Case清单
- GitHub开源,写清楚README
项目2:Agent红队测试报告
- 选一个开源Agent(比如AutoGen示例、或自己搭一个)
- 用Garak跑全套红队探针
- 分类整理漏洞:Prompt注入、系统Prompt泄露、越权工具调用
- 给出修复建议
- 写成技术文章发布
有这两个项目,简历就能看了。
5. 面试高频题(我整理了20道,先列5道)
- 怎么评估一个RAG应用的好坏?有哪些核心指标?
- RAGAS的faithfulness和context_recall有什么区别?
- LLM-as-a-Judge有什么偏差?怎么缓解?
- 怎么测一个多轮对话Agent的上下文记忆能力?
- Prompt注入有哪几种?怎么防御?
6. 写在最后
测试转AI测试,本质上是把你过去10年积累的测试方法论,迁移到一个新的测试对象上。不需要你成为算法工程师,需要你成为最懂怎么测AI系统的人。
我在凡云教育参与AI训练师课程体系建设时,反复和学员强调一个观点:作品集 > 证书 > 培训班。哪怕你不报班,按上面的路线自己做两个项目,也能找到工作。但如果你卡壳在"不知道怎么开始、做了没人review、遇到Bug查一周",一个好的培训能帮你省下3-6个月的摸索时间。
方向是对的,就早点动手。
本文面向测试工程师提供系统化AI测试转型路径,涵盖Python进阶、大模型评测(RAGAS/DeepEval/Promptfoo)、LLM-as-a-Judge、Agent与RAG测试、Prompt红队安全测试等核心技术栈;给出6个月分阶段学习路线、2个可落地的项目作品建议,并总结AI测试面试高频考点。内容聚焦AI质量保障所需的关键能力,强调工程化评测与真实场景实践。

405

被折叠的 条评论
为什么被折叠?



