00先想清楚:应用层还是训练层
「学 AI」是个太大的词。现在市场上的岗位其实分两条线:
- 应用层(大多数人该走的):调用大模型 API、写 Prompt、做 RAG、搭 Agent,把 LLM 接进产品。不需要机器学习数学,会 Python 就能开始。招聘需求最大。
- 训练层:预训练、微调、推理引擎优化。需要深度学习和 CUDA 底子,岗位少但门槛高、薪资高。
本文按应用层排路线,训练层放在最后作为可选延伸。如果你连方向都还没定,可以先看这份图谱式导航:AI 职业赛道地图,里面有八大赛道的火爆程度、岗位需求和推荐度。
01阶段一 · Python 与 API 调用基础
把 Python 用到能调通一个 API
不用学完整套 Python,但要熟练:变量/函数/类、requests/httpx 发请求、读写 JSON、async/await 异步、虚拟环境与包管理。这些是后面每一步的地基。
能独立写出「读环境变量里的 key → 调一个 HTTP 接口 → 解析返回的 JSON」这段代码,就可以进下一步了。
02阶段二 · Prompt 工程与直接调模型
先裸调 API,把模型的边界摸清楚
在碰任何框架之前,先直接调 Anthropic / OpenAI 的 Messages API:理解 system/user/assistant 角色、温度、流式输出、工具调用(function calling)、结构化输出。同时练 Prompt 工程——这是决定输出质量的第一杠杆。
为什么要先裸调?因为框架把这些细节包起来了,你直接上框架就等于把模型当黑盒,出了问题不知道是 Prompt 写坏了还是框架配错了。先手写一遍,框架才用得明白。
03阶段三 · RAG 检索增强
让模型回答你自己的资料
RAG(检索增强生成)是应用层最高频的需求:把文档切块 → 向量化 → 存进向量库 → 检索 → 拼进 Prompt。搞懂 embedding、chunking、向量检索、重排,就能做出「问答自己知识库」的产品。
04阶段四 · Agent 框架与编排
从单次问答到多步自主执行
到这一步再学框架就顺理成章了。Agent 让模型能规划、调工具、循环执行。先理解 ReAct 循环,再学状态图编排(LangGraph)、声明式编程(DSPy)、类型安全的 Agent(Pydantic AI),以及 MCP 这套工具协议。
做到这里你已经能独立交付一个真实的 AI 应用了。想更上层楼,再补可观测与评测:知道线上模型到底表现如何、怎么量化改进。
05阶段五 · 微调与推理部署(按需)
需要更强控制力时再深入
当 Prompt + RAG 满足不了需求(垂直领域、私有风格、成本/延迟极致优化),才进入训练层:LoRA 微调、量化、推理引擎(vLLM)、多模型路由。这一步需要 GPU,但可以用云端按小时租,不必自己买卡。
常见问题
没有 AI 基础,学大模型开发要先会什么?
先把 Python 用熟,尤其是异步、类型注解、调 API 这些。你不需要先学机器学习数学——应用层开发绝大多数工作是调 API、写 Prompt、做 RAG 和 Agent,不涉及手推公式。数学和深度学习是想做训练/微调时再补的。
AI 编程学习顺序是什么?先学 LangChain 还是先学 Prompt?
先学 Prompt 和裸调 API,把模型边界摸清,再学 LangChain 这类框架。反过来的话框架会变成黑盒,出问题不知道从哪查起。
学 AI 开发一定要买显卡吗?
做应用层(Prompt、RAG、Agent)完全不需要显卡,调云端 API 即可。只有到 微调和本地部署阶段才需要 GPU,而这一步也能用 Colab、云 GPU 按小时租。
有没有免费的中文 AI 大模型开发教程?
有。古法编程 提供 30 多门免费中文 AI 教程,覆盖本文提到的每一个阶段,全部含名词解释和可运行代码,无需登录。上面每个阶段的链接都能直接开学。