这门课怎么学
课程分成"用大模型做东西"和"从零弄懂大模型"两部分。按你的目标选路线,了解每课的结构,以及遇到报错时该怎么办。
- 约 15 分钟
- 难度:入门
- 实测:无需运行
大多数人学 AI 卡在两个地方。一种人看了很多"大模型原理"的文章,注意力、Transformer 讲得头头是道,却从没自己调过一次 API,更别说做出一个能用的东西。另一种人会用各种框架拼出一个聊天机器人,可一旦效果不好,就只能换个提示词碰运气,因为不知道底下发生了什么。
这门课想让你两头都不缺:既能做出东西,也知道它为什么能用、为什么会坏。
两部分
第一部分:用大模型做东西(模块 00~07)。从第一次调用 API 开始,学提示词、工具调用、RAG(让模型读你的资料)、智能体,最后学怎么评估和上线。这部分全程只调 API,不需要显卡,也不需要数学。
第一部分的大部分课围绕同一个项目:给开源 HTTP 库 httpx 做一个答疑助手,我们叫它 RepoBot。它从一个只会聊天的命令行小程序开始,一版一版长大:先学会读 httpx 的文档回答问题,再学会自己翻源码找答案,最后有了评估集和日志,可以放到网上给别人用。
第二部分:从零弄懂大模型(模块 08~11)。用 numpy 手写梯度下降和反向传播,用 PyTorch 从零搭一个小 GPT,拿唐诗训练它,让它自己写出几句像模像样的诗。然后手写 LoRA,微调一个真实的开源模型,再把模型部署到本地。
先学用、后学原理,是有意这样排的。第一次调通 API 只要十分钟,做出第一个能读文档的助手大概要三周。先有了这些成就感,也遇到过具体的问题("它为什么总是编造函数名?"),你再回头看原理,会知道自己在找什么。
选一条路线
| 你的情况 | 建议路线 |
|---|---|
| 会 Python,想用 AI 做产品或者提高工作效率 | 学第一部分(00~07),第二部分以后有兴趣再看 |
| 已经在做 AI 应用,想补原理 | 直接从 08 开始学第二部分,遇到不熟的应用概念再翻第一部分 |
| 想系统地学一遍 | 按顺序全学。每周 6~8 小时,大约两个半月 |
| 只想学会用 AI 写代码 | 00 → 01 → 07,一个周末就够 |
第一部分的模块之间有依赖:04 RAG 要用到 03 的对话和工具调用,05 智能体要用到 03 和 04。第二部分的 08 和 09 也要按顺序学。其他模块可以跳着看。
每一课长什么样
每课开头会先讲一个具体的问题:这个东西不学会,你会在哪里卡住。然后讲清楚原理,接着动手写代码。能手写的地方,先不用任何框架写一个最简单的版本,再告诉你现成的库里对应的是哪一步。这样框架对你来说就不再是黑箱。
课的后半部分讲这个方法在什么情况下不好用、常见的坑,最后是练习和自测。自测的答案折叠着,想好了再点开看。
课里贴出来的程序输出都是写课时真实运行得到的。frontmatter 的 verified 字段写着运行的日期和模型。调用大模型的例子,你运行出来的结果会和课里不一样,这是正常的,下一个模块会讲为什么。不调用大模型的代码,比如第二部分训练神经网络的部分,都固定了随机种子,你应该能得到和课里完全相同的数字。
怎么动手
代码一定要自己运行。最好是自己敲一遍,至少也要复制下来跑一遍,然后改一改:换个问题,改个参数,看看结果怎么变。每课的完整代码也放在 code/ 目录下,但请把它当成对照答案,而不是直接运行的起点。
练习分几档。第一档一般是"改一个地方看看会发生什么",几分钟就能做完,建议全做。最后一档通常要自己写一个小功能,可以挑感兴趣的做。
遇到报错怎么办
报错是学习的一部分,别慌。按这个顺序处理:
- 看最后一行。Python 的报错信息很长,但真正的原因几乎总在最后一行,比如
openai.AuthenticationError: Error code: 401说明密钥不对,ModuleNotFoundError: No module named 'openai'说明包没装,或者装到了别的环境里。 - 看报错指向你代码的哪一行。往上找,找到第一个出现你自己文件名的那一行,问题通常就在那附近。
- 对照课里的代码。逐行比一比有没有抄错、有没有漏掉一行。
- 把完整的报错信息拿去搜索,或者问 AI。注意是完整的,不要只说"它报错了"。
用 AI 帮你学习是个好主意。看不懂一段代码,可以让它逐行解释;一个概念没想通,可以让它换个角度讲,或者举个别的例子。但是练习请自己写。让 AI 替你写练习,就像请人替你去健身房,最后长肌肉的是别人。
要花多少钱
第一部分要调用大模型 API。课程默认用 DeepSeek,因为国内能直接注册和付款,价格也低。以 2026 年 9 月的价格算,第一部分所有例子和练习跑下来,一般花不到 1 美元。下一课会讲怎么申请密钥,也会讲怎么换成通义千问、Kimi,或者用 Ollama 在自己电脑上免费运行模型。
第二部分基本不花钱。小 GPT 在普通笔记本的 CPU 上几分钟就能训练出结果。只有第 10 模块微调真实的开源模型时,建议用免费的云端 GPU,课里会讲具体怎么用。
练习
- 看一眼课程目录,按上面的表格选好你的路线,写下你打算每周学几个小时、在哪一天学。
- 想一个你自己想用 AI 做的小东西,比如"帮我整理每周的会议记录"、"回答我们团队文档里的问题"。写下来,学到第一部分的最后,回来看看你能不能把它做出来。这道题没有标准答案。
自测
1. 为什么这门课先讲怎么用大模型,后讲原理?
先做出能用的东西,你会遇到具体的问题,比如模型编造了一个不存在的函数、回答前后矛盾。带着这些问题再学原理,你知道自己在找什么答案,学得更扎实,也不容易在一堆数学里半途而废。
2. 你照着课里的代码调用大模型,得到的回答和课里贴的不一样。是你做错了吗?
不一定。调用大模型的输出本身就带有随机性,同一个问题问两次,回答也可能不同(01 模块的第 3 课会讲原因)。只要程序没有报错,回答的意思大致合理,就说明你做对了。不调用大模型的代码固定了随机种子,那部分的数字应该和课里完全一致。
3. 运行代码时出现一大段报错,第一步应该看哪里?
看最后一行。它通常直接写出了错误类型和原因。然后往上找到第一个出现你自己文件名的那一行,定位是哪行代码出的问题。
提问与讨论
这一课没看懂的地方,在这里问。看到别人的问题,也欢迎你来回答。
提问 +3 积分,回答别人 +6 积分。内容经审核后公开。
正在加载讨论…