如果你已经会用 AI 助手写代码，却想搞清楚它在系统层面到底是怎么跑起来的，Harvard 的这门课是一个很合适的进阶参照。它的全名是 Modern AI Systems: Agents and System Optimizations，2026 年秋季开课，官方网站在 8 月 17 日就已有开课公告，授课者在 10 月 10 日介绍本学期教材后又受到不少关注。

这篇指南不做课程搬运，而是把这门课的学习思路重新整理成一条普通人也能照着走的自学路线：先会用现成的代理，再尝试自己搭一个，然后学会量测与优化，最后理解自己部署一个开放权重模型的服务系统要处理哪些事。

这门课到底在讲什么

定位上，它是一门研究所层级的电脑系统课程，而不是快速上手 AI 工具的培训课。它关心的问题是：一个能做事的 AI 系统，从接到请求到给出答案，中间经历了什么？哪些环节在烧时间、烧钱、占资源？又该怎么改才能让它更快、更稳、更便宜？

背景要求也说明了这一点。课程建议先修过 CS61 以及至少一门研究所层级的系统课，熟悉 Python 和 PyTorch，并且对程序如何执行、并行如何发生、内存如何工作、数据库和网络如何配合有基本理解。没有这些背景，直接看后半段会很吃力。

学习路线：四步走，不要跳步

第一步：先使用现有的程序代理。 比如先用 Claude Code 这类已经成熟的工具完成真实任务，感受一个代理是如何拆解问题、调用工具、反复修正、最终交付结果的。先有使用体感，后面自己动手才知道要复现什么。

第二步：建立自己的代理。 这一步的关键不是做出一个更强的模型，而是把“问题进来、工具调用出去、结果回来、再决定下一步”这个循环亲手实现一遍。你会立刻发现，真正难的不是调一次模型，而是处理失败重试、上下文膨胀、工具出错、循环失控这些工程问题。

第三步：量测与改善。 当代理能跑起来后，就要开始量测：一次请求要多久？单位时间能处理多少？哪里最耗时？哪里最烧钱？然后再针对性改善，而不是凭感觉调参数。

第四步：接手开放权重模型的服务系统。 到了后半段，重点会转到服务系统本身：如果你要自己把一个开放权重模型部署成服务，需要安排请求、管理资源、处理高并发，还要保证在资源不足时系统不会直接垮掉。

API 调用和自己部署，差别在哪里

很多人会把这两件事混为一谈，其实责任边界完全不同。

用 API 时，你可以控制提问方式和工具流程，比如让模型先查资料再回答，或者按固定步骤执行。但远端的运算引擎你很难改，你主要是在“怎么用它”上下功夫。

自己部署时，责任就全部落到你身上了。你需要负责请求安排，也就是决定先处理谁、后处理谁；需要做可重用运算资料的保留，也就是把算过的结果存下来，下次直接复用；还要处理资源不足的情况，比如排队、降级、限流，而不是让系统无声无息地卡死。

一句话区分：API 是学会指挥别人干活，自己部署是自己开一家店，从接单到上菜都要管。

四个必须先搞清的核心概念

延迟：完成一次请求要多久。 用户感受到的快慢，基本由它决定。延迟高，体验就差，哪怕系统整体吞吐量不低。

吞吐量：单位时间能处理多少请求。 它衡量的是系统的处理能力。延迟和吞吐量经常要一起看：只优化一个，另一个可能变差。

快取：保留可重用的资料，减少重复处理。 很多请求里有大量重复或相似的计算，快取就是把算过的结果留下来，下次直接用，从而省时间和成本。

并行：让多项工作在时间上重叠。 并行能提速，但不是万能药。如果任务之间有依赖关系，后面的工作仍需等待前面的结果，并行也帮不上忙。理解依赖，是理解并行上限的前提。

优化怎么做才算靠谱

一个实用的优化流程是：先固定一组问题与验收方式，再比较修改前后的结果。

“固定”这一步最重要。测试问题、验收标准、输入来源和输出字段都要先定下来，否则你根本不知道变好是因为改动有效，还是因为测试标准变了。

举个例子：把答案改短，费用可能下降，因为输出的 token 少了；但也可能漏掉要求，导致答案不合格。只有在来源和字段等要求都固定之后，再看调用次数和耗时是否下降，这样的结论才站得住脚。

反过来，如果每次测试都换问题、换标准，优化就变成了玄学：这次快了，下次又慢了，却说不清为什么。

自学建议：怎么用这门课的公开教材

公开教材是可以自学的，但要分清三件事：正式选课、旁听和学校运算资源，各自有不同的条件。不要默认自学就等于能拿到和在校学生完全一样的资源和支持。

对于已经会写程序的人，建议把重点放在一处：如何把成功率、延迟与成本放在同一套实作里权衡。很多人只盯着准确率，却忽略了“这个方案跑起来要多少钱、要等多久、失败时怎么办”。这门课的价值，恰恰在于把这三件事放在同一个系统里讨论。

学习顺序上，建议先补系统背景，再挑一个能完成的阶段动手。比如先把代理的循环跑通并做好量测，再去碰部署和优化。把整门研究所课程当成快速工具教学来赶进度，收获反而有限；选一个阶段做深，远比囫囵吞枣地过完整门课有用。

一张自学检查清单

1. 能说清延迟、吞吐量、快取、并行的含义和相互关系
2. 能亲手实现一个带工具调用的代理循环，并处理失败和重试
3. 能固定一组问题和验收方式，对比一次改动前后的效果
4. 能说清 API 调用和自己部署在责任边界上的差别
5. 能在成功率、延迟、成本之间做取舍，并说出取舍的理由

走完这五条，你就不是只会“用 AI”的人，而是开始理解 AI 系统为什么这样跑、又该怎么把它跑得更好的人。