我从去年年初就一直在留意 AI 工程方向的学习资料，先后逛了不下三十个 GitHub 仓库、课程大纲和所谓的“学习路线图”。说实话，大部分要么是知识点堆砌，要么是资料链接合集，真正能把“从零开始”这件事讲透的，少之又少。这个标题叫ai-engineering-from-scratch，听起来像又一个学习清单，但细看会发现，它代表的其实是一条清晰的主线：如何在零基础的前提下，系统性地构建 AI 工程能力，而不是零散地学一堆工具和框架。
如果你正处于想入行 AI 工程，但不知道从哪里开始的状态；或者你已经会调一些现成的库，但遇到真实项目就发怵，这篇文章应该对你有用。我会把从零到一需要掌握的数学基础、编程能力、模型原理、工程化部署，以及学习节奏和避坑经验，全部串成一条可落地的路线，帮你搞清楚“先学什么、学到什么程度、怎么检测自己真的学会了”。
1. 认识AI工程：它到底在学什么
1.1 从“会用”到“能造”的能力跃迁
很多人对 AI 工程有个误解，觉得会跑通一个 Notebook、会用train_test_split、能调用model.predict()就算入门了。实际上，AI 工程是“系统工程 + 模型算法 + 数据工程 + 部署运维”的交叉地带，它在意的不是你跑通了一个 demo，而是你能不能把一个模型稳定、高效、可维护地跑在真实业务里。
我自己带过几个实习生，最有感悟的一点是：一个能跑通的 demo，和一套能交付的系统，中间隔着一整条工程能力的鸿沟。Demo 阶段你只需要关心模型精度，但到了工程阶段，你要关心数据分布漂移、特征管线的一致性、显存和推理延迟的平衡、模型版本的回滚机制、线上日志的监控告警。这些能力，光靠刷理论题或者调参数是练不出来的。
这也是我觉得from-scratch这个关键词最值得玩味的地方。它不是让你从神经网络反向传播的公式推导重新发明轮子，而是让你把每一层抽象拆开，搞明白底层发生了什么。只有理解了底层逻辑，你在面对真实问题时才不会被框架绑定，遇到框架解决不了的问题时，你才知道怎么造一个自己的轮子。
1.2 三条主线并行，别走弯路
根据我观察到的那些成功转行 AI 工程的人的经历，一个共性规律是：他们几乎都是三条主线并行推进，而不是一条路走到黑再换下一条。
- 理论主线：机器学习、深度学习、LLM 的基础原理。这条线负责回答“为什么有效”。
- 实践主线：从经典数据集到真实业务数据的端到端项目。这条线负责回答“怎么落地”。
- 工程主线：代码规范、数据结构与算法、数据库、部署工具链（Docker、Kubernetes、模型服务框架）。这条线负责回答“怎么稳定地跑”。
三条线不是严格的先后关系，而是螺旋上升。比如你先学完线性回归和逻辑回归的基础理论，就立刻在开源数据集上做一个二分类项目，项目里自然会用到 Pandas 做数据清洗、用 Flask 或者 FastAPI 包装模型接口。做完这个项目，你的理论、实践、工程三条线都往前走了一小步，比单纯抱着理论书啃三个月要高效得多。
2. 计算机器学习基础：第一块必须啃下的硬骨头
2.1 数学三件套，学到什么程度才够用
AI 工程方向最劝退人的就是数学。很多初学者一上来就啃《统计学习方法》或者大学教材的推导，结果被矩阵求导和概率密度函数劝退。但说实话，AI 工程岗位和算法研究岗位对数学的要求差别很大——工程岗更需要的是“看得懂公式、调得对参数、诊断得了问题”的能力，而不是从零推一篇论文。
我把数学学习拆成三块来说。
线性代数：你至少要熟练掌握矩阵乘法、转置、逆矩阵、特征值分解、奇异值分解（SVD）这些操作的含义。不必纠结手工计算的熟练度，但要能在看到X @ W时立刻反应出这就是一个线性变换，在 PyTorch 里它对应着nn.Linear层的核心计算。推荐的做法是边看线性代数教材边在 NumPy 里手动验证几个关键运算，比如用np.linalg.svd()做一次图像压缩，感受一下 SVD 在降维里的实际效果。
概率统计：需要吃透的内容包括概率分布（正态、伯努利、多项分布）、条件概率、贝叶斯定理、期望与方差、最大似然估计。入门深度学习和机器学习时，最常见的一个卡点就是“损失函数”这个概念，而交叉熵损失、均方误差本质上都是概率视角下的分布匹配问题。你理解了逻辑回归的交叉熵损失是在最小化预测分布与真实分布的 KL 散度，很多调参行为就有了理论依据。
微积分与最优化：重点不是积分技巧，而是理解导数的含义、链式法则、梯度下降的核心思想。要知道为什么学习率太大模型会震荡甚至发散，为什么会有 Momentum、Adam 这类优化器的变体。我见过很多调参永远只盯着学习率的初学者，就是因为不理解梯度下降的底层机制。我建议初学者亲手用 NumPy 从零实现一遍梯度下降，在两三行代码里跑一跑学习率从 0.001 到 1.0 的变化，立刻能体会参数更新过程里的几何直觉。
注意：数学的学习务必以“够用”为标准，不要试图一步到位啃完整本教材。后面遇到具体算法时再回到对应的数学知识点查漏补缺，效率会高很多。
2.2 Python编程与数据处理的功力边界
AI 工程这个方向，Python 是绝对的主力语言。但初学阶段容易陷入两个误区：一是天天刷语法题，刷到文件操作和装饰器就停住了；二是直接上深度学习框架，连enumerate和列表推导式都写不顺。
我的个人建议是：Python 语法学到能流畅处理列表、字典、集合、生成器，能写函数和类，能处理文件读写和异常，基本就够用了。更重要的是三个工具库的使用习惯——NumPy、Pandas、Matplotlib。
- NumPy：你要掌握数组的索引、切片、广播机制和常用的数学函数。整个机器学习的数据处理本质上都是在和 NumPy 数组打交道。
- Pandas：这是数据清洗的老本行。DataFrame 的筛选、分组、合并、透视表、缺失值处理，这些操作在任何一个真实项目里都会反复用到。我实测过，一个中等规模的数据集，用 Pandas 做清洗和特征工程的耗时，往往能占到整个项目周期的六成以上。
- Matplotlib 和 Seaborn：画图不是为了好看，是为了快速理解数据分布、发现异常值、判断特征和目标变量之间的关系。好的可视化分析，能帮你少走很多建模方向的弯路。
说到数据处理，我强烈建议花一周时间系统过一遍常用数据清洗模式：处理缺失值（删除还是填充）、处理重复值、处理时间字段、合并多个表格、处理类别变量的编码。这些能力在真实面试和工作中出现的频率，远高于模型调参。
3. 从模型到系统：AI工程的核心技术栈
3.1 经典机器学习：搭好理解深度学习的底座
虽然现在深度学习和大模型是主流，但我始终认为经典机器学习不能跳。原因很简单：深度学习本质上是多层非线性变换的堆叠，而其底层的损失函数设计、正则化手段、评估指标选择，全部源自经典机器学习那一套东西。另外，现实世界的很多业务问题（比如信贷风控里的逻辑回归、推荐系统里的 GBDT）仍然在用经典模型，它们的可解释性和稳定性是深度模型短期内比不了的。
这一阶段你需要真正“上手”的模型不多，吃透六七个就足够：线性回归、逻辑回归、决策树、随机森林、GBDT/XGBoost、K-Means 聚类。每个模型都要做到三点：能讲清原理，能用 sklearn 的现成接口跑通，还能从零用 NumPy 手写一个简化版本。
手写简化版不是没事找事。我举个例子，很多人用逻辑回归调包调了很久，却不理解为什么LinearRegression的输出要经过 sigmoid 函数才能变成概率。等你用 NumPy 写一遍前向传播和反向梯度更新，亲手看到损失值一点点下降，那种理解程度和调包完全不在一个层级。后续再学深度学习里的反向传播，你也不会对自动求导机制觉得神秘。
3.2 深度学习与LLM：模式识别与语言建模
跨过经典机器学习之后，深度学习是一条自然延伸的路线。核心知识点包括：全连接网络、卷积神经网络（CNN）、循环神经网络（RNN/ LSTM）、注意力机制（Attention）、Transformer 架构。我不是让你每一个都手写一遍，但至少要从原理层面理解它们各自解决了什么问题。
就拿 Transformer 来说，它之所以能取代 RNN 成为主流序列建模架构，根本原因是它把“对序列的依赖建模”从逐步传递变成了直接注意力加权，解决了长距离依赖和并行计算之间的矛盾。理解这一点后，再上手 Hugging Face 的 Transformers 库，很多接口背后的设计意图就一目了然了。
LLM 是当前这个领域里最热的落点，但很多初学者直接从“调 OpenAI API”或者“本地跑 chat 模型”开始，反而把最重要的基础能力漏掉了。我建议的学习路径是：先理解词嵌入（Embedding）是怎么把文本映射成向量的，再理解自注意力机制如何在向量之间建立关联，最后理解预训练（Pre-training）和微调（Fine-tuning）这两个阶段分别做了什么。有了这一层底子，后面无论是做 RAG（检索增强生成）、Agent 工具调用，还是微调开源模型，你都有一套清晰的决策框架。
3.3 部署与工程化：模型落地的最后一公里
纯模型能力在 AI 工程里只算半边天，另外半边是部署与工程化。不少人在训练阶段很顺，一到部署就头大：模型文件几个 GB 怎么上线？推理延迟怎么优化？模型服务怎么跟现有的业务系统对接？
这一块我建议至少掌握以下工具链：Docker 容器化、模型服务框架（FastAPI、TorchServe、Triton Inference Server）、模型压缩技术（量化、剪枝、蒸馏）、以及基本的 GPU 资源管理。
其中，Docker 是入门门槛最低、性价比最高的一项。我见过不少团队，模型在开发环境跑得好好的，一到测试环境就各种依赖冲突，最后排查半天发现是 Python 版本和 CUDA 版本不一致。而 Docker 把环境固化在镜像里，一套环境到处跑，整个流程会舒心很多。建议从写一个最简单的 Dockerfile 开始，把一个训练好的 sklearn 模型打包成 API 服务，中间你会自然接触到镜像构建、容器端口映射、健康检查这些概念。
4. 项目驱动：从零开始最容易踩的坑与最佳路径
4.1 项目节奏怎么安排
理论学习很容易让人产生“我好像都会了”的错觉，只有动手做项目才会暴露真实水平。我在带人的时候，常用的项目节奏大概是这样的：
- 第一个项目（1~2 周）：经典二分类或回归问题，比如泰坦尼克号生存预测或者波士顿房价预测。重点是走通“数据加载—清洗—特征工程—训练—评估”的完整流程，不追求精度。
- 第二个项目（2~3 周）：图像或文本分类任务，比如用 CNN 做 CIFAR-10 图像分类，或者用 LSTM/Transformer 做影评情感分析。重点是接触深度学习的训练流程、数据加载器、模型保存与加载。
- 第三个项目（3~4 周）：LLM 应用项目，比如做一个基于开源模型和向量数据库的问答系统。重点是理解 RAG 的基本链路：文档加载—切分—向量化—向量检索—大模型生成。
- 第四个项目（3~4 周）：把前面任意一个项目工程化改造：Docker 打包、FastAPI 上线、写监控日志、做简单压测。这一步完成后，你才算是真正一只脚迈进了 AI 工程的门槛。
4.2 手把手拆解一个学员项目案例
我拿之前带过的一个学员的第二个项目来具体拆一下，这个案例特别能说明“从零开始”会遇到什么。任务是做一个中文影评的情感分类，用预训练的中文 BERT 模型在自有数据集上做微调。
他一开始犯的错误很典型：直接上网找了一段微调代码，复制粘贴，跑通了就觉得自己大功告成。我让他做三件事：第一，把数据加载部分从头写一遍，用 Hugging Face 的datasets库读入原始 CSV，分析标签分布，自己实现文本截断和 padding 的逻辑；第二，把训练循环里的每一步打印出来，包括 loss、accuracy、学习率变化；第三，把模型在 20 条真实影评上的预测结果和错误案例整理成一个表格，逐个分析是数据问题还是模型问题。
这个过程大概又花了一周，但收获完全不同。他开始理解为什么padding要放在tokenizer里而不是手动做，为什么训练时要区分train和eval两种模式，为什么同样的代码换一批数据就崩了。这些细节，恰恰是工程能力的核心。
4.3 六条独家避坑经验
- 别一上来就追新模型：今天最强的是这个，下个月可能就被另一个替代了。扎扎实实把 Transformer 的前向传播、注意力计算吃透，换什么模型都是同一套底座。
- 一定要自己写数据处理管线：哪怕只是做一个 CSV 读取、去重、切分训练集验证集的工具函数，也值得自己写一遍。这个能力是数据敏感型项目的基础。
- 日志是你最重要的朋友：训练模型时一定要记录每一步的 loss 和关键指标，不要只看最终结果。loss 曲线的形状能告诉你学习率是不是太高、模型是不是欠拟合、数据是不是有泄漏。
- 先跑通再调优，别一开始就追求 SOTA：先用一个最简单的模型作为 Baseline，把这个模型的完整链路跑通，再逐步替换更复杂的模型。这样可以保证任何时候你都有一个可用的版本，而不是永远停在“快跑通了”的状态。
- 环境问题就是工程问题：Python 虚拟环境、依赖锁定、CUDA 版本一致性，这些看起来不起眼的问题，在团队协作里最能体现一个人的工程素养。
- 学会阅读报错信息：不要一看到英文报错就复制粘贴到搜索引擎里。先自己读一遍，搞清楚是数据格式问题、维度不匹配问题、还是显存不足问题，再决定下一步。这个习惯长期来看能省非常多时间。
5. 常见问题速查表与学习资源
5.1 问题速查表
我整理了几个初学者高频问题，每个都是我实际遇到过、也帮别人排查过的。
| 症状 | 可能原因 | 排查思路 |
|---|---|---|
| 训练时 loss 一开始就很小，但测试集效果很差 | 数据泄露或评估逻辑写错 | 检查训练集和测试集是否在预处理阶段混入了全部数据的统计信息 |
| loss 变成 NaN | 学习率过大、数据有异常值、梯度爆炸 | 先把学习率降到 1e-4 数量级，检查数据集里的无穷值和缺失值 |
| 模型预测结果全是同一个类别 | 样本不均衡或学习率过低导致模型没训起来 | 先看类别分布，再看训练 loss 曲线是否在下降 |
| 本地跑得好好的，上 Docker 启动报错 | 依赖版本差异或环境变量缺失 | 用pip freeze锁定依赖，对比宿主机与容器内的 Python 和 CUDA 版本 |
| GPU 显存爆了 | batch size 过大或序列过长 | 减小 batch size，使用梯度累积，或者对序列做截断 |
| 训练时间太长 | 数据处理效率低，GPU 利用率不足 | 用 PyTorch Profiler 查看瓶颈，考虑 DataLoader 的num_workers和pin_memory |
这些问题的共性在于：报错不是你做错了什么，而是系统在告诉你一个因果链条中的某个环节出了问题。只要养成看日志、看曲线、看数据分布的习惯，大部分问题都能在十分钟内定位。
5.2 从零开始的高性价比资源清单
资源库不用贪多，选几个经典的吃透比收藏一百个强。
- 理论入门：《机器学习》（周志华）、吴恩达的《Machine Learning Specialization》和《Deep Learning Specialization》。前者帮你建立理论体系，后者把理论与实践结合得非常好。
- 动手实践：Kaggle 上的经典比赛（比如 House Prices、Titanic）和 Hugging Face 的教程。Kaggle 的核心价值在于你能看到全世界顶尖选手的代码和人分享的经验。
- 工程能力：FastAPI 官方文档、Docker 官方教程、以及 PyTorch 官方教程里的数据并行和部署章节。不用全看，按项目需求挑着看。
- LLM 专项：Hugging Face 的 NLP Course 和 OpenAI 官方出的提示工程文档。RAG 方向可以看 LlamaIndex 和 LangChain 的入门教程，但不要只依赖框架，底下那层向量数据库和相似度检索的原理也要花时间理解。
我的最后几点体会
说实话，ai-engineering-from-scratch这条路走到今天我最大的体会是：它考验的不是智商，而是耐心和解决问题的能力。很多初学者在第一个项目就卡住了，因为数据清洗比自己想象的脏、报错比自己想象的多、模型效果比自己想象的差。这时候最需要做的不是换一个教程，而是静下心来把问题拆小：先确认数据没问题，再确认梯度在更新，再确认评估逻辑正确。你每拆一次，能力就长一分。
我自己踩过最多的坑，反而是“捷径心态”——总觉得有更高效的工具、更快的路径。后来发现，真正高效的方式恰恰是最笨的那种：亲手写一遍数据处理、亲手追踪一次梯度更新、亲手把服务部署上线。这个过程没法省略，省掉的部分最后都会在面试八股题或者真实项目翻车时补回来。
如果你现在正处于起步阶段，建议从今天开始定一个为期两周的小目标：找一份带标签的数据集，写一个完整的分类训练脚本，把损失曲线画出来，再把脚本用 Docker 跑通。两周之后你会发现，那些之前觉得遥不可及的 AI 工程概念，已经开始变成你手里的工具了。
