Skip to content

深度学习与生成模型 ​

从张量和自动微分进入神经网络、训练技巧及现代生成模型。

阅读起点 ​

学习前先阅读:机器学习基础 学习路线。

全书顺序 ​

本书按知识依赖组织。主线先建立可运行的共同模型,再进入机制、工程边界和生产约束;维护与前沿内容明确标注,不改变主线的学习顺序。

第1章|神经网络机制 ​

从前向传播和反向传播推导多层网络的训练。

  1. 张量与计算图:理解张量形状、参数、前向计算和梯度依赖。
  2. 反向传播与优化器:解释链式法则、SGD、Adam 和学习率调度。
  3. 正则化与归一化:比较 dropout、权重衰减、批归一化和早停。

第2章|PyTorch 与 TensorFlow 训练实践 ​

能在主流框架中组织数据、训练、保存和恢复模型。

  1. 数据管道与批训练:构造 Dataset/DataLoader 或 tf.data 并处理设备与批次。
  2. 训练循环与实验记录:记录指标、随机种子、检查点并定位训练不收敛。
  3. 模型导出与兼容:区分训练图、推理图、权重格式和部署约束。

第3章|迁移学习与模型生态(维护与兼容) ​

使用预训练模型解决小数据问题,理解模型库的边界。

  1. 预训练与微调:区分特征提取、全量微调和参数高效微调。
  2. 分词与序列任务:理解 tokenizer、上下文长度和批处理对结果的影响。
  3. 模型卡与数据责任:阅读模型限制、训练数据说明和评测指标。

阅读边界 ​

本页是学习路线和专题入口,不替代专题笔记中的机制解释、可运行示例和练习。笔记尚未完成的专题会先显示为占位页;已有经验的读者可以跳到具体章节,再按前置关系回补。

路线状态 ​

本路线的目录已经纳入路线架构,正文笔记仍处于占位或待审查状态。

用心记录每一步成长