Skip to content

仓库、湖与编排 ​

组织仓库/lakehouse、转换项目和调度系统的生产协作。

阅读起点 ​

学习前先阅读:数据工程架构 学习路线。

全书顺序 ​

本书按知识依赖组织。主线先建立可运行的共同模型,再进入机制、工程边界和生产约束;维护与前沿内容明确标注,不改变主线的学习顺序。

第1章|仓库与 Lakehouse ​

比较表格式、分区、文件布局和计算存储分离。

  1. 列式文件与分区:理解 Parquet 等列式存储、分区裁剪和小文件问题。
  2. 仓库与 Lakehouse 边界:比较治理、事务、开放格式和查询引擎。
  3. 成本与生命周期:处理冷热分层、压缩、归档和查询成本。

第2章|编排与转换工程(维护与兼容) ​

让数据模型、调度和发布具备依赖可见性。

  1. DAG 与任务语义:理解调度、重试、补数和任务幂等。
  2. SQL 转换与测试:把模型依赖、文档和断言纳入发布。
  3. 环境与发布:区分开发、生产、回填和灾备配置。

阅读边界 ​

本页是学习路线和专题入口,不替代专题笔记中的机制解释、可运行示例和练习。笔记尚未完成的专题会先显示为占位页;已有经验的读者可以跳到具体章节,再按前置关系回补。

路线状态 ​

本路线的目录已经纳入路线架构,正文笔记仍处于占位或待审查状态。

用心记录每一步成长