生成式推荐正在把推荐系统从「对候选集打分排序」的判别范式，转向「直接生成推荐结果」的生成范式。本部分作为「生成式推荐主线」的起点，系统搭建四根支柱—— 范式动机 、 架构基石 、 LLM 建模流程 、 Tokenizer 技术 ，层层递进，构成理解后续章节的完整基础。各章要点见下表。
本章涵盖
| 章节 | Topic | The Big Idea |
|---|---|---|
| 6.1 | 生成式推荐范式引言 | 判别式 vs 生成式：局部打分决策 vs 全局概率建模，三道固有局限驱动范式转变 |
| 6.2 | 生成式架构基础 | Transformer 自注意力/位置编码/两类架构范式/因果掩码，与 Diffusion 互补 |
| 6.3 | LLM 基础 | 预训练—指令微调—偏好对齐三阶段范式，及向生成式推荐的映射与挑战 |
| 6.4 | Codebook 量化与语义 ID | 稀疏/文本/语义 ID 三范式，VQ-VAE、RQ-VAE、RQ-Kmeans、RQ-OPQ 工业方案 |
What You'll Be Able to Do After This Part
- 🟢 区分 判别式与生成式的核心公式与「问的问题」，列出判别式三大固有局限
- 🟢 解释 自注意力的 Q/K/V 机制、位置编码（含时间感知）与因果掩码的作用
- 🟡 对比 Encoder-Decoder 与 Decoder-Only 两类架构的优劣与适用场景
- 🟡 复述 LLM 三阶段范式（预训练/SFT/RLHF/DPO）并映射到推荐场景
- 🔴 推导 VQ-VAE 三损失与 RQ-VAE 残差量化，说明语义 ID 的三大价值
- 🔴 完成 4 章共 18+ 道分层练习题，巩固从范式到语义 ID 的全链路
核心概念
| Concept | 章节 | Relevance |
|---|---|---|
| 判别式/生成式范式 | 6.1 | 全书生成式主线的总开关 |
| 自注意力 / 位置编码 / 因果掩码 | 6.2 | Transformer 生成架构的核心机制 |
| Encoder-Decoder vs Decoder-Only | 6.2 | 生成式架构选型的根本权衡 |
| Diffusion 模型 | 6.2 | 与 Transformer 互补的生成机制 |
| 预训练/SFT/RLHF/DPO | 6.3 | LLM 训练范式的方法论框架 |
| 物品 Token 化 / 语义 ID | 6.4 | 连接推荐数据与生成模型的桥梁 |
| VQ-VAE / RQ-VAE / RQ-Kmeans / RQ-OPQ | 6.4 | 语义 ID 的离散化技术谱系 |
前置知识
- 已读完 Part 1 （1.1 的两种范式、1.2 技术地图）
- 已读完 Part 2 （2.3 双塔的内积与向量空间直觉）
- 具备基础的线性代数（矩阵、内积）、概率（softmax、KL 散度）与神经网络常识
本部分为前沿内容，术语较新（生成式检索、语义 ID、RQ-VAE、Scaling Law 等），首次出现均中英对照并配心智模型与图表。
Tips for This Part
- 先看动机再看技术。 6.1 的「为什么需要生成式」是理解后续一切技术的钥匙——每个技术都在回应某个判别式局限。
- 抓住「统一架构」主线。 从 6.2 的 Transformer 到 6.3 的 LLM，再到 6.4 的语义 ID，「统一、可扩展、端到端」是一以贯之的设计哲学。
- 多动手点可视化。 每章的交互式 HTML 与 SVG 都值得亲手走一遍，把抽象公式落到「序列如何生成」「向量如何量化」的直觉上。
- 对照判别式思考。 每遇到一个生成式组件，先问「它解决了判别式的哪个局限？」
Let's dive in! 🚀