Jean's Blog

从基础模型与指令模型的差异出发，理解 SFT、偏好数据、奖励模型、RLHF、PPO、KL 约束、DPO、RLAIF、Reward Hacking 与模型对齐评测。

从数据准备、反向传播和大规模预训练出发，理解继续预训练、SFT、偏好对齐、分布式训练、评测与迭代如何共同构成 LLM 的训练流程。

从 Token Embedding 出发，理解 Self-Attention、QKV、Causal Mask、Multi-Head Attention、残差连接、归一化和 FFN 如何组成现代 Decoder-only LLM。

从下一个 Token 预测出发，理解 LLM 幻觉的定义、类型、形成原因、检测方法，以及 Prompt、RAG、工具调用和人工审核如何降低幻觉风险。

从上下文窗口、Prefill 和 Decode 出发，理解 Transformer 为何需要 KV Cache、缓存中保存了什么、如何估算显存，以及长上下文推理中的常见优化策略。

从隐藏状态和语言模型输出层出发，理解 Logits、Softmax、条件概率、Temperature、Top-k、Top-p、交叉熵以及下一个 Token 的选择过程。

区分 Prompt、Context 与 Chat Template，理解 System、User、Assistant、历史对话和外部信息如何组成模型真正接收的 Token 序列。

从 Token、Vocabulary 和 Token ID 出发，理解 BPE、WordPiece、Unigram、特殊 Token、编码与解码，并使用 Qwen Tokenizer 完成可执行实验。

从消息输入、Chat Template 和 Token 化开始，逐步理解 Prefill、Logits、解码策略、KV Cache、Decode 循环以及最终文本输出。

从 Token、Embedding、Transformer 和自回归生成出发，理解大语言模型的基本原理，并使用 Qwen2.5 完成本地推理。