共 3 篇文章
大模型LLM预训练微调对齐学习方法大模型
如何从零构建自己的 LLM：GPT 和 Claude 背后的 5 阶段完整流程
拆解 GPT、Claude、Gemini 背后的统一五阶段流水线：数据清洗、预训练（预测下一个 token）、缩放定律、后训练（SFT/RLHF/DPO）、评测与系统，强调架构最不重要，真正决胜在数据、评测与工程系统，附学习路径。
2026-08-3120000
大模型LLM预训练微调对齐心智模型大模型
如何从零构建自己的 LLM：GPT 与 Claude 背后的五阶段全流程
以入门视角讲清前沿 LLM 共用的五阶段流水线：数据准备与分词、预训练涌现语言能力、监督微调教其有用、奖励建模对齐偏好等，强调建立心智模型比数学学位重要，并说明可在笔记本上动手训练迷你版以破除神秘感。
2026-08-3114000
微调与对齐预训练微调强化学习RLHF对齐
预训练之后，为什么还要后训练？
解释大模型预训练之后为何还需后训练：基座模型只会续写文字，听指令、安全性、长链条推理三方面不足；后训练用更小更精的数据调整行为，分为三种技术——指令微调SFT（跟示范学）、偏好对齐RLHF/DPO（靠比较学）、RLVR（由检查器判对错），并对比预训练与后训练在目标、数据、信号、成本上的差异。
2026-10-222000