“大模型”这几年几乎成了技术圈最热的关键词但热度越高信息噪音越大。我自己在学习LLM大语言模型的时候最头疼的恰恰不是找不到资料而是资料太多太散今天刷到一篇“什么是Transformer”明天看到一条“Scaling Law”的播客后天又冒出个“微调教程”所有知识点都是碎片。于是我做了一个决定——把大模型的发展史从头到尾系统梳理一遍从2017年的Transformer论文一路串到开源模型、量化部署、多模态大模型最后整理成这篇学习笔记。它适合刚接触大模型、想建立完整知识地图的人也适合那些已经在追热点但总觉得根基不稳的朋友。1. 大模型的“史前史”没有算力和数据光有算法也白搭很多讲大模型发展史的文章一上来就说Transformer但我个人觉得如果不先理解神经网络前面几十年的起落就很难明白为什么Transformer一出现就能席卷一切。深度学习的基本思想出现得很早但它经历过的几轮寒冬和复苏比背一条时间线更有启发。1.1 神经网络的三次寒冬缺的不是想法是算力和数据先说最初的起点。1958年前后感知机模型被提出它能在简单任务上做线性分类当时的研究者一度以为机器很快就能“思考”了。结果这个乐观预期被现实狠狠泼了冷水1969年有一本书非常著名它证明单层感知机连“异或”这种简单的非线性问题都解决不了。你想想一个被认为是人工智能核心的模型居然连最基础的逻辑运算都做不出来研究资金和公众热情立刻大撤退这是第一次寒冬。后来反向传播算法解决了一部分训练问题——它通过链式法则把误差从输出层一层层传回去让多层网络终于可以被训练。但新问题又来了层数一深梯度要么爆炸要么消失数据量不够模型根本学不出规律CPU算力又拖后腿训练一次可能要跑好几天。所以在很长一段时间里神经网络只能在小数据集里打转工业界宁可选择SVM、决策树这类更“可控”的模型。第二次、第三次寒冬本质都是这三件事没凑齐。我讲这段历史的原因是想强调一个后来理解大模型最关键的钥匙算法、数据、算力三者缺一不可。2012年AlexNet在ImageNet图像分类比赛里大幅刷新记录本质上就是GPU并行计算、百万级标注数据、深度学习算法这三样东西终于同时到位了。从那之后算力成本持续下降、互联网数据疯狂积累这才让后来所有“更大规模”的想法具备了落地可能。1.2 词向量让文字从符号变成数字在自然语言处理被深度学习接管之前计算机处理文字基本靠“统计”和“符号”。传统做法是把词表里的词编号比如“苹果”是100“香蕉”是101但这种编码没有任何语义关系模型理解不了“苹果”和“水果”相近、“猫”和“狗”都是动物。2013年前后的word2vec改变了这个局面——它把每个词训练成一个稠密向量比如300维语义相近的词在向量空间里距离也更近。“国王-男女女王”这类经典类比就是词向量的魅力。word2vec本身不是大模型但它的意义非常大它证明了“分布式表示”这条路是通的文字可以被映射到连续空间里然后直接丢给神经网络计算。2018年的ELMo又往前走了一步提出上下文相关的词向量同一个词在不同句子里会有不同的向量因为模型会结合它周围的词来重新计算表示。这个“根据上下文算一个词的表示”的思想后来被Transformer发扬光大演化成今天大家熟悉的“预训练下游微调”范式。可以说没有这些词向量的铺垫Transformer再强也很难在语言领域直接落地。1.3 为什么序列建模是当年的最大瓶颈还有一个背景值得专门记一笔2010年代中期NLP的主流模型是RNN和LSTM这类循环神经网络。它们的思路是“按顺序一个一个地读词”把前面出现的信息压缩成隐藏状态往后传。问题是随着句子越来越长早期的信息会被逐渐稀释梯度也很难传回去训练时又必须一个词一个词地按顺序来没法并行效率极低。做机器翻译、长文本处理时这类模型又慢又容易“忘事”。所以当年几乎所有研究者都在想同一个问题能不能有一种结构从头到尾同时看到整句话而不是串行处理这个需求最终在2017年被Transformer的一个核心组件回答那就是自注意力。理解了这个背景你就知道Transformer不是横空出世的“魔法”而是对旧瓶颈的一次釜底抽薪。2. Transformer一统天下自注意力不只是“更好”而是“不一样”2.1 “Attention Is All You Need”到底改了什么2017年Google团队发表了那篇改变一切的论文《Attention Is All You Need》。论文出发点是机器翻译但它的核心主张非常叛逆以前处理序列依赖靠RNN/LSTM的循环结构现在Transformer说我不要循环只要注意力机制就够了。自注意力Self-Attention的作用是对句子里的每个词都去计算它和其他所有词之间的相关性权重再用这个权重去加权融合所有词的信息。你可以把它想象成一个会议场景所有参会者先各自发言然后每个人都根据“谁的话和我最相关”来决定听谁更多。这样做有几个直接好处第一任意两个词之间的距离都变成了“一步直达”不用像RNN那样层层传递长距离依赖问题从结构上被绕开了第二所有位置的计算可以并行训练速度大幅提升第三多头注意力机制可以让不同的头关注不同关系比如一个头关注语法另一个头关注语义模型表达力更强。Transformer最初是一个“编码器-解码器”结构左边读入整句右边逐词生成翻译结果。后来大家发现这个结构完全可以拆开单独用。BERT拿走了编码器部分去做双向理解GPT拿走了解码器部分去做单向生成从此一个架构分岔成了两条不同的技术路线。2.2 BERT和GPT理解与生成的第一次分岔2018年是现代大模型发展的关键年份BERT和GPT几乎同时出现但路线完全不同。BERT提出“预训练微调”范式先在海量无标注文本上做掩码语言模型也就是把句子中的词随机遮住再预测让模型学会语言知识下游任务使用时再加一个小分类层做精调。这种路线在理解类任务上优势很明显情感分类、相似度计算、问答匹配稍微调一调就能霸榜。GPT则坚持自回归生成路线训练目标就是预测下一个词从左往右一个字一个字地写。第一代GPT在2018年年中发布当时没有BERT那么惊艳因为它的目标太“朴素”了。但事后回头看这条路才是通向生成式AI和大模型爆发的主线。为什么因为当参数和数据规模足够大时“预测下一个词”会逼着模型学会很多隐藏技能——语法、常识、逻辑关系甚至跨语言知识。GPT-2在2019年发布时就已经引起了不小的震动它用1.5B参数证明了一件事不需要为每个任务做微调只要把预训练规模做得足够大模型就能完成不少新任务这就是零样本迁移的早期验证。对比维度BERT路线GPT路线结构选择只取编码器只取解码器训练目标掩码语言模型下一个词预测优势任务理解、分类、问答生成、写作、对话代表演化BERT、RoBERTa、ELECTRAGPT-2、GPT-3、ChatGPT2.3 预训练微调范式为什么值得大书特书在BERT之前NLP项目基本是“一个任务一个模型”情感分析要单独训练一个网络命名实体识别要再训练另一个每换一个领域都要重新设计特征、重新清洗数据。预训练微调把这块成本极大地摊销了先在通用数据上做“通才”预训练拿到一个语言能力基础很强的模型下游场景只需要在一个小数据集上继续训练一小段时间就能得到不错的专用模型。打个比方这就像培养一个综合能力很强的员工先在大平台轮岗实习学通用技能到了具体部门只需要很短时间熟悉业务就能上手完全不需要每个部门都从零开始招人培养。这个概念听起来简单实质却是深度学习一次根本性的范式转换让AI开发从“一次性定制”变成了“基础能力快速调整”。后来我们看到的对齐、微调、RAG本质上都是在围绕这个范式做文章。3. Scaling Law与“规模即智能”大模型为什么非要“大”3.1 幂律定律扫清了一切怀疑2020年OpenAI发表了《Scaling Laws for Neural Language Models》这篇论文给从业者的震撼是模型性能与规模之间的关系居然可以用几条简洁的幂律曲线描述出来。论文给出了不少拟合结果比如测试损失随模型参数规模的增大按近似幂律下降指数在0.07左右随训练数据量增加下降指数约0.095随计算量增加下降指数约0.05。翻译成人话就是你增加参数、数据或算力损失都会稳定下降几乎看不到“突然不涨”的天花板。这篇论文还有一个更反直觉的结论在固定计算预算下训练一个更大的模型比训练一个稍小的模型更“划算”。因为大模型收敛更快、样本效率更高虽然单次训练成本高但同样算力换来更明显的性能提升。这个结论直接把行业风向从“优化网络结构、细心调参”吹向了“堆规模、堆数据”。GPT-3、GPT-4为什么一代比一代大根子就在这里。3.2 Chinchilla的提醒数据不能拖后腿2022年DeepMind的Chinchilla论文又给Scaling Law补了重要一刀模型参数和数据量要按比例增长。论文给出的经验法则是训练Token数量大约是模型参数的20倍也就是说一个70B的模型大概需要1.4万亿Token才能被充分训练。此前很多模型其实处于“欠训练状态”参数加了、数据没跟上模型根本发挥不出应有水平。这就带出了训练大模型真正的三本账模型参数、训练数据、GPU算力。参数决定容量数据决定知识上限算力决定你养不养得起。现在行业里聊的“企业大模型私有化部署”“智算中心建设方案”本质都是在解决这三件事的落地问题。为什么大模型入门门槛高不是模型下载下来难而是要到足够好的效果这三个资源一个都省不了。3.3 涌现能力与上下文长度能力不是均匀增加的模型规模变大后很多能力不是“慢慢变强”而是跨过一个临界点之后“突然冒出来”。比如上下文学习大量模型没有针对某个任务微调过却能在输入里放几个示例后直接学会完成任务这在小模型上几乎观察不到模型大到一定程度后就变得可行。类似的还有思维链、代码生成、多步推理。这些就是“涌现能力”目前还没有统一的理论解释但观测证据非常扎实而且它正是大模型“越大越有用”的核心支撑。与“涌现”同样热门的话题是上下文长度。早期BERT最多处理512个tokenGPT-3也只有2048稍长一点的文档就塞不进去。后来研究者从位置编码、注意力机制上做了大量改进包括RoPE旋转位置编码、ALiBi等让模型可以在训练长度之外继续外推。2024年之后主流开源模型把上下文长度推到了32K、128K甚至1M量级。上下文变长意味着模型能做更长的阅读理解、更完整的代码分析这是产品体验上非常关键的一环但也要清醒一点长上下文不等于“长记忆”模型对中间内容的注意力分配如果不合理反而会出现“迷失在中间”的问题。4. 从“预测下一个词”到“听懂指令”RLHF才是ChatGPT的真正分水岭4.1 为什么GPT-3很强但不好用GPT-3发布于2020年参数规模达到1750亿用几个示例就能完成翻译、写诗、答题任务。但只要真正玩过的人都知道它当时根本不适合当聊天工具一本正经地瞎编是常态说冒犯性内容也很常见听不懂用户隐含的指令还容易绕来绕去。为什么因为它的训练目标只有一个——“预测下一个词”模型只是顺着语言的统计规律往下接它不会判断“用户到底想要什么”“什么回答才是合适的”。这不只是一个体验问题更是一个技术路线问题。传统微调解决不了大模型与人的意图对齐因为你不可能为了每种需求都重新标注海量数据。2022年OpenAI发布的InstructGPT论文核心贡献就是提出了一种用人类反馈来校准模型行为的方法RLHF基于人类反馈的强化学习。一个非常形象的类比是一个有天赋的学生光靠读万卷书可能写出文笔漂亮但跑题的文章必须有老师不断给出反馈——哪里好、哪里不对、应该怎么改——才能真正学会“按题目要求答题”。RLHF做的就是“找老师建评分体系反复练习”这件事。4.2 InstructGPT的三步走SFT、奖励模型、PPORLHF的完整流程可以拆成三步。第一步人类标注员编写一批高质量示范回答让模型先做有监督微调这是为了让模型输出的风格从“想起什么说什么”变成“像真人一样组织答案”。第二步让微调后的模型对同一个提示生成多个回答人类标注员按好坏排序用这些排序数据训练出一个奖励模型。你可以把这个奖励模型理解成自动批改老师它给模型的任何输出打分。第三步用强化学习里的PPO算法优化语言模型让模型更多产生高奖励答案同时加入一个“参考模型”的KL惩罚项防止模型为了刷分而偏到语义不连贯的内容里。这三步听着不复杂实际跑起来非常烧钱要雇大量标注员要反复训练奖励模型还要伺候一堆超参数。所以后面才会涌现出DPO、RLAIF、宪法AI等一系列简化方案想把对齐做得更轻量。但不管名字怎么换“先让模型知道什么是好回答再用偏好信号打磨”这个骨架到现在仍然是主流做法。4.3 对齐的代价与幻觉问题对齐让ChatGPT真正“能用”了但它也带来了值得警惕的副作用。一方面对齐会压缩模型的多样性太用力追求“讨好人”模型就更倾向于给出安全、平均的回答创造性反而变弱。另一方面越是对齐模型越容易产生幻觉——它不承认自己不知道而是编一个听起来很合理的答案。为什么会有这种矛盾因为预训练阶段模型看过太多信息碎片生成时为了流畅倾向于选择“概率上顺口”而不是“事实上正确”的续写对齐又强化了“尽量给完整答案”的倾向于是错误信息被包装得特别自信。学这段历史时我最大的体会是“模型能力”和“产品可用性”是两个完全不同的概念。GPT-3能力已经不弱但直到RLHF出现它才从“演示品”变成“工具”。ChatGPT在2022年11月底上线后没几天用户就突破百万不是因为它发明了什么新架构而是把一个早就存在的模型重新“调教”成了听话、好用的产品。这件事对整个行业的启示是算法创新不仅体现在模型结构上也包括“怎么把模型行为调成符合人的期望”。5. 开源、微调与本地部署大模型走向平民化的关键几步5.1 LLaMA一声令下开源社区接棒“下半场”2023年2月Meta发布LLaMA系列是大模型发展史上一个标志性转折。当时最顶尖的模型都是闭源的普通开发者和公司只能通过API使用还要担心数据隐私和调用成本。LLaMA一口气提供了7B到65B不同规模的权重等于把实验室里才能训练的大模型下放给了社区。虽然它最初的授权偏科研但开源生态的势能一旦点燃就刹不住车Mistral、Falcon、Qwen、DeepSeek这些后来者很快跟进开源模型一度被推到接近闭源旗舰的水平。开源模型最大的价值是“可控”可以私有化部署数据完全掌握在自己手里还能针对业务做微调而不是被某个API服务商绑定。现在很多企业做私有化大模型首选路径都差不多——选一个开源基座模型准备一批领域数据做指令微调最后部署到自己可控的GPU集群或云上专用环境。这条路径相比从零训练成本低了好几个数量级也让大家常说的“企业大模型私有化部署”真正有了可操作空间。5.2 量化与部署普通电脑也能跑大模型模型开源了但普通人手里没有A100只有一块消费级显卡甚至只有CPU怎么办答案是量化。大模型权重在FP16高精度下一个7B模型要占约14GB显存很多家用显卡根本扛不住。量化技术把权重从16位压缩到8位甚至4位7B模型直接降到4-5GB再配合CPU和内存的卸载普通电脑也能把模型跑起来。实际部署工具也已经成熟到接近“傻瓜化”。Ollama一条命令就能下载并运行模型LM Studio既给了图形界面又提供兼容OpenAI格式的本地API很多工具链几乎零改造就能接入。GPTQ、AWQ是面向GPU的高性能量化方案GGUF是配合llama.cpp的通用格式像Q4这样的档位在质量损失上已经非常小日常聊天、总结文档完全够用。对要做高并发服务的团队来说vLLM这类框架支持高吞吐推理也提供兼容OpenAI接口的服务方式业务代码不用大改就能接入。这也是如今大模型API动不动就有免费额度可用的一大背景——本地部署这条路已经足够成熟。精度7B模型权重大小典型场景FP16约14GB服务端完整精度INT8约7GB16GB显存级别显卡INT4约4-5GB消费级显卡、移动端# 用Ollama拉取模型并本地运行 ollama run llama3 # 通过OpenAI兼容API访问本地模型 curl http://localhost:11434/v1/chat/completions \ -H Content-Type: application/json \ -d {model:llama3,messages:[{role:user,content:你好}]}5.3 微调从“门槛极高”到“消费级显卡也能做”部署解决的是“怎么把模型跑起来”微调解决的是“怎么让模型懂你的业务”。全量微调一个大模型对显存和算力的要求依旧很高LoRA技术就是为此出现的。它的思路很巧妙冻结原模型的全部参数在旁边额外挂一组低秩矩阵只训练这组新增的小参数。最终新增参数量可能只占整个模型的不到1%却能在你的领域数据上明显改变模型行为。QLoRA再把模型量化到4位后做LoRA让单张消费级显卡也能微调7B甚至13B规模的模型。我实际做过几次微调踩过一些坑总结成三条经验第一数据质量远比参数设置重要几十条精心整理的高质量示例效果可以好过几万条网上随便扒的文本第二微调会改变模型的“性格”最好在通用能力较强的基座模型上做不要在已经过度对齐的模型上反复打磨第三不要总想“一次全搞定”先用LoRA调好核心指令遵循能力再靠RAG补充外部知识往往比暴力把知识塞进权重更可控、更好维护。5.4 多模态大模型与智能体学完历史之后盯住的新方向最后一个分支必须单独记多模态大模型。CLIP这类模型证明了视觉和文本可以映射到同一个语义空间GPT-4V、Gemini等产品又把图像理解和文本生成合在一起——你给它一张图它能描述场景、识别图表、甚至帮你读发票。视频生成模型也在同一条路上快速推进一次生成连贯视频已经不是科幻。多模态大模型的最新进展速度明显比纯文本时代更快因为“输入”从字符扩展到了像素、音频、语音应用场景一下被打开了。另一个值得关注的方向是智能体。大模型从“你问我答”变成了“能调用工具完成任务”解析用户意图、调用搜索接口、执行代码、操作浏览器再根据结果决定下一步动作。配合Function Calling、MCP这类标准化接口把本地部署的大模型接上企业内部的数据库、文档库和各种业务API就能搭出一套很实用的智能体工作流。这已经不只是聊天而是大模型真正作为生产力工具落地的地方。这篇学习笔记整理到这儿我自己的感受是很多人学大模型喜欢追新词今天Agent、明天Scaling Law但如果没把发展史里“为什么会出现这个东西”捋清楚就很容易学一个忘一个。如果你也刚开始我的建议是先动手用Ollama或LM Studio把一个小模型跑起来再回头读那几篇关键论文——从Transformer到Scaling Law再到InstructGPT。你会发现所有看起来新潮的概念其实都有来路把它们串成一条线之后再去看每天刷到的技术新闻基本就不会再迷失方向了。