从 LLM 到 Agent Skill：大模型基础从 0 理解 Agent

目录一、LLM大语言模型二、大模型工作原理三、Token和Tokenizer四、Context大模型的临时记忆体五、RAG突破上下文限制的技术六、提示词Prompt七、Function Calling大模型外部能力八、MCP统一的工具接入标准九、Agent自主规划的智能体十、Agent Skill 说明文档十一、总结回顾很多人在学习大模型的时候知识点是零散的一会看 Token、一会看上下文窗口、一会刷到 RAG刚看懂工具调用又冒出 MCP、Agent Skill越学越乱。本文顺着底层基础 → 模型原理 → 增强技术 → 外部能力 → Agent 体系的顺序逐层递进梳理搭建一条连贯的基础学习链对大模型有简单的了解也方便后续自己复盘查阅信息。一、LLM大语言模型LLMLarge Language Model也就是我们常说的大语言模型。从底层视角理解LLM 的核心输入是 Token、Context、Prompt、Tool、MCP、Agent 这几类要素模型依靠这些要素完成推理链路。底层原理Transformer 架构核心是自注意力算法–这个架构是大模型的地基内容比较复杂不属于基础范围。发展历程从 GPT 系列迭代到现在各大厂商开源、闭源模型百花齐放行业现状模型不再是 OpenAI(gpt系列) 一家独占Claude、Gemini 等产品各有侧重在长文本、多模态等方向形成差异化竞争二、大模型工作原理文本自回归接收一段输入模型根据前面已经生成的内容预测下一个最可能出现的词循环往复直到输出结束标记停止生成。简单一句话给上文猜下一个 token循环输出全文。三、Token和Tokenizer这两个分离不开所以放到一起。模型本身没办法直接看懂人类文字它只能识别数字。Tokenizer 就是负责把人类文本和模型可识别的数字 ID 互相转换的模块。Token是 Tokenizer 切分之后的产物是大模型处理文本的最小单位。注意不是严格按照汉字 / 单词一刀切一个单词可能拆成多个 token也可能多个短词合并成一个 token。不同模型的分词器不一样大多有自己独立的词表所以同样的文本用不同模型产生的token数量也不同。编码把一句话切分成一个个 token映射成对应的数字 ID解码把模型输出的数字 ID还原回人类可读的文字举例下图用o200k_base编码计算一串文字共占用7个token每个词对应的tokenid如图所示。换算参考1 个 token ≈ 0.75 个英文单词约 3~4 个英文字符1 个 token ≈ 0.6~1.5 个中文字符反过来1 个汉字约 1~1.5 个 token感兴趣的可以自己去网站计算查看https://tosea.ai/zh/free-tools/token-counter。四、Context大模型的临时记忆体Context 是模型推理时可以 “看见” 的全部内容相当于模型的短时记忆。记忆局限模型本身没有持久记忆推理过程只能读取当前这一轮上下文里面的信息对话结束之后不会自动保存记忆组成上下文里面一般包含历史对话、用户新提问、系统提示词System Prompt等内容context上下文窗口限制context上下文内容不是无限的有上下文窗口限制也就是当前这一轮推理模型能读取的全部 token 总量。每个模型都有固定上下文上限比如比如 GPT-4 128K、32K代表它单次最多容纳十几万 token 的内容超过上限之后最早的内容会被截断丢掉。举例【系统提示System Prompt --8token】 【用户第一次提问–5token】【模型回答–8token】【用户第二次提问–10token】… 用context不断拼接依次累积直到超过上下文上限会从前往后截断模型会忘掉前面的内容。痛点长文档、大量知识库内容一次性塞进上下文窗口成本极高而且很容易超限。解决这个痛点的技术就是 RAG。五、RAG突破上下文限制的技术RAGRetrieval-Augmented Generation检索增强生成专门解决大模型上下文不够、不能读取私有文档的问题。RAG是一套组合技术向量检索大模型。基本思路用户提问之后先去外部知识库检索相关片段把检索到的相关内容和用户问题一起打包给大模型再由模型基于检索到的资料回答问题。简单的说就是一个检索的预处理向量检索程序先独立执行筛选出相关性高的少量片段再把检索得到内容用户问题塞入context上下文。技术优势不需要把全部文档塞进模型上下文降低 token 成本同时可以接入私有、实时更新的资料弥补模型静态训练数据的短板。六、提示词PromptPrompt 就是我们发给大模型的指令是人和模型交互的入口。影响Prompt 质量直接决定输出效果写得越清晰、约束越明确模型返回结果越贴合预期分类基础提示词简单问答直接提需求角色提示词给模型指定身份例如 “你是一名软件测试工程师”“你是一名作家”工具提示词引导模型调用外部工具、执行函数组合提示词多角色、多步骤混合适合复杂任务七、Function Calling大模型外部能力原生 LLM 本身只会做文本生成没办法联网、查数据、调用接口、操作文件。想要让它和真实世界交互就要给它加上外部能力工具调用Function Calling模型识别到需要外部信息输出结构化参数调用后端提前写好的函数接口拿到结果之后再把结果放回上下文继续回答用户角色委派复杂任务拆成多个子角色不同角色各司其职协同完成整套流程核心价值把大模型从 “只会写文字的聊天机器人”变成可以调用工具、执行任务的智能体八、MCP统一的工具接入标准MCP (Model Context PROTOCOL)模型上下文协议是一套标准化协议用来统一不同模型、不同工具之间的调用规范解决各家模型工具调用格式不统一、生态割裂的问题。大模型是一个生成文本的AI它不能直接发起网络请求如果要调用工具接口会输出一段json报文让应用程序去调用工具。举例//openai希望调用天气查询工具输出格式{tool_calls:[{function:{name:query_weather,arguments:{city:北京}}}]}//claude输出格式{tool_use:[{name:query_weather,input:{city:北京}}]}//可以看到参数名不一样不统一于是引出MCP标准接入特点一套 MCP 协议兼容 GPT、Claude、Gemini 等不同大模型一套工具可以对接多个模型学习意义MCP 是 Agent 生态的基础设施后续绝大多数 Agent 框架都会基于这套标准去接入工具九、Agent自主规划的智能体Agent大模型 规划能力 工具调用能力。它不再是 “用户问一句模型答一句”而是可以自主拆解复杂目标、规划步骤、调用工具、循环校验直到任务完成。本质就是让模型能更规范按要求来完成任务,并将任务变成一套可循环执行流程。核心要素目标、规划、工具、反思、迭代典型范式ReAct、Plan-and-Execute 等(这些需要自己去深入了了解)学习路径理解 Agent重点要学会看它的思考链路怎么拆解任务、什么时候调用工具、拿到结果之后怎么判断是否完成目标十、Agent Skill 说明文档Agent Skill 可以理解成给 Agent 用的 “技能说明书”。我们把一个可复用的能力封装成 Skill写清楚这个技能的功能、入参、出参、调用方式、约束条件Agent 读到这份文档之后就知道什么时候、怎么调用这个技能。文档结构包含技能名称、描述、入参、出参、示例、异常处理存储规范一般以 JSON/YAML 格式维护和代码、知识库解耦运行机制Agent 在规划任务的时候检索可用 Skill 列表匹配用户需求自主选择调用对应的技能功能特点标准化、可复用、可插拔是规模化搭建 Agent 应用的核心十一、总结回顾Tokenizer → Token → Context上下文窗口 → Prompt → LLM基础能力 → RAG补知识库 → FunctionCalling工具调用 → MCP统一工具协议 → Agent自主规划 → Agent Skill技能封装LLM 是底座Token 是最小单元上下文是它的短时记忆RAG 补知识库工具调用丰富功能MCP 统一工具生态Agent 赋予自主执行能力Agent Skill就是让 Agent 能力规模化、可复用的工程化方案。