本文详细梳理了AI Agent开发中的15个核心概念包括LLM、Chat bot、Agent等并深入解释了每个概念。文章从“模型”和“语言模型”的定义入手阐述了“大语言模型”的特点并通过实例解释了Chat bot的功能。此外还介绍了Prompt、Re-Act、RAG、Tool call、MCP、Human-in-the-loop等关键概念并探讨了Context Engineering、Agent Skills、Memory、Sub-agents、Context Offload/Compaction、Harness、Trace Evaluation、Workflow vs Agent、通用Agent vs垂直Agent等重要内容。对于想要从其他方向转型做AI Agent开发的开发者和团队本文提供了一个统一的概念框架有助于减少沟通成本提高开发效率。这篇文章主要梳理了AI Agent开发过程中可能会用到的一些概念还会给每个概念做详细解释帮那些从其他方向转型做AI Agent开发的开发者和团队把对这些概念的理解统一起来沟通的时候也能有一致的语言减少不必要的误解降低沟通成本。里面主要包含LLM、Chat bot、Agent等15个核心概念的说明。LLMLLM英文全称是Large Language Model也就是咱们常说的大语言模型。先从“模型”本身说起经过训练之后模型就具备了接收特定输入、给出特定输出的能力。而“语言模型”就是把输入和输出的内容都限定在了自然语言范围内。至于“大语言模型”重点就在“大”上指的是模型的参数量特别大比如25年爆火的DeepSeek R1参数量就达到了671B。咱们输入给LLM的自然语言会先通过Transformer转换成token模型内部会根据输入的token预测接下来该输出什么token最后再把这些token转换成自然语言这就是咱们看到的“模型输出”。这也是GPT名字的由来——Generative Pre-trained Transformer。Chat bot早期的语言模型其实就只会模仿。比如你问它“北京天气怎么样”它可能就会跟着这个句式输出“南京天气怎么样”“成都天气怎么样”这种没用的答案。后来模型经过不断训练慢慢能回答用户的问题了再问它“北京天气怎么样”它就会给出一段看起来像模像样的回答感觉就跟人聊天似的这就是聊天机器人。像早期的ChatGPT、豆包、DeepSeek App这些AI助手都能叫做Chat bot。AgentPromptPrompt也就是提示词说白了就是咱们发给LLM的自然语言。它一般分两种一种是system prompt系统提示词另一种是user prompt用户提示词。System prompt通常是内置在agent里面的用户改不了顶多只能通过配置的方式往系统提示词里加一点内容。User prompt一般是用户自己输入的但有时候为了让Agent的能力更好或者让用户用着更顺手开发者也会帮用户补充一些user prompt。Re-ActLLM的能力可远不止聊天那么简单怎么把LLM的智能和实际场景结合起来真正落地用起来这是研究者们一直都在琢磨的问题。2022年的时候姚顺雨的一篇论文Re-Act给出了方向里面提出的reasoning-action-observation推理-行动-观察循环奠定了现在主流Agent的基本架构比如Manus、Claude Code、Cursor这些都是基于这个架构来的。还是拿天气问题举例子用户问“北京明天天气怎么样”首先LLM会在心里琢磨也就是推理“用户想知道明天的天气但我也不知道答案啊不如让用户去搜一下”。然后LLM就会做出动作——告诉用户“你去Google搜一下‘北京 明天 天气’把结果发给我”。用户照做之后把搜索结果发过去LLM就能观察到“哦搜索结果说明天是晴天”。接着LLM就会回答用户“北京明天是晴天”这就是一个最简单的Re-Act循环例子。RAGRAG英文是Retrieval-Augmented Generation翻译过来就是获取增强生成。还是刚才查天气的例子用户问LLM“北京明天天气怎么样”有没有不用麻烦用户自己去搜索的办法当然有。我们可以先把北京未来7天的天气信息找出来然后把这段文本和用户的问题一起发给大模型这样LLM就能直接给出“北京明天是晴天”的答案了。这就是获取增强生成的原理——先找到相关的上下文信息再让模型结合上下文和用户的问题总结出正确的回答。这里有个容易弄混的点就是RAG和向量数据库Vector Database的关系。其实RAG里的Retrieval获取环节确实可以通过向量数据库来获取相关上下文但并不是必须要用向量数据库。比如咱们刚才举的例子把北京过去七天的天气情况告诉模型这段信息可能就是一段普通文本或者JSON数据不一定是从向量数据库里查出来的。Tool call接着刚才查天气的例子往下说如果用户问LLM“明天北京天气怎么样如果是晴天帮我买一张天坛的门票”。天气信息可以用RAG来解决但“买天坛门票”这件事没法用“获取增强生成”来完成LLM可能只会回答“明天天气不错你可以去xxx购买门票”。那有没有办法让用户不用自己动手买门票呢我们可以给LLM提供一个“购买天坛门票”的工具让模型能告诉我们的代码需要调用这个工具。然后我们在代码里执行这个购票工具再把执行结果比如“购票成功”告诉模型这时候模型就能根据这个结果告诉用户“明天是晴天门票已经帮你买好了”这就是Tool call。MCPMCP英文是Model Context Protocol也就是模型上下文协议。通过Tool call我们解决了模型没法和外部系统交互的问题但作为一个Agent比如Manus显然不应该把“购买天坛门票”这种工具内置给模型用。这时候就可以基于模型上下文协议MCP搭建一个MCP Server让LLM能调用MCP Server上声明的工具从而实现和外部系统的交互。这里要特别注意一点MCP本身就是一种协议不是一个工具集。在日常沟通里经常会听到有人用错比如“MCP协议”或者“我们应该提供什么MCP给他们用”翻译成中文就是“模型上下文协议协议”和“我们应该提供什么模型上下文协议给他们用”听着就很奇怪。如果只是普通的AI使用者分不清也没关系但作为AI Agent的建造者不管是不是技术岗位都得正确使用这个概念。在MCP里定义了三个参与者分别是MCP Host、MCP Client和MCP Server。MCP Host就是支持MCP协议的整个应用比如Manus、Claude Code、CursorMCP Client是放在MCP Host里面的作用是从MCP Server获取可用的工具列表然后告诉LLMMCP Server通过标准协议提供工具也可以通过MCP Apps这类扩展实现可交互的UI渲染功能。Human-in-the-loop首先得弄明白这里的“loop”指的是什么。在Agent执行任务的过程中在LLM给出最终回复之前LLM调用工具工具的结果再反馈给LLM这个反复循环的过程就是“loop”。那Human-in-the-loop简称HITL又是什么呢目前Agent行业里对HITL还没有统一、明确的定义。一般来说在Agent的循环过程中有两种情况需要人参与一种是需要人工审批判断某个工具是否应该用特定的参数去调用另一种是需要人的输入把这个输入作为工具结果放到LLM的上下文中。LangChain对HITL的定义比较具体特指执行Tool call之前的用户审批也就是确认要不要执行这个工具。Claude那边没有专门用HITL这个词统一叫做user input还分成了tool approval request工具审批请求和clarifying request澄清请求正好对应咱们刚才说的两种需要人参与的情况。我个人更倾向于Claude对HITL的定义因为这两种情况本质上都是打断Agent的循环等待用户输入只是需要用户输入的目的和内容不一样而已。简单说HITL主要分两种类型一种是Human as gatekeeper人作为守门员负责审批另一种是Human as tool人作为工具提供信息。为什么需要 HITL首先是 Human as gatekeeper。以 Claude Code 这类 Agent 为例它们自带 Bash tool而部分 Bash 命令存在操作风险比如 rm 命令。在 LLM 调用 Bash tool 之前需要人工确认是否同意用指定参数执行该工具。这就是 Human as gatekeeper 的作用。其次是 Human as tool。以 Claude Code 里的 AskUserQuestion tool 为例在 Agent loop 中LLM 如果需要补充信息可以通过这个工具向用户提问。用户的输入会作为 tool result 存入 LLM 上下文LLM 再根据结果规划下一步动作。对用户来说两种 HITL 的输入输出分别是什么首先是 Human as gatekeeper。它由规则触发给用户的输入是固定三类选项同意Approve、修改Edit、拒绝Reject。常用的是 Approve 和 Reject。Edit 会改动 tool call 参数容易造成 LLM context confuse一般不推荐使用。用户的输出就是决策同意或拒绝本次工具执行。如果用户 Approve工具会正常执行并把结果作为 tool result 加入 LLM 的 context list。如果用户 Reject工具不会实际执行Agent 开发者会构造一条 tool result 告诉 LLM 本次被拒绝LLM 再据此观察并规划下一步。其次是 Human as tool。由 LLM 的 tool call 触发是否触发、内容是什么都不固定。我们只能用 JSON schema 定义这个工具的入参结构。对用户而言收到的是模型生成、符合结构的自然语言问题。用户的输出一般也是自然语言部分也支持多模态。需要注意有一种很容易和 HITL 混淆但不属于 HITL 的交互。同样以 Claude Code 为例它在最终结果里让用户输入的问题本质只是 LLM 的最终输出。这时候一轮 Agent loop 已经结束用户再次发消息会开启下一轮 loop同会话保留历史上下文。所以这种交互不算 HITL。Context EngineeringContext Engineering 也就是上下文工程。在 Agent loop 里system prompt、user prompt、一轮轮 tool call 和 tool result 会快速占满上下文。但 LLM 的 context window 是有限的目前大模型一般是 200K tokens部分支持 1M tokens。因此需要做上下文工程控制 LLM 接收的 context list。上下文工程手段很多但核心思路一致下面介绍几个常见概念。Agent Skills这是 2025 年 10 月以来 AI 圈最火的词之一尤其是“养虾”热潮之后热度直接拉满。经常能听到给你的龙虾加个 xxx skill它就能 xxx 了。听起来 skill 好像能解决一切问题。但本质上Skill 到底是什么、解决什么问题拿查天气、逛天坛举例。我们给 LLM 开放了查天气和买门票的工具LLM 只知道这两个工具的参数结构不知道怎么组合使用才能满足用户需求。常见方案有两种一是做“旅游 Agent”在 system prompt 里教 LLM 怎么用这两个工具。但这个 Agent 就只能干这件事想做别的就要改 prompt改多了又容易让 LLM 混淆最后什么都做不好。方案不可行。二是靠 prompt 高手手动教 Agent 怎么用工具但这段 prompt 很长每次输入麻烦用户也不好管理模板。有没有更优雅的方式Claude Skills后来发展成 Agent Skills 标准就这么来了。Skill 本质就是一段 prompt 模板用来解决动态注入上下文的效率问题。至于“上下文渐进式披露”“脚本执行能力”都是 LLM 能调用 Bash tool 自然带来的效果。就算不按 Skills 规范在一个 markdown 里引用另一个 markdownLLM 需要时也会去读取实现渐进式披露上下文。MemoryMemory 也就是记忆通常分短期记忆和长期记忆。短期记忆很好理解同一个会话里希望 LLM 记得之前几条对话内容。一般在用户发新消息时把历史消息一起带给 LLM 就行。长期记忆指跨会话的上下文传递。比如用户在会话 1 说自己是程序员会话 2 希望不用重复LLM 也知道。最简单的实现是把会话 1 的历史带到会话 2但两个话题可能完全无关反而会 confuse LLM。Agent 里实现长期记忆通常会加一个外挂步骤提取值得长期记住的信息存起来同时在用户发 prompt 时把之前存储的、和本次任务相关的记忆追加到 user prompt 里。这样看起来 Agent 就有长期记忆了本质其实是 RAG 的一种实现方式。Sub-agents不要把人类的思维限制硬套在 Agent 身上。—— Peak Ji from Manus首先明确sub-agent 最大作用是隔离上下文而不是模拟“过家家”。处理复杂长任务时需要大量 wide deep research先攒够上下文再执行。如果不用 sub-agent所有内容都塞在同一个 LLM 的 context list 里很可能 research 还没做完上下文就爆了任务无法完成。但仔细看塞满的上下文很多内容和最终任务无关只需要一个结论。这些内容不必留在主 Agent 上下文只要结果就行。这时候就适合用 sub-agent它维护独立的 context list把无关上下文隔离只把最终结论传给主 Agent。这样主 Agent 就不会被无关信息干扰。之前 OpenClaw 火的时候有人设计“三省六部制”Agent 体系这就是典型的反例——用 sub-agent 过家家。第一每个角色依然可能遇到上下文爆炸问题第二Agent 之间的上下文传递、共享、交互逻辑非常复杂。人与人沟通都有信息差没有合理设计Agent 之间也会出现大量 gap整体效果大打折扣。Context Offload / Compaction就算合理拆分 sub-agent对长难任务来说可能依然不够。而且对 LLM 而言不是上下文塞满才影响效果达到一定长度就会出现 context pressure输出 EOS token 概率大幅上升。表现就是质量骤降疯狂列点、只写总结、句子变短。所以需要上下文卸载Offload和压缩Compaction。上下文卸载某些内容用过就没用了比如 Coding Agent 读过文件 A后续不再需要。可以把文件内容替换成提示文件存在硬盘 xxx 位置需要再读取。相当于把上下文存到外部文件系统需要再加载属于无损释放。上下文压缩历史内容太多卸载也不够时对历史做总结用总结代替原始上下文。这个过程通常是有损的部分细节会丢失。HarnessHarness 原意是马缰、缰绳。在 Agent 里LLM 就是马除 LLM 以外的一切都属于 harness。给 LLM 设计的 tool、做的上下文工程都属于 harness。Harness 比 Framework 抽象层级更高。Framework 只是提供做马缰的方法Harness 才是完整的马缰。比如 LangChain 体系里LangGraph 是底层流程控制 FrameworkLangChain 是 Agent 相关 FrameworkDeepAgents 则是 Agent Harness因为 DeepAgents 在 LangChain 基础上封装了内置 tool 和上下文工程所以它是 Harness 而非 Framework。Trace EvaluationAgent 开发和传统软件开发最大区别传统软件逻辑基本写死在代码里数据来源、参数传递、执行顺序都确定Agent 开发中函数执行由 LLM 返回的 tool call 和参数触发上线前很难预知行为。所以 trace追踪和 evaluation评估格外重要。线上问题排查需要看执行了哪些 tool call、哪些不符合预期代码或 prompt 变更后要提前评估对 Agent 表现的影响。Workflow vs AgentWorkflow 是执行逻辑和步骤由代码提前定义的系统。里面可能有 LLM 节点但多用于意图识别、信息提取、总结等职责固定、功能单一很少需要 tool靠 prompt 即可。有人叫它 Agentic Workflow但本质还是 Workflow和 Agent 是两回事。Agent 是执行逻辑和顺序由 LLM 通过 tool call 动态控制的系统。最大区别逻辑是代码预定义还是 LLM 动态决定。所以 Agent 主体代码通常很简单以 OpenClaw 底层依赖 pi-agent输入方面用户要配置各类 MCP server、skill甚至自己开发 MCP 或 CLI 工具让 Agent 对接现有系统。输出方面一般只在自身平台展示想输出到飞书、Telegram 等需要额外配置或开发。垂直 Agent 会帮用户承担更多输入工作输出形态也不同。比如 Notion Agent、Figma Make内置了对应工具减少用户配置。Notion Agent 输出直接是文档修改结果Figma 输出直接是设计稿。两者技术架构趋同主要区别只是内置 tool 不同。由此引出一个问题Notion、Figma 这类工具平台应该给通用 Agent 做工具还是自己做 Agent我的观点是两者可以同时做不冲突。从用户角度用户付费后还要再买 Manus 或 Claude Code 会员才能用 Agent体验很奇怪。所以要做自己的 Agent让只用单一工具的用户在平台内获得完整体验。从未来角度未来大部分软件的用户会是 Agent 而非人类。通过 MCP server 或 CLI 提供易用工具是软件保持竞争力的基础。所以也要给通用 Agent 做工具。从商业角度是否自己做 Agent 目前还存疑。截至 2025 年底就算 Manus 这样成功的 Agent仍在补贴用户体验现阶段还不算靠 token 低买高卖的盈利模式。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取