1. 这不是又一篇“LangChain安装教程”而是一份真实跑通AI Agent的实操手记我从2023年夏天开始在本地笔记本上搭第一个能真正“思考”的AI Agent不是调API、不是写prompt模板是让模型能自己决定要不要查文档、要不要调天气接口、要不要把用户问题拆成三步再执行。当时踩的坑现在看全是教科书级错误用LLMChain硬套Agent逻辑把Tool当函数随便塞结果Agent永远在循环调同一个工具用ConversationalRetrievalChain强行加记忆对话一过五轮就崩最离谱的是把ChatPromptTemplate里system message写成“你是一个 helpful assistant”结果Agent连自己该不该调用计算器都判断不了——它根本没被训练出“工具调用意图识别”这个能力。LangChain不是胶水也不是魔法盒。它是把大模型、工具、记忆、路由、状态管理这些模块拧在一起的工程框架而AI Agent的本质是让LLM在受限环境里完成目标导向的多步推理。你不需要先搞懂所有模块但必须清楚什么时候该用Chain什么时候必须上Agent为什么ReAct比Plan-and-Execute更适合新手调试Tool的args_schema为什么不是可选而是必填以及为什么90%的失败案例根源都在LLM选型和prompt结构没对齐Agent范式。这篇指南不讲官网文档里已有的API列表不堆砌概念图不拿“智能体架构图”糊弄人。我会带你从零启动一个能联网查实时金价、能读取本地Excel报价单、能根据用户预算自动筛选黄金饰品并生成对比表格的微信风格AI导购Agent。所有代码基于LangChain v0.3.x2024年Q3稳定版适配Ollama本地部署的Qwen2.5-7B、DeepSeek-V3等主流开源模型也兼容OpenAI、Azure等商业API。如果你刚学完LangChain基础想动手或者卡在“Agent总不调用工具”“记忆不生效”“链路一长就乱”这些具体问题上这篇就是为你写的。它不承诺“三天成为Agent工程师”但保证你今天下午就能跑通第一个有真实业务逻辑的Agent并且知道每一步为什么这么写。2. 为什么LangChain是当前最务实的AI Agent开发起点2.1 不是“最好”而是“最不抽象”的落地路径很多人问“LangChain和LangGraph、AgentScope、LlamaIndex比到底该选哪个”我的答案很直接如果你的目标是两周内做出一个能上线试用的Agent原型LangChain是目前唯一能让你跳过编译器原理、状态机建模、分布式调度这些底层细节专注业务逻辑的框架。LangGraph确实更强大——它把Agent建模为有向无环图DAG支持循环、条件分支、并行节点、检查点恢复。但代价是什么你需要手动定义每个节点的输入输出schema要处理State对象的序列化/反序列化要写ConditionalEdge逻辑判断下一步走哪条边。一个简单的“用户问金价→查网络→格式化返回”流程在LangGraph里至少要写5个类3个函数1个graph builder。而LangChain用create_react_agent一行就能启动背后自动帮你做了tool calling的prompt engineering、output parser的正则提取、tool execution的异常捕获与重试。这不是偷懒是把重复劳动封装掉让你把精力放在“这个Agent到底要解决什么问题”上。提示LangChain的AgentExecutor本质是运行时解释器它把LLM输出解析成结构化action指令再动态分发给对应tool。LangGraph则是编译时构建执行图运行时只做状态流转。前者适合快速验证后者适合高可靠生产系统。2.2 LangChain的“三层抽象”设计恰好匹配AI Agent开发的认知曲线LangChain把复杂度拆成三个可渐进学习的层次第一层Chain链解决单任务线性流程输入→LLM→输出。比如LLMChain做文本生成RetrievalQAChain做RAG问答。这是所有人的起点也是最容易理解的部分。第二层Agent智能体解决多任务决策流程输入→LLM判断需做什么→调用tool→获取结果→LLM再判断→…→最终输出。核心是AgentExecutorToolsLLMPromptTemplate。它强制你思考“哪些能力该封装成tool”“LLM需要什么上下文才能做正确决策”。第三层Memory Callbacks记忆与回调解决状态持久化与可观测性ConversationBufferMemory存对话历史ConversationSummaryMemory压缩长对话CallbackHandler记录每一步token消耗、tool调用耗时、LLM输出原始内容。没有这一层你的Agent就是无记忆的“一次性AI”。这三层不是并列关系而是递进依赖。你无法跳过Chain直接写Agent因为Agent内部大量复用Chain的组件比如tool执行本质就是一个LLMChain。同样没有Memory的Agent在真实场景中毫无价值——用户问“刚才说的金价是多少”它答“我不知道”。LangChain的设计强迫你按这个顺序构建认知避免一上来就被状态管理、图节点调度这些概念淹没。2.3 为什么“微信AI Agent智能体”这类需求LangChain是天然匹配项观察国内实际落地场景“微信AI Agent”不是指在微信里跑一个独立APP而是指用户通过微信聊天窗口输入自然语言如“帮我查下周三亚的天气和机票价格”后端Agent解析意图调用多个API天气服务、航司接口、支付网关将结构化结果渲染成富文本卡片含图片、按钮、链接返回微信这种场景有三个硬约束低延迟要求用户在微信里等待超过3秒就会失去耐心Agent必须在2秒内完成完整链路强容错需求某个tool超时或报错不能整个Agent崩溃要降级返回如“天气数据暂不可用已为您查询机票”轻量部署多数中小团队没有GPU集群得在4核8G的云服务器或本地MacBook上跑起来LangChain对这三点都有现成解法AgentExecutor内置max_iterations15和max_execution_time30参数超时自动中断Tool支持handle_tool_errorTrue错误时返回预设提示而非抛异常全框架纯Python实现无CUDA依赖OllamaQwen2.5-7B在M2 MacBook Air上实测首token延迟800ms这不是理论推演是我上周刚上线的珠宝导购Agent的真实配置。它跑在阿里云2C4G轻量应用服务器上日均处理327次请求平均响应时间1.42秒错误率0.8%——全部基于LangChain原生组件没写一行自定义调度器。3. 核心细节解析从“Hello World Agent”到真实业务Agent的5个关键跃迁3.1 Tool设计不是“能调用就行”而是“让LLM一眼看懂你能干什么”初学者常犯的错误把一个HTTP请求封装成Tool就完事。比如写个get_weather函数参数只有city: str然后扔进Agent。结果Agent永远不调用它或者传入“北京朝阳区国贸”这种LLM自己瞎编的地名导致API报错。正确的Tool设计必须包含三个要素明确的name和description这是LLM做工具选择的唯一依据。name要短≤15字符description要用LLM能理解的动宾结构。✅ 好例子namesearch_gold_pricedescriptionSearch real-time gold price per gram in RMB from official exchange API❌ 坏例子namegold_apidescriptionGet gold data严格的args_schema必须用PydanticBaseModel定义字段类型、默认值、校验规则全写死。LLM输出的JSON参数会经此schema校验不合法直接报错。class GoldPriceInput(BaseModel): unit: str Field(descriptionPrice unit, must be per_gram or per_ounce, defaultper_gram) currency: str Field(descriptionCurrency code, e.g., CNY, USD, defaultCNY)健壮的_run方法必须包含超时控制、重试机制、错误降级。不要让网络错误穿透到Agent层面。def _run(self, unit: str, currency: str) - str: try: response requests.get( fhttps://api.gold.com/price?unit{unit}currency{currency}, timeout5 ) response.raise_for_status() data response.json() return fCurrent {unit} gold price: {data[price]} {currency} except Exception as e: return fFailed to fetch gold price: {str(e)[:50]}注意args_schema不是可选项。LangChain v0.3强制要求因为LLM输出的tool参数必须严格映射到Python类型。没有schemaLLM可能输出{unit: gram}字符串而你的函数期待per_gram结果静默失败。3.2 Prompt工程Agent不是靠“聪明”工作而是靠“被清晰告知规则”很多人以为换更强的LLM就能解决Agent不调用tool的问题。实测结果用Qwen2.5-72B替换Qwen2.5-7B不改promptAgent调用tool成功率反而从68%降到52%——大模型更“自信”更倾向自己编造答案而非调用工具。LangChain的Agent prompt不是随便拼接的。以create_react_agent为例它内置的prompt包含四个刚性模块模块作用关键细节System Message定义Agent角色与能力边界必须包含You are a helpful AI assistant that uses tools to answer questions.否则LLM不知道自己该调用toolTools Section列出所有可用tool及其描述每个tool description必须用{name}: {description}格式且描述中要出现动词search/get/fetchFormat Instructions规定LLM输出格式强制要求Action Input:后必须跟JSON且JSON key必须与args_schema字段名完全一致Previous Steps提供历史action-result对让LLM理解当前处于多步推理的哪一环避免重复调用你不能只改其中一部分。比如只优化System Message不调整Format InstructionsLLM可能输出Action: search_gold_price\nAction Input: {unit: per_gram}缺少换行符导致parser失败。实操技巧在调试阶段把AgentExecutor的verboseTrue打开打印出LLM的原始输出。你会发现90%的失败源于格式偏差——多了一个空格、少了一个引号、字段名大小写不一致。这时不是换模型而是微调prompt里的Format Instructions比如把Action Input:改成Action Input (JSON):让LLM更明确。3.3 Memory集成不是“记住对话”而是“记住Agent的决策上下文”ConversationBufferMemory是最常用的memory但它只存human_message和ai_message。对Agent来说这远远不够。用户问“刚才查的金价是多少”Agent需要的不是上一句AI回复的全文而是search_gold_price这个tool的返回结果。LangChain提供ConversationBufferWindowMemory只存最近N轮和ConversationSummaryMemory用LLM压缩长对话但更关键的是自定义memory。我推荐一种极简方案用SimpleMemory类只存tool调用结果的key-value对。class ToolResultMemory: def __init__(self): self.store {} def save_tool_result(self, tool_name: str, result: str): self.store[tool_name] result def get_tool_result(self, tool_name: str) - str: return self.store.get(tool_name, No result found for this tool) # 在AgentExecutor中注入 memory ToolResultMemory() agent_executor AgentExecutor( agentagent, toolstools, memorymemory, # ...其他参数 )这样当用户后续问“金价多少”你可以写一个专用tool叫recall_tool_result它直接从memory里取search_gold_price的结果而不是重新调用API。既快又准。实测心得在微信场景下用户常会说“按刚才的预算再筛一遍”此时ToolResultMemory比任何LLM summary都可靠——summary可能把“5000元预算”错记成“3000元”而内存里存的就是原始API返回的数字。3.4 LLM选型不是“越大越好”而是“越贴合Agent范式越好”LangChain官方示例常用ChatOpenAI但国内开发者更多用Ollama本地模型。这里有个关键陷阱不是所有开源模型都原生支持tool calling。Qwen2系列v2.5、DeepSeek-V3、GLM-4等新模型训练时就加入了tool calling指令微调输出格式稳定|action_start|search_gold_price|action_end||action_input|{unit:per_gram}|action_input_end|而Llama3-8B、Phi-3-mini等通用模型即使加了tool prompt输出也常是自由文本需要额外用正则或LLM二次解析增加延迟和错误率验证方法很简单用langchain_core.messages.HumanMessage发一条测试query看模型原始输出是否严格符合|action_start|...|action_end|这样的标记。不符合就别强求换模型。参数调优上Agent对temperature极其敏感temperature0.0LLM过于确定不敢调用tool总自己编答案temperature0.7平衡点实测Qwen2.5-7B在此值下tool调用率稳定在85%temperature1.0LLM太“发散”常输出不存在的tool name建议固定temperature0.3~0.5用top_p0.9替代随机性更可控。3.5 错误处理与降级生产级Agent的生死线一个没做错误处理的Agent在真实环境里就是定时炸弹。LangChain提供了三道防线Tool层降级如前所述_run方法里捕获所有异常返回友好提示AgentExecutor层熔断设置max_iterations10防死循环、max_execution_time5防超时Fallback Chain兜底当Agent执行失败时自动切到纯LLM Chain回答from langchain.chains import LLMChain from langchain.prompts import ChatPromptTemplate fallback_prompt ChatPromptTemplate.from_messages([ (system, You are a helpful assistant. If you dont know the answer, say I cannot assist with that.), (human, {input}) ]) fallback_chain LLMChain(llmllm, promptfallback_prompt) agent_executor AgentExecutor( agentagent, toolstools, # ...其他参数 handle_parsing_errorsCheck your output and make sure it matches the format要求, # 失败时调用fallback fallback_to_single_stepFalse, # LangChain v0.3 默认启用fallback )更重要的是监控。我在每个tool的_run里加了logging.info(f[TOOL] {tool_name} executed in {time:.2f}s)在AgentExecutor外层包一层try/except记录所有AgentExecutionError。上线一周后发现83%的错误来自search_gold_price的DNS解析超时——于是我把API地址换成IP直连错误率降到0.3%。4. 实操过程从0到1搭建一个微信风格黄金导购Agent4.1 环境准备与依赖安装我们不用虚拟环境直接用Poetry管理比pipenv更轻量。创建pyproject.toml[tool.poetry] name gold-agent version 0.1.0 description authors [Your Name youexample.com] [tool.poetry.dependencies] python ^3.10 langchain ^0.3.7 langchain-community ^0.3.7 langchain-core ^0.3.12 ollama ^0.3.2 requests ^2.31.0 pandas ^2.2.2 openpyxl ^3.1.2 [build-system] requires [poetry-core] build-backend poetry.core.masonry.api执行poetry install poetry shell注意langchain-community必须显式安装它包含DuckDuckGoSearchRun等常用tool。ollama库用于Python调用Ollama比直接subprocess更稳定。4.2 构建三个核心Tool金价查询、Excel读取、对比生成Tool 1实时金价查询联网from langchain.tools import BaseTool from pydantic import BaseModel, Field import requests import json class GoldPriceInput(BaseModel): unit: str Field( descriptionPrice unit, must be per_gram or per_ounce, defaultper_gram ) currency: str Field( descriptionCurrency code, e.g., CNY, USD, defaultCNY ) class GoldPriceTool(BaseTool): name search_gold_price description Search real-time gold price per gram in RMB from official exchange API. Use this when user asks for current gold price. args_schema: type[BaseModel] GoldPriceInput def _run(self, unit: str, currency: str) - str: try: # 模拟调用真实API此处用mock数据 mock_data { per_gram: {CNY: 568.2, USD: 79.5}, per_ounce: {CNY: 17680.0, USD: 2470.0} } price mock_data.get(unit, {}).get(currency, 0) if price 0: return fNo price data for {unit} in {currency} return fCurrent {unit} gold price: {price:.2f} {currency} except Exception as e: return fFailed to fetch gold price: {str(e)[:50]}Tool 2本地Excel报价单读取离线import pandas as pd from io import BytesIO class ExcelQueryInput(BaseModel): query: str Field( descriptionNatural language query about gold products, e.g., show rings under 5000 yuan, defaultlist all products ) class ExcelQueryTool(BaseTool): name query_gold_products description Query local Excel file containing gold product catalog. Use this when user asks for specific products, prices, or comparisons. args_schema: type[BaseModel] ExcelQueryInput def _run(self, query: str) - str: try: # 读取本地Excel实际项目中路径应配置化 df pd.read_excel(data/gold_catalog.xlsx) # 简单关键词匹配生产环境应上向量检索 if ring in query.lower(): result_df df[df[category].str.contains(ring, caseFalse)] elif necklace in query.lower(): result_df df[df[category].str.contains(necklace, caseFalse)] else: result_df df.head(5) # 默认返回前5个 # 返回Markdown表格微信可直接渲染 table_md result_df[[name, price_cny, weight_g]].to_markdown(indexFalse) return fFound {len(result_df)} matching products:\n\n{table_md} except Exception as e: return fFailed to read Excel: {str(e)}Tool 3智能对比生成LLM驱动from langchain.chains import LLMChain from langchain.prompts import ChatPromptTemplate class CompareInput(BaseModel): product_a: str Field(descriptionFirst product name, e.g., Classic Gold Ring) product_b: str Field(descriptionSecond product name, e.g., Elegant Necklace) class CompareTool(BaseTool): name compare_gold_products description Compare two gold products by price, weight, purity, and recommend based on user budget. Use this when user asks which is better or compare A and B. args_schema: type[BaseModel] CompareInput def __init__(self, llm): super().__init__() self.llm llm self.prompt ChatPromptTemplate.from_messages([ (system, You are a gold expert. Compare two products strictly by: 1) Price per gram (calculate if needed), 2) Purity (24K 18K 14K), 3) Weight, 4) User budget context. Output only a concise comparison in Chinese, no markdown.), (human, Product A: {product_a}\nProduct B: {product_b}\nUser budget: {budget}) ]) self.chain LLMChain(llmself.llm, promptself.prompt) def _run(self, product_a: str, product_b: str, budget: str no budget specified) - str: try: result self.chain.invoke({ product_a: product_a, product_b: product_b, budget: budget }) return result[text] except Exception as e: return fComparison failed: {str(e)}注意compare_gold_products的_run方法里budget参数是可选的但args_schema必须声明为必填。我们用Field(defaultno budget specified)解决这样LLM输出JSON时可以不带budget字段Python端用默认值填充。4.3 构建AgentReAct范式 自定义Prompt我们不用create_react_agent的默认prompt而是手写一个更贴合珠宝导购场景的版本from langchain import hub from langchain.agents import create_openai_tools_agent, AgentExecutor from langchain_openai import ChatOpenAI from langchain_community.chat_models import ChatOllama # 用Ollama本地模型Qwen2.5-7B llm ChatOllama( modelqwen2.5:7b, temperature0.4, num_predict512, top_k40, top_p0.9, repeat_penalty1.1 ) # 手写Prompt关键 prompt_template You are a professional gold consultant AI, helping customers choose gold products. You have access to tools to get real-time gold prices, query product catalogs, and compare items. TOOLS: ------ {tools} TOOL NAMES: ----------- {tool_names} FORMAT INSTRUCTIONS: -------------------- Use the following format: Question: the input question you must answer Thought: you should always think like you are answering the question step-by-step Action: the action to take, should be one of [{tool_names}] Action Input: the input to the action, must be valid JSON Observation: the result of the action ... (this Thought/Action/Action Input/Observation can repeat N times) Thought: I now know the final answer Final Answer: the final answer to the original input question RESTRICTIONS: ------------- - Never make up gold prices or product details. Always use tools. - If user asks for budget-friendly options, first get current gold price, then query products under that price. - When comparing, always calculate price per gram (price / weight) for fair comparison. - Answer in Chinese, use polite and professional tone. Question: {input} {agent_scratchpad} # 创建Agent agent create_openai_tools_agent( llmllm, tools[GoldPriceTool(), ExcelQueryTool(), CompareTool(llm)], promptChatPromptTemplate.from_template(prompt_template) ) agent_executor AgentExecutor( agentagent, tools[GoldPriceTool(), ExcelQueryTool(), CompareTool(llm)], verboseTrue, max_iterations8, max_execution_time10, handle_parsing_errorsPlease check your action and input format. Use only available tools., early_stopping_methodgenerate # 超时后生成fallback回答 )4.4 微信对接Flask轻量API封装微信后端只需一个POST接口接收content字段from flask import Flask, request, jsonify import logging app Flask(__name__) logging.basicConfig(levellogging.INFO) app.route(/wechat-agent, methods[POST]) def wechat_agent(): try: data request.get_json() user_input data.get(content, ).strip() if not user_input: return jsonify({error: Empty input}), 400 logging.info(f[USER] {user_input}) # 执行Agent result agent_executor.invoke({input: user_input}) ai_response result[output] logging.info(f[AI] {ai_response}) # 微信消息格式简化版 return jsonify({ type: text, content: ai_response }) except Exception as e: logging.error(fAgent error: {e}) return jsonify({ type: text, content: 系统繁忙请稍后再试。 }), 500 if __name__ __main__: app.run(host0.0.0.0, port5000, debugFalse)部署时用gunicorn启动gunicorn -w 2 -b 0.0.0.0:5000 app:app实测性能在阿里云2C4G服务器上gunicorn 2 worker Ollama Qwen2.5-7BQPS稳定在12.3P95延迟1.68秒。微信用户无感知。4.5 本地测试与调试技巧别等部署到微信才测试。用curl模拟curl -X POST http://localhost:5000/wechat-agent \ -H Content-Type: application/json \ -d {content:查下当前金价}调试黄金三板斧看LLM原始输出在agent_executor.invoke()前加llm.bind(temperature0.0).invoke(...)用确定性模式看它到底想干什么隔离Tool测试单独运行GoldPriceTool().invoke({unit: per_gram})确认tool本身没问题Mock LLM输出用langchain_community.llms.FakeListLLM返回预设字符串验证Agent逻辑是否正确from langchain_community.llms import FakeListLLM # 模拟LLM返回tool调用指令 fake_llm FakeListLLM(responses[ Thought: I need to get current gold price\nAction: search_gold_price\nAction Input: {\unit\: \per_gram\, \currency\: \CNY\}\nObservation: Current per_gram gold price: 568.20 CNY\nThought: I now know the final answer\nFinal Answer: 当前黄金价格为568.20元/克。 ]) # 用fake_llm构建agent快速验证流程5. 常见问题与排查技巧实录那些官网不会告诉你的坑5.1 “Agent死活不调用Tool”——90%是Prompt和Tool Schema不匹配这是最高频问题。现象LLM一直输出Final Answer从不出现Action。原因几乎全是以下三者之一问题类型表现排查命令解决方案Tool description缺失动词LLM认为这是“信息”不是“动作”print(tool.description)改成Fetch real-time gold price...必须有fetch/search/get等动词args_schema字段名与LLM输出不一致LLM输出{unit_type: per_gram}但schema是unitprint(agent_executor.agent.runnable.bound.args_schema.schema())schema字段名必须与LLM输出JSON key完全一致包括下划线/驼峰Prompt里没写TOOL NAMESLLM不知道有哪些tool可选print(prompt_template)确保prompt中有{tool_names}占位符且传入时是,.join([t.name for t in tools])实操心得新建Tool后第一件事不是跑Agent而是用tool.invoke({unit: per_gram})测试tool本身。第二件事是用FakeListLLM喂一个标准Action字符串看Agent能否正确解析执行。两步都过再换真LLM。5.2 “Memory不生效”——你可能根本没把Memory传给AgentExecutor很多人以为ConversationBufferMemory只要初始化就自动生效。错。LangChain的memory必须显式传入AgentExecutor且必须是同一个实例。错误写法memory1 ConversationBufferMemory() memory2 ConversationBufferMemory() # 新实例 agent_executor AgentExecutor(agentagent, toolstools, memorymemory2) # 传memory2 # 但你在别的地方用memory1.save_context(...) —— 完全无效正确写法memory ConversationBufferMemory(memory_keychat_history, return_messagesTrue) agent_executor AgentExecutor( agentagent, toolstools, memorymemory, # 传同一个实例 verboseTrue ) # 对话时 agent_executor.invoke({input: hi}) agent_executor.invoke({input: 刚才说的金价是多少}) # 此时memory里已有历史提示return_messagesTrue很重要它让memory存HumanMessage/AIMessage对象而非字符串这样Agent才能正确解析历史中的tool调用结果。5.3 “本地模型输出格式乱”——不是模型不行是没加tool calling微调提示用Ollama拉取qwen2.5:7b直接跑create_react_agent大概率失败。因为Qwen2.5原生权重不包含tool calling指令。解决方案有两个用已微调的模型ollama run qwen2.5:7b-instruct注意-instruct后缀这是官方发布的instruction-tuned版本手动加system prompt在ChatOllama初始化时加system_message参数llm ChatOllama( modelqwen2.5:7b, system_messageYou are a helpful AI assistant that uses tools to answer questions. When you need to use a tool, output exactly in this format:\nAction: tool_name\nAction Input: {\arg1\: \value1\}\nDo not add any other text. )实测加了system message后Qwen2.5-7B的tool调用成功率从32%升至79%。5.4 “微信返回乱码/格式错乱”——Agent输出没做微信适配微信消息不支持Markdown但Agent常输出**加粗**或- 列表。解决方案前端过滤在Flask返回前用正则清理import re def clean_for_wechat(text: str) - str: # 移除Markdown text re.sub(r\*\*(.*?)\*\*, r\1, text) # **bold** → bold text re.sub(r\*(.*?)\*, r\1, text) # *italic* → italic text re.sub(r- (.*?)(\n|$), r• \1\n, text) # - item → • item return text.strip()Prompt里硬性约束在system message加Output only plain text, no markdown, no code blocks, no asterisks.5.5 “成本失控”——没监控token消耗的Agent是定时炸弹一个没设max_tokens的Agent可能因LLM胡言乱语生成10万字。LangChain提供CallbackHandler精准计费from langchain.callbacks import StdOutCallbackHandler class TokenCounter: def __init__(self): self.total_tokens 0 def on_llm_end(self, response, **kwargs): self.total_tokens response.llm_output.get(token_usage, {}).get(total_tokens, 0) token_counter TokenCounter() handler StdOutCallbackHandler() handler.on_llm_end token_counter.on_llm_end agent_executor AgentExecutor( agentagent, toolstools, callbacks[handler], # ... )上线后每天统计token_counter.total_tokens设置告警阈值。我们设定单次请求5000 tokens触发告警实际发现是compare_gold_products的prompt太长——砍掉冗余描述后均值降到1200 tokens。6. 进阶方向从“能跑”到“好用”的三个实战延伸6.1 加入RAG让Agent读懂你的产品手册当前query_gold_products只读Excel但珠宝公司有PDF版《2024黄金工艺白皮书》《国际金标认证指南》。用LangChain的RAG接入from langchain_community.document_loaders import PyPDFLoader from langchain.text_splitter import RecursiveCharacterTextSplitter