本文对比了LangChain和LlamaIndex两大框架的核心定位与优势。LangChain擅长Agent、工作流编排和工具调用适合复杂任务编排LlamaIndex则专注于文档索引、知识库检索和RAG优化助力模型精准“查资料”。文章通过实战案例演示了如何在LangChain Agent中接入LlamaIndex检索器帮助读者判断不同场景下框架的选择与组合使用。做 LLM 应用时很多人都会卡在一个问题上LangChain 和 LlamaIndex 看起来都很强但真正写项目时到底该用哪个LangChain 更擅长 Agent、工作流编排和工具调用适合把复杂任务一步步组织起来LlamaIndex 更擅长文档索引、知识库检索和 RAG 优化适合让模型更准确地“查资料”。两者不是简单的替代关系而是各有分工。这篇文章会用一条清晰的主线把 LangChain 和 LlamaIndex 的核心定位、优势短板、适用场景讲明白并通过一个实战例子演示如何在 LangChain Agent 中接入 LlamaIndex 检索器。看完之后你就能判断什么场景该选 LangChain什么场景该选 LlamaIndex什么时候应该把两者组合起来使用。一、先搞清楚两者不是同一种框架LangChain 和 LlamaIndex 经常被放在一起比较但它们解决的问题并不完全相同。简单说LangChain 更像“应用编排框架”负责把模型、工具、记忆、Agent 和多步骤流程组织起来LlamaIndex 更像“数据与检索框架”负责把文档、索引、向量库和查询策略组织起来。如果把一个 AI 应用看成一家公司LangChain 更像项目经理决定任务怎么流转、下一步调用哪个工具、多个 Agent 如何协作。LlamaIndex 更像资料管理员把资料整理成可检索的结构并在用户提问时快速找出最相关的内容。二、LangChain适合把复杂任务编排起来LangChain 的强项不是单纯“查资料”而是把一个任务拆成多个环节并让模型在不同工具之间做选择。比如一个 Agent 既要查询数据库又要调用搜索接口还要根据结果继续追问或生成报告这类场景就很适合 LangChain。它的核心优势可以概括为四点通用应用编排可以把模型、提示词、工具、记忆、输出解析等组件组合起来。Agent 能力适合让模型根据任务目标决定调用哪个工具、执行哪一步。多步骤工作流可以承载更复杂的业务流程尤其适合需要反复判断和流转的任务。工具生态丰富更容易和外部系统、API、数据库、搜索服务等结合。当然LangChain 在 RAG 方向并不是没有能力但如果你的核心目标是把大量文档处理成高质量知识库并持续优化检索效果单靠 LangChain 往往会显得偏基础。三、LlamaIndex适合把文档和知识库检索做好LlamaIndex 的优势集中在数据层。它关心的是文档怎么读取、怎么切分、怎么建立索引、怎么接入向量数据库、怎么用更好的检索策略把相关内容找出来。所以当项目主要围绕“文档问答”“知识库检索”“RAG 优化”展开时LlamaIndex 会更顺手。它提供了更丰富的索引结构和更细的检索控制适合对召回质量、数据管道和检索性能有要求的场景。它的短板也比较明确如果任务需要复杂 Agent 决策、多智能体协作或者频繁和外部系统交互LlamaIndex 自身的编排能力就不如 LangChain 灵活。四、怎么选看你的应用主线是什么选型时不要只问“哪个框架更强”而要先问“这个项目最核心的问题是什么”。如果核心问题是任务如何流转优先考虑 LangChain如果核心问题是资料如何被准确检索优先考虑 LlamaIndex。组合使用时最自然的分工是LangChain Agent 负责理解用户目标、决定是否调用工具LlamaIndex Retriever 负责从文档库中找出相关内容。这样既保留了 Agent 的灵活性也能让 RAG 检索质量更稳定。五、实战在 LangChain Agent 中使用 LlamaIndex 检索器下面的例子会把 LlamaIndex 构建出来的文档检索器包装成 LangChain 工具再交给 LangChain Agent 使用。这样用户问问题时Agent 可以主动调用这个工具从本地文档中检索相关信息。安装依赖先安装 LlamaIndex 以及和 LangChain、DashScope Embedding 相关的依赖pip install llama-index llama-index-embeddings-langchain llama-index-embeddings-dashscope准备本地文档在项目根目录创建一个 data 文件夹并在里面创建 langchain_intro.txt。示例内容如下LangChain 是一个用于构建 LLM 应用的框架。核心优势模块化设计易于组合丰富的工具生态系统支持多种 LLM 提供商内置 Agent 框架强大的链式调用能力LangChain 适合需要灵活编排多个组件的复杂应用场景。这份文档很短但已经足够演示完整流程读取文档、生成向量索引、创建检索器、封装为工具、交给 Agent 调用。构建 LlamaIndex 检索器第一段代码负责读取 data 目录下的文档并使用 DashScope 的 text-embedding-v3 模型构建向量索引。这里的关键对象是 VectorStoreIndex它会把文档转成可检索的向量结构as_retriever 则把索引转换成检索器。import osfrom langchain.agents import create_agentfrom langchain_community.embeddings import DashScopeEmbeddingsfrom langchain_core.tools import toolfrom langchain_openai import ChatOpenAIfrom llama_index.core import SimpleDirectoryReader, VectorStoreIndexfrom llama_index.core.base.embeddings.base import similarityif not os.getenv(DASHSCOPE_API_KEY): raise Exception(Please set DASHSCOPE_API_KEY environment variable)documents SimpleDirectoryReader(./data).load_data()# 初始化向量模型embeddings DashScopeEmbeddings(modeltext-embedding-v3, dashscope_api_keyos.getenv(DASHSCOPE_API_KEY), )#创建 向量索引index VectorStoreIndex.from_documents(documents, embed_modelembeddings)#转换为 检索器retriever index.as_retriever(similarity_top_k3)similarity_top_k3 表示每次检索时取最相关的 3 个片段。这个参数可以根据文档长度和回答质量调整太小可能漏信息太大则可能把不相关内容也带进上下文。把检索器包装成 LangChain 工具接下来用 tool 把 LlamaIndex 的检索能力包装成 LangChain Agent 可以调用的工具。Agent 并不需要知道底层是怎么建索引的它只需要知道有一个 query_docs 工具可以根据问题返回相关文档内容。tooldef query_docs(query:str) -str: 从文档中检索相关信息 nodes retriever.retrieve(query) if not nodes: return 没有相关文档 return /n.join([node.text for node in nodes])这一步就是两者结合的关键LlamaIndex 专心做检索LangChain 把这个检索器当作一个可调用工具纳入 Agent 工作流。创建 Agent 并发起提问最后创建模型和 Agent把 query_docs 作为工具传入。用户提问时Agent 会根据问题判断是否调用文档检索工具并基于返回内容组织回答。#模型model ChatOpenAI( modelqwen3.5-plus, api_keyos.getenv(DASHSCOPE_API_KEY), base_urlhttps://dashscope.aliyuncs.com/compatible-mode/v1, )#agentagent create_agent(modelmodel, tools[query_docs])response agent.invoke({messages: [(user, LangChain核心优势是什么)]})print(response[messages][-1].content)这段代码跑通后问题“LangChain 核心优势是什么”就不会只依赖模型记忆而是会从 langchain_intro.txt 中检索出相关内容再由 Agent 生成回答。对于真实业务来说这就是最常见的组合方式业务流程交给 LangChain知识检索交给 LlamaIndex。六、把这个例子放到真实项目里该怎么扩展示例里只有一个 txt 文件但思路可以直接扩展到更完整的知识库应用。比如你可以把 data 目录换成产品文档、制度文件、课程资料或客服知识库再根据效果调整切分策略、向量模型、top_k 数量和检索后处理。如果后续任务只是“问文档、答问题”可以继续强化 LlamaIndex 这一层如果后续任务变成“先查资料再调用接口再生成方案再让另一个角色复核”就应该把 LangChain 的 Agent 和工作流能力加进来。因此新项目可以按这个思路判断·以对话、任务执行、工具调用为主首选 LangChain。·以文档检索、知识库问答为主优先考虑 LlamaIndex。·既需要复杂流程又需要高质量 RAG就把两者结合起来。总结LangChain 和 LlamaIndex 不是非此即彼的关系。LangChain 更适合做 LLM 应用的流程编排尤其是 Agent、多步骤任务和工具集成LlamaIndex 更适合做文档索引、检索和 RAG 优化。真正落地时可以记住一句话LangChain 负责“下一步该做什么”LlamaIndex 负责“相关资料在哪里”。当项目既要会做事又要查得准把 LangChain Agent 和 LlamaIndex Retriever 组合起来往往就是更稳的方案。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取