下列是落地级的技术选型与架构设计, 三者乃智能协作系统的核心组件, 知识库作为“数据底座”, 其作用是存储结构化及非结构化知识, 工作流作为“流程骨架”, 所起编排编排任务流转的作用, 智能体作为“决策大脑”, 功能是调用资源达成目标。一、核心框架成熟选型优先落地1. 智能体Agent核心框架聚焦于“目标拆解、工具调用、记忆管理”领域, 优先选择生态完善且低代码的框架:Java是最主流的智能体开发框架, 它支持大模型调用, 支持工具链集成API、数据库、工作流, 支持对话记忆短期/长期 , 它新增了“状态流转”能力, 适配复杂决策流程。这是一款开源智能体的原型, 它能够支持自动拆解目标, 还可以迭代执行, 非常适合用于快速验证“自主任务完成”的场景。: 将焦点集中于名为“软件工程”的场景, 能够对源自需求文档的内容转化为代码予以支持, 把任务进行拆分后交由多个智能体来开展协作, 自身具备工作流编排方面的能力。• 讯飞星火 Agent 平台云原生, 是国内厂商供给的全托管框架, 其内置大模型, 还有工具市场, 以及记忆管理, 它适合快速接入国内生态, 接入时无需关心底层部署情况。2. 工作流核心框架着眼于“流程定义、任务调度、状态管理、异常重试”之方面, 区分“轻量型”与“企业级”。• 轻量型快速迭代场景: 任务调度是基于DAG的, 它适合定时任务, 它也适合批量任务, 像知识库更新这样的任务, 像数据同步这样的任务。 动态工作流支持复杂依赖关系比更灵活CloudJava旨在, 进行微服务架构里的, 轻量流编排工作。它能够去适配, 采用Java技术栈的, 业务流程。• 企业级高可用/复杂业务场景Java, 它支持BPMN 2.0规范, 具备可视化流程设计功能、历史轨迹追溯功能、事务管理功能, 适用于核心业务流程像是审批、履约这类。分为不同的情况, 进行轻量化的转变, 能够让微小的服务进行开展布置, 并且适合Boot这一生态体系内的环境 , 这是Java所具备的特性。多语言, 它支持长时间的工作流, 这种工作流的时长能达到数月甚至数年, 它还具备故障恢复的能力, 并且能够实现跨服务协作, 所以它适合分布式场景。3. 知识库 Base核心框架将重点放在“知识存储、检索、更新、嵌入”方面、其核心为“向量库 文档解析 检索引擎”: 标点符号不能删。• 向量库选型核心存储可选择轻量型, 这里面有/Java, 本地部署不存在依赖情况, 还有FAISS属于开源类型, 是适用于单机场景的那种。企业级, 具备分布式向量库, 该向量库支持高并发检索, 还有Cloud, 即云托管版, 同时拥有混合检索功能, 此功能支持向量以及全文检索。文档解析框架它支持PDF、Word、Excel等20多种格式, 还有Tika, 它是用Java编写的, 用于解析非结构化文档。通过集成BM25全文检索与向量检索的混合策略来构建检索框架, 同时采用DSL自定义检索规则。二、核心技术栈按“后端中间件前端大模型”分层1. 后端技术栈按开发语言分阵营阵营快速验证、AI生态友好• 核心语言 3.9适配大模型SDK、生态一个用于Web开发的框架, 可以提供高性能API开发, 并支持异步操作以及能自动生成接口文档那么一个了的框架还有一个名为Flask的框架通常适用于轻量原型开发的框架。处理数据: 进行结构化的数据清洗, 运用Numpy来做向量计算, 还要开展PDF解析。大模型集成, 其中含有SDK, 还有讯飞星火SDK, 以及智谱AI SDK, 借助这些SDK调用大模型来完成嵌入、生成任务。Java 阵营企业级、高可用、微服务适配核心语言是Java 11及以上版本, 其中Boot/ Cloud生态已成熟。・属于微服务框架范畴的有, Boot 2.7或者3.x, 具备Cloud相关要素, 涵盖服务注册以及发现, 还有配置中心哟。• 数据处理包含这些, 有Excel解析, 还有PDF解析, 另外还有HanLP, 它能进行中文分词以及NER这种操作。它包含大模型集成, 其中有 -http这种方式, 此方式是用于调用大模型REST API的, 另外还有AI方面, 它属于官方AI生态, 涉及集成以及大模型SDK。2. 中间件技术栈支撑高可用、高并发关于缓存, 采用的是Redis, 它用于存储热点知识, 用于存储对话记忆, 用于存储工作流状态。• 消息队列: /Kafka将工作流任务进行解耦, 以异步方式更新知识库, 实现削峰填谷。• 数据库关系式的, 是MySQL 8.0, 它存放着用户信息, 还有工作流配置, 以及知识库元数据。非关系型的, 是用于存储非结构化文档、对话历史的那种, 还有向量库, 向量库是用来存储知识向量的, 二者之间用斜杠隔开。搜索引擎, 采用全文检索与向量混合检索的方式, 用来提升知识库查询的精度。3. 前端技术栈可视化操作交互其有着这样的核心框架, 其中一种是Vue 3加Vite, 这组合具备轻量且高效的特点, 另一种是React加Next.js以适应复杂的交互场景。• 低代码/流程设计 工作流可视化, 其中包括, 按照BPMN规范进行设计, 以及使用Vue Flow来自定义流程画布。管理知识库: Plus/Ant, 其中包含文档上传功能, 还有分类管理功能, 以及检索界面功能。• 实时交互智能体对话、工作流状态推送。4. 大模型选型智能体核心驱动力针对通用大模型, 有GPT - 4o/3.5, 其生态完善且工具调用能力强。还有讯飞星火V4, 它在国内合规并且中文理解优。另外有智谱清言, 其代码生成以及知识问答方面表现优。有这样几种嵌入模型, 专为知识库设计, 比如text--3-small, 它具备轻量且高效的特点, 还有m3e-base, 这是国内开源的, 对中文进行了适配, 另外还有bge-large-zh, 它的嵌入维度很高, 检索精度也十分优良。一种是通过API调用这种方式来进行部署, 它能够实现快速落地, 另一种是私有化部署, 该部署方式满足企业级数据安全方面的需求, 像是讯飞星火私有化、通义千问私有化等。三、通信协议模块内/模块间协同1. 模块内部通信高效、低延迟对于进程内调用而言, 存在着直接函数这样一种调用这种方式, 像是调用向量库, 犹如工作流调用本地工具这一模样。微服务内部存在着, gRPC, 它是适用于智能体调用工作流引擎的体现, 具备Java与跨两种语言的特性, 还是高性能二进制协议, Dubbo也在其中, 它所属Java微服务生态, 有着很强的服务治理能力的性质。2. 模块间跨服务通信灵活、可扩展有一种通信方式叫同步通信, 它所采用的协议是HTTP/HTTPS且是API形式, 这可是最为通用的跨服务协议, 比如说智能体调用知识库检索API是它可以执行的一种情况, 又或者是前端调用智能体对话接口也是在此协议作用下的一种调用情况。• 异步通信AMQP的实现方面, 存在工作流任务调度, 还有知识库异步更新, 像是文档上传之后触发的解析, 并且支持消息确认, 也支持死信队列。如果在物联网场景扩展过程之中涉及到设备数据接入知识库这种情况, 那么就要采用那个MQTT协议, 也就是有着轻量、低功耗特点的MQTT协议。- 实时通信包含, 智能体实时对话, 以及工作流状态推送, 像任务执行进度同步给前端这种情况。3. 大模型/外部工具通信大模型进行调用时, 会用到API, 也就是讯飞星火等大模型统一接口规范, 还会用到JSON, 其作用是定义工具调用参数格式, 以此来确保大模型能够正确传参。• 外部工具集成对于API调用, 存在这样的情况, 即需要在授权登录之后, 才能够去调用第三方工具的API , 并且这些API的调用方式包括HTTP以及HTTPS。 数据库连接, 包含JDBC, 也就是Java连接MySQL, 另外还有连接部分、向量库SDK分别为/官方SDK。四、协同架构三者如何联动1. 由前端发起需求, 确切地说, 是像这样发出的需求, 即生成一份牵涉产品需求阐述的文档, 此文档生成时要去参照知识库里所明确的2024年产品规划, 需求便是如此这般。2. 智能体, 接收需求, 借助 HTTP/HTTPS 去调用知识库专门基于某种情况的检索 API, 进而获取相关知识。3. 智能体对任务进行拆解“1. 提取知识库核心信息2. 生成文档框架3. 填充内容”, 借助 by gRPC 调用工作流引擎从而创建任务流。4. 工作流引擎依照步骤来实施对智能体执行的调度, 在这个过程中, 借助异步的方式将任务状态推送给前端。5. 执行完毕之后, 智能体朝着前端返回那个结果, 与此同时借助HTTP去调用知识库API, 把新产生的文档存进知识库, 这里包含自动解析、嵌入以及入库这一系列操作。选型建议• 快速验证原型 1-2周落地企业级部署, 采用 Java, 结合 Cloud, 再加上讯飞星火, 此部署支持高可用, 满足合规要求。具有国内生态优先的特点存在, 那便是将讯飞星火Agent与华为云向量库以及阿里云进行结合, 这种结合能够减少跨境依赖, 并且适配中文场景。