恒生电子首席科学家白硕分享了金融领域大模型的应用实践包括大模型发展趋势、金融场景赋能、生态构建、伦理问题等。文章重点介绍了LightGPT的安全机制、训练语料、中间件光子以及应用场景并探讨了知识图谱在大模型时代的应用价值。同时文章还讨论了大模型垂直应用的伦理问题包括专业角色的自我约束、基于内容的权限控制、生成错误的控制等。最后文章对大模型的发展路径进行了思考提出了从文本到多模态理解、交互改善与研发提效、从Copilot到Agent的发展方向。恒生电子的大模型应用实践大模型的发展趋势1大模型推动第三次信息化浪潮上图是恒生电子董事长刘曙峰先生经常引用的经典图将金融领域的数字化推进分为三个阶段恒生电子目前正处于 2.0 到 3.0 的过渡阶段。在迁徙的过程中最重要的生产要素就是数据。随着最新的 AI 大模型浪潮的袭来当前时代充满着机遇而金融领域也遇到了前所未有的、碾压式的技术革命。2碾压式的技术革命-大模型-从 AI 任务层面看如上图左侧在大模型出现之前很多场景都有分散的、独立构建的 AI 系统使用小模型用相应的标注数据进行训练然而总体还是不够理想距离预期还有一定的差距并且不同的任务也呈现出不同的状况。到了以 ChatGPT 为代表的大模型面世之后我们看到了另外一番景象即无需要进行大量重复训练而是提前做好预训练无需针对不同的场景开发烟囱式的系统仅通过预训练模型经过少量精调就可以适应不同任务并且效果往往会超预期。3哪些方面能力提升了新一代 AI 系统会碾压前一代并真正实现平台化。这个代差首先体现在语言能力上另外还有极其精准的意图识别能力上下文顺畅的写作能力对知识和逻辑的理解能力以及代码生成能力。对于专业领域知识大模型也会表现得越来越专业同时数学能力和逻辑能力也会有相当程度的提升。4大模型发展路线大模型的发展包括两条技术路线一条是 OpenAI 为代表的 GPT 路线一条是以谷歌为代表的 Bert 路线。这两条路线一个是所谓单向的一个是所谓双向的。从去年开始两条路线已经分出胜负。5大语言模型登顶 NLP 的深层原理让我们从 NLP 的角度来看一下大模型都做了什么事情解决了哪些问题。横向远距关联从横向看大模型解决了 NLP 领域的一个难题——远距离上下文关联问题即前文提到的一个词语或一段文字和后文的某一部分是相关的然而两个词语中间的间隔可能很远因此不同大小的窗口设定会带来不同的结果。实践发现窗口设定的临界值大约在 1000 个 token 这样的量级会给上下文关联的能力带来质变。因为这里会涉及前后文的 attention即对窗口内的 token 进行大规模的计算因此只有具备足够的算力支持才可以把窗口延伸得足够远才能够将前文的相关线索“抓取”出来并应用到当前文字的解读和生成上从而有效地实现文本的远距关联突破原先 NLP 技术路线下的瓶颈。纵向隐形资源从纵向的角度看不管是对文本的解读还是生成整个过程中不仅仅使用了字面上的资源同时还使用了很多深层的隐形资源包括语义本体、常识事理等。前期有人尝试将隐形资源用人工方式进行形式化比如 CYC实践发现其效果非常不理想。大模型的引入利用优质的文本资源如教科书、百科全书等正规的、优质的书籍正确地学习和使用语义本体知识以及常识事理知识通过大量优质文本的训练将知识及背后模式挖掘出来。当模型参数超过 500 亿时往往会产生质变出现一种涌现能力而这种涌现能力也是和隐形资源的体量直接相关的。大模型在金融场景的实践1金融业务场景分析在金融领域恒生电子涉及到的业务面较多涵盖客服、投顾营销、风控运营、投研、投行、量化交易等诸多方面。每条业务线都对大模型的应用场景进行了梳理也挖掘出了部分场景可以采用大模型来赋能其中一些是新物种即之前由人来完成且效率不高使用大模型可大大提高效率。还有一些属于原有系统通过引入大模型来提升用户交互体验。2金融对内场景赋能除了外部金融业务场景赋能外恒生还会使用大模型对内部场景进行赋能以提升协作效率实现软件研发和数据生产等环节的重构这也是非常重要的应用场景。3连横合纵通用大模型收垂域大模型放将大模型技术落地应用到金融这样的垂直领域这样的应用模式不同于大模型在公有云上的模式。在公有云上会以大模型为核心围绕一系列插件构成的插件联盟应用到各种垂直领域中。但是在垂直领域往往是一个能力中心外接多个大模型赋能多个应用。因此能力中心的建设就变得非常重要。对于通用大模型经历过一系列“千模大战”实际上现在正在收缩一些好的大模型遥遥领先还有稍有实力的模型在拼命追赶而有些模型在逐渐被淘汰所以说通用大模型在收。然而对于垂域大模型则是另外一番景象因为每个垂直领域都有一些特定的问题因此相对于通用大模型垂域大模型对特定领域会有更强的适配性在实践应用中会有更高效的表现这也是恒生电子在能力中心以及中控建设之外仍然会在垂域大模型方面进行投入和研发的原因。大模型生态1“家里有数”大模型生态因此而不同金融领域大模型的生态和公有云上的生态有哪些不同首先金融大模型“家里有数”。所谓家里有数一方面是金融领域有一些公开数据作为数据资产当然公开数据为保证其时效性可能需要一些商业授权。另一方面是金融机构自身的大量的私有数据、私有系统接口等。上图中左边部分主要来自外部而右边部分基本都来自企业内部包括内部文档、内部数据库、内部知识图谱以及内部系统的开放接口等。大模型和应用之间会有一个以 RAG 为核心的中控用来搭接外部数据和内部数据起到“连接四面八方”的作用。2恒生电子大模型生态蓝图在恒生大模型生态中算力实际上是在最底层的基础大模型是通用能力不特意面向某个专业领域实际上优秀的基础大模型的专业能力也是不可小觑的而所谓行业大模型其中一个重要理念是站在巨人的肩膀上即如果基础大模型在专业上已经做得足够好那我们就可以少做点事如果基础模型做得还不够好那我们就多做点事。举个例子假如开源大模型比较“笨重”难以进行私有化部署那我们就提供私有部署假如该模型已经提供私有部署且体量适中那我们的压力就会大大减轻。总之我们是站在巨人的肩膀上避免重复造轮子。前文所述的中控也叫光子部分该插件会提供数据间“共性能力”的支撑赋能投顾、客服、运营、合规交易等微场景这是恒生大模型的整体蓝图。金融大模型应用现状问题首先会遇到专业性不足这类问题因此如果发现更好的大模型我们就专注于实现这个大模型的对接如果模型在现阶段做得还不够好那么就增强其专业能力使得其在现阶段表现得足够好。其次对于金融领域由于涉及跨域流动甚至跨境流动等方面的合规监管因此会存在内容生成和数据流动等方面的安全性问题这个问题对于金融领域而言尤其需要严格遵守。除了涉及安全本身其监管主要来自于国家网信办等。对于行业的监管作为专业知识提供者这样的软件系统或者平台需要有对身份的把握能力。再次为了降低推理的算力成本2023 年 6 月实现了 LightGPT 的发布即恒生版本的金融大模型10 月 19 日开始公测年底提供一些插件服务包括推理性能的优化以及复杂指令的逻辑能力等。恒生大模型——LightGPT1LightGPT 安全机制在安全方面主要实施了如下举措①语料安全金融法律法规5000 条证券法/公司法/等法律相关出版书籍1500 本价值观数据学习强国/人民日报/党章党建500 万 tokens剔除 8 大维度违规数据总计 1.5②模型安全基础模型使用生成内容安全服务透明度内容生成准确性内容生成可靠性超过 8000 条安全指令和强化学习数据③模型评估基础安全评估超过 5000 条安全评测数据合格率大于 97%金融监管评估新增金融法律法规遵从 3500 条评测数据生成内容安全评估应拒答率不低于 95%国家制度、民族、地理、历史、英烈等内容拒答评估拒答率不高于 5%④其他安全措施敏感词库20 万 应急干预措施分钟级生效内容过滤模型训练语料内容过波、生成内容安全评估支持 31 种风险检测从政治敏感、偏见歧视、违法犯罪、隐私财产、伦理道德、脏话侮辱、心理健康、身体伤害这 8 大维度对比国内其他大模型的性能LightGPT 的优势如下金融法律法规遵循 LightGPT 胜出 15%金融领域知识真实性 LightGPT 胜出 13%诱导性问题拒绝率 LightGPT 胜出 5%社会主要价值观 LightGPT 胜出 3%。2LightGPT 训练语料训练语料主要包括语种强化数据、领域强化数据和应用强化数据这 3 大类。随着越来越多新的大模型底座的不断涌现数据强化工作后续会不断调整和更新。3LightGPT 中间件光子中间件光子实现了模型、应用、资源这三大连接。连接模型包括自身在内的金融大模型同时提供连接其他大模型的路由。连接资源光子本身可以看成是大模型 Hub作为连通八方的资源连接器包括内外部的数据资源、程序资源、接口资源等。连接应用既包括新产生的应用也包括恒生向各个业务域提供的传统应用这些传统应用嵌入到由光子支撑的 Copilot使用自然语言指令一键完成菜单点击这是恒生的努力目标。4应用场景LightGPT 主要应用于以下几个场景第一个是写作场景投资顾问对特定板块、特定个股做周报、月报等。第二个是合规场景基于内外部法律法规、规章制度从检索询问到解读和设置一直到应用。第三个是投顾场景该场景需要集中各种优势资源同时也有一些合规方面的考虑。该场景往往是理财师在兜底理财师主要是面向客户而我们的 AI 工具则同时把客户信息和 AI 建议的话术提供给理财师支持理财师进行不断修改和完善直到满意然后一键推送给客户。对于客户的提问大模型在有些场景下会直接给出答案在有些场景下则会基于实时的行情指标提供广泛的答复同样所提供的信息不仅仅来自原始资讯还包括基于资讯经过二次处理并打上标签的信息。这些信息可以在特定的对话上下文中整合并通过计算得出回答。在这个场景中涉及的问题首先是深度性的需要从多个角度进行分析其次它依赖于大量的活数据这些活数据并非来自大模型本身而是来自外部生产系统的行情资讯以及内部 CLM 系统客户关系管理系统包括客户开户信息、客户交易历史记录等这些数据反映客户的风险偏好、交易习惯以及当前的持仓情况等。以上这些活数据会显著提升理财师、投资顾问等的服务质量。如果缺少上述活数据的支持需要人工获取活数据则很难达到较高的效率。在大模型的加持下这些工具像巫师一样可以召唤出所需的信息和咨询并展示在屏幕上同时可以自行决定将哪些信息推荐给哪些客户。这是我们非常推崇的工作方式也是我们重点打造的场景。第四是运营场景主要涉及对文档的处理特别是对扫描后的合同文档进行关键参数提取并在此基础上进行人工校对不仅要检查已提取的参数同时要对照原文审查其来源出处并检查其原始影像的质量从而确保校对的准确性和完整性。这样能够在保证数据准确无误的同时最大程度地提高工作效率。而运营场景也正在不断扩展模型正在尝试使用一句话实现复杂的、具有多层菜单结构的操作步骤这也是未来工作的一大方向。第五是投研系统WarrenQ。在过去的小模型时代我们谈论的是搜索、阅读、计算和写作。现如今搜索功能已经演变为 Chat 模式包括对外部资源的搜索和内部文档库的搜索还可以调取相应的数据。基于恒生旗下聚源提供的底层数据以及分析师在工作时所使用的底稿和素材等实现了实时精确的操作在内部实现私密性。基于搜索大模型聚源库WarrenQ 进一步可实现 AI 写作、文档挖掘、语音速记和片段对齐等功能而这些功能都是由大模型提供底层支撑。对于上层应用除了 PC 版本之外还提供了小程序版本。以上就是恒生在大模型应用实践方面的现状。02大模型时代的知识图谱数智能力弥漫式赋能各业务场景知识图谱是 LightGPT 中的一个重要组件而随着大模型的发展有一些知名人士比如陆奇博士曾公开宣称在大模型时代知识图谱已经过时不再需要。投资决策三大件数据、计算与推理实际上投资决策离不开基于数据的推理。上图可以看出实现推理能力数据、知识和结论缺一不可。然而大模型是否可以完全实现这样的推理呢并非如此。1推理追踪推理的历史如上图所示从古希腊到中国从古代到现代从数理逻辑到自动推理实际上是人类对自身理性的发掘、认识、驾驭最终实现自动化的过程。而在自动化的过程中推理可以进一步分为两类一类推理是描述特殊和一般的关系上图中的纵向包括归纳从特殊到一般、演绎从一般到特殊和类比从特殊到特殊等另一类推理则描述原因与结果的关系上图中的横向从原因到结果的推理是正常的演绎路径而从结果到原因的推理则是溯因路径。2逻辑基于上述多种推理方式为了研究、描述并实现这些推理人类提出了各种逻辑系统。有的逻辑系统过于庞大如上图的霍恩子句逻辑。日本曾试图基于该逻辑开发第五代计算机但最终失败了原因之一就是该逻辑系统与现在主流的计算机体系架构并不完全兼容日本试图另起炉灶但未能成功。在逻辑推理中上图中间橙色的圈是描述逻辑也是现代知识图谱的基础。知识图谱1从描述逻辑到知识图谱☰☰☰IMG29对于上述这些可能触碰行业红线的问题大模型有必要将红线画出来再用正确的话术对客户进行引导需要在训练大模型时加入这方面的能力否则大模型就很难承担起这样的专业角色。基于内容的权限控制大模型还会涉及到权限问题。比如当用户提问时后台数据库会对信息进行检索这样在信息检索的过程中就会涉及到权限的控制问题。LightGPT 已经实现了权限的字段级控制即哪些字段可以被哪些人访问。然而如果将员工个人信息都嵌入到大模型中会出现“张三的年终奖有多少”这类涉及隐私的问题而问题可能是张三的同事提出的也可能是张三的老板提出的。如果是张三同事或其他人问的出于对员工隐私的保护应不予回答如果是其老板问的则应该如实回答。那么大模型该如何区分这个问题该如何回答呢首先不建议将这类信息直接嵌入到大模型中而是建议将其作为外挂数据来存储然后由中控组件控制外挂的访问权限从而实现这类问题的权限控制。生成错误的控制生成错误是非常常见的情况尤其在问答的场景。这里有两种不同的技术路线一种是将所有 FAQ 都输入到大模型进行训练大模型在回答这类问题的时候往往不拘泥于原 FAQ而是进行一定程度的临场发挥然而过度临场发挥可能会产生一些错误。因此建议使用另一种技术路线即使用 RAG 来控制信息的检索和生成。RAG 是一种结合了检索和生成的模型在生成回答时首先参考先前的标准问题和对应答案进而挑选出最合适的答案从而提高回答的相关性和准确性。具体来说假如选择了 Q1则对应的 A1 就是标准答案同理选择 Q2则 A2 是标准答案而不是将 Q1 和 A1 输入到大模型后由大模型按照概率模型来生成因为那样的生成结果容易不可控。生成错误的责任归属归因标记然而假如生成的回答出现错误其错误追溯会相对比较复杂因为大模型及其插件以及周边资源耦合成的体系非常复杂相对难以定位。实际上按照实践经验大模型生成错误大多会发生在训练阶段或者推理阶段在训练阶段发生的错误往往是训练数据有误造成的因此需要对错误的训练数据进行甄别。在推理阶段发生的错误有可能是提问错误也有可能是生成错误。对于生成错误模型对错误的生成语句进行拦截或补救对于提问错误模型对用户提问的初始意图及问题的恰当性进行判断并增加一些手段去弥补。此外大模型的检索增强体系也可能存在数据错误。因此需要在大模型的训练过程中对错误添加归因标记即生成的类似日志的标签利用归因标记便于在事后查找责任归属。大模型应用场景大模型的应用场景可以分为三类分别是重构、嵌入和原生。1重构重构指的是大模型赋能新应用即借助大模型打通相关的资源链路将原先人工完成的任务通过大模型来完成。对于投研、投顾这类复杂的场景仍然需要人工的参与但是人工的工作负担会大大降低效率会提高很多。而对于有些场景是可以用大模型完全取代人的例如呼叫中心接线员这类岗位上岗前需要培训和考试而考试的过程一般是考官来模拟刁钻、脾气不好等各类奇葩的客户考察接线人在这样恶劣情况下是否还能给出得体的回应。在这样的场景下可以预设人设让大模型独自来扮演考官这个角色模拟这个挑剔的客户对接线员进行考察。2嵌入所谓嵌入式即在原有的应用中嵌入大模型 Copilot 副驾驶的能力从而支持一种新的交互模式。例如传统的图形界面交互方式可以通过大模型结合自然语言来实现即透过菜单的层层点击一步到位地实现用户的功能实现语控万数进而语控万物。这样不仅仅拓宽了应用场景同时也拓宽了大模型的语义落地范围。3原生原生是近期各类 AI agent 的主要功能即涉及多步操作的复杂指令其中每步操作都会面向不同的外部资源将外部资源进行拆解、编排、规划确定执行顺序以及输入输出将其形成任务流水线进行通用化执行最终得到结果。以上是大模型的三种常见应用场景其中重构类型和嵌入类型相对简单目前已有典型的落地场景案例。而在原生场景中需要较强的任务拆解、任务规划、任务执行等能力同时还要具备较强的语言理解能力、计算能力和资源对接能力这是后面需要着重完善的地方。大模型发展的路径及思考大模型的发展路径及思考可以用以下几句话来概括始于文本拓展至多模态理解交互改善研发提效从 copilot 到 agent大模型从最初的文本理解已经拓展到多模态的理解并不断完善交互式体验使其在研发等场景上不断提效。大模型从一个简单的 copilot逐步发展到一个具备自主派解任务、规划任务和执行任务的 agent。目前大模型的发展正面临一个关键的岔路口即通用 vs. 垂域以及模型 vs. 中控。对于通用 vs. 垂域如果垂域模型是基于公开数据和资料训练得到的那么在预训练阶段直接使用通用模型即可而垂域模型在这一阶段并不具有明显的优势。在这种情况下更重要的在于模型精调即优化模型与场景的资源对接。我们要站在巨人的肩膀上前行避免“重复造轮子”。而对于模型 vs. 中控“中控”部分目前大有可为因为其同时对接模型、应用和公共资源而公共资源即活数据具有时效性、精准性和私密性。因此应将“中控”做强做厚随着大模型的进化将应用场景武装得更加智能发挥更好的业务支撑能力。04QAQ1金融大模型有哪四个典型应用场景A1金融大模型主要应用于投顾、投研、运维、合规这四大场景。Q2金融大模型率先落地哪个场景A2更加看好投顾和投研这两个场景。对于投顾场景需要对活数据的综合使用能力。而活数据的使用也是有“厚度”的常常需要基于活数据进行常见问题的提取和加工以及高频指标的计算等需要使用大模型提高信息加工效率因此投顾这一场景具有较好的发展前景。而对于投研场景作为金融工程的基本能力的延展其价值不局限于研究所而是将其赋能到资管、风控等领域其面向对象也不局限于分析师而是将其辐射到一级市场的投行业务甚至可以进一步延伸到实体经济的竞品分析、竞争态势分析等业务。综上看好投研、投顾这两个场景认为在这两个场景下大模型可以率先落地。以上就是本次分享的内容谢谢大家。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取https://mp.weixin.qq.com/s/Zfzd-MCXADSJl_wGtwUU9g