目录治理框架概述治理策略治理流程治理职责治理工具治理度量实践建议与最佳实践摘要模型治理框架把 LLM 从注册到下线的全生命周期纳入受控管理，通过策略、流程、职责、工具、度量五层机制将高风险未处置率压到 3% 以内、审批周期中位数控制在 3 个工作日、审计抽样通过率稳定在 95% 以上。本文给出分级策略、RACI 责任矩阵、登记与监控系统的实现，并为 21 个子节配套可运行代码和 7 张治理流程图。50 人规模团队落地该体系约需 6 个月和 40 万元人民币投入，安全事故平均处置时间可从 72 小时降至 8 小时以内。1. 治理框架概述模型治理不是一套文档，而是把模型开发、发布、运营中的决策权、责任和操作边界固化成可执行规则的组织机制。本文的讨论基线是一家管理 30 个模型、200 个推理服务、50 个数据集的 AI 平台团队，治理对象包括自研 7B 模型、若干 13B/70B 开源基座以及基于它们的应用。在没有框架约束的半年里，该团队出现过 4 起未登记模型被私自上线的越权部署，以及 2 起配置变更未走审批直接污染线上流量的事件。治理框架的目标是用确定的流程与度量，把这些失控点变成有据可查、可回滚、可追责的受控动作。年度复盘治理框架治理目标治理范围治理原则风险损失受控法规义务履行交付效率保障模型资产数据资产服务与配置人员与流程责任可追溯透明可解释人类最终决策控制面治理策略治理流程治理职责治理工具风险合规闭环1.1 治理目标治理目标回答"为什么要治理、治理到什么程度"。目标必须可度量，否则无法判断治理是否有效。下表给出本团队四个核心目标的基线、目标值与当前值，其中风险类与效率类指标还区分了方向。目标基线目标当前高严重度风险未处置率8%3%2.5%模型上线审批周期中位数6 天3 天3.2 天审计抽样通过率88%95%96%治理度量自动化率55%80%72%目标设定的原则是"基线先于目标"：先观察三个月的真实数据再定目标，避免拍脑袋。审批周期中位数当前 3.2 天，距离目标 3 天还有 0.2 天的差距，主要瓶颈是高风险模型的人工评审排队，可通过把评审例会从每周一次改为每周两次来压缩。治理目标分两层：战略层面向委员会，回答风险与合规的底线；运营层面向执行团队，回答流程效率与工具覆盖率。两层目标通过一个加权汇总分数联动，权重按风险优先：风险类 30%、合规类 25%、效率类 25%、自动化类 20%。边界在于目标会相互冲突：把审批周期压到 1 天必然削弱评估深度。所以目标不是单点最优，而是区间约束，审批周期的下限受风险类指标约束，实践中 2 到 4 天是合理区间。# 来源：自实现 / governance_objectives.py"""治理目标登记与达成度计算，支持指标方向与权重。"""fromdataclassesimportdataclass@dataclassclassObjective:code:strname:strbaseline:floattarget:floatcurrent:floathigher_is_better:bool=Truedefattainment(self)-float:"""达成度 0 到 1，越线取边界，基线与目标相等时按达标处理。"""ifself.baseline==self.target:return1.0delta=self.target-self.baseline ratio=(self.current-self.baseline)/deltaifnotself.higher_is_better:ratio=(self.baseline-self.current)/(self.baseline-self.target)returnmax(0.0,min(1.0,ratio))defcomposite(objectives:list[Objective])-dict:"""按目标编号加权汇总，返回达成度与明细。"""weights={"OBJ-01":0.30,"OBJ-02":0.25,"OBJ-03":0.25,"OBJ-04":0.20}score=sum(o.attainment()*weights[o.code]foroinobjectives)detail={o.code:{"达成度":round(o.attainment(),3),"当前值":o.current,"目标值":o.target}foroinobjectives}return{"加权达成度":round(score,3),"明细":detail}if__name__=="__main__":objs=[Objective("OBJ-01","高严重度风险未处置率",0.08,0.03,0.025),Objective("OBJ-02","审批周期中位数(天)",6.0,3.0,3.2,higher_is_better=False),Objective("OBJ-03","审计抽样通过率",0.88,0.95,0.96),Objective("OBJ-04","度量自动化率",0.55,0.80,0.72),]result=composite(objs)print(result)assert0.0=result["加权达成度"]=1.01.2 治理范围治理范围界定"管什么、从哪管到哪、不管什么"。范围按两个维度展开：生命周期维度和资产维度。生命周期覆盖数据准备、训练微调、评测、发布、在线服务、监控、下线七个阶段；资产维度覆盖模型权重、数据集、提示词模板、推理配置、服务端点五类资产。范围判定有明确触发条件：资产类型属于登记清单、涉及个人数据、或对外提供服务，三者满足其一即纳入治理。排除项同样要写明，例如仅在本机运行的开发脚本、不经过大模型的纯内部工具不纳入，这能避免治理面无限扩大。以团队实际数据为例，30 个模型中 6 个属于高风险场景（金融客服、简历筛选），纳入最高强度的治理；24 个属于一般场景，走标准流程。范围登记的资产总数 280 项，其中模型 30 项、数据集 50 项、提示词模板 120 项、服务端点 80 项。范围的典型失败模式是"登记了但没人维护"。解决方案是给登记项加复查周期：高风险项 90 天复查一次，一般项 180 天复查一次，过期未复查自动提醒并冻结发布权限。演进上，范围随业务扩张：引入多智能体系统后，agent 间的调用链也纳入登记，2025 年第一季度起新登记的 agent 编排配置累计达到 15 项。# 来源：自实现 / scope_assessment.py"""治理范围判定：按资产类型、隐私与对外服务三个触发条件判断。"""fromdataclassesimportdataclass SCOPE_ASSETS={"model_weight","dataset","prompt_template","inference_config","serving_endpoint"}EXCLUDED={"本机开发脚本","不经过大模型的内部工具"}@dataclassclassAsset:name:strasset_type:strhas_pii:bool=Falseserving:bool=Falsedefin_scope(self)-tuple[bool,list[str]]:reasons=[]ifself.asset_typeinSCOPE_ASSETS:reasons.append("资产类型在登记清单内")ifself.has_pii:reasons.append("涉及个人数据")ifself.serving:reasons.append("对外提供服务")return(bool(reasons),reasons)if__name__=="__main__":cases=[Asset("chat-bot-7b","serving_endpoint",serving=True),Asset("临时计算脚本","dev_tool"),Asset("简历筛选提示词","prompt_template",has_pii=True),]forcincases:ok,why=c.in_scope()print(c.name,"纳入治理"ifokelse"不纳入","原因:",why)1.3 治理原则原则是目标的价值观底座，回答"以什么立场治理"。五条原则及其映射的控制项如下：责任可追溯对应模型登记、审批留痕、决策记录；透明可解释对应模型卡片、评测报告、输出说明；人类监督对应关键操作双人复核、高风险放行人工审批、紧急关闭开关；隐私保护对应数据脱敏、日志访问授权、保留期限；公平无偏对应偏见评测、样本均衡检查、投诉通道。每条原则映射 3 个控制项，五条原则共 15 个基础控制项，加上合规和风险衍生项，团队控制项库合计 42 项。原则到控制项不是一对一，而是多对多：审批留痕同时支撑责任可追溯与人类监督两条原则。原则的落地难点在于"不落地"。团队用符合性检查量化原则落实程度：逐条核对控制项是否实现并计算覆盖率。初始评审时五条原则的平均覆盖率只有 61%，因为公平无偏的样本均衡检查缺失；补齐后覆盖率提升到 88%。原则之间也存在张力，透明可解释与隐私保护冲突时，处理规则是"默认最小必要"，只暴露解释模型行为所必需的信息，超范围访问一律拒绝并记录。边界：原则更新滞后于技术演进。多智能体场景下"责任可追溯"需下沉到 agent 调用链级别，2025 年第二季度已把该原则的控制项从 3 个扩展到 5 个。# 来源：自实现 / principle_checker.py"""治理原则到控制项的映射与符合性检查。"""PRINCIPLE_CONTROLS={"责任可追溯":["模型登记","审批留痕","决策记录"],"透明可解释":["模型卡片","评测报告","输出说明"],"人类监督":["双人复核","人工审批","紧急关闭开关"],"隐私保护":["数据脱敏","日志授权","保留期限"],"公平无偏":["偏见评测","样本均衡检查","投诉通道"],}defcheck(principle:str,implemented:set[str])-dict:"""返回单条原则的覆盖率与缺失控制项。"""required=set(PRINCIPLE_CONTROLS[principle])missing=required-implementedreturn{"原则":principle,"覆盖率":round((len(required)-len(missing))/len(required),3),"缺失控制项":sorted(missing)}if__name__=="__main__":have={"模型登记","审批留痕","模型卡片","评测报告","数据脱敏","日志授权","偏见评测","投诉通道"}total=0.0forpinPRINCIPLE_CONTROLS:r=check(p,have)total+=r["覆盖率"]print(r)print("五条原则平均覆盖率:",round(total/len(PRINCIPLE_CONTROLS),3))2. 治理策略治理策略是框架的执行依据，把目标转化为风险、合规、分级三个可操作的规则面。策略层输出的是一份"控制项库"：每条策略带编号、适用范围、责任角色和验证方法。策略不是一次性发布，而是每季度评审一次，评审后形成版本号发布，团队当前控制项库为 v2.3。