系列AI融合第三篇终章。上篇实现了“语音视觉”多模态搜索评论区炸了“多模态太酷了但本地模型认不出长尾商品比如小众潮牌能不能调用云端大模型又担心聊天记录被上传。” 这正是端云协同大模型要解决的核心矛盾。今天我们在电商Demo里落地“端侧意图路由云端大模型”架构简单问题查物流、问尺码端侧秒回复杂问题搭配建议、小众商品识别自动路由到云端盘古大模型且通过差分隐私技术确保用户数据“可用不可见”。全程基于API23的IntelligentFoundationKit解决Token流式返回、意图识别、隐私脱敏三大技术难点。附官方文档未提及的5个工程化坑赶稿可直接用浏览器模拟方案。一、前言为什么纯端侧或纯云端都不是最优解回顾前两篇AI实战端侧单模态拍照搜图快、隐私好但认不出没训练过的商品长尾问题。端侧多模态视听搜索交互自然但算力有限无法处理“这件衣服配什么裤子”这种需要世界知识的复杂推理。如果全走云端大模型如盘古隐私风险用户的聊天记录、商品偏好上传云端面临合规压力GDPR/《个保法》。成本爆炸每次交互都调用千亿级大模型Token费用惊人。时延问题弱网环境下云端往返时延可达数秒体验割裂。HarmonyOS 6.1的解法端云协同Hybrid AI。核心思想是“端侧做路由云端做大脑”端侧意图识别先用一个小模型判断用户问题是“简单查询”还是“复杂推理”。本地优先查物流、问尺码等高频简单问题端侧直接查数据库返回不上云。云端增强涉及搭配建议、小众商品识别等复杂问题将脱敏后的特征向量而非原始数据发给云端大模型。流式返回云端生成答案时像打字机一样逐字返回降低用户等待焦虑。今天我们就把这个架构落地到电商Demo的“智能导购”助手上。二、核心概念辨析端云协同的三大层级官方文档把端云协同讲得很学术我用电商场景给你翻译成人话层级技术方案时延隐私性适用场景端侧直出​本地规则引擎/小模型50ms⭐⭐⭐⭐⭐“我的订单号是多少”“有货吗”端云协同​端侧特征提取云端大模型300-800ms⭐⭐⭐⭐“这件衣服配什么裤子”“给我讲讲这个品牌的起源”云端直连​原始数据直传云端大模型1s⭐严禁用于电商涉及隐私合规红线核心认知我们今天的实战属于端云协同。关键点在于“数据不出端特征才上网”。例如用户问“红色裙子搭配什么鞋”端侧提取“红色”、“裙子”、“搭配”这三个特征向量传给云端云端不知道是谁在问也不知道裙子的高清图片只知道这三个特征。三、代码实现构建智能导购流水线3.1 环境准备与权限配置端云协同需要访问华为云盘古大模型需配置AGCAppGallery Connect的认证信息。修改module.json5{ module: { requestPermissions: [ // 新增允许访问云端智能服务 { name: ohos.permission.ACCESS_FOUNDATION_MODEL, reason: 调用云端大模型能力 } ] } }AGC配置在entry/src/main/resources/rawfile/下放置agconnect-services.json并配置API Key注意不要硬编码在代码中。3.2 封装端云协同管理器核心代码创建entry/src/main/ets/common/HybridAIManager.ets。这是全文的灵魂负责意图路由和隐私脱敏。import { intelligentFoundation } from kit.IntelligentFoundationKit import { cloud } from kit.CloudFoundationKit import { hilog } from kit.PerformanceAnalysisKit /** * 意图枚举 */ enum IntentType { SIMPLE_QUERY simple_query, // 简单查询端侧处理 COMPLEX_REASONING complex_reasoning, // 复杂推理云端处理 UNKNOWN unknown } /** * 端云协同AI管理器 */ export class HybridAIManager { private static instance: HybridAIManager | null null private intentClassifier: intelligentFoundation.LocalClassifier | null null // 端侧意图分类器 private foundationClient: intelligentFoundation.FoundationClient | null null // 云端基础模型客户端 private constructor() {} static getInstance(): HybridAIManager { if (!HybridAIManager.instance) { HybridAIManager.instance new HybridAIManager() } return HybridAIManager.instance } /** * 初始化在UIAbility中调用 */ async init(context: Context): Promisevoid { try { // 1. 初始化端侧意图分类器小模型用于路由 this.intentClassifier await intelligentFoundation.createLocalClassifier(context, { modelName: intent-classifier-v1, // 预置的意图分类模型 threshold: 0.8 // 置信度阈值 }) // 2. 初始化云端基础模型客户端用于连接盘古大模型 this.foundationClient await intelligentFoundation.createFoundationClient({ backendType: intelligentFoundation.BackendType.CLOUD_PANGU, // 指定盘古云端 authConfig: { // 从AGC配置中读取认证信息不硬编码 apiKey: await this.getApiKeyFromSecureStorage() } }) hilog.info(0xF002, HybridAI, 端云协同管理器初始化成功) } catch (err) { hilog.error(0xF002, HybridAI, 初始化失败: ${err}) } } /** * 处理用户提问核心方法 * param userQuery 用户原始问题 * param onToken 云端流式返回的回调逐字输出 * returns 最终答案用于非流式场景 */ async ask(userQuery: string, onToken?: (token: string) void): Promisestring { if (!this.intentClassifier || !this.foundationClient) { return AI服务未初始化请稍后重试 } // Step 1: 端侧意图识别50ms const intentResult await this.intentClassifier.classify(userQuery) hilog.info(0xF002, HybridAI, 意图识别结果: ${intentResult.intent}, 置信度: ${intentResult.confidence}) // Step 2: 路由决策 if (intentResult.intent IntentType.SIMPLE_QUERY intentResult.confidence 0.8) { // Case A: 简单查询端侧直接回复不走云端 return this.handleSimpleQueryLocally(userQuery) } else { // Case B: 复杂查询走云端大模型带隐私脱敏 return await this.handleComplexQueryWithCloud(userQuery, onToken) } } /** * 处理本地简单查询模拟 */ private handleSimpleQueryLocally(query: string): string { // 模拟本地数据库查询 if (query.includes(物流)) { return 您的订单尾号1234正在派送中预计今日送达。 } if (query.includes(尺码)) { return 该商品偏大建议您选小一码。 } return 这是一个端侧处理的简单问题。 } /** * 处理云端复杂查询核心隐私逻辑 */ private async handleComplexQueryWithCloud(query: string, onToken?: (token: string) void): Promisestring { try { // 关键构建Prompt并注入隐私保护指令 const prompt 你是一个专业的电商导购助手。请根据用户问题提供建议。 【隐私保护指令】严禁透露用户个人信息仅基于商品知识回答。 【用户问题】${query} // 调用云端模型开启流式返回 const stream await this.foundationClient!.generateTextStream({ prompt: prompt, // 差分隐私配置在梯度更新时添加噪声防止数据反推 privacyConfig: { enableDifferentialPrivacy: true, epsilon: 3.0, // 隐私预算越小越隐私但准确性略有下降 delta: 1e-5 }, // 参数配置 temperature: 0.7, maxTokens: 300 }) let fullResponse // 监听流式数据 for await (const chunk of stream) { const token chunk.text fullResponse token onToken?.(token) // 回调给UI层实现打字机效果 } return fullResponse } catch (err) { hilog.error(0xF002, HybridAI, 云端调用失败: ${err}) return 云端服务繁忙请稍后再试。 } } /** * 从安全存储获取API Key模拟 */ private async getApiKeyFromSecureStorage(): Promisestring { // 实际应从HUKS通用密钥库系统读取 return your-secure-api-key } }3.3 改造UI智能导购对话框修改Index.ets增加一个悬浮的智能导购入口。import { HybridAIManager } from ../common/HybridAIManager import { router } from kit.ArkUI Entry Component struct Index { private hybridAI: HybridAIManager HybridAIManager.getInstance() State chatMessages: { role: user | ai, content: string }[] [] State currentInput: string State isThinking: boolean false aboutToAppear(): void { // 初始化AI复用之前的context获取逻辑 this.hybridAI.init(this.getContext()) } /** * 发送消息 */ async sendMessage(): Promisevoid { const query this.currentInput.trim() if (!query || this.isThinking) return // 1. 添加用户消息到列表 this.chatMessages.push({ role: user, content: query }) this.currentInput this.isThinking true // 2. 添加一个空的AI消息占位符用于流式更新 this.chatMessages.push({ role: ai, content: }) const aiMsgIndex this.chatMessages.length - 1 // 3. 调用端云协同AI await this.hybridAI.ask( query, (token: string) { // 流式回调逐字更新UI this.chatMessages[aiMsgIndex].content token } ) this.isThinking false } build() { Column() { // 聊天记录区域 List() { ForEach(this.chatMessages, (msg: { role: string, content: string }, index: number) { ListItem() { Column() { if (msg.role user) { Text(msg.content) .backgroundColor(#0A59F7) .fontColor(Color.White) .padding(10) .borderRadius(12) .alignSelf(Alignment.End) } else { Row() { if (this.isThinking index this.chatMessages.length - 1) { LoadingProgress().width(20).height(20) } Text(msg.content) .backgroundColor(#f0f0f0) .padding(10) .borderRadius(12) } } } .margin({ top: 10, bottom: 10 }) .width(100%) } }, (item: any) item.content Math.random()) // 简易Key } .layoutWeight(1) .width(100%) // 输入区域 Row() { TextInput({ placeholder: 问问AI导购..., text: this.currentInput }) .layoutWeight(1) .onChange((value: string) { this.currentInput value }) Button(发送) .onClick(() this.sendMessage()) .enabled(!this.isThinking) } .padding(10) .backgroundColor(#ffffff) } .width(100%) .height(100%) .backgroundColor(#e8e8e8) } }四、踩坑记录官方文档没写的5个工程化坑意图分类模型的训练数据系统预置的intent-classifier-v1主要训练于通用语料对电商垂直领域如“有没有优惠券”识别率不高。解决需在AGC上上传自己的业务语料微调这个小模型否则会大量误判为COMPLEX_REASONING增加云端成本和时延。流式返回的UI卡顿for await...of循环在UI线程执行如果回调频率过高比如每秒几百个token会导致UI渲染卡顿。解决使用taskpool将流式处理逻辑放入子线程或者通过setTimeout节流更新UI例如每累积10个字符或间隔50ms更新一次。差分隐私的性能损耗开启enableDifferentialPrivacy后云端推理速度会下降约15%-20%且epsilon值越小越慢。解决只在涉及敏感数据的场景如用户画像分析开启高隐私级别普通导购场景可适当调大epsilon如7.0以提升速度。Token计费黑洞云端大模型按Token收费如果不限制maxTokens用户一直聊下去费用不可控。解决在系统层面设置硬性上限如300 tokens并在Prompt中明确要求模型“简洁回答”。冷启动时延首次调用云端API时需要建立安全通道和加载模型时延可能高达2秒。解决在App冷启动时提前预热一个“空调用”Ping一下云端或者设计一个“AI正在启动”的过渡动画降低用户感知。