课程内容安排与 langchain 介绍课程时间限制langchain 内容丰富可讲多节课但 IA 课程 PPT 仅一页带过虽实用性强但时间有限。后续内容规划介绍业内模型及应用最后部分约十来页 PPT旨在让学员大致了解并非要求做相关应用或变现。开源大模型介绍模型分类与路线大模型分类大语言模型是早期最火的还有世界模型、多模态模型。发展路线开源大模型早期有仅 Encoder、Encoder 和 Decoder、Decoder 三种发展路线代表模型有仅 Decoder 的 GPT 系列、Llama 等。具体模型介绍Llama 模型从早期 7B 发展到现在 65B版本众多。ChatGLM 模型国内外皆有如 ChatGLM 6B压缩后显存仅需 3.2B但考试答题仍按 PPT 写 6GB。Matro 模型核心早期为 7B有 8 组前馈参数即 8 组网络中有两组专家模型MOE可针对特定行业快速激活参数增加参数量同时控制成本和延时。相关社区与模型应用Hugging Face 社区可找到 Hugging Chat 模型直接部署。其他模型应用Stable Diffusion 文生图模型应用广泛IE 考试涉及的 Open Sora 模型用于视频生成目前时长较短、速度较慢考试时因华为本地服务器速度稍快。闭源大模型介绍知名闭源模型GPT 系列OpenAI 开发已到 GPT 5GPT 3 做了有监督微调、强化模型训练。Sora 模型可生成 60 秒短视频闭源收费具有多样性、扩展性强等优势支持图生视频、文生视频。Gemini 模型谷歌大模型在国外应用较多1.5 版本采用 MOE 技术早期在上下文长度竞争中表现突出。国内厂商模型阿里、科大讯飞等厂商都有大模型如豆包、星火讯飞等其中星火讯飞输出格式较好受学生欢迎。华为盘古大模型模型特点与应用范围只针对 B 端如政务、气象等领域个人无法使用。模型层级分为通用模型如科学、自然语言、多模态大模型、行业模型如矿山、政务、气象大模型和场景即 5 N P 模式。应用案例包括政务知识检索、游戏开发、智慧城市、行业助手等还有盘古药物分子大模型、气象大模型气象大模型速度比传统数值快 1 万倍以上。工业应用在智能制造领域应用较早可进行实时技术监控、控煤自动监测等相关应用有对应网址可查看授课课件获取。相关课程华为推出鸿蒙 小艺 agent 课程可直接接入微信等效果更好。课程总结与考题解答考题解答MOE 技术优势采用 MOE 技术可在规模增大时只激活部分参数使推理速度快且准确度高。微调重要性大模型需预训练、有监督微调、奖励模型和强化学习若不微调输出信息可能错误或不符合人类需求所以微调很重要。