大模型应用开发必看:5个技巧轻松控制Token消耗,小白也能学会并收藏!

📅 2026/6/26 13:25:35
大模型应用开发必看:5个技巧轻松控制Token消耗,小白也能学会并收藏!
本文详细介绍了如何通过分层设计来有效控制大模型应用中的Token消耗。核心策略包括善用三层加载结构、控制SKILL.md正文长度、按场景分割参考文件、用脚本替代说明文字以及精简Description。掌握这些技巧即使是小白也能在大模型应用开发中游刃有余降低Token成本。快来收藏学习吧前段时间有个粉丝面腾讯二面岗位是大模型应用开发。前面聊得都挺顺利RAG链路、Agent编排、Prompt工程基本都答上来了。面试官看起来挺满意最后随口追问了一个问题“你平时写 Skill怎么控制 Token 消耗的”他想了想说“用渐进式加载按需加载内容。”面试官点点头又问“就这一个策略还有呢”他愣住了。渐进式加载是他唯一能想到的答案——把东西拆开用到再加载听起来没什么毛病。但面试官显然觉得不够追问的眼神一直没移开。他挠了挠头说了一些零散的想法比如控制正文长度“少写点内容”但都没说到点子上。面试官最后笑了笑说“回去再想想这个东西比你想的要系统一点。”他面完回来找我复盘我帮他梳理了一下——其实 Skill 的 Token 管理是一整套分层设计不只是按需加载一句话能概括的。今天把这个体系讲清楚。1. 善用三层加载结构这件事Skill 这个系统呢它其实有一个天然的机制就是所谓的渐进披露机制。什么意思呢就是说它不是一股脑把所有东西都丢出来而是分层来加载的。层级具体内容什么时候去进行加载元数据就是 name 加 description 这些东西一直在上下文里面待着的大概是100词左右的样子SKILL.md 正文也就是核心的那些指令内容等到 skill 被触发的时候才会去进行加载操作捆绑资源比如说参考文件啊、脚本啊这些按需去读取就行了不会自动加到上下文里面去这里有个比较关键的地方就是说你要把那些只有在特定情况下才需要用到的内容给它拆到 references 这个文件夹里面去。不要把所有东西都一股脑塞进 SKILL.md 的正文里面那样的话就太臃肿了嘛。面试官当时追问还有呢其实就是在等这个——你不能只知道按需加载这一个点你得知道哪些东西是永远在上下文里的哪些是触发才加载的哪些是用到才读的。三层搞清楚了Token 消耗自然就可控了。2. 要去控制 SKILL.md 正文的长度这个的话呢目标就是把它控制在500行以内大概就这么个范围。如果说超过了怎么办呢那就在正文里面写清楚告诉它什么时候去读哪个参考文件而不是把那些内容都内联进来。这样子的话正文就不会显得太长了。举个例子来说吧大概就是这样的一个结构500行这个数字不是随便定的——你想想看Skill 被触发的时候整个正文是要加载进上下文的。如果正文动不动就上千行那每次触发的 Token 成本就很高了。面试官问还有呢的时候控制正文长度就是第二层答案。3. 要按照场景来分割参考文件如果你的技能是那种多域的就是说它支持好几个框架或者平台的话那就应该按照变体来拆分文件。这样的话Claude 就只需要去读取相关的那一份就行了而不是把全部内容都给加载进来。cloud-deploy/references/ ├── aws.md ├── gcp.md └── azure.md在 SKILL.md 里面写上判断逻辑大概就是说根据用户选择的平台只去读取对应的参考文件这么一个意思。这个点其实很容易被忽略。很多人写 Skill 的时候把所有平台的文档都堆在一起想着反正用到哪个读哪个。但问题是如果你不拆开Claude 可能把所有内容都读进去了——这不就浪费了嘛。4. 要学会用脚本来替代大段的说明文字对于那些确定性的、重复性的操作比如说格式转换啊、文件处理啊这些你直接提供一个可执行的脚本比在 SKILL.md 里面去写那些长篇的指令要省 token 得多。为什么呢因为脚本这东西它可以直接执行而不需要把内容加载进上下文里面。这样一来的话你就不用把如何操作的那些详细步骤写成文字了直接变成执行这个脚本一句话就搞定了多省事啊。5. Description 要精简但也要精准Description 这个东西它是始终在上下文里面的所以说你要做到以下几点首先呢只去描述什么时候触发和做什么就行了不要去写那些实现的细节。其次呢避免那些冗余的举例举个两三个触发词就足够了。反面的例子是什么呢就是把整个工作流程都写进 description 里面去那样的话就太啰嗦了。正面的例子呢就是用一段话把触发场景和功能给说清楚就行了。这个是最容易犯的错误——description 是永远在上下文里的你多写一句话每次对话就多消耗一点 Token。很多人没意识到这一点把 description 当成 README 来写结果每次对话都在为那些根本用不上的信息付费。总结一下这个原则吧其实说白了就是一句话不需要的时候不要去加载加载的时候只加载够用的就行了。你可以把这个 skill 想象成是一种懒加载的机制。元数据这东西永远都是很便宜的正文呢是按需来付费的资源文件呢是用的时候才去取的。按照这样子去设计的话那些高频触发的 skill 对 token 的消耗基本上就没有什么太大的影响了嗯就是这么个道理。所以到现在你应该知道答案不是一个点是一套分层设计。三层结构、500行上限、按场景区分文件、用脚本替代文字、description 精简——这五件事做好了Token 消耗自然就降下来了。最后如果说程序员已经是高薪职业那么干AI的程序员就是高薪中的高薪。现在的市场已经用数据给程序员指明了方向学AI大模型就是冲刺高薪的最优解看着身边越来越多的同行转型大模型、拿到高薪offer很多人心里都动了心但真正的难题来了零基础小白不知道从哪入门有基础的程序员找不到系统学习路径实战项目练手无门面试不知道考什么别慌今天就给大家整理了一份【2026年最新版】AI大模型免费学习资源包覆盖从入门到实战、从理论到面试、从基础到进阶的全流程所有资料均已整理归档无冗余、无套路免费分享给每一位想抓住AI风口的程序员和小白扫码免费领取全部内容1、大模型系统化学习路线2、大模型学习书籍文档3、AI大模型最新行业报告4、大模型项目实战配套源码5、大模型大厂面试真题四阶段精细化学习规划附时间节点可直接照做结合上述资源给大家整理了一份可直接落地的四阶段学习规划总时长约2个月小白可循序渐进程序员可根据自身基础调整节奏高效掌握大模型核心能力快速实现从“入门”到“能落地、能面试”的跨越。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容6、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】