基础模型大模型人工智能NLP本地部署【免费下载链接】LFM3-1.7B项目地址https://ai.gitcode.com/hf_mirrors/LiquidAI/LFM3-1.7B点击查看免费下载LFM3-1.7B 是 Liquid AI 推出的 1.7B 参数本地智能体Agent文本模型主打 256K 长上下文、强工具调用能力和边缘端约 1GB 的低内存占用。本文直接基于官方基准数据把它和 Qwen3.5-4B/9B、Gemma 4 E4B、MiniCPM5-2B 等模型逐项对比帮你判断这个小钢炮到底值不值得用。 LFM3-1.7B 是什么1.7B 参数、256K 上下文、约 1GB 内存一句话定位LFM3-1.7B 是一个面向本地 Agent 和专用应用的文本模型基于 Liquid AI 的 tri-hybrid三混合架构设计。核心规格如下项目规格参数量1.73B架构24 层13 层门控短卷积 5 层滑动窗口注意力 6 层全局注意力上下文长度256K tokens输入输出词表128,000 tokens支持语言中、英、日、韩、法、德、意、俄等 16 种4-bit 量化内存约 1GB可跑在普通手机/笔记本上许可证LFM Open License v1.0见 LICENSE几个对普通用户很友好的点4-bit 下约 1GB 内存手机、轻薄本都能本地跑不依赖云端 API256K 上下文在这个参数级别里相当罕见适合长文档、多轮工具调用为 Agent 场景后训练针对 Hermes Agent、Pi、OpenClaw 等 Agent 框架优化而不是通用聊天模型易于微调官方提供 SFT / DPO / GRPO / CPT 四种单卡微调路径架构细节可在 config.json 中查看layer_types字段24 层中卷积层占了一半以上——这正是它推理快的关键。⚡ 三混合架构为什么 1.7B 还能跑这么快传统 Transformer 每一层都依赖全注意力序列越长开销越大。LFM3-1.7B 的 tri-hybrid 架构把 24 层拆成三种类型门控短卷积层13 层局部特征提取计算量恒定不随上下文增长滑动窗口注意力5 层只看 256 tokens 窗口成本低全局注意力6 层负责跨全文档的信息关联这种大部分层便宜、少量层保全局的设计让它既拿得住 256K 长上下文又不会像纯注意力模型那样在长序列下拖慢。官方还为卷积部分写了专用的 Triton 推理内核源码见 lfm3_conv.py模型主干实现在 modeling_lfm3.py。 基准数据深度解析LFM3-1.7B vs Qwen3.5 vs Gemma 4先看官方测试条件所有模型用 vLLM 以 BF16 全上下文部署LFM3-1.7B 为 262,144 tokens对比模型为 131,072 tokens多数评测使用 temperature 0.6 / top_p 0.95完整数据见 README.md 的 Performance 一节。Agent 基准1.7B 打平 9B碾压同级小模型这是 LFM3-1.7B 的主场。在 6 项 Agent 评测中它在 5 项上拿下第一Agent 基准LFM3-1.7BMiniCPM5-2BGemma 4 E4BQwen3.5-4BQwen3.5-9BLiveClaw45.6030.3720.3619.9435.77Claw-Eval General 平均68.6460.7456.1461.9666.53Claw-Eval pass^351.4034.5822.4342.9951.87BrowseComp-Plus37.0016.8321.0024.6738.00WebArena-Verified38.429.1117.0621.9228.94EnterpriseOps-Gym28.2013.419.8625.9628.97AutomationBench41.294.711.928.6715.10几个值得注意的信号LiveClaw 45.60比 Qwen3.5-9B 的 35.77 高出近 10 分比同级的 Gemma 4 E4B20.36高出一倍还多AutomationBench 41.29对比模型全部在 15 分以下差距是数量级的——说明Agent 化后训练确实有效稳定性pass^3三次全对上与 Qwen3.5-9B 基本打平51.40 vs 51.871.7B 打平 9B 并非虚言工具调用与指令遵循最亮的两块成绩单基准LFM3-1.7BMiniCPM5-2BGemma 4 E4BQwen3.5-4BQwen3.5-9BBFCL V4函数调用71.3962.6548.2555.1262.83ToolSandbox80.3668.1669.2775.4076.41IFEval指令遵循96.6687.8390.0292.5292.08IFBench73.0362.0844.5638.1648.84IFStruct结构化输出93.7272.6578.4587.0589.20Multi-IF89.1073.1981.0380.3284.44这一组是全面碾压6 项全部第一而且 IFBench 上领先 Qwen3.5-4B 超过 34 分。对做本地工具调用、JSON 结构化输出的用户来说这是最有说服力的部分——它甚至不需要像 MCP-Atlas 那样依赖更强模型的多轮协作该单项 Qwen3.5-9B 以 42.67 领先LFM3 为 32.57是少数失分项。代码与知识基准小模型的短板在这里暴露基准LFM3-1.7BMiniCPM5-2BGemma 4 E4BQwen3.5-4BQwen3.5-9BLiveCodeBench v673.4670.5271.0061.9969.86SWE-bench Verified43.4034.800.5041.2051.20SWE-bench 多语言23.0015.670.6723.3335.00Terminal-Bench 2.112.925.620.0013.4817.98GPQA Diamond63.3765.1557.8875.7680.40RULER 128K长上下文65.5637.9618.8284.6387.11抗幻觉AA-Omniscience92.9384.4472.0913.6452.59客观结论✅ 普通算法题LiveCodeBench v6第一日常写脚本、解小问题够用⚠️ 真实仓库级编程SWE-bench、Terminal-Bench明显落后 Qwen3.5-9B官方也明确表示不建议用于 agentic coding 和复杂多步推理⚠️ 知识深度GPQA和 128K 精细检索RULER是短板知识密集型任务建议配检索/搜索✅ 抗幻觉 92.93 全场最高不知道就承认对做企业问答很关键平均分一览LFM3-1.7B 49.37 Qwen3.5-9B 47.24 Qwen3.5-4B 39.27 MiniCPM5-2B 39.19 Gemma 4 E4B 31.74。1.7B 参数在 20 项基准的总分上超过 9B 模型这就是真的那么强吗的直接答案在它的定位场景里是的。 推理速度基准边缘设备更快单卡日产 36 亿 tokens参数少只是前提架构才决定速度。官方在 32K 上下文、Q4_0 量化的 llama.cpp 环境下对比了三类设备AMD Ryzen AI Max 395核显、Apple M5 Max、iPhone 17 Pro结论LFM3-1.7B 在全部三台设备上prefill 快 2.5 倍以上、decode 快 1.8 倍以上且内存占用最低GPU 侧的数据同样夸张单张 NVIDIA B300 上1024 并发时输出吞吐接近 41K tokens/s相当于每天 36 亿 tokens全程压制 MiniCPM5-2B、Gemma 4 E4B、Qwen3.5-4B/9B——小模型 卷积架构在高并发服务场景下成本优势非常明显。 训练配方22T 预训练 四阶段后训练成绩背后是一套完整的训练管线数据量单位T 万亿 tokens预训练22T tokens约 15T 网页/合成数据打底 → 3T 代码/数学/科学 → 3T 精选 Agent 数据中训练 → 128K 与 256K 两段长上下文扩展流程图见上文的配方图后训练四阶段SFT1.75T tokens覆盖聊天、推理、工具调用、Agent 轨迹混合强化学习数学、代码、SQL、结构化输出多领域同时 RL并加入长度惩罚让回答更简洁MOPD 多领域在线蒸馏6 个专项 RL 教师数学/代码/工具/长上下文/Agent/企业流程的能力蒸回单一学生模型Agentic RL在真实 Agent 框架中跑网页浏览、办公任务为落地做最后打磨这套学生-教师蒸馏 Agent 实战 RL的组合解释了为什么它在 LiveClaw、AutomationBench 这类 Agent 基准上拉开差距。️ 快速上手与采样参数建议用 Transformers 加载时开启trust_remote_codeTrue即可模型带自定义架构代码。官方推荐两组采样参数通用场景聊天/工具/Agent/代码temperature0.1, top_k50, repetition_penalty1.1也是 generation_config.json 的默认值数学/理科temperature1.0, top_p0.95, top_k20对话模板基于 ChatML 格式见 chat_template.jinja推理默认开启思维链可用enable_thinkingFalse关闭。量化变体方面GGUF 适配 llama.cpp/Ollama/LM Studio另有 FP8、NVFP4、MLX-4bit、ONNX 等版本供不同硬件选择。✅ 选型建议谁该用 LFM3-1.7B谁该选别人场景建议本地 Agent / 工具调用 / 结构化输出✅首选BFCL V4 71.39、IFStruct 93.72 全场最高手机/笔记本端侧部署✅首选约 1GB 内存 最快推理速度长文档处理 低幻觉要求✅ 推荐256K 上下文 92.93 抗幻觉分领域微调基座SFT/DPO/GRPO/CPT✅ 推荐单卡即可完成Agentic 编码SWE-bench 级任务❌ 选 Qwen3.5-9B 或更大模型深度知识问答GPQA 级❌ 建议配合检索/搜索使用 结论定位精准的小钢炮回到标题的问题——LFM3-1.7B 真的那么强吗数据给出的答案是在它定义的主战场上强得离谱。25 项基准平均 49.37 分超过 9B 级的 Qwen3.5-9B47.24Agent、工具调用、指令遵循三大板块近乎全胜还附赠全场最快的端侧推理和最高抗幻觉能力。当然它不是全能选手仓库级编程和 128K 精细检索不如 Qwen3.5 系列。如果你要的是一个跑在自己设备上、听话、会调工具、响应飞快的本地智能体大脑LFM3-1.7B 目前是小模型档位里最值得优先评测的选择之一。赞分享基础模型大模型人工智能NLP本地部署【免费下载链接】LFM3-1.7B项目地址https://ai.gitcode.com/hf_mirrors/LiquidAI/LFM3-1.7B点击查看免费下载相关推荐炉石传说插件 HsMod换肤、8倍速、酒馆战棋辅助一次搞懂炉石传说插件 HsMod换肤、8倍速、酒馆战棋辅助一次搞懂 HsMod 是一个基于 BepInEx 的炉石传说开源增强插件提供换肤、对战加速、酒馆战棋辅助、游戏开发Spark-X2.6基准测试深度解读4B模型凭什么打赢Qwen3.5-9B与Gemma4-E4BSpark X2.6基准测试深度解读4B模型凭什么打赢Qwen3.5 9B与Gemma4 E4B Spark X2.6 4B 是 XHToken 开源的端侧1.7B模型实战有多强Spark-X2.5-1.7B-INT8 在 SWE-Bench、τ³-bench 等基准上的数据解读1.7B模型实战有多强Spark X2.5 1.7B INT8 在 SWE Bench、τ³ bench 等基准上的数据解读 本文用通俗语言解读 Spa上一篇WeKit 莫奈引擎实战微信动态壁纸取色与资源覆盖模块生成器下一篇如何快速上手manim_skill安装环境并渲染你的第一个Manim动画的完整教程创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考