【Deepseek Harness】 如何接入 NVIDIA 免费 GLM-5.2/Minimax-m3 全流程实录

📅 2026/8/19 10:36:43
【Deepseek Harness】 如何接入 NVIDIA 免费 GLM-5.2/Minimax-m3 全流程实录
承接上一篇【DeepSeek Harness】从安装到使用完整指南-CSDN博客这篇详细讲解如何接入免费的glm5.2模型以及minimax-m3模型以及为其添加识别图片的能力。目录一、获取 NVIDIA API Key二、在 dsh 中添加自定义 Provider三、开启多模态输入四、可能出现的问题一、获取 NVIDIA API Key打开 Models | Try NVIDIA NIM APIs使用 NVIDIA 账号登录没有账号可免费注册点击页面上的Generate API Key生成密钥格式类似nvapi-xxxxxxxx生成的api_key复制生成的密钥后续有用二、在 dsh 中添加自定义 Provider点击想要免费使用的模型卡片进去查看调用的详细信息。1. 在终端使用以下命令启动deepseek harness的web页面npx deepseek-ai/dsh web2. 在web页面依次点击设置 → 模型 → 添加提供方添加自定义模型。在“提供方”的下拉列表中找到“nvidia”选项。3. 依次填写以下三个部分API密钥第一部分复制保存的密钥API地址https://integrate.api.nvidia.com/v1模型目录模型ID以及自己使用时给这个模型取的名字比如对于glm-5.2这个模型我给他取的glm5.2用于识别z-ai/glm-5.24. 配置完成后我们在对话框切换成我们配置好的glm52试一试输入“你好”。可以看到模型调用成功返回了它的回答。三、开启多模态输入1. dsh 的 UI 目前没有对应的勾选项只能手动编辑配置文件在终端输入vim ~/.dsh/settings.yaml2. 按键盘字母“i”开启插入模式找到自定义 provider 对应的模型条目把简单的模型 ID 字符串改成对象加一个input字段llm-pi-ai: providers: { nvidia: { baseURL: https://integrate.api.nvidia.com/v1, models: [ { id: z-ai/glm-5.2, name: glm5.2, input: [text, image] } ], apiKeyEnv: NVIDIA_API_KEY } } agent-default-model: provider: nvidia model: z-ai/glm-5.23. GLM 系列本身是支持视觉的模型系列这个nvidia提供的glm5.2不支持识别图片我们用minimax-m3来配置。添加input字段4. 改完后按“esc”然后输入“wq”接着回车保存这个配置文件。改完配置文件后必须重启 dsh 进程不是刷新浏览器配置才会生效。我们随便找一张图片复制粘贴到这个聊天窗口免费额度限制每分钟最多 40 次请求调试阶段短时间内多次重试很容易撞上这个上限。解决办法很简单歇一两分钟再试避免连续快速重试正式使用时注意控制并发。四、可能出现的问题问题现象根本原因解决方式404 page not foundprovider 协议类型选错复用了 Bedrock 等非 OpenAI 兼容协议新建 provider协议选 openai-completions图片发送前被拒绝自定义模型默认纯文本settings.yaml 里给模型加input: [text, image]并重启进程429 status code免费额度限流40 rpm降低请求频率稍等重试模型自称不支持视觉NVIDIA NIM 该端点仅开放文本输入与模型本身能力无关换用智谱官方 API或搭配专门的图片转写插件如 dsh-vision-recognizer / dsh-multimodal当然同样可以采用这个方法去添加更多的模型。如果这篇文章帮到了你欢迎点赞收藏少走弯路