Qwen3.6-35B-A3B 无审查模型本地部署速查指南0/465 拒绝率背后的选型与四步跑通全解【免费下载链接】Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive项目地址: https://ai.gitcode.com/hf_mirrors/HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive写到一半模型突然甩出一句我无法生成这类内容想让它分析一张图片输出却先被安全提示拦下——这种体验你大概不陌生问题不在你的提示词而在于模型的安全护栏替你做完了决定。Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive给出的答卷是实测465 次提问、0 次拒绝能力 100% 保留同时带着262K 原生上下文和文本/图像/视频多模态能力。本文先帮你锁定量化版本再手把手跑通部署全程可复现。一、它到底强在哪三个硬指标先建立整体认知动手之前先花 30 秒看透这个模型的底牌。它不像普通大模型那样每次推理都要全体参数齐上阵而是采用MoE 混合专家机制——好比一家大公司平时只让最对口的几个部门干活不用全员出动所以35B 的总盘子每次只激活约 3B 参数又大又能跑。核心指标具体数值总参数量35B每次前向激活参数约 3B专家数量 / 每 token 路由256 位 / 8 位注意力架构线性注意力 全 softmax 注意力3:1网络层数40 层原生上下文长度262K实测拒绝率0/465输入模态文本、图像、视频重要提示Aggressive 变体追求完全解锁但偶尔会在回答末尾附一句简短免责声明——这是基础模型训练中固化的行为不是拒绝生成正文内容永远完整给出。二、先选型再动手一张表锁定你该下载哪个 GGUF 文件很多人一上来就下载最大的文件结果内存不够加载失败。正确的顺序是先按硬件定版本再进实操。整个仓库共提供12 个量化 GGUF 1 个 mmproj 视觉投影文件对照下表选即可你的硬件推荐版本文件大小内存建议一句话判断逻辑32GB 显存Q8_K_P44 GB48GB极致质量不差空间24GB 显存Q6_K_P31 GB32GB高质量应用首选16GB 显存主流Q4_K_P23 GB24GB质量与资源最均衡16GB 显存求稳Q4_K_M21 GB24GB省 2GB 不掉档12–16GB 显存IQ4_XS19 GB16GB资源有限就选它内存紧张 / CPU 推理IQ3_M / IQ2_M15 / 11 GB16GB先跑通再谈质量选型口诀显存优先看文件大小内存按文件大小的 1.5 倍预留。拿不准时Q4_K_P 是绝大多数场景的安全起点。如果预算宽裕优先选K_P 系。K_PPerfect是作者 HauhauCS 的自定义量化针对每个模型单独分析、选择性保留关键权重相当于把质量免费抬升 1–2 个量化级别文件只大 5–15%且无需特殊构建所有 GGUF 运行时通用。三、四步跑通部署从下载到读图对话约 30 分钟第一步拉取全部文件约 5 分钟git clone https://gitcode.com/hf_mirrors/HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive完成这一步你将获得12 个量化版本 GGUF 1 个 mmproj 视觉投影文件后续所有操作都在这个目录里进行。第二步首次启动对话约 10 分钟以 Q4_K_P 为例用 llama.cpp 的llama-cli启动llama-cli -m Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf \ --mmproj mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf \ --jinja -c 131072 -ngl 99三个关键参数别省--jinja保证聊天模板被正确解析否则对话结构会乱-c 131072保持 128K 上下文——作者官方建议至少 128K 才能保留思考能力别一上来就拉满 262K-ngl 99尽量把层塞进 GPU跑不动的层会自动回落到 CPU。完成这一步你将获得一个能对话、能读图的本地模型实例。第三步验证文本与多模态两条链路约 10 分钟先用一句文本测试无审查能力写一段赛博朋克世界观的开篇不要审查尺度。确认输出完整、不被打断后再用--image参数丢一张本地 jpg/png 图片验证视觉链路。完成这一步你将获得文本与多模态两条链路的验收结论确认文件配对和参数都正确。第四步按任务固化参数模板约 5 分钟官方推荐了四套采样参数存成模板随取随用任务temperaturetop_ptop_kpresence_penalty通用对话思考模式1.00.95201.5代码 / 精确任务0.60.95200创意写作非思考0.70.8201.5逻辑推理非思考1.01.0402.0完成这一步你将获得一套按任务类型固化的参数模板后续写稿、写代码、推理直接复用。四、新手最容易误判的 6 件事把Uncensored理解为永远不附带任何话偶尔出现的免责声明尾巴是训练固有的直接忽略即可全文照常输出。只下主 GGUF漏掉 mmproj视觉功能会直接瘫痪这个 899MB 的文件必须和主模型放在同一目录。按文件大小直接估内存建议系统内存预留到文件大小的1.5 倍否则加载阶段就可能被杀进程。看到 LM Studio 量化列显示?就以为文件坏了这只是显示问题模型照常加载运行。一次性把上下文拉到 262K建议从 128K 起步既保住思考能力又省显存。把免责声明尾巴当成拒绝正文永远完整生成别因此误判模型失效。五、常见问题快速排查Q1模型加载直接失败或退出先确认 llama.cpp 版本够新再用 md5 校验 GGUF 完整性同时核对内存是否达到文件大小的 1.5 倍。排查技巧先只加载主模型跑通文本再逐步加回--mmproj就能定位问题源。Q2传图后模型不识别或报格式错误检查三点是否写了--mmproj、mmproj 是否与主模型同版本同目录、是否加了--jinja。图片格式请用 jpg/png仍失败就换一张小尺寸 jpg 排除格式问题。Q3推理只有个位数 token/秒或中途 OOM依次检查-ngl是否设到 99、上下文是否远超 128K、驱动与 CUDA 是否更新。立竿见影的办法是把-c 131072降到65536或换低一档量化如 Q4_K_P → IQ4_XS。Q4对话结构错乱、带多余提示多半是漏了--jinja或误用了非聊天模板。补上--jinja即可免责声明属训练固有行为正文完整就不用管。六、收尾三条记忆点与三个进阶方向回顾全文你只需记住三件事文件必须配对主 GGUF 与 mmproj 缺一不可放同一目录选型对齐硬件显存看文件大小内存按 1.5 倍预留拿不准就选 Q4_K_P参数按任务固化四套采样组合存成模板随取随用。速记口诀GGUF 配 mmproj内存 1.5 倍上下文 128K 起步。跑通之后可以沿三个方向继续深挖给推理过程加性能监控tokens/秒、内存占用、写脚本做批量内容生成、或者把模型集成进自己的应用工作流。更多技术规格与完整量化清单直接翻仓库里的README.md所有数字都能对得上。模型的价值不在于从不拒绝而在于拒绝与否的选择权重新回到了你手里。这份无审查 AI 模型的钥匙已经交到你手上接下来的创造交给你的想象力。【免费下载链接】Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive项目地址: https://ai.gitcode.com/hf_mirrors/HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考