高通跃龙IQ-9100工业平台的开发经验分享(4): llm-重复输出与prompt工程解决方案
设备: 高通跃龙IQ-9100 EVK (SA8775P, Hexagon v73) 运行时: Qualcomm Genie 1.14.0 模型: Qwen2.5-7B-Instruct (w4a16, 本地编译) 应用: 农业边缘 AI 咨询系统 本文将分享Genie 运行时不支持 repeat_penalty 时的 LLM 重复输出解决方案。
一、问题现象
Qwen2.5-7B-Instruct…
2026/8/13 0:32:51