告别试错！whichllm一键检测硬件，推荐真正能跑的高性能LLM
告别试错whichllm一键检测硬件推荐真正能跑的高性能LLM【免费下载链接】whichllmFind the local LLM that actually runs and performs best on your hardware. Ranked by real, recency-aware benchmarks, not parameter count. One command, run it instantly.项目地址: https://gitcode.com/GitHub_Trending/wh/whichllmwhichllm是一款专为本地大语言模型LLM设计的智能推荐工具它能自动检测你的硬件配置基于真实、时效性强的基准测试数据而非参数数量来推荐最适合的模型。只需一条命令即可立即运行帮你告别反复试错的烦恼。为什么需要whichllm在本地运行LLM时你是否遇到过这些问题下载了热门模型却发现显存不足参数庞大的模型实际运行速度慢得让人难以忍受试错过程浪费了大量时间和带宽whichllm正是为解决这些痛点而生它通过精准的硬件检测和智能的模型评分为你推荐真正能在你的设备上高效运行的LLM。直观的推荐结果展示 whichllm的输出界面清晰展示了硬件信息和推荐模型列表让你一目了然地了解哪些模型最适合你的设备。上图展示了whichllm在NVIDIA GeForce RTX 4090显卡上的运行结果清晰列出了推荐模型的参数、量化方式、发布时间、下载量和评分等关键信息。简单三步开始使用whichllm 1️⃣ 快速安装whichllm提供多种安装方式选择最适合你的一种使用uv推荐uv tool install whichllm使用Homebrewbrew install andyyyy64/whichllm/whichllm使用pippip install whichllm需要更新时只需运行uv tool upgrade whichllm2️⃣ 一键运行检测安装完成后直接在终端中输入以下命令whichllm无需复杂配置whichllm会自动检测你的硬件信息包括GPU、CPU、内存等关键参数。3️⃣ 查看推荐结果稍等片刻whichllm就会展示出针对你硬件的最佳LLM推荐列表。你可以根据评分、参数大小、下载量等因素选择最适合你的模型。whichllm的工作原理 whichllm的核心优势在于其智能的硬件检测和模型评估机制全面硬件检测通过src/whichllm/hardware/模块whichllm能精准识别你的GPU型号、显存大小、CPU核心数、内存容量等关键硬件信息。多源基准测试数据whichllm整合了来自LiveBench、Artificial Analysis、Aider等多个权威来源的基准测试数据确保推荐的模型性能有可靠依据。智能评分系统src/whichllm/models/benchmark.py模块会综合考虑模型的显存适配性、运行速度和基准测试质量为每个模型计算出一个综合评分帮助你做出最佳选择。灵活的使用选项 ⚙️whichllm提供了一些实用的命令行选项让你可以根据需要调整推荐结果--refresh忽略缓存重新获取模型和基准测试数据--evidence strict只考虑有确切独立基准测试结果的模型更多命令行选项可以查看docs/cli.md文档。常见问题解答 ❓推荐结果中的评分是如何计算的whichllm的评分综合考虑了模型的基准测试表现、显存适配性和运行速度。具体的评分规则可以参考docs/scoring.md文档。为什么有些模型名称后面有特殊标记这些标记表示模型的基准测试证据类型~估计或继承的基准测试证据!sr仅上传者报告的基准测试结果?无基准测试数据如何清除缓存whichllm会缓存模型数据6小时和基准测试数据24小时。如果需要手动清除缓存可以参考docs/troubleshooting.md中的指引。总结whichllm是本地LLM爱好者的必备工具它通过智能的硬件检测和基于真实基准测试的模型推荐帮你快速找到最适合在自己设备上运行的高性能LLM。告别盲目试错让whichllm为你的本地AI体验保驾护航想要开始使用whichllm只需执行以下命令克隆仓库并按照安装指南操作git clone https://gitcode.com/GitHub_Trending/wh/whichllm【免费下载链接】whichllmFind the local LLM that actually runs and performs best on your hardware. Ranked by real, recency-aware benchmarks, not parameter count. One command, run it instantly.项目地址: https://gitcode.com/GitHub_Trending/wh/whichllm创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
