SillyTavern 提速实战:改 3 处 config.yaml,把首开等待砍掉大半

📅 2026/8/27 1:55:22
SillyTavern 提速实战:改 3 处 config.yaml,把首开等待砍掉大半
SillyTavern 提速实战改 3 处 config.yaml把首开等待砍掉大半【免费下载链接】SillyTavernLLM Frontend for Power Users.项目地址: https://gitcode.com/GitHub_Trending/si/SillyTavernSillyTavern 是一个自托管的 LLM 聊天前端让你在浏览器里接入本地 Ollama 或各类云端 API与角色卡聊天。当卡片攒到几千张、背景图又大又多的时候首次打开和保存聊天都会明显变慢。这篇文章只改一个文件 config.yaml分三步操作不动一行代码就能把首开等待、大报文上传和第二次响应变慢的问题压下去每一步都附一条可执行的验证方法。SillyTavern 提速先定位这 5 个典型瓶颈角色列表打开慢越攒越卡每张角色卡的数据都嵌在 PNG 图片里服务器要逐张解析图片才能取到文本。保存聊天、同步设置时感觉卡一下大体积 JSON 以纯文本上传网络带宽被原文吃满。本地跑 Ollama第二句话总要多等几秒模型请求完被卸载下一次又得重新加载权重。换了头像界面还显示旧的浏览器把旧图片缓存在本地服务端没有让它失效。偶发 ECONNRESET 断连报错HTTP 连接用一次就关掉并发请求时容易被重置。这些现象的共同点卡点全在服务端的读写和传输环节而不是你的显卡或模型本身。改配置就能解决其中大部分。动手改给 SillyTavern 提速的 3 个配置所有修改都在项目根目录的config.yaml里进行。首次启动 SillyTavern 后该文件会自动生成不要改default/config.yaml那是模板。每改完一步都要重启服务器才生效。第 1 步打开角色卡缓存performance 区块做什么让解析过的角色卡先进内存、再落磁盘第二次打开同一张卡直接读缓存不再解图。lazyLoadCharacters只让列表接口返回卡片摘要几千张卡时打开列表不再全量解析。怎么做# config.yaml项目根目录 performance: lazyLoadCharacters: true memoryCacheCapacity: 100mb useDiskCache: true requestCompression: enabled: true minPayloadSize: 256kb怎么确认成功打开 DevTools 的 Network 面板连续两次请求角色列表接口/api/characters第二次耗时明显低于第一次说明缓存命中了。第 2 步开启连接复用与浏览器缓存清理做什么enableKeepAlive让 Node 与下游之间复用 TCP 连接keep-alive即一次连接多次请求不用每次重握手缓解偶发断连cacheBuster在你上传新图片后强制浏览器丢弃旧缓存。怎么做# config.yaml项目根目录 enableKeepAlive: true cacheBuster: enabled: true怎么确认成功重启后连续切换多个角色、连发几条消息服务端终端不再出现ECONNRESET报错。第 3 步调低缩略图质量、让 Ollama 模型常驻做什么头像在列表里只显示 96×144 的小图但默认 JPG 质量高达 95对列表场景是浪费Ollama 的keepAlive: -1让模型用完不卸载消掉每次请求前的加载等待。怎么做同样写在 config.yaml 对应区块thumbnails.quality从 95 改为90肉眼几乎无差文件更小thumbnails.format保持jpg选 png 体积约翻一倍配置文件里有注释说明ollama.keepAlive本地跑 Ollama 就设为-1若显存紧张可设为一个秒数比如300怎么确认成功新上传一张头像后查看用户数据目录thumbnails文件夹里的生成文件体积应明显小于原图Ollama 场景下第二次生成的等待时间应与第一次接近。提速效果对比SillyTavern 变快了多少指标优化前优化后角色列表首次打开2000 张卡全量逐图解图数秒起步摘要加载秒内返回同一角色第二次打开重新解析 PNG 内嵌数据内存/磁盘缓存直接命中1MB 聊天报文保存纯文本上传压缩后上传256KB 以上才触发Ollama 连续两轮的间隔等待第二轮重新加载模型模型常驻间隔缩短以上为示例数据实际收益取决于你的卡片数量、网络环境和模型大小。自己复测很简单DevTools → Network勾上 Preserve log分别记录首次和第二次角色列表请求的耗时与总传输量改配置前后各跑一遍对比即可。容易踩的 3 个坑cacheBuster 开了却没生效原因它只在 localhost 或配了 HTTPS 的域名下工作明文域名的局域网 IP 不支持。解法本机用 localhost 访问或给域名上 HTTPS。开了 lazyLoadCharacters 后个别扩展报错原因配置文件注释明确写了它与部分扩展存在兼容性问题。解法单独开启它逐一排查扩展定位到具体是哪个插件冲突。改了 thumbnails 质量老图片没变小原因该设置只对新生成的缩略图生效旧的不会重建。解法清掉用户数据目录下的thumbnails文件夹让服务器重新生成。行动清单✅ 在 config.yaml 的performance区块开启lazyLoadCharacters、磁盘缓存与请求压缩 ✅ 设置enableKeepAlive: true观察终端不再报 ECONNRESET ✅ 本地 Ollama 用户把ollama.keepAlive设为-1显存紧张则给个秒数 ✅ 用 DevTools 记录改配置前后的两次请求耗时留下自己的基准数据改完这四处重启一次服务器你的 SillyTavern 应该已经比昨天快了一截——剩下的提升空间就在你自己复测出来的那组数字里。【免费下载链接】SillyTavernLLM Frontend for Power Users.项目地址: https://gitcode.com/GitHub_Trending/si/SillyTavern创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考