Ollama系列文章Ollama入门实战Ollama生态Oterm、ChatBot-Ollama、Gollama、Hollama、RLAMALLM交互工具汇总Open WebUI、ChatBox、ChatBot-UI、浏览器插件、StudioObsidian-Ollama基于TypeScript编写、专为Obsidian开发的、开源GitHub1K Star86 Fork插件基于编辑器插件本地LLM的架构模式让Obsidian直接调用本地Ollama模型做文本处理选中一段文字右键选择总结、解释、扩展、重写。实战打开Obsidian设置—第三方插件—社区插件市场—浏览输入ollama找到Obsidian Ollama点击安装即可。不熟悉Obsidian可参考笔记软件汇总Obsidian。已安装插件找到Ollama点击开启按钮否则没法使用点击更多设置找到如下已存在的、官方提供的命令Summarize selectionExplain selectionExpand selectionRewrite selection(formal)Rewrite selection(casual)Rewrite selection(active voice)Rewrite selection(bullet points)Caption selection如下截图所示设置主要包括4个模块Ollama URL缺省值是http://localhost:11434无需调整指向本地部署的Ollama可调整为本地局域网IP加端口或公网域名可选加端口开放的的Ollama服务未尝试过Commands这个地方应更改为Add Command反正我一开始是一练懵逼后面摸索才知道是用于添加命令Existing Commands既有命令8个Reset Commands更新和重置命令以及注意到两个操作都需要重启Obsidian下面新增命令就是如此。回到笔记正文选中一段文本使用命令面板快捷键CtrlP输入文本Ollama触发自动搜索选择Summarize selection点击即执行遇到报错排查注意到所有的现存命令都带有llama2标注本地并没下载llama2模型则更新模型名并没有保存按钮还是会遇到404问题。那就下载llama2模型经过一番折腾模型下载成功回到Obsidian还是尝试刚才的操作选中文本选择【Summarize Section】指令出现如下图标等待2分钟左右效果图睡美人悖论这个概念还是很难理解的中文文本足够精简时感觉像是翻译一下。另外还有格式错乱问题。上面实战摸索过程中有个判断失误问题想要使用本地已有的gemma3:1b模型需添加命令忽略模型名少个3不重启Obsidian不会出现新增的【Translate Section】命令测试成功效果只能说gemma3:1b能力很弱默认的llama2即llama2:latest即llama2:7b勉强够用。明明已经翻译成功The Sleepy Princess Paradox。Ollama Voice纯Python实现的、开源GitHub378 Star68 Fork智能语音交互工具借助于Whisper实现音频转录功能并接入本地Ollama服务器并输出TTS音频回复。通过整合语音识别ASR、LLM和文本转语音TTS技术实现全离线环境下的实时语音对话语音助手具体来说用Whisper语音识别OllamaMistral 7b推理Coqui TTS语音合成三件套。每个环节都是可替换的Whisper可换成其他ASR模型Coqui可换成ChatTTSOllama可换任何模型。这种管道式架构是构建本地AI应用的基本范式。对OpenAI Whisper感兴趣可阅读OpenAIWhisper技术、实战OpenAIWhisper生态AI语音输入法实战打开GitHub项目其实就是3个核心文件实战步骤启动Ollamaollama serve下载whisper语言模型或直接从其他目录如C:\Users\johnn\.cache\whisper\base.pt复制到项目根目录修改assistant.yaml文件默认使用法语和mistral模型替换为中文和gemma3:1b运行assistant.py脚本python .\assistant.py如果有确实模块则参考执行pip install pyttsx3 pyaudio pygame命令附录修改后的assistant.yaml文件messages:pressSpace:按下空格键说话松开后结束。loadingModel:正在加载模型...noAudioInput:错误没有音频输入whisperRecognition:modelPath:base.ptlang:Zhollama:url:http://localhost:11434/api/generatemodel:gemma3:1bconversation:context:本次对话全程使用中文。greeting:我在听。recognitionWaitMsg:好的。llmWaitMsg:让我想想。遇到报错看起来是pygame使用问题我使用的Python版本是3.12.0。扔给Qwen指出是display_sound_energy函数的问题修复后的函数defdisplay_sound_energy(self,energy):COL_COUNT5RED_CENTER150FACTOR10MAX_AMPLITUDE100self.windowSurface.fill(BACK_COLOR)amplitudeint(MAX_AMPLITUDE*energy)hspace,vspace2*KWIDTH,int(KHEIGHT/2)defrect_coords(x,y):return(int(x-KWIDTH/2),int(y-KHEIGHT/2),KWIDTH,KHEIGHT)foriinrange(-int(np.floor(COL_COUNT/2)),int(np.ceil(COL_COUNT/2))):x,y,countWIDTH/2(i*hspace),HEIGHT/2,amplitude-2*abs(i)midint(np.ceil(count/2))# 将内层循环变量从 i 改为 j避免变量名覆盖forjinrange(0,mid):# 1. 计算原始红色值red_valRED_CENTER(FACTOR*(j%mid))# 2. 将颜色值限制在 0-255 之间并强制转换为标准 int 防止 numpy 类型报错red_valmax(0,min(255,int(red_val)))color(red_val,0,0)offsetj*(KHEIGHTvspace)pygame.draw.rect(self.windowSurface,color,rect_coords(x,yoffset))# mirror:pygame.draw.rect(self.windowSurface,color,rect_coords(x,y-offset))pygame.display.flip()假死状态关闭窗口Ollama-Reply使用TypeScript和JavaScript开发、开源GitHub243 Star33 Fork浏览器扩展AI加持生成引人入胜的回复助力社交媒体增长。实战基于源码和npm环境本地部署gitclone https://github.com/jose-donato/ollama-reply.gitcdollama-replynpminstallnpmrun devnpmrun serve:chromenpmrun serve:firefox没啥难的浏览器打开http://localhost:3000开始体验。没有安装Node.js环境下载源码后Google浏览器打开chrome://extensions/勾选【开发者模式】点击【加载未打包的扩展程序】选择下载的源码ollama-reply/dist目录完成安装并没有找到设置入口点击【Generate reply】没有反应。查看GitHub分析原理上面是直接使用浏览器加载/dist目录默认使用llama3:8b模型而此模型并未下载不是什么内容网站都支持该插件文档只提到Twitter、LinkedIn其他内容网站支持暂未可知想修改模型则需修改源码src/entries/background/main.ts里的变量MODELOllama-PDF-Bot几乎纯Python开发、开源GitHub214 Star58 Fork工具接受PDF文档然后基于文档做RAG问答。MoXingPython开发、使用llama.cpp来运行.gguf文件的开源GitHub14 Star1 Fork简单工具。可直接运行部分Ollama下载好的模型部分模型提速50%参考PyPi。原理直接读取GGUF格式文件用llama.cpp运行。读取Ollama manifest文件找到GGUF blob文件用llama.cpp启动服务实战基于pip安装pip install moxing命令行使用示例moxing ollama list moxing ollama serve carstenuhlig/omnicoder-9b# 交互式选择moxing ollama list--selectmoxing ollama list执行效果图耗时比ollama list长不少但界面确实更好看一些相比于ollama list安装模型安装时间展示moxing ollama list安装模型文件大小展示并额外展示4列元数据上下文长度、参数量、量化方式、类型。OllaMan官网重新定义Ollama AI模型管理。核心功能支持一键搜索、预览、安装Ollama大模型无需手动输入命令行操作。特性原生支持Basic Auth远程管理可同时管控多台本地/远程Ollama服务器无需VPN即可安全连接。实战以Windows系统为例从官网下载OllaMan_3.7.1_x64-setup.exe双击安装成功后得到单一二进制文件ollaman.exe与此同时在C:\Users\user\AppData\Local\com.jaeger.ollaman.app有缓存或依赖文件和分布式链路追踪工具Jaeger无关。界面解读左侧边栏从上到下依次展示服务器及其状态绿色表示连接成功、概览仪表盘、资源库本地已安装模型数量、云发现、GGUF、下载、工具对话、智能体、模型工厂、检查版本更新、设置入口、主题切换默认展示【仪表板】右侧大半部分区域分4层展示时间运行中模型数量、显存使用、已安装模型总数、模型文件占用空间运行中模型要么展示【没有运行的模型】要么展示运行中模型数量、名称、量化、启动时间、模型体积大小、对话入口最下面展示最近安装和热门趋势。运行中模型有对话和卸载入口。看看对话入口勾选【自动执行】勾选【Agent Mode】后gemma3:1b小模型会有奇奇怪怪的输出看起来是工具的问题看看智能体工具内置超多截取是搜索cr后且只截取部分智能体模型工厂通过参数、提示词、modelfile指令来创建新模型。发现面向Ollama模型GGUF面向HF模型功能和发现非常相似。搜索条件支持模型类型推理/文本、视觉、代码、音频排序方式最多下载、最多收藏、最新发布搜索结果里展示模型元数据名称、发布机构如unsloth、类型、文件数、下载次数、收藏次数。看起来功能类似于简化版的Hugging Face或ModelScope。点击即可查看模型卡片详情事实上模型页信息确实就是来自于HF奇奇怪怪[]()内容没有正确渲染为md里的超链接但下面蓝色字体那个又渲染成功可调整到文档页。