使用embedchain快速建立rag知识库，本地大模型
框架:EmbedchainLLM:Ollama嵌入式模型:nomic-embed-text 或 bge-m3向量数据库:ChromaDB (默认)按照步骤依次进行安装ollama等模型pip install embedchain ollama chromadb sentence-transformersWindows平台 需要去Download Ollama on macOS 下载 Windows 安装程序.exe运行安装务必在安装过程中勾选“Add Ollama to your PATH”。下载大模型到本地ollama pull llama3.2下载embedding model:ollama pull nomic-embed-text启动ollamaollama serve 测试ollama是否启动 curl http://localhost:11434/api/tags设置embedchain :from embedchain import App import os os.environ[OPENAI_API_KEY] ollama # Ollama 不校验填任意值 os.environ[OPENAI_API_BASE] http://localhost:11434/v1 config { vectordb: { provider: chroma, config: { collection_name: ollama_openai_compat } }, llm: { provider: openai, # 使用 openai provider config: { model: llama3.2, # 模型名称 temperature: 0.1, max_tokens: 2000 } }, embedder: { provider: openai, config: { model: nomic-embed-text, # 嵌入模型 } } } app App.from_config(configconfig)增加文档:app.add(rE:\拿破仑传.pdf, data_typepdf_file)增加问题response app.query(拿破仑去世时间) print(response)完整的代码from embedchain import App import os os.environ[OPENAI_API_KEY] ollama # Ollama 不校验填任意值 os.environ[OPENAI_API_BASE] http://localhost:11434/v1 config { vectordb: { provider: chroma, config: { collection_name: ollama_openai_compat } }, llm: { provider: openai, # 使用 openai provider config: { model: llama3.2, # 模型名称 temperature: 0.1, max_tokens: 2000 } }, embedder: { provider: openai, config: { model: nomic-embed-text, # 嵌入模型 } } } app App.from_config(configconfig) app.add(rE:\拿破仑传.pdf, data_typepdf_file) response app.query(拿破仑去世时间) print(response)最后输出答案:拿破仑于1815年去世。
