Ollama可以像一个本地软件一样在Windows中运行。通常通过以下两种方法来使用Windows中的Ollama。
- 在
cmd或powershell中输入命令 - 基于本地主机
http://localhost:11434的Ollama API
关于Ollama的安装和命令行的使用方法可以参考我的另一篇博文。这篇博文主要介绍api的使用方法。
在powershell中获取Ollama API
下面是从powershell中获取Ollama API的一个简单示例（在cmd中同样如此）：
(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json
Invoke-WebRequest定义一个网络请求，包括以下参数：-method定义网络请求的方式，分为POST和GET两种，这里使用POST-Body请求的主体，其内容为一个字典字符串，字典包含以下字段：model模型名称prompt提示词stream是否为流式输出（后面会详细解释）
-uri主机地址，这里为http://localhost:11434/api/generate
.Content取网络请求结果中的Content内容ConvertFrom-json将json格式的内容转换成文本格式
运行结果如下：
在Python中使用Ollama API
在Python中使用Ollama API与网络爬虫相似，只不过将网址和请求的表头换成了相应的Ollama参数而已。
以下代码参考了峰哥Python笔记中的代码
import requests
import jsonurl_generate = "http://localhost:11434/api/generate"def get_response(url, data):response = requests.post(url, json = data)response_dict = json.loads(response.text)response_content = response_dict["response"]return response_contentdata = {"model": "llama3.2","prompt": "Why is the sky blue?","stream": False}res = get_response(url_generate, data)
print(res)
运行部分结果如下：
同在powershell中调用Ollama API一样，重点是确定两个东西：
- 主机地址：
"http://localhost:11434/api/generate" - 请求主体：就是这里的
data，其中包含的字段和powershell命令中的没什么差别。
只不过这里采用的是Python网络爬虫的方法，通过requests.post方式定义爬虫方式，然后json=data中定义请求主体。
总结
在Windows中调用Ollama API的基本思路其实就是网络爬虫，无论是在powershell中还是在Python中。
但是Ollama API的调用模式有很多种，基本上所有的Ollama模型操作都可以通过API来完成。具体可以参考Ollama的官方文档。
