1.下载:Ollama

Ollama是一个让你能在本地运行大语言模型的工具,为用户在本地环境使用和交互大语言模型提供了便利。

检查是否安装成功

①打开Win+R输入ollama,如下

②网页localhost:11434

2.下载deepseek等其他大模型

进入ollama官网models选择自己要下载的模型deepseek-r1:1.5b

3.在该文件夹下添加这两句
# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定ollama的API地址(根据部署环境调整IP)
OLLAMA_API_BASE_URL=host.docker.internal:11434

4.调用大模型
import json
​
import requests
​
headers = {"Content-Type": "application/json"}
data={"model":"deepseek-r1:1.5b","prompt":"你是谁?","stream":False}
response = requests.post("http://127.0.0.1:11434/api/generate", headers=headers, data=json.dumps(data))
print(response.json())
print(response.json().get("response",""))

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐