ollama搭载本地大语言模型

# 安装 ollama

到 ollama 下载地址选择对应的操作系统版本进行安装

终端检查是否加载完成，如果有版本号输出，则表示安装成功

1

ollama -v

# 安装本地大语言模型

我这里使用的是 deepseek-r1 7b 的模型

1

ollama run deepseek-r1

# 可视化 webui

1. 下载 docker 桌面版本
2. 打开 docker 应用
3. 进入 open-webui
   
4. 选择 If Ollama is on your computer, use this command 运行

1

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

5. 点击 docker 上对应 open-webui 的容器，点击 Ports 链接，即可访问 webui。