系统版本:ubuntu24.04LTS
显卡:4090 48G
前期准备
先安装好docker和docker-compose,可以参考我之前文章安装:
ubuntu安装docker和docker-compose【简单详细版】
安装openWebUI
先docker下载ollama
docker pull ghcr.nju.edu.cn/open-webui/open-webui:main #这个速度快
运行ollama:
sudo docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui1 --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
访问地址:http://localhost:8080/
注意:访问不了是因为防火墙没开放相应端口,觉得麻烦可以直接关闭防火墙
sudo systemctl disable ufw.service
sudo update-rc.d ufw defaults-disabled # 或直接使用 `sudo systemctl mask ufw` 彻底禁用
这样就成功安装了
安装Dify
记得符合前提条件,参考 官方文章
1.克隆 Dify 源代码至本地环境。
git clone https://github.com/langgenius/dify.git #下载太慢,建议自己科学上网去github下源码
2.进入 Dify 源代码的 Docker 目录
cd dify/docker
3.复制环境配置文件
cp .env.example .env
4.启动 Docker 容器
根据你系统上的 Docker Compose 版本,选择合适的命令来启动容器。你可以通过 $ docker compose version 命令检查版本,详细说明请参考 Docker 官方文档:
5.如果版本是 Docker Compose V2,使用以下命令:
docker compose up -d
6.如果版本是 Docker Compose V1,使用以下命令:
docker-compose up -d
下完后就访问:访问地址:http://localhost/,默认80端口
连接dify测试
连接ollama需要更改以下:
sudo vim /etc/systemd/system/ollama.service #编辑 systemd 服务
在[Service]部分下添加一行Environment:
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
systemctl daemon-reload&&systemctl restart ollama #重启生效