ubuntu系统 | dify+ollama+deepseek搭建本地应用

发布于:2025-05-20 ⋅ 阅读:(25) ⋅ 点赞:(0)

1、安装 Ollama

下载并安装 Ollama

(llm) wangqiang@wangqiang:~$ curl -fsSL https://ollama.ai/install.sh | bash
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle
                                                                           0.3%

curl -fsSL https://ollama.ai/install.sh (下载ollama需要很久)

curl 是一个命令行工具,用于从网络下载数据。这里它下载 Ollama 的安装脚本。

  • -f (--fail):如果 HTTP 请求失败(如 404),静默退出,不显示 HTML 错误页面。

  • -s (--silent):静默模式,不显示进度或错误信息(除非严重错误)。

  • -S (--show-error):与 -s 一起使用时,仍然显示错误信息(如连接失败)。

  • -L (--location):如果 URL 发生重定向(如 301/302),自动跟随新地址。

| bash

|(管道符)将 curl 下载的脚本内容传递给 bash,并立即执行。

检查 Ollama 版本

ollama -v

 启动 Ollama 服务

ollama serve

卸载Ollama:

ollama uninstall

下载并运行deepseek:

ollama run deepseek-r1:32b

 2、安装docker

ubuntu系统安装docker并进行配置:

1、Ubuntu系统安装docker_docker ubuntu systemctl-CSDN博客

2、ubuntu系统docker介绍及镜像源和仓库配置-CSDN博客


# 安装 Docker Compose
sudo curl -L "https://github.com/docker/compose/releases/download/v2.23.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose

# 验证安装
docker-compose --version

3、安装 Dify(AI 工作流平台)

克隆 Dify 仓库

# 创建工作目录
mkdir dify && cd dify

# 克隆 Dify 代码
git clone https://github.com/langgenius/dify.git
cd dify/docker

配置 Dify

# 复制配置文件模板
cp .env.example .env

# 编辑配置文件
nano .env

修改以下关键参数:

# 数据库密码(自定义)
POSTGRES_PASSWORD=your_password

# Redis 密码(自定义)
REDIS_PASSWORD=your_password

# Ollama 配置(连接本地 Ollama 服务)
OLLAMA_BASE_URL=http://host.docker.internal:11434
OLLAMA_MODEL_NAME=deepseek-r1:7b

启动 Dify 服务

# 启动所有依赖服务(数据库、缓存等)
docker compose up -d db redis weaviate

# 启动 Dify 核心服务
docker compose up -d

验证服务状态

# 检查容器运行状态
docker ps

确保以下容器状态为 Up

  • dify-api-1
  • dify-web-1
  • dify-worker-1

配置 Dify 与 Ollama/DeepSeek 集成

打开浏览器访问:http://localhost

首次使用需注册管理员账户。

4.2 添加模型配置

登录后进入 Settings → Model Provider,添加以下配置:

  • Model TypeLocal Model (Ollama)
  • Base URLhttp://host.docker.internal:11434
  • Model Namedeepseek-r1:7b

dify官网使用说明文档

https://docs.dify.ai/zh-hans/introduction

五、使用本地知识库

5.1 上传文档

  1. 在 Dify 控制台进入 Knowledge Base
  2. 点击 Upload File,支持 PDF、TXT、DOCX 等格式。
  3. 上传后,Dify 会自动解析并存储为向量数据库。

5.2 使用 RAG 功能

  1. 在 Chat 页面中输入查询。
  2. Dify 会结合 DeepSeek 模型和本地知识库内容生成回答。


网站公告

今日签到

点亮在社区的每一天
去签到