windows本地化部署Dify+Deepseek

发布于:2025-03-02 ⋅ 阅读:(111) ⋅ 点赞:(0)

Windows本地化部署Dify+Deepseek

一、下载Docker

前往 Docker 官网 下载 Docker Desktop,按序安装。

1.1启用WSL

打开本机的控制面板=>程序=>启用或关闭 Windows 功能,勾选:

  • Linux 的 Windows 子系统
  • 虚拟机平台(若无该选择则勾选 Hyper-V )
  • 远程差分压缩 API 支持。
    windows功能
    点击确定后进行重启。

1.2 迁移Docker位置

Docker的安装位置与下载位置都默认在C盘中,因此要手动进行迁移,防止C盘爆满;

  • 导出docker-desktop
wsl --export docker-desktop E:\[你的路径]\docker-desktop.tar
  • 注销docker-desktop
wsl --unregister docker-desktop
  • 新路径中重新导入docker-desktop
wsl --import docker-desktop E:\[你的路径]\docker-desktop E:\docker_data\docker-desktop.tar
  • docker-desktop中修改镜像存储路径
    变更镜像路径

二、Dify的下载与环境配置

2.1 Dify项目下载

使用git拉取Dify项目或下载项目压缩包

git clone https://github.com/langgenius/dify.git

2.2 Dify项目环境配置

1.在2.1 中下载的项目文件中,找到docker文件夹,双击进入后找到.env.example文件,将其重命名为.env
2.在docker文件夹中打开cmd终端,运行docker环境;

docker compose up -d

在这里插入图片描述

在此过程中可能会出现请求超时docker:Error reponse from deamon:Get "registry-1.docker.io/v2...":net/http:request canceled while waiting for connection...的报错,可能是镜像请求失败的问题,此时需要替换docker的相关镜像地址。

进入docker桌面端后点击右上角设置,进入Docker Engine进行配置修改。配置如下:

{
 "builder": {
   "gc": {
     "defaultKeepStorage": "20GB",
     "enabled": true
   }
 },
 "experimental": false,
 "registry-mirrors": [
   "https://docker.m.daocloud.io",
   "https://docker.imgdb.de",
   "https://docker-0.unsee.tech",
   "https://docker.hlmirror.com",
   "https://docker.1ms.run",
   "https://func.ink",
   "https://lispy.org",
   "https://docker.xiaogenban1993.com"
 ]
}

在这里插入图片描述此时点击Apply & restart,等待重启后重新运行docker环境即可正常拉取。
拉取完毕后,在docker桌面端中可以看到相关环境已启动,如下:
在这里插入图片描述

2.3 Dify安装

在浏览器中访问地址http://[本机IP]:[端口号]/install即可。

此处的本机IP,即局域网可访问本机的地址。端口号则可以在2.2Dify项目环境配置中,打开.env文件对NGINX_PORTEXPOSE_NGINX_PORT进行修改,例如改为8081,则可以访问Dify的地址为:http://192.168.0.1:8081/install。

此时进入Dify应用后,需要先设置一个管理账户。
在这里插入图片描述
设置完毕后登录即可进入Dify。

三、Dify关联本机运行的deepseek

3.1 配置Ollama服务开放局域网访问

Ollama是一个本地 AI 服务工具,默认情况下它只能在本地访问。如果想要在局域网中共享 Ollama 服务,需要配置防火墙以开放对应的端口。

3.1.1 配置 Ollama 服务的监听地址

Ollama 服务使用环境变量 OLLAMA_HOST 来指定监听的地址,默认情况下,它只监听localhost,即只能本地访问。如果要让局域网内其他设备访问 Ollama 服务,需要将 OLLAMA_HOST设为 0.0.0.0

在 Windows 中环境变量中新建变量名OLLAMA_HOST,变量值0.0.0.0

3.1.2 开放防火墙端口

使用管理员身份运行命令提示符,按以下命令依次执行。

  1. 为 Ollama 服务开放 11434 端口(TCP 协议):
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=TCP localport=11434
  1. 如果 Ollama 使用的是 UDP 协议,可以将命令中的 TCP 改为 UDP:
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=UDP localport=11434
  1. 通过以下命令确认规则是否正确添加:
netsh advfirewall firewall show rule name="Allow Port 11434"

完成上述操作后,在本机或同局域网中的设备对地址:http://[本机地址IIP]:11434进行范围,若访问后页面显示Ollama API相关的信息,则端口已开放成功。

3.2 修改Dify运行配置文件

2.2Dify项目环境配置中,打开.env文件,末尾新增配置如下:

# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定 Ollama 的 API 地址(根据部署环境调整 IP)
OLLAMA_API_BASE_URL=http://[本机IP]:11434

其中的OLLAMA_API_BASE_URL配置的地址即开放后的Ollama服务地址。

3.3 配置Dify大模型

  1. 点击Dify中右上角的头像后点击设置;
    在这里插入图片描述
  2. 点击模型供应商在右侧选项卡中找到Ollama,鼠标悬停后点击添加模型,填写模型名称与基础URL点击保存即可。
    在这里插入图片描述

3.4 新建第一个Dify应用

在Dify主页中的创建应用中点击创建空白应用,弹出创建弹窗后,选择聊天助手,输入应用名称与描述后点击创建即可。
首次创建的应用,使用的模型不是我们想要的本地deepseek,此时点击右上角发布按钮左侧的模型选择框,点击后将有下来框可以选择本地Ollama中运行的deepseek(图例为已添加deepseek后的状态,可对模型相关参数进行调整)。
在这里插入图片描述
此时,可以在聊天输入框中输入 你是谁? 进行测试,若能够回答,则Dify对接本地deepseek成功。
在这里插入图片描述

参考文档

1.从零开始!在 Windows 上安装与配置 Dify;
2.DeepSeek + Dify :零成本搭建企业级本地私有化知识库保姆级教程;
3.在 Windows 上配置 Ollama 服务并开放局域网访问;
4.Dify官方文档.