Linux中部署DeepSeek,WSL(ubunt)中使用ollama部署deepseek-R1-7b

发布于:2025-03-10 ⋅ 阅读:(12) ⋅ 点赞:(0)

  想在自己的Win11电脑上部署Linux的DeepSeek模型,但在网上一直没有找到合适的相应教程,自己查询各种网上资源,以及询问一些AI大模型后成功安装,并整理了以下步骤。仅作为个人学习笔记使用,由于本人对各方面知识掌握不足,难免会有些错误,欢迎各位大佬的指正。 

一,启用wsl和虚拟机功能

WSL简介:WSL 是微软为 Windows 系统开发的兼容层,允许用户直接在 Windows 上运行原生的 Linux 二进制文件(无需虚拟机或双系统)。它打通了 Windows 与 Linux 的生态,使开发者能在熟悉的 Windows 环境中无缝使用 Linux 工具链。

方案一:通过命令快速安装

   可以使用单个命令安装运行 WSL 所需的一切内容。 在管理员模式下打开 PowerShell 或 Windows 命令提示符。

具体方法:

1.  在开始界面查找PowerShell,右键单击并选择“以管理员身份运行”。

1.  输入wsl --install 命令,enter执行

wsl --install 

然后重启计算机。

注意:

  • 此命令会启用所需功能、安装 WSL2 内核,并下载 Ubuntu。

  • 完成后需重启系统。

  • 重启后,首次运行会提示创建用户名和密码,Ubuntu输入密码时不会有任何显示,输入时自己记住即可。

方案二:手动分步安装

1.  打开电脑控制面板(可以从开始界面搜索框中搜索进入),点击程序。

2. 点击程序和功能

3.点击启用或关闭Windows功能

4.选择框出的这几个选项

5.检查是否开启虚拟化,打开任务管理器,点击性能,查看CPU虚拟化是否开启,未开启需要进入BIOS中开启开启虚拟化(这个对于不同品牌电脑可能不太一样我也不是太熟练,不了解的话建议百度找一下教程,)。

6.重启电脑

7.安装 WSL2 内核

下载并安装内核更新包,点击下方链接即可下载

或者前往官网下载

旧版 WSL 的手动安装步骤 | Microsoft Learn

 下载完成之后安装即可。

8.设置默认 WSL 版本为 2

  开始菜单中,搜索PowerShell,并鼠标右击,选择 以管理员身份打开。在PowerShell命令框中输入以下命令。

wsl --set-default-version 2

9.安装 Linux 发行版

打开电脑自带的微软商店,搜索Ubuntu,选择一个版本下载即可。

10.启动并初始化

  安装完成后,从开始菜单打开刚刚下载好的ubunt,按提示设置用户名和密码。 注意首次运行会提示创建用户名和密码,Ubuntu输入密码时不会有任何显示,输入时自己记住即可。

11.将 WSL 2 设置为默认版本

以管理员身份打开 PowerShell,然后在安装新的 Linux 发行版时运行以下命令,将 WSL 2 设置为默认版本:

wsl --set-default-version 2

二,下载ollma

  这里依旧是有两个方案,一个是使用官网代码下载,第二方案是手动下载安装包手动安装,我的网络不是很好,这里我使用了方案二。

方案一:通过命令快熟安装

前往Ollama官网,复制Ollama官网的Linux版本下载命令,在wsl命令框中(Ubuntu命令框也一样),输入复制好的命令,下载即可。

方案二:手动下载(可能需要科学上网)

1.前往GitHub Release页面找到最新Linux版本的Ollama,网址首页:

下拉找到安装包,(通常为ollama-linux-amd64或类似名称的.tar.gz文件,WSL默认是64位系统,选择amd64x86_64版本),点击下载即可:

2.下载完成之后,回到桌面,鼠标右键查看属性以确定安装包的存放位置。

3.将文件复制到WSL系统中,在wsl命令框中输入以下命令,回车运行。

# cp /mnt/ + 你的存放地址 + ~/

#下面是我的地址
cp /mnt/c/Users/22377/OneDrive/Desktop/ollama-linux-amd64.tgz ~/

4.解压Ollama压缩包,在WSL命令框中执行以下命令

cd ~   #进入WSL根目录
chmod +x ~/ollama-linux-amd64.tgz   #赋予解压权限
tar -xzvf ollama-linux-amd64.tgz   #解压Ollama 

解压成功,生成一个名为 ollama 的可执行文件。

 5.验证解压结果

ls ~/bin/ollama        # 应显示ollama主程序
ls ~/lib/ollama/cuda*  # 应显示CUDA库文件

 会输出类似于这样的结果:

13.安装Ollama到系统路径,通过以下命令将二进制文件移动到系统可执行路径。

# 创建目标目录(如果不存在)
sudo mkdir -p /usr/local/bin
# 移动主程序并赋予执行权限
sudo mv ~/bin/ollama /usr/local/bin/
sudo chmod +x /usr/local/bin/ollama

6.使用 PowerShell 运行以下命令检查Ollama是否成功

ollama --version

结果会输出Ollama的版本号。 

三,部署deepseek

1.启动Ollama,在WSL中执行以下命令:

ollama serve

保持上面的命令框开启,别关。

2.前往Ollama官网找到DeepSeek-R1的模型下载命令,复制。

deepseek-r1:7bhttps://ollama.com/library/deepseek-r1:7b

3.再另外开启一个WSL命令框,输入刚刚复制的命令下载并运行对应模型即可。

ollama run  运行模型

ollama run deepseek-r1:7b  #运行模型,若检查到本地没有该模型,则会自动下载后立即运行

 ollama pull  下载模型

ollama pull deepseek-r1:7b  #下载模型,但不运行,需要手动运行模型

ollama run deepseek-r1:7b  #运行模型,若检查到本地没有该模型,则会自动下载后立即运行

 以上便是全部内容,如果哪里有错误,欢迎各位大佬指正。