Ubuntu 24.04 LTS系统安装RTX 4090显卡驱动和cuda并部署ollama下载DeepSeek模型【自用详细版】

自己捣鼓玩玩哈，正好有机子

1. 安装驱动前的系统配置工作

卸载原有驱动并禁用nouveau

sudo apt remove --purge nvidia*

sudo cp /etc/modprobe.d/blacklist.conf /etc/modprobe.d/blacklist.conf.backup //备份文件

sudo vim /etc/modprobe.d/blacklist.conf  //修改文件
在文件末尾添加如下内容：

blacklist nouveau
blacklist lbm-nouveau
options nouveau modeset=0
alias nouveau off
alias lbm-nouveau off

按下exc，输入：wq保存后关闭文件

echo options nouveau modeset=0 | sudo tee -a /etc/modprobe.d/nouveau-kms.conf  //关闭nouveau

sudo update-initramfs -u  //更新

reboot  //重启

重启后查看是否禁用成功
执行以下内容，没有任何输出内容则为成功禁用

lsmod | grep nouveau

这样就成功了

2. 可以手动安装NVIDIA驱动

https://www.nvidia.cn/drivers/lookup/

我下载的是

sudo chmod a+x NVIDIA-Linux-x86_64-570.133.07.run
sudo ./NVIDIA-Linux-x86_64-570.133.07.run

2. 也可以系统安装NVIDIA驱动（如果手动安装驱动就跳过这步）

1. 更新系统软件包

   sudo apt update && sudo apt upgrade -y
   

   确保系统最新以避免兼容性问题。

2. 查看显卡型号

   lspci | grep -i nvidia
   

3. 添加NVIDIA驱动仓库并安装驱动（下载速度比较慢）

   sudo add-apt-repository ppa:graphics-drivers/ppa
   sudo apt update
   sudo ubuntu-drivers autoinstall
   

   
   
   这样就安装成功了
   安装完成后重启系统：

   sudo reboot
   

4. 验证驱动安装

   nvidia-smi
   

   应显示显卡信息及驱动版本。
   

3. 安装CUDA和cuDNN

1. 安装CUDA Toolkit
   根据驱动版本选择CUDA版本（如CUDA 12.x）：

NVIDIA官网下载.run文件安装。

wget https://developer.download.nvidia.com/compute/cuda/12.8.1/local_installers/cuda_12.8.1_570.124.06_linux.run
sudo sh cuda_12.8.1_570.124.06_linux.run

注意：安装选项把驱动给取消掉，因为前面已经安装过驱动了

配置环境变量
为了让系统可以找到 CUDA 工具和库，需要配置环境变量。

打开终端，编辑 .bashrc 文件：

vim ~/.bashrc
在文件的末尾添加以下几行：

export PATH=/usr/local/cuda/bin:$PATH export
LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

保存并关闭文件，然后使更改生效：

source ~/.bashrc

这样就安装成功了

2. 安装cuDNN （可选择安装，其实不用装也可以运行ollama）
   需注册NVIDIA开发者账号后下载cuDNN库，解压并复制到CUDA目录。

4. 安装Ollama

1. 下载并安装Ollama

   curl -fsSL https://ollama.com/install.sh | sh
   

   或从官网获取.deb包安装。
   建议国内改一下镜像源地址，下载更快：

curl -fsSL https://ollama.com/install.sh -o ollama_install.sh

sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.6.4/ollama-linux|g' ollama_install.sh

chmod +x ollama_install.sh&& sh ollama_install.sh

2. 启动Ollama服务

   systemctl --user enable --now ollama
   

5. 下载并运行DeepSeek模型

1. 拉取DeepSeek模型

   ollama run deepseek-r1:32b
   

   支持版本包括deepseek-r1:7b（70亿参数）、deepseek-v3:32b等。
   

2. 验证模型运行
   安装完成后，输入指令即可与模型交互。如需通过Web界面操作，可安装Open WebUI。

注意事项

• 驱动兼容性：RTX 4090需NVIDIA驱动≥535版本。
• 虚拟机限制：Ollama需物理机安装，虚拟机可能无法正确识别显卡。
• 网络问题：若模型下载缓慢，可尝试配置代理或使用国内镜像。