【ubuntu】安装NVIDIA Container Toolkit

目录

安装NVIDIA Container Toolkit

安装依赖

添加密钥和仓库

配置中国科技大学（USTC） 镜像 APT 源

更新 APT 包列表

安装 NVIDIA Container Toolkit

验证安装

重启docker

起容器示例命令

【问题】如何在docker中正确使用GPU？

安装NVIDIA Container Toolkit

安装依赖

sudo apt-get update

sudo apt-get install -y curl

添加密钥和仓库

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg

配置中国科技大学（USTC） 镜像 APT 源

curl -s -L https://mirrors.ustc.edu.cn/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \

  sed 's#deb https://nvidia.github.io#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://mirrors.ustc.edu.cn#g' | \

  sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

更新 APT 包列表

sudo apt-get update

安装 NVIDIA Container Toolkit

sudo apt-get install -y nvidia-container-toolkit

验证安装

nvidia-container-cli --version

重启docker

sudo systemctl restart docker

起容器示例命令

#创建docker网络

docker network create rag-network

docker run -it --network rag-network -e CUDA_VISIBLE_DEVICES=0 --gpus all --name test test_img:1.0.0 /bin/bash

【问题】如何在docker中正确使用GPU？

【问题】如何在docker中正确使用GPU？-CSDN博客

至此，本文的内容就结束了。