K8S 使用 Nvidia GPU

在 GPU 主机安装 Nvidia驱动(可省略)

参见:https://ubuntu.com/server/docs/nvidia-drivers-installation
可省略,后面安装CUDA时也能安装驱动

在 GPU 主机安装 CUDA

  • 安装依赖包
apt install gcc make
cat >> /etc/profile <<EOF

# Nvidia CUDA
export PATH=/usr/local/cuda/bin\${PATH:+:\${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda/lib64\${LD_LIBRARY_PATH:+:\${LD_LIBRARY_PATH}}
EOF

在 GPU 主机安装 NVIDIA Container Toolkit

参见:https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html
注:把 nvidia 设为 containerd 的默认运行时

nvidia-ctk runtime configure --runtime=containerd --set-as-default

在 K8S 安装 Nvidia Device Plugin

参见:https://github.com/NVIDIA/k8s-device-plugin

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容