通过部署NVIDIA Docker组件，实现在容器中使用vGPU/GPU设备
日期：2022-04-22 17:05:40 / 人气：
我们今天来看一下如何通过NVIDIA Docker组件来实现Docker容器对GPU使用。由于vGPU和物理GPU一样提供了对容器的支持，所以此次的实验环境是基于Ubuntu 20.04.3 LTS 虚拟机+ M60-8Q vGPU。
首先在带有vGPU的虚拟机中安装Ubuntu操作系统，我们这里选择的是安装Server版本的Ubuntu（默认不会安装图形界面）。
下载地址：http://www.releases.ubuntu.com/20.04/
Ubuntu安装完成以后，我们来对环境做一个基本的检查。
1. 确认当前OS的版本以及内核版本信息
从上图我们可以看出，当前系统加载了nvidiafb和nouveau的驱动模块。但是这两个模块并没有被vGPU使用，也许是没有安装图形界面的原因。所以这里也不需要额外禁用nouveau模块，直接安装驱动即可。
3.基本信息确认正常以后，我们需要确保gcc和make已经安装在系统中，因为安装NVIDIA的vGPU驱动需要。如果没有安装则使用apt install gcc make 安装即可。
4.驱动安装完毕以后，执行nvidia-smi来确认驱动是否正常安装
使用命令#./NVIDIA-Linux-x86_64-470.82.01-grid.run 进行驱动安装
注：由于是vGPU的环境，所以还需要为vGPU配置License，以使得其驱动功能正常。具体配置vGPU License的步骤就不在此阐述，可以参考公众号内的专门介绍License配置的文章。
在基础环境配置完毕以后，接下来我们需要安装docker，其实在安装Ubuntu 20.04.3 Server版本的时候是可以选择随系统安装docker的，我们这里选择单独安装docker。
5.安装docker的方法很简单，建议参考官方文档的步骤即可。
https://docs.docker.com/engine/install/ubuntu/
步骤如截图：
成功安装后可以运行一个最简单的hello world容器来确认docker是否正常工作。看到下图的界面则说明docker已经成功安装。
6.最后我们来安装NVIDIA Docker组件，和安装docker类似我们只需要复制官网的相关命令即可完成安装，步骤截图如下：
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html#docker
成功安装nvidia-docker组件以后，我们同样来运行一个容器来确认是否可以调用vGPU。
1. 首先我们通过命令建立一个名为test的容器
# docker run -it --gpus all --name testnvidia/cuda:11.4.2-base-ubuntu20.04
其中—gpus all 代表此容器使用当前环境的所有GPU资源
2. 成功建立容器以后，会直接进入到此容器中，我们在容器内执行nvidia-smi可以成功输出GPU信息，则表明容器内已经可以正常使用到GPU资源了。
声明：
1、江苏网术科技有限公司所提供产品全部为原厂正规产品，我司不出售翻新机，二手机，等残次品；硬件保修政策及时长按设备原制造厂执行，支持三包规定。
2、价格：官网上列出的价格为含增值税专用发票价格；硬件设备产品含税13%，工程服务含税9%，技术服务含税6%。
3、服务：网站标明的价格为商品本身含税价格，不含其它设定和安装服务；如需要安装设定服务请联系销售人员另行报价。无价格的商品为按需配置的项目商品，需联络销售人员报价。
4、方案：官网所述之方案非完整方案，且并不适用于所有的应用场景，请勿盲目套用。
5、新闻：大多摘自互联网，如有侵权，请与我们联系。
6、运费：苏州,无锡,南通,常州,泰州,镇江,扬州地区免费送货上门，其它地区快递发货。
7、结算：苏州,无锡,南通,常州,泰州,镇江,扬州地区支持账期和月结的结算方式，具体可与销售人员协商。其它地区均为现金结算。
8、其它：服务申明最终解释权归网术科技所有，其它未尽事项请与我们联系。
