前言

在Linux环境下配置cuda和cudann用于模型训练变得越来越重要,今天我们小组内需要配置一台用于模型训练的Linux环境。下面是具体操作。


一、cuda12.1下载与配置

1.在下载cuda12.1之前需要查看Linux系统下是否有支持NVIDA的独立显卡(没有请下载安装)
在这里插入图片描述
2.使用命令进行下载安装cuda12.1

# 下载安装包
wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda_12.1.0_530.30.02_linux.run

在这里插入图片描述
3.使用cd命令进入到下载的目录下。然后使用下列命令进行安装:
需要等待一会。

# 设置安装包可执行权限
sudo chmod +x cuda_12.1.0_530.30.02_linux.run
# 运行安装
sudo sh cuda_12.1.0_530.30.02_linux.run

在这里插入图片描述
4.选择Continue回车
在这里插入图片描述
5.输入accept进行回车
在这里插入图片描述
6.选择Install回车
在这里插入图片描述7.出现以下错误需要调整
在这里插入图片描述
8.由于我已经安装过Driver CUAD了,修改错误如下所示:
在这里插入图片描述
9.最后稍等10分钟左右出现一下界面,说明安装马上成功了。
在这里插入图片描述
10.使用一下命令进入到环境配置
在这里插入图片描述
11.使用Esc+i进行编辑Vim文件输入下面内容。最后使用:qw进行保存并退出。
在这里插入图片描述
12.更新环境
在这里插入图片描述

13.验证cuda是否可用,显示一下信息表示cuda成功安装。
在这里插入图片描述

二、cudnn8.9.7下载安装

1.我是使用Windows系统进入到cudnn官网登录账号进行下载对应的版本的,然后使用远程连接方式将下载好的cudnn版本上传到Linux系统文件当中。(需要创建账号登录下载)cudnn8.9.7版本下载地址:https://developer.nvidia.com/rdp/cudnn-archive
进入官网选择红色箭头的安装包:
在这里插入图片描述
Windows系统下载完成之后,使用对应的远程工具将压缩包上传到linux系统对应的文件夹下。这里我使用的是:TeamViewer 下载连接为:https://www.teamviewer.com/apac/download/windows/或者使用其他ssh远程工具进行上传至服务器。
在这里插入图片描述
在这里插入图片描述
2.进入到Linux系统下赋值的cudnn8.9.7下载的安装目录,并打开终端,输入以下命令进行解压文件:

tar -xvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz

3.复制头文件到cuda的安装目录。我的cuda安装目录是/usr/local/cuda-12.1/

sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda-12.1/include

4.复制库文件到cuda安装目录下

sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda-12.1/lib64

5.使用以下命令更改文件权限

sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

6.检查已安装的cuDNN库版本

cat /usr/local/cuda-12.1/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

7.最后成功安装结果
在这里插入图片描述
在这里插入图片描述

三.TensorRT8.6.1下载安装

1.首先我实在windows下面下载的TensorRT8.6.1安装包
进入官网:https://developer.nvidia.com/tensorrt/download
在这里插入图片描述
2.进入之后按照下面操作点击下载

在这里插入图片描述

3.使用TeamViewer进行传输到Linux系统上的/usr/local路径下
在这里插入图片描述
4.按照下面命令进行安装NVIDIA TensorRT
添加的环境变量Tenosrrt图:
在这里插入图片描述

cd /usr/local
# 解压安装包
sudo tar -xvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.0.tar.gz

# 添加环境变量
sudo vim ~/.bashrc
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/TensorRT-8.6.1.6/targets/x86_64-linux-gnu/lib

cd TensorRT-8.6.1.6/python
# 最后根据虚拟环境当中的python版本进行pip install

在这里插入图片描述

5.测试是否成功
在这里插入图片描述


总结

cuda,cudnn和anaconda3安装成功,同时在虚拟环境当中tensorRT安装成功。

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐