[ubuntu 서버만들기 #3] cuda 11.2 & cud 8.1 설치하기

★ ubuntu 딥러닝 서버만들기 ★

[Ubuntu 서버 만들기 #1] 한글 키보드 설정 하기

[ubuntu 서버만들기 #2] nvidia graphic driver 설치

[ubuntu 서버만들기 #3] cuda 11.2 & cudnn 8.1 설치하기

 

우분투 딥러닝 서버만들기 세번째 시간 !

 

이전 포스트에서 Nvidia Graphic Driver를 깔았고, 이번에는 CUDA와 cudNN을 설치해보기로 한다. tensorflow, python, CUDA 그리고 cuDNN 까지 구글에서 검증된 버전으로 설치해보도록 한다. 병렬연산을 하도록 도와주는게 CUDA라면 (이걸로 코인을 채굴하면?) cuDNN은 그런 CUDA위에서 GPU를 사용해 딥러닝을 효율적으로 처리해주는 Deep Neural Network library 이다. 

 

https://www.tensorflow.org/install/source#tested_build_configurations

 

https://docs.nvidia.com/deploy/cuda-compatibility/

 

각설하고, 다음과 같은 순서로 CUDA와 cuDNN을 잘 설치해보도록 하자.

1. CUDA 설치
2. CUDA PATH 설정
3. cuDNN 설치
4. 설치후 버전 확인

 

 

---

1. CUDA 설치

 

아래의 설치 사이트 (가입해야 한다.)에서 자신의 환경을 설정하면 설치가능한 명령이 나온다. 그걸 이용해 다운 및 설치를 해주면 된다. 자신의 정보를 잘 모른다면 uname -m && cat /etc/*release 명령을 통해 확인할 수 있다.

 

https://developer.nvidia.com/cuda-11.2.2-download-archive?target_os=Linux&target_arch=x86_64&target_distro=Ubuntu&target_version=2004&target_type=runfilelocal 

# 11.2 CUDA download  (graphic driver까지 포함되어 있음)
wget https://developer.download.nvidia.com/compute/cuda/11.2.2/local_installers/cuda_11.2.2_460.32.03_linux.run

# 실행 방법 1
sudo sh cuda_11.2.2_460.32.03_linux.run

# 실행 방법 2 (UI 없이, Graphic Driver 제외하고 CUDA toolkit만 설치)
sudo sh cuda_11.2.2_460.32.03_linux.run --silent --toolkit

# 실행 방법 2 (UI 없이, Graphic Driver 제외하고 CUDA toolkit만 특정 경로에 설치)
# path를 지정하지 않아도 기본적으로 /usr/local/cuda-xx.xx 에 설치된다. 변경하고자 하면 지정가능
sudo sh cuda_11.2.2_460.32.03_linux.run --silent --toolkit --toolkitpath=/user/local/cuda-11.2

 

위의 명령대로 다운로드 받고 실행을 해보자. 그래픽 드라이버까지 포함한 버전인듯? 근데 버전이 460.32.03 이다. 난 470 대 버전을 깔았는데.... 지우고 까는 걸 추천한다고 한다. 하지만 난 어차피 CUDA만 깔고 그래픽 드라이버는 설치를 안할 예정이라 과감히 넘어간다. 그리고 다음 화면에서 그래픽 드라이버 체크를 해제한다. 이게 참 햇갈렸다. X가 설치 SKIP인줄 알았다.

 

 

★ 2022/01/12 update : 아래와 같은 명령을 사용하게 되면 UI 화면 없이 toolkit만 설치할 수 있다고 한다. 그리고 서치 위치도 지정 가능하다. 저렇게 지정하지 않아도 default로 /user/local/cuda-11.2 이런 식으로 설치 되는 것 같지만...

sudo sh cuda.........run --silent --toolkit --toolkitpath=/user/local/cuda-xx.xx

 

 

 

잘 설치가 된듯하다. 아래 자세히 보면 환경설정을 하라고 한다.

---

2. CUDA PATH 설정

PATH는 .bashrc를 열여서 가장 마지막에 설정하도록 하며, source ~/.bashrc를 통해 업데이트 하면 된다.

sudo vi ~/.bashrc # open file

export PATH=/usr/local/cuda-11.2/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-11.2/lib64:${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

source ~/.bashrc # apply after save file

 

PATH 설정 후 nvcc -V를 통해 버전학인이 가능하다. PATH설정을 하지 않으면 다른 버전명이 나온다.

---

 

 

3. cudnn 설치하기

아래의 사이트에서 다운로드 가능하다. Linux (X85_64)용 cuDNN Libary를 설치한다. 

https://developer.nvidia.com/rdp/cudnn-archive

 

cudnn-11.2-linux-x64-v8.1.0.77.tgz을 다운로드 받았다. 압축을 풀고 내용을 보면 inculde 파일과 library파일만 있다. 이것을 CUDA가 설치되어 있는 곳에 복사해놓으면 된다. 버전명은 cudnn_version.h에 있다. 이 파일까지 복사해놔야 추후에 cudnn 버전을 확인할 수 가 있을 듯한다. 7.X는 버전명이 cudnn.h 파일에 있다. 왜 없지 하지 마시고 grep으로 찾아봐도 좋을 듯 하다.

 

아래는 설치 명령이다. cuda가 여러개 설치되어 있는 경우에는 꼭 cuda-11.2 등의 버전명을 기입해주자. 

$ tar -xvzf cudnn-11.2-linux-x64-v8.1.0.77.tgz

$ sudo cp cuda/include/cudnn*.h /usr/local/cuda-11.2/include 
$ sudo cp cuda/lib64/libcudnn* /usr/local/cuda-11.2/lib64 
$ sudo chmod a+r /usr/local/cuda-11.2/include/cudnn*.h /usr/local/cuda-11.2/lib64/libcudnn*

 

 

 

---

4. 설치후 버전 확인

CUDA : nvcc -V  (sudo apt install nvidia-cuda-toolkit 설치 필요)

cudnn : cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2