일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |
Tags
- KAKAO
- enV
- format
- Converting
- list
- TORCH
- Package
- GitLab
- Flask
- Linux
- numpy
- docker
- AI
- Container
- file
- Mac
- evaluation
- git
- Windows
- pandas
- Python
- Database
- PostgreSQL
- LLM
- pytorch
- DB
- CUDA
- Laravel
- judge
- Paper
Archives
- Today
- Total
Daily Develope
[AI] CUDA & PyTorch Windows 설치 / 환경설정 (with WSL2) 본문
처음에는 윈도우에 설치해 사용하려고 했으나 nccl 오류가 계속 발생해서 원인을 찾아보니, Pytorch의 Distributed 패키지가 윈도우에서는 prototype이라 제대로 지원이 안되고 있어 발생한 것으로 추정된다. (링크)
그래픽 드라이버도 밀어보고 파이썬 버전도 맞춰보고 무슨 짓을 해도 같은 오류라서 결국 WSL 환경에서 실행했고, 결과적으로 잘 동작하는 것을 확인했으며 아래는 그 내용을 정리한 것이다.
준비사항
- WSL2
- CUDA Toolkit 11.8
- Anaconda / Miniconda
- Python 3.8 ~ 3.10
- Pytorch
절차
- WSL2 설치 및 접속 (생략)
- CUDA 설치
본인의 그래픽카드에서 지원하는 버전과 운영체제 환경에 맞춰서 CUDA 설치 진행
설치 코드 - CUDA 설치 매뉴얼 참고
설치 스크립트 (v11.8)
wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-wsl-ubuntu.pin sudo mv cuda-wsl-ubuntu.pin /etc/apt/preferences.d/cuda-repository-pin-600 wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda-repo-wsl-ubuntu-11-8-local_11.8.0-1_amd64.deb sudo dpkg -i cuda-repo-wsl-ubuntu-11-8-local_11.8.0-1_amd64.deb sudo cp /var/cuda-repo-wsl-ubuntu-11-8-local/cuda-*-keyring.gpg /usr/share/keyrings/ sudo apt-get update sudo apt-get -y install cuda
설치 확인
nvidia-smi
- Conda 설치
Miniconda 설치의 경우 Linux installers를 다운받아 실행
설치 샘플코드
wget https://repo.anaconda.com/miniconda/Miniconda3-py311_23.5.2-0-Linux-x86_64.sh bash Miniconda3-py311_23.5.2-0-Linux-x86_64.sh
설치 확인 및 세팅
# 설치 확인 conda info --env # 가상환경 생성 (python=3.10, 이름:my-first-env) conda create -n my-first-venv python=3.10 # 가상환경 활성화 conda activate my-first-venv
PyTorch 및 라이브러리 설치 (CUDA 버전 및 운영체제 확인) - 링크 참조
# 샘플코드 (CUDA 11.8, Linux OS) conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 pytorch-cuda=11.8 -c pytorch -c nvidia
PyTorch 확인
CUDA 사용 확인
import torch
torch.cuda.is_available()
# True인 경우 정상작동
'AI' 카테고리의 다른 글
[Article] LLM Judge (0) | 2024.01.03 |
---|---|
[Paper] 2023 gemini technical report (LLM/MMLU 관련내용) 정리 (1) | 2023.12.12 |
[AI] Optimizer 옵티마이저 참조 (0) | 2023.10.18 |
[AI] Hugginface, sklearn, torch 샘플 코드 및 설명 (0) | 2023.10.17 |
[AI] Research 시황 조사 (0) | 2023.04.05 |