Daily Develope

m반쩨 GPU device 사용 improt os # 1번째 device만 사용 os.environ["CUDA_VISIBLE_DEVICES"]= "1" # 2, 3번째 device 사용 os.environ["CUDA_VISIBLE_DEVICES"]= "2,3" # 혹은 terminal에서 export 환경변수로 선언해 사용 # export CUDA_VISIBLE_DEVICES=1 GPU 사용 가능여부 확인 torch.cuda.is_available()현재 사용중인 device 번호 확인 device slot 순서와 상관없이 기본적으로 0번부터 할당 (즉 장치가 1개라면 0으로 출력) torch.cuda.current_device()현재 사용중인 device 개수 확인 torch.cuda.device_co..

처음에는 윈도우에 설치해 사용하려고 했으나 nccl 오류가 계속 발생해서 원인을 찾아보니, Pytorch의 Distributed 패키지가 윈도우에서는 prototype이라 제대로 지원이 안되고 있어 발생한 것으로 추정된다. (링크) 그래픽 드라이버도 밀어보고 파이썬 버전도 맞춰보고 무슨 짓을 해도 같은 오류라서 결국 WSL 환경에서 실행했고, 결과적으로 잘 동작하는 것을 확인했으며 아래는 그 내용을 정리한 것이다. 준비사항 WSL2 CUDA Toolkit 11.8 Anaconda / Miniconda Python 3.8 ~ 3.10 Pytorch 절차 WSL2 설치 및 접속 (생략) CUDA 설치 본인의 그래픽카드에서 지원하는 버전과 운영체제 환경에 맞춰서 CUDA 설치 진행 설치 코드 - CUDA 설치..