버전 호환 문제로 인해 CUDA가 인식되지 않는 상황을 겪는 이들이 많다. NVIDIA GeForce GTX 1660 Ti 환경에서 PyTorch 2.3.1+cu121 버전을 사용할 때의 핵심 체크 사항과 해결 방법을 자세히 다뤄본다. 드라이버 업데이트, xformers 호환성, GPU 활성화 여부 확인 명령어 등 폭넓은 정보를 담았다.
Python, PyTorch, CUDA 호환 문제 해결
NVIDIA GeForce GTX 1660 Ti 환경에서 GPU 사용이 원활하지 않을 때 확인해야 할 모든 것
1. CUDA가 동작하지 않는 것 같은 상황, 왜 발생할까?
데이터 처리 속도 향상을 위해 딥러닝 프레임워크나 스테이블 디퓨전(WebUI)과 같은 이미지 생성 애플리케이션을 사용할 때, GPU가 정상적으로 구동되지 않으면 당혹스러울 수밖에 없다. 특히 “버전이 맞지 않는 것 같은데 이미 설치가 되어 있는데도 cuda가 제대로 동작하지 않는 것 같다”라는 의문은 여러 곳에서 제기된다. 실제로 PyTorch, CUDA, xformers, NVIDIA 드라이버 간의 미묘한 버전 충돌은 작업 환경에 큰 영향을 끼친다.
아래에서는 NVIDIA GeForce GTX 1660 Ti와 PyTorch 2.3.1+cu121 조합을 사용하는 환경에서, CUDA가 제대로 동작하지 않는 원인을 다각도로 살펴보고, 가능한 해결책을 공유한다. 이를 통해 단순한 설치 과정에서 생길 수 있는 오류를 파악하고, 효율적인 GPU 활용이 가능하도록 돕는다.
2. GPU가 인식되지 않는 대표적 원인 분석
- PyTorch와 CUDA 버전 불일치
- PyTorch는 버전에 따라 지원하는 CUDA 런타임이 다르다. 2.3.1+cu121 버전은 CUDA 12.1 기반으로 빌드되었지만, 실제 환경의 NVIDIA 드라이버가 이에 맞춰져 있어야 제대로 동작한다.
- 만약 OS에 설치된 CUDA Toolkit 버전(또는 드라이버 버전)이 지나치게 낮다면, 내부적으로 GPU를 사용하지 못할 수 있다.
- NVIDIA 드라이버 미설치 혹은 구버전
- CUDA 12.1 기능을 사용하기 위해서는 최소 *525.x 이상(혹은 530, 535 버전 등)*으로 드라이버가 업데이트되어 있어야 한다.
- 오래된 드라이버 환경에서는 NVIDIA GeForce GTX 1660 Ti가 정상 동작하지 않을 가능성이 높다.
- xformers 및 확장 라이브러리 호환성 문제
- Stable Diffusion WebUI 사용 시, xformers 라이브러리를 활용하여 메모리 사용량을 절감하거나 속도를 높이도록 설정하는 경우가 많다.
- xformers 버전이 현재 사용하는 PyTorch의 CUDA 버전과 맞물리지 않을 경우, 내부적으로 CPU 폴백(CPU 연산으로 대체)되는 상황이 발생할 수 있다.
- 환경 변수와 PATH 설정 오류
- TRANSFORMERS_CACHE 또는 HF_HOME 등 경고 문구가 뜨는 경우, PyTorch나 관련 라이브러리가 올바른 디렉터리에서 구동되고 있는지 확인해야 한다.
- 특정 환경에서 PATH 설정이 꼬여 CUDA DLL 파일들을 찾지 못해 GPU 미인식 사태로 이어지곤 한다.
- WebUI 실행 인자 혹은 설정 충돌
- --xformers 옵션만으로는 충분하지 않을 때도 있다. 추가로 GPU 메모리 관련 옵션을 조정해야 할 수도 있고, Windows 환경에서 가상 메모리가 부족하면 Stable Diffusion이 GPU를 제대로 활용하지 못하기도 한다.
- --disable-gpu-warning 옵션을 추가로 주었을 때는 되려 특정 오류 메시지를 놓쳐버릴 가능성도 존재한다.
3. PyTorch & CUDA 버전 호환성 자세히 살펴보기
PyTorch를 설치할 때 pip install torch==2.3.1+cu121 -f https://download.pytorch.org/whl/torch_stable.html 등의 명령어를 사용하면, 해당 패키지는 CUDA 12.1 빌드를 사용한다. 이와 호환되는 NVIDIA 드라이버가 있어야 한다.
- NVIDIA 드라이버 버전 확인
- nvidia-smi 명령어로 현재 드라이버 버전을 확인한다.
- 예:
Tue Jan 22 15:43:01 2025 +-----------------------------------------------------------------------------+ | NVIDIA-SMI 531.41 Driver Version: 531.41 CUDA Version: 12.1 | |-------------------------------+----------------------+----------------------+ - 위와 같이 Driver Version과 CUDA Version이 표시된다. CUDA Version이 12.1 이상으로 표시되어야 PyTorch 2.3.1+cu121을 완벽하게 지원한다.
- 로컬 CUDA Toolkit 버전과 PyTorch 내장 CUDA 런타임
- PyTorch는 자체적으로 포함된 CUDA 런타임을 우선 사용하기 때문에, 로컬 CUDA Toolkit 버전이 약간 달라도 동작할 때가 많다. 그러나 NVIDIA 드라이버가 더 중요하다.
- 만약 로컬 CUDA Toolkit이 매우 낮은 버전이라면, 컴파일 시 특정 라이브러리 충돌이 발생할 수 있다.
- 맞지 않는 버전이 의심될 때
- torch.cuda.is_available()를 Python 인터프리터 상에서 직접 실행해보면, True 또는 False가 나온다. False라면 GPU를 전혀 인식하지 못하는 것이다.
- torch.version.cuda를 통해 PyTorch가 내부적으로 사용하는 CUDA 버전을 확인한다.
4. xformers 사용 시 주의점
Stable Diffusion WebUI에서 xformers를 사용하면, GPU 메모리 절약 및 렌더링 속도 향상 효과를 기대할 수 있다. 그러나 다음 사항도 고려해야 한다.
- xformers 버전 확인
- 사용자 환경에 설치된 xformers 버전이 PyTorch 2.3.x 이상을 공식 지원하는지 확인한다.
- pip show xformers 혹은 conda list xformers 등으로 버전을 확인 가능하다.
- 디버그 옵션 활용
- WebUI 실행 시 --opt-split-attention 혹은 --opt-sub-quad-attention 같은 옵션이 xformers와 충돌하지 않는지 테스트해본다.
- 안정화를 위해서는 WebUI 측에서 제공하는 공식 문서를 참조해 조합 테스트가 필요하다.
- CPU로 폴백되는 상황 점검
- 만약 GPU 연산을 시도했다가 에러가 발생하면, 내부적으로 CPU로 폴백되는 경우가 있다. 이때 속도가 급격히 느려지면서 “GPU가 동작하지 않는 것 같다”는 착각을 일으키게 된다.
5. NVIDIA 드라이버 업데이트 및 설정 재점검
- 드라이버 클린 설치
- Windows에서 NVIDIA GeForce GTX 1660 Ti 드라이버를 최신 버전으로 업데이트할 때, “클린 설치” 옵션을 사용하는 것이 이슈 방지에 유리하다.
- 이 과정에서 이전 드라이버 설정이 초기화되므로, 혹시 모를 충돌 요소가 사라질 수 있다.
- 운영체제와 드라이버 간의 호환성
- Windows 10, 11 버전 및 빌드에 따라 지원되는 드라이버 버전이 다를 수 있다. NVIDIA 공식 사이트에서 제공하는 최신 권장 드라이버를 활용한다.
- 때때로 Insider Preview나 Beta 버전 OS를 사용하면 드라이버 호환성 문제가 더 자주 나타난다.
- BIOS 및 칩셋 드라이버 확인
- 극히 드물게, PC 메인보드 BIOS가 낡았거나 칩셋 드라이버가 맞지 않아 GPU 인식 관련 문제가 생길 수도 있다.
- 문제 해결이 쉽지 않을 경우, 메인보드 제조사 사이트에 올라온 최신 BIOS 버전 확인도 도움이 된다.
6. GPU 활성화 여부 확인 방법
- 파이썬 코드에서 직접 확인
- 이 코드를 실행하여 CUDA available: True가 뜨고, Device name에 NVIDIA GeForce GTX 1660 Ti가 표시되면 GPU가 활성화된 것이다.
- import torch print("CUDA available:", torch.cuda.is_available()) print("Device count:", torch.cuda.device_count()) print("Current device:", torch.cuda.current_device()) print("Device name:", torch.cuda.get_device_name(0))
- 작업 중 GPU 메모리 사용량 모니터링
- Windows의 작업 관리자나 nvidia-smi 커맨드를 통해 GPU 메모리 사용량이 증가하는지 실시간 관찰한다.
- 이미지 생성 시 GPU 사용량이 0%로 유지된다면, CPU 폴백이나 버전 충돌 가능성을 재검토해야 한다.
- Stable Diffusion WebUI 콘솔 출력 메시지
- WebUI 실행 시 콘솔에 “Device: cuda:0 …”라는 문구가 정상적으로 나오면 GPU를 인식 중일 가능성이 높다.
- 다만, 여기 표시가 되어도 실제 연산은 CPU에서 돌아갈 수 있으므로, 이미지 생성 시 GPU 사용률이 실제 상승하는지 함께 모니터링하는 것이 좋다.
7. 문제 해결 단계를 요약
- 드라이버 및 PyTorch 버전 호환성 확인
- nvidia-smi로 드라이버 버전을 확인한다. 최소 525.x 이상, CUDA 12.1을 지원해야 한다.
- PyTorch가 2.3.1+cu121이면 내부 CUDA 버전은 12.1이다.
- xformers 버전 점검
- 최신 버전이거나 PyTorch 2.3.x와 호환되는지 공식 문서 및 릴리스 노트 확인.
- 필요 시 pip install --upgrade xformers 진행.
- WebUI 실행 옵션 확인
- --xformers, --disable-gpu-warning 외에 다른 옵션을 함께 썼을 때 충돌이 없었는지 점검.
- 옵션 조합에 따라 GPU 폴백 문제가 생길 수 있다.
- PyTorch 코드로 테스트
- 간단한 Python 코드를 통해 torch.cuda.is_available()가 True를 반환하고, 실제 GPU 장치를 명시하는지 확인.
- 정상적으로 인식된다면 WebUI 설정이나 xformers 충돌을 의심하고, 인식되지 않으면 드라이버 문제나 PyTorch 설치 파일 재설치를 고려.
- 드라이버 업데이트
- NVIDIA 공식 사이트에서 GeForce GTX 1660 Ti용 드라이버를 받고, 클린 설치 후 재부팅.
- 다시 nvidia-smi로 버전을 재확인하여 CUDA 12.1 이상을 지원하는지 본다.
8. 결론: 정확한 버전 매칭과 설정 확인이 핵심
“이미 설치가 되어 있는데도 CUDA가 안 잡힌다”라는 상황은 대부분 버전 호환이나 설정 충돌 문제에서 비롯된다. 특히 NVIDIA 드라이버, PyTorch, 그리고 xformers의 삼박자가 정확히 맞아야 GPU 연산이 원활히 진행된다.
- 드라이버 업데이트,
- PyTorch 버전 점검,
- xformers 업그레이드 및 WebUI 설정 테스트,
- Python 코드로 실제 GPU 사용 가능 여부 확인,
이 네 가지 단계를 반복적으로 체크하면 문제 원인을 특정하는 데 도움이 된다.
GeForce GTX 1660 Ti는 6GB의 VRAM을 갖추고 있어 중간 정도의 이미지 해상도 처리에 무리가 없는 편이다. 다만 워낙 빠르게 버전이 바뀌는 생태계이므로, 드라이버와 라이브러리의 최신 호환성 정보를 주기적으로 확인하는 습관이 안정된 작업 환경 유지에 유익하다.
댓글