ComfyUI CUDA out of memory: 해상도부터 낮춰도 될까?
모델 로딩·샘플링·VAE 디코딩 중 어디서 멈췄는지 구분하고, 이미지 크기·배치·영상 길이를 순서대로 줄입니다.
모델 파일은 모두 받았는데 실행 도중 CUDA out of memory가 뜨나요? 저장 공간이 부족하다는 말과 GPU가 한 번에 처리할 메모리가 부족하다는 말은 다릅니다. 무작정 모델을 다시 다운로드하거나 더 큰 GPU를 결제하기 전에 멈춘 노드와 작업 크기를 기록하세요.
어느 단계에서 멈췄는지부터 적어요
모델을 불러오는 단계인지, 샘플러가 이미 돌기 시작했는지, 마지막 VAE 디코딩에서 멈췄는지를 오류 보고서로 확인합니다. 같은 메시지라도 원인이 다를 수 있어요. 작업에 필요한 모델 계열·정밀도·보조 모델과 다른 GPU 작업이 함께 실행 중인지 기록합니다.
| 확인할 상황 | 먼저 볼 것 | 검수 기준 |
|---|---|---|
| 모델 로딩 때 실패 | 모델 구성·정밀도·다른 GPU 작업 | 호환 경량 구성 여부 |
| 샘플링 중 실패 | 픽셀 수·배치·프레임 수 | 작은 입력에서 재현 여부 |
| 마지막 디코딩 때 실패 | VAE·타일 지원 | 타일 이음새와 결과 크기 |
배치와 픽셀 수를 먼저 줄여 재현해요
한 번에 여러 장을 만들고 있다면 batch_size를 1로 줄입니다. 비율을 유지하며 가로·세로를 낮추고, 영상이라면 프레임 수 또는 길이도 줄입니다. 가로·세로를 모두 절반으로 하면 픽셀 수는 4분의 1이지만 실제 VRAM이 정확히 그 비율로 감소한다는 뜻은 아닙니다. 모델 자체와 중간 데이터의 비용이 함께 있기 때문입니다.
오류 기록 양식: GPU 이름과 VRAM / 모델 파일명·정밀도 / 출력 크기 / batch_size / 영상 프레임 수 / 실패 노드 / 오류 문장 / 직전에 바꾼 설정. 동일 작업에서 한 항목씩 바꿔 성공·실패를 남깁니다.
실패 단계에 맞는 대안을 선택해요
VAE 디코딩 단계라면 해당 모델이 지원하는 타일 디코딩을 검토하고 경계 이음새와 속도를 확인합니다. 모델 로딩부터 실패한다면 호환되는 경량·양자화 구성 또는 오프로딩 지원을 공식 문서에서 확인하세요. steps만 줄이는 것은 반복 횟수를 줄이는 선택이며 필요한 최고 메모리를 반드시 낮추지는 않습니다.
- RAM·디스크 여유와 GPU VRAM을 구분합니다.
- 모델 파일 용량만 보고 필요한 VRAM을 단정하지 않습니다.
- 짧고 작은 입력의 성공을 확인한 뒤 목표 크기로 점진적으로 올립니다.
- GPU 변경을 결정하기 전에 필요한 모델의 공식 환경 안내를 확인합니다.
자주 묻는 질문
steps를 반으로 줄이면 메모리도 반이 되나요?
그렇게 계산할 수 없습니다. 반복 시간과 최대 메모리 사용량은 다른 지표입니다.
같은 GPU인데 어제는 되고 오늘은 안 되는 이유는요?
다른 프로세스, 추가 모델, 입력 크기, 실행 구성 변경 등을 비교해야 합니다. 오류 로그 없이는 한 원인으로 단정할 수 없습니다.
참고 자료 · 2026.11.03 확인: ComfyUI · 문제 해결. 본문은 공개 자료와 LABS 기능을 바탕으로 작성한 작업 가이드입니다. 새로운 GPU 실행·청취 성능 평가는 진행하지 않았습니다.