Created by AI 클러스터에 사용 가능한 GPU가 남아 있는데도 AI 작업이 계속 Pending 상태라면, 정말 GPU가 부족한 걸까요? AI 인프라에서는 종종 답이 아니오입니다. 문제는 GPU의 절대 개수가 아니라, 해당 작업이 요구하는 조건을 만족하는 형태의 GPU 자원이 없다는 데 있습니다. 기존 Kubernetes autoscaling은 대체로 다음과 같은 방식으로 판단합니다. Pod가 Pending 상태다 → 현재 노드에 여유가 없다 […]