VRAM 기준 GPU 할당으로 바꾼 인프라 변경 기록
by | TECH_ESSAY | 2026-10-11
#DevOps #Backend GPU 서버에서 단순 수량 기반 할당 대신 VRAM 용량 기준으로 GPU를 배분하도록 인프라를 변경한 실제 경험을 담은 글입니다. 워크로드별 VRAM 요구 사항 차이로 인한 리소스 낭비를 발견하고 할당 정책을 바꾼 과정과 결과를 구체적으로 설명합니다.아티클을 불러오는 중...
아티클을 불러오는 중...
by | TECH_ESSAY | 2026-10-11
#DevOps #Backend GPU 서버에서 단순 수량 기반 할당 대신 VRAM 용량 기준으로 GPU를 배분하도록 인프라를 변경한 실제 경험을 담은 글입니다. 워크로드별 VRAM 요구 사항 차이로 인한 리소스 낭비를 발견하고 할당 정책을 바꾼 과정과 결과를 구체적으로 설명합니다.