CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
by | TECH_ESSAY | 2026-10-12
#Backend #KoreanTech 토스증권이 온프레미스 Milvus 벡터 검색 환경에서 실측으로 서버 사양을 산정한 과정을 담았다. NUMA 배치 최적화 하나로 자원을 추가하지 않고 같은 recall 기준에서 QPS를 41% 올리고 p99 지연을 절반으로 줄인 실험 결과를 공유한다.아티클을 불러오는 중...
아티클을 불러오는 중...
by | TECH_ESSAY | 2026-10-12
#Backend #KoreanTech 토스증권이 온프레미스 Milvus 벡터 검색 환경에서 실측으로 서버 사양을 산정한 과정을 담았다. NUMA 배치 최적화 하나로 자원을 추가하지 않고 같은 recall 기준에서 QPS를 41% 올리고 p99 지연을 절반으로 줄인 실험 결과를 공유한다.