생성형 AI 확산 이후 AI 인프라 시장 경쟁 기준이 바뀌고 있다. GPU를 얼마나 많이 확보했는가보다 이를 얼마나 효율적으로 운영할 수 있는지가 더 중요한 경쟁력이 되고 있다.

이 변화 중심에는 최근 빠르게 부상하고 있는 ‘네오클라우드’가 있다. 네오클라우드는 AI 모델 학습과 추론에 필요한 GPU 자원을 중심으로 설계된 AI 특화형 클라우드다. 기존 범용 클라우드와는 구조가 다르다.

◆ GPU 확보보다 운영 효율…하이퍼스케일러의 한계=AI 인프라 시장이 네오클라우드에 주목하기 시작한 배경에는 GPU 수급 불균형이 있다. 글로벌 GPU 공급은 엔비디아 블랙웰 시리즈 양산과 공정 확대에도 불구하고 빅테크 기업들 AI 데이터센터 투자 확대와 소버린 AI 프로젝트 증가로 수요를 따라가지 못하고 있다.

세미애널리시스(SemiAnalysis)에 따르면 H100 GPU 1년 렌탈 가격은 지난해 10월 대비 올해 3월 기준 약 40% 상승했다.

<중략>