생성형 인공지능(AI) 도입이 확산되면서 기업의 IT 인프라 전략도 근본부터 달라지고 있다. 하나의 클라우드나 자체 데이터 센터에 시스템을 몰아넣던 시대는 저물고, AI 학습·추론·데이터 보안 등 업무 특성에 따라 서로 다른 인프라를 병행하는 '멀티 인프라' 전략이 자리 잡고 있는 것이다.

배경에는 AI 워크로드의 '이중 구조'가 있다. 모델을 만드는 '학습'과 만든 모델을 서비스에 얹는 '추론'은 요구하는 인프라 조건이 크게 다르다. 학습에는 수천 개 그래픽 처리 장치(GPU)가 동시에 돌아가는 대규모 연산 환경이 필요한 반면, 추론은 밀리초 단위의 응답 속도와 보안 통제가 우선이다. 하나의 플랫폼으로 양쪽을 모두 충족할 수 없으니 인프라를 쪼개 운영하기 시작한 것이다.

<중략>