기업 정보 기술(IT) 전략의 기본 원칙이었던 '클라우드 퍼스트'가 인공지능(AI) 확산으로 흔들리고 있다. 모든 연산을 퍼블릭 클라우드에 보내는 대신 업무 난도dhk 보안, 속도, 비용에 따라 AI 연산을 기기·사내 서버·에지·클라우드에 나눠 맡기는 '인퍼런스 티어링'이 새로운 인프라 전략으로 떠오르고 있는 것이다.

추론은 학습을 마친 AI가 질문이나 명령을 받아 답을 내놓는 과정이다. 생성형 AI가 검색·문서 작성에서 고객 상담, 구매 승인, 재고 관리 등 상시 업무로 확산하면서 추론량도 급증하고 있다. 가트너는 올해 AI 최적화형 서비스형 인프라(IaaS) 지출이 423억달러로 전년보다 96% 늘고, 이 가운데 추론 지출이 처음으로 학습 지출을 넘어설 것으로 전망했다.

<중략>