생성형 인공지능(AI)은 단일 컴퓨터로 처리하기 어려울 만큼 막대한 연산량을 요구하기 때문에 데이터센터에 수만 개의 그래픽처리장치(GPU)를 연결해 병렬로 연산을 수행하는 방식으로 처리된다. GPU를 수만 개로 묶어 운용하는 환경에서는 개별 GPU의 연산 성능이 아무리 뛰어나도 한계가 있다. GPU 간 데이터를 주고받는 연결망(인터커넥트)이 느리면 전체 시스템 성능은 결국 그 통신 속도에 맞춰 제한되기 때문이다. 그래서 최근 데이터센터 시장의 관심은 연결을 어떻게 더 빠르게 하는지에 있다.

문제는 AI가 확산될수록 이 연결 구간에 걸리는 부담이 훨씬 빠르게 커진다는 점이다. AI 도입 이후 데이터센터 네트워크 처리량은 과거에는 4년마다 2배씩 증가했지만, 최근에는 2년마다 2배로 늘어나는 추세다. 엔비디아는 데이터센터 성능을 좌우하는 핵심 요소로 네트워크 속도, 지연 시간, 대역폭을 강조하기도 했다. 통신량이 급증하면 기존 전기 신호 기반 연결은 전력 소모와 전송 거리 측면에서 한계에 직면할 것이다. 이를 극복하기 위한 대안으로 빛으로 데이터를 전달하는 ‘광(光) 인터커넥트’가 주목받고 있다.

<중략>