생성형 인공지능(AI)이 기업의 고객 정보, 의료 기록, 설계 도면, 소스코드까지 다루기 시작하면서 클라우드 보안의 취약 지점도 달라지고 있다.

그간 기업들은 데이터를 저장하거나, 네트워크로 전송할 때 암호화하는 데 집중해 왔다. 그러나 AI가 답변을 만들려면 암호를 풀어 메모리, 가속기에서 데이터를 처리해야 한다. 공격자는 데이터가 평문으로 노출되는 이 순간을 노린다.

'기밀 AI(Confidential AI)'는 처리 중인 데이터, AI 모델을 하드웨어 기반으로 격리·보호해 이런 보안 공백을 줄이는 기술이다. 클라우드 사업자나 시스템 관리자처럼 높은 권한을 가진 사람도 내부 데이터를 함부로 들여다볼 수 없도록 하는 것이 목표다. 특히 기업이 검색 증강 생성(RAG)에 활용하는 내부 문서와 사용자가 입력한 프롬프트, 외부에 공개하지 않은 모델 가중치는 실제 연산이 이뤄지는 과정에서 가장 취약하다.

<중략>