아카마이 테크놀로지스가 기업용 AI 챗봇 대화의 6% 이상에 개인식별정보(PII) 등 민감 데이터가 포함돼 있다는 분석 결과를 내놨다. 아카마이는 인터넷 보안 현황(SOTI) 보고서 '속도, 확장성, 그리고 비인간 ID: 에이전틱 위협 환경'을 발표하고, AI 에이전트의 실제 행동을 관리하는 '행동 중심 거버넌스(Behavioral Governance)'로 기업 보안 체계를 전환할 것을 제안했다.
보고서는 최고정보보안책임자(CISO)를 대상으로 자율형 AI 에이전트가 기업 시스템과 상호작용할 때의 보안 위험을 분석했다. 기존 사용자 인증과 접근 권한 관리만으로는 AI 에이전트 실행 과정의 위험을 통제하기 어렵다는 것이 제안의 이유다. SOTI는 아카마이가 글로벌 사이버 보안 인프라 데이터로 매년 발간하는 보고서 시리즈이며, 올해가 12년째다.
수치로 보는 보고서 핵심 항목
| 항목 | 수치 |
|---|---|
| 민감 데이터가 포함된 기업용 AI 챗봇 대화 비율 | 6% 이상 |
| 민감 데이터 포함 대화 중 기업 모니터링 범위 밖 임직원 개인 계정 비율 | 47% |
| AI 기반 브라우저 확장 프로그램을 설치한 기업 사용자 비율 | 40% 이상 |
| AI 확장 프로그램 설치 사용자 중 설치 후 12개월 이내 권한 설정을 변경한 비율 | 25% |
| AI 확장 프로그램이 일반 확장 프로그램보다 알려진 보안 취약점(CVE)을 보유할 확률 | 60% 높음 |
챗봇과 브라우저 확장 프로그램
기업용 AI 챗봇 대화 가운데 PII 등 민감 데이터가 담긴 비율은 6% 이상이었다. 이 대화의 47%는 기업 모니터링 범위 밖에 있는 임직원 개인 계정을 통해 이뤄졌다.
AI 기반 브라우저 확장 프로그램을 설치한 기업 사용자는 40% 이상이었다. 이들 중 25%가 설치하고 12개월이 지나기 전에 권한 설정을 바꿨다. 알려진 보안 취약점(CVE)을 갖고 있을 확률은 AI 확장 프로그램이 일반 확장 프로그램보다 60% 높았다.
보고서는 AI 에이전트가 여러 소프트웨어 시스템과 상호작용하도록 지원하는 모델 컨텍스트 프로토콜(MCP)에 대해서도 지적했다. 보안 가시성이 부족해 관리 우선순위에서 밀려 있다는 내용이다.
CISO를 위한 4가지 대응 전략
보고서가 CISO에게 권고한 대응 전략은 적응형 엣지 거버넌스, 브라우저 보안 강화, AI 검색 브랜드 신뢰도 보호, 검증 가능성에 따른 자율 권한 부여 등이다. AI 모델의 취약점 탐지와 공격 실행 속도가 빨라지면서 기존 사후 패치 중심 대응에도 변화가 필요하다고 보고서는 밝혔다. 패치가 완료되기 전에도 공격을 차단할 수 있는 실시간 엣지 보안 체계가 필요하다는 것이다.
AI 에이전트 권한은 작업 위험도, 검증 가능성, 복구 용이성을 기준으로 차등 부여하고, 고위험 작업에는 사람의 승인을 유지하도록 권고했다.
아카마이 임원 발언
아카마이의 최고보안책임자인 보아즈 겔보드(Boaz Gelbord)는 “기업 내 AI 코드 작성 및 생산성 도구 활용, 고객 대상 제품과 클라우드 워크로드에 대한 AI 통합, 기업을 표적으로 하는 AI 기반 공격이라는 세 가지 위협이 동시에 발생하고 있다”고 말했다. 겔보드는 또한 “보안 프로그램도 급변하는 현실에 발맞춰 신속히 진화해야 한다”고 강조했다.
자문 CISO를 맡은 스티브 윈터펠드(Steve Winterfeld)의 발언도 보고서에 담겼다. 윈터펠드는 “자율형 AI가 단순한 질의응답을 넘어 다단계 비즈니스 전략을 실행하는 단계로 발전하면서 보안 리더십도 함께 변화해야 한다”고 말했다.