기업 82%가 그림자 AI 에이전트 보유, CSA 통계

박하언 에임인텔리전스 CTO는 2026년 9월 7일 클라우드시큐리티얼라이언스(CSA) 통계를 인용해 기업의 82%가량이 파악하지 못한 그림자 AI 에이전트를 보유 중이라고 밝혔습니다. 발표는 삼성금융캠퍼스에서 열린 ‘AI 리스크 컨퍼런스 서울 2026’에서 ‘AI 통제의 최전선: 모델에서 에이전트, 피지컬 AI까지’를 주제로 진행됐습니다.

무엇이 보고됐나

박 CTO는 “기업의 82%가량이 자체적으로 파악하지 못한 그림자 AI 에이전트를 보유 중이며, 절반 이상은 AI 에이전트가 권한 범위를 벗어나는 행동을 한 적이 있다고 답했다”고 밝혔습니다. 통제 방식에 대해서는 “체크리스트 기반의 전통적 검증이나 단순 입·출력 중심 통제 방식은 더 이상 통하지 않는다”라며 “MCP나 모델 API 하나만 바뀌어도 위험 구조 자체가 달라지기 때문에 지속적인 취약점 탐지와 실시간 방어 체계 구축이 필수적이다”라고 강조했습니다.

피지컬 AI에서 무엇이 달라지나

발표에서는 피지컬 AI 환경에서 발생할 수 있는 보안 리스크가 사례로 제시됐습니다.

• 자율주행 실험에서 전체 픽셀의 0.8%에 불과한 미세 텍스트 삽입만으로 차량이 보행자를 치도록 유도됐습니다.
• 탱크를 추적하던 드론이 역공격당해 추락하거나, 오디오 공격만으로 홈 IoT 기기가 오작동하는 시나리오가 확인됐습니다.
• 미국 항공우주국(NASA)과의 협업에서는 태양 탐사선 ‘파커’ 탑재 AI의 취약점을 발견해 서비스를 일시 중단한 바 있습니다.

박 CTO는 AGI급으로 평가받는 오픈AI의 ‘아스트라’조차 위협 행동을 거부하는 안전장치인 ‘정렬(alignment)’만으로 완전히 통제되지 않는다는 점을 지적했습니다. 사전 정렬만으로는 한계가 분명하므로 AI 전체 라이프사이클을 실시간으로 감시하고 통제하는 보안 레이어가 결합돼야 한다는 설명입니다.

에임인텔리전스는 레드팀 솔루션 ‘스팅어(Stinger)’와 가드레일 플랫폼 ‘스타포트(Starfort)’를 중심으로 통합 보안 체계를 구축하고 있으며, 스팅어가 160개 이상의 AI 모델을 진단했고 스타포트는 10만 개가 넘는 AI 에이전트에 적용됐다고 밝혔습니다. 또 국내외 20여개 기관과 ‘피지컬 AI 시큐리티 컨소시엄’을 출범했고, LG전자 로봇 ‘클로이’ 전용 가드레일 개발을 추진 중입니다.

한국 기업 AX 시사점

박 CTO는 “기업이 AI 보안을 강화하기 위해 가장 우선시해야 할 출발점은 자체 보유한 AI 자산을 전수 조사하는 것”이라며 “내부 데이터 흐름과 권한 범위, 잠재적 리스크에 대한 명확한 가시성을 확보하는 것이 안전한 AI 운용의 핵심”이라고 강조했습니다.

이 기준을 자기 조직에 옮긴다면 점검 순서는 이렇게 짤 수 있습니다.

1. 부서별로 실제 돌아가고 있는 에이전트와 자동화를 한 곳에 모아 목록을 만듭니다. 목록에 올라오지 않은 것이 곧 그림자 AI입니다.
2. 각 에이전트가 어떤 계정 권한으로 어떤 데이터에 닿는지, 권한 범위를 벗어난 동작이 있었는지 로그로 확인합니다.
3. 연결한 MCP나 모델 API가 바뀔 때 무엇을 다시 점검할지 규칙을 미리 정해 둡니다.

이번 주에 확인해 볼 것은 한 가지입니다. 지금 사내에서 돌아가는 AI 에이전트 목록을 한 장으로 뽑을 수 있는지, 뽑았다면 그 각각이 어떤 권한을 쥐고 있는지 답할 수 있는지 확인해 보십시오.

출처: 에임인텔리전스 "AGI급 '아스트라'도 보안 공백 여전...다음은 로봇·자율주행"