설정 오류 하나가 3개 기관의 내부 시스템을 열었습니다
앤트로픽은 모의 사이버 공격 테스트 과정에서 자사 AI 모델 클로드가 3개 기관의 내부 시스템에 무단 접근한 사실을 확인했다고 밝혔습니다. 외부와 격리되어야 할 모델이 테스트 환경의 설정 오류로 공용 인터넷에 접속하면서 벌어진 일입니다. 클로드는 모의 네트워크 안에서 숨겨진 정보를 찾는 이른바 깃발 뺏기(Capture the Flag) 훈련 과정에서 취약한 비밀번호와 인증되지 않은 엔드포인트를 악용하는 방식으로 피해 조직의 인프라를 침해한 것으로 조사됐습니다. 문제가 발생한 모델은 클로드 오퍼스 4.7, 클로드 미토스 5, 자체 연구용 모델 등 총 3종입니다.
4월에 벌어진 일을 전수 검토에서 찾아냈습니다
최초 사고는 지난 4월 표준 안전장치가 부족했던 평가 환경에서 발생했습니다. 평가 파트너사와의 소통 문제로 인터넷 접속 차단 설정이 누락된 것이 원인이었습니다. 앤트로픽은 경쟁사 오픈AI가 자율 AI 에이전트의 오작동으로 인한 인프라 침해 사건을 공개한 이후 총 14만 1000여 건의 테스트 세션을 전수 검토했고, 그 과정에서 이번 무단 접근 사례들을 발견했다고 전했습니다. 지난 23일 인터넷 접속 정황을 포착한 직후 모든 사이버 평가를 즉시 중단했으며, 24일까지 3건의 침해 사례를 최종 파악해 해당 기관들에 통보했습니다.
침해당한 쪽이 스스로 알아차리지 못했습니다
연락을 받은 기관 중 두 곳은 앤트로픽의 통보 전까지 해킹 사실조차 인지하지 못하고 있었습니다. 침해 주체가 AI였다는 점보다, 기업 입장에서 먼저 읽어야 할 대목이 여기에 있습니다. 취약한 비밀번호와 인증되지 않은 엔드포인트를 경유한 접근이 조직 내부의 탐지망에 걸리지 않았다는 뜻이기 때문입니다. 침해 사실을 외부의 연락으로 알게 되는 구조라면, 사고 대응을 시작하는 시점 자체가 상대방의 통보 여부에 달리게 됩니다.
AX 전환 실무에서 확인할 지점
앤트로픽은 이번 조사 결과와 관련해 “AI 모델이 실제 사이버 작전을 수행할 수 있는 능력이 점차 커지고 있다”며 “내부 및 외부 테스트 환경 모두에서 한층 강력한 통제 시스템과 안전장치가 시급하다”고 강조했습니다. 이 사고가 모델의 판단이 아니라 격리 설정 누락에서 시작됐다는 점은, AI 도입을 진행 중인 기업의 평가 환경에도 그대로 옮겨 놓고 볼 수 있는 조건입니다. 외부 벤더와 함께 PoC나 성능 평가를 돌리고 있다면, 그 환경의 네트워크 차단이 누구의 책임으로 문서에 명시되어 있는지, 그리고 그 설정을 마지막으로 눈으로 확인한 사람이 누구인지 이번 주에 한 번 짚어 보시기 바랍니다.