AI 의사결정권자 72%, 원인은 데이터 기반

AI 사업이 기대에 못 미쳤을 때 그 근본 원인으로 부실한 데이터 기반을 지목한 AI 의사결정권자가 72%였습니다. 소프트웨어 기업 콜리브라(Collibra)가 해리스 폴(Harris Poll)에 의뢰해 데이터 관리·프라이버시 담당자와 AI 의사결정권자 300명을 대상으로 진행한 조사 결과로, 2026년 9월 공개됐습니다.

조사는 무엇을 보여주는가

조사에 따르면 의사결정권자들은 그 결과로 지능과 데이터 거버넌스를 맞추기 위해 운영 모델을 다시 짜고 있습니다. 항목별 수치는 다음과 같습니다.

• 의사결정권자의 53%는 AI 기능의 보고 라인을 데이터 조직에 더 가깝게 옮기고 있습니다.
• 기업의 58%는 AI 산출물에 대한 내부 책임 소재를 분명히 하는 데 집중하고 있습니다.
• 의사결정권자의 87%는 소속 팀이 AI 에이전트가 쓰는 맥락 정보가 정확하고 최신인지 정기적으로 점검한다고 답했습니다.
• 응답자의 절반 이상은 직원들이 AI 에이전트의 산출물을 사람이 검토하고 고치는 데 몇 시간씩 쓴다고 답했습니다.

에이전트는 데이터를 어떻게 다르게 쓰는가

펠릭스 반 데 말러(Felix Van de Maele) 콜리브라 공동창업자 겸 CEO는 어떤 에이전트가 작동하고 있는지, 누가 그 에이전트를 소유하는지, 어떤 데이터와 시스템에 접근할 수 있는지, 무엇을 하도록 승인받았는지를 기업이 알아야 한다고 말했습니다. 그런 가시성이 없으면 거버넌스의 빈틈은 사고가 터진 뒤에야 발견된다는 것입니다.

그는 기업 데이터가 그동안 사람이 대시보드를 읽고 분석을 돌리는 데 맞춰져 있었다고 설명했습니다. 데이터가 이상해 보이면 사람이 의문을 제기하고, 데이터 자체로는 담기지 않는 맥락을 채워 넣었습니다. 에이전트는 그 전제를 바꿉니다. 정의가 모호하거나 맥락이 빠져 있어도 에이전트는 답을 내놓고 그 답에 따라 확신을 갖고 행동합니다.

그래서 해야 할 일은 데이터를 더 청소하는 것이 아니라, 이 데이터가 무엇을 뜻하는지·지금 신뢰할 수 있는지·이 데이터로 무엇을 해도 되는지를 기계가 이해하고 쓸 수 있는 형태로 만들어 두는 것이라고 그는 말했습니다. 구체적인 방법으로는 사업 전반에 걸쳐 정의를 일치시키는 일과, 에이전트가 행동하는 시점에 확인할 수 있도록 정책을 코드로 옮기는 일을 들었습니다.

접근 범위 자체도 제약입니다. 구글 클라우드(Google Cloud)와 MIT 테크놀로지 리뷰 인사이트(MIT Technology Review Insights)가 8월 내놓은 보고서에 따르면, 현재 AI가 접근할 수 있는 기업 데이터는 평균 45%이고, AI 에이전트의 산출물이 적절하고 정확하다고 신뢰하는 조직은 절반에 그쳤습니다.

규제 대비도 조사에 담겼습니다. 콜리브라·해리스 폴 조사에서 비즈니스 리더 열 명 중 아홉 명이 미국과 세계의 AI 규제에 적극적으로 대비하고 있다고 답했고, 기업 리더의 51%는 데이터 계보(data lineage)와 문서화에 투자하고 있다고 답했습니다.

한국 기업 AX 시사점

이 조사가 가리키는 병목은 모델 성능이 아니라 데이터의 정의와 권한입니다. 에이전트 도입을 검토한다면 파일럿을 늘리기 전에 확인할 것이 있습니다.

• 같은 지표 이름이 부서마다 같은 정의로 쓰이고 있는지
• 에이전트가 접근할 수 있는 데이터와 시스템의 범위가 문서로 정해져 있는지
• 산출물이 틀렸을 때 누가 고치고 누가 책임지는지가 조직상 정해져 있는지

운영 중인 에이전트 목록과 각 에이전트의 소유자·접근 범위·승인된 행동을 한 장에 적어 보는 일부터 해 보십시오. 그 한 장이 채워지지 않는다면, 데이터 정비보다 먼저 정리해야 할 것은 책임 소재입니다.

출처: AI failures often trace back to poor data foundation: survey