캐피털원 소프트웨어가 본 AI 확산의 세 걸림돌

캐피털원 소프트웨어(Capital One Software)의 제품 책임자는 기업 AI 확산의 걸림돌로 기술보다 조직 운영, ROI를 보는 방식, AI 과잉을 꼽았습니다. 2026년 10월 27일 공개된 CIO Dive 인터뷰에서 프라샨트 프랄라드(Prashant Prahlad) 제품 담당 수석부사장(SVP)은 많은 기업에 기술적 고려 사항은 AI 도입 계획에서 가장 작은 문제 축에 든다고 말했습니다. 그가 제품 관리를 이끄는 기업용 B2B 소프트웨어 사업은 고객의 데이터를 AI 확산에 맞게 준비하고 데이터 전환과 클라우드 이전을 돕습니다. 그는 고객에게 조직 안에서 합의를 만들고 추진력을 얻는 방법을 자주 조언한다고 밝혔습니다.

AI 확산을 막는 세 가지는 무엇인가

프랄라드는 조직의 데이터 기반이 AI가 얼마나 확산될 수 있는지의 토대가 된다고 강조했습니다. 지난 몇 년간 프로젝트 실패율이 뛴 원인도 기술 한계가 아니라 데이터 준비 부족이었다고 했습니다. 그 위에서 그가 AI 도입 계획을 해치는 요인으로 꼽은 세 가지는 다음과 같습니다.

• 조직 운영: 'AI 우선'이라는 지시는 내려왔지만 그 지시를 실행할 권한은 없는 조직이 많다고 그는 말했습니다. 이런 조직은 같은 유인을 갖지 않은 여러 집단을 한데 모으려 애쓰는 경우가 잦다고 덧붙였습니다.
• ROI: ROI에서 어려운 부분은 측정 시도 자체가 아니라, 정확한 값을 읽을 수 있도록 필요한 기반을 모두 갖추는 일이라고 했습니다.
• AI 과잉: 여러 벤더가 폭넓은 효과를 약속하며 몰려들지만, 기존 제품을 AI에 맞게 준비하는 편이 더 나은 선택일 때가 많다고 했습니다. AI가 곳곳에서 생겨나는 과열 탓에 중앙 팀이 잡음 속에서 신호를 가려내기가 매우 어려워진다는 것이 그의 말입니다.

CIO Dive는 같은 기사에서 직원이 직급이 높은 사람보다 AI를 더 불신하고, 통제권이 없다는 이유로 자율 시스템에서 더 큰 개인적 위험을 느낀다고 전했습니다. 아직 AI 지출을 정당화하지 못한 기업이 대부분이며, 이들은 제대로 시험하려면 AI 시스템을 실제 운영에 올리고 자사의 민감한 데이터를 모델에 제공해야 한다고 말한다고도 썼습니다. CIO는 이사회에 가치를 보고하라는 요구를 받지만, 대부분은 아직 AI에서 비용 효율이나 생산성보다 인사이트 도출과 의사결정 지원 효과를 더 얻고 있다고 기사는 설명했습니다.

어디서부터 시작하나: 사용 사례 하나

프랄라드는 AI를 사용 사례 하나에 먼저 시험해 보면 확산에 무엇이 필요한지 많이 배울 수 있다고 말했습니다. 그가 제시한 방법은 다음과 같습니다.

• 여러 부서 전문가로 '타이거 팀'을 꾸려 데이터를 찾아내고 시험합니다. 그는 이것이 좋은 출발점이라고 했습니다.
• IT 팀이 사용 사례 하나를 정하고, 거기서부터 거꾸로 따라갑니다.
• 예컨대 조직 한 부분에 챗봇 하나를 배치한 뒤, 그 사례를 둘러싼 데이터 준비도·거버넌스·보안 요구를 분석합니다.

프랄라드가 소개한 최근 고객사는 이 방식으로 데이터를 점검하다 중앙 데이터 전략이 없다는 사실을 깨달았고, 7개 사업 부문의 데이터 관리를 한데 모으는 팀을 만들었습니다. 그는 조직을 한 방향으로 맞추는 데는 분명한 문제가 있지만, 사용 사례 하나가 빈틈이 어디인지 이해하는 데 실제로 도움이 됐다고 말했습니다.

그는 데이터·AI 확산 준비의 출발점이 조직마다 제각각이고, 기술 팀이 크다고 자동으로 앞서는 것은 아니라고 했습니다. 그 출발점은 AI 도입의 의도성과 지금까지 받아 온 지시에 달려 있으며, AI의 선두에 있으리라 예상한 기관들이 생각만큼 앞서 있지 않았다고 그는 말했습니다.

한국 기업 AX 시사점

국내에서 AX 과제가 경영진 지시로 시작됐다면, 지시와 함께 무엇이 내려왔는지부터 따져 볼 일입니다. 프랄라드가 말한 대로 AI 우선 지시만 있고 권한이 없다면, 유인이 다른 부서를 한데 모으기 어렵습니다. 지시에 예산, 데이터 접근, 부서 간 조정 권한 가운데 무엇이 담겼는지 확인하는 것이 출발점입니다.

IT 인력이 많지 않은 조직이라면 그가 기술 팀 규모보다 도입 의도와 지시를 앞에 둔 점을 눈여겨볼 만합니다. 사업 부문이 적은 조직은 7개 사업 부문을 묶은 고객사 사례를 그대로 따르기보다, 사용 사례 하나에 필요한 데이터가 어느 부서에 있고 누가 관리하는지 정리하는 데서 시작할 수 있습니다. 도입 검토 목록에 새 솔루션만 올라 있다면 기존 시스템을 AI에 맞게 정비하는 안도 함께 비교해 보는 편이 순서입니다. 다만 데이터 기반을 강조한 대목은 그가 고객의 데이터 준비를 돕는 사업의 제품 책임자라는 점과 함께 읽는 편이 균형 잡힌 독법입니다.

이번 주에 확인해 볼 것은 하나입니다. 진행 중인 AI 과제 하나를 골라, 그 과제에 필요한 데이터가 어디 있고 그 데이터를 꺼낼 권한이 누구에게 있는지 적어 보십시오.

출처: How to create a scale-ready AI mandate