EY가 이번 주 공개한 보고서에 따르면, 미국 SVP(수석부사장)급 이상 의사결정자 500명을 대상으로 한 설문에서 AI에 투자 중인 기업의 5분의 4 이상이 토큰 사용량과 관련 비용에 대한 내부 우려를 보고했습니다. 그런데 이런 우려에도 불구하고 기업의 37%는 AI 도입 범위를 오히려 확대하고 있었고, 범위를 좁힌 기업은 15%에 그쳤습니다.
EY 글로벌 AI 컨설팅 리더 댄 디아지오(Dan Diasio)는 보고서에서 “기업들은 도입을 무작정 밀어붙이기보다 우선순위를 정하는 쪽으로 태세를 바꾸고 있다”며 “그 우선순위는 같은 일을 다르게 하는 것이 아니라, 다른 일을 하는 데 초점을 맞춰야 한다”고 진단했습니다.
비용 우려와 투자 확대가 동시에 일어나는 이유
같은 보고서에서 진행 중인 AI 투자를 보유한 고위 리더의 4분의 3은 기성 소프트웨어 솔루션이 자사 IT 요구와 맞지 않는다고 답했습니다. 그리고 거의 10곳 중 9곳에 가까운 기업이 사내 AI를 완전히 구축했거나 파일럿을 진행 중이라고 밝혔습니다. 비용 우려가 도입 자체를 멈추는 신호가 아니라, 기성 솔루션에서 자체 구축으로 방향을 트는 신호로 읽히는 지점입니다.
벤더들도 이런 비용 민감도를 감지하고 대응에 나섰습니다. 오픈AI(OpenAI)는 이번 주 초 자사의 Luna와 Terra 모델 비용을 낮췄다고 밝혔고, 오라클과 AWS는 지난달 리더들이 비용을 더 효과적으로 관리할 수 있도록 돕는 제품 변경을 공개했습니다. 디아지오는 “이 기술은 6주마다 목표 지점이 바뀌기 때문에 경영진이 아직 로드맵이나 변화의 올바른 서사를 정립하지 못한 것도 이해할 만하다”면서도 “조직은 어떤 이니셔티브를 추진할지 의도적으로 선택하고 재무적 가치로 그것을 밀고 나가야 한다. 그렇지 않으면 제자리에서 뛰는 셈이 된다”고 말했습니다.
가시성 부재라는 또 다른 문제
비용과 함께 가시성 문제도 부각되고 있습니다. 6월 공개된 플렉세라(Flexera) 데이터에 따르면 기업의 3분의 2 이상이 AI 소프트웨어 사용에 대한 정확한 가시성을 갖추지 못했고, 약 5분의 3은 AI 과지출이 전년 대비 증가했다고 답했습니다. 원래 클라우드 비용을 겨냥했던 핀옵스(FinOps) 관행이 AI 비용 관리까지 범위를 넓히고 있고, 리눅스 파운데이션(Linux Foundation)의 파생 조직으로 지난달 출범한 토큰노믹스 파운데이션(Tokenomics Foundation)은 기업 전체의 AI 지출을 통제하는 것을 목표로 합니다.
한국 기업에는 무엇이 다른가
이 설문은 미국 SVP급 이상을 대상으로 했다는 점에서 국내 기업의 조직 구조나 의사결정 체계에 그대로 적용하기는 어렵습니다. 다만 “비용 우려와 투자 확대가 동시에 진행된다”는 구도 자체는 도입 여부를 이분법으로 판단하기보다, 어느 업무에 얼마의 토큰이 소모되고 있는지 먼저 파악하는 것이 순서라는 점을 시사합니다. 기성 솔루션과 자체 구축 사이에서 고민한다면, 그 판단은 토큰 사용량과 비용에 대한 가시성이 확보된 이후에 내려야 근거가 생깁니다.
AI 도입을 검토하거나 이미 진행 중인 조직이라면, 이번 주 안에 자사가 AI 관련 소프트웨어·컴퓨팅 사용량을 부서별로 얼마나 정확히 파악하고 있는지부터 점검해 보는 편이 우선입니다.