企業コスト管理ソフトウェア企業のMavvrikが4月から5月にかけて複数業界の企業組織396社を対象に実施した「2026 State of AI Cost Governance Report」の内容を、CIO Diveが8月6日に報じました。予期せぬAI支出の問題が取締役会にまで上がったと回答した組織はほぼ半数に上り、回答者の4分の1は予期せぬコストによりAIプロジェクトを延期または中止しました。予期せぬAIコストが少なくとも1件の事業判断に実質的な影響を与えたとの回答は3分の2に達し、請求額の増大を受けて緊急の支出凍結を実施した企業は3分の1に上りました。
コストはモデル料金だけにあるわけではない
支出はモデルコストだけから発生するわけではありません。開発者ツール、データプラットフォーム、インフラ、エージェントワークロード全体に広く分散しており、その断片化に監督体制の不足が重なることで、CIOや財務責任者がAI施策の総コストを把握し、投資対効果を正確に測定することが難しくなっているというのが本記事の診断です。Mavvrikのスンディープ・ゴエル(Sundeep Goel)CEOはレポートの中で、AIがインフラを消費する方法とコストが積み上がる仕組みを根本的に変えつつあり、かつて予測可能だったIT支出が今では流動的かつ分散化され、帰属させることがますます難しくなっていると述べています。
Gartnerのデータ・アナリティクス調査部門を統括するリタ・サラム(Rita Sallam)氏は、組織が単純な生成AIの導入を超えて自律型エージェントへと移行するにつれ、この問題がより顕著になるとCIO Diveへのメールで説明しています。トークン単価のようなモデルの原価は下がっているように見えても、エージェントのワークフローが複雑化し、より高度な推論を要求するようになった結果、完了したタスク1件あたりの実際のコストは上昇しているとのことです。課金がユーザー使用量ベースへと移行する中、複雑な自律型エージェントワークフローを稼働させるコストが、そのワークフローが本来もたらすはずだった削減効果をしばしば上回ってしまうとも述べています。
ROIは算数である
Benchmarkitのレイ・ライク(Ray Rike)CEOはレポートの中で、誰もがAIのROIを語るが、ROIとは算数であり、コストが分からなければROIを正確に算出することはできないと指摘しました。隠れたコストが問題になるのは今回が初めてではありません。Wasabi Technologiesが昨年公開したデータでは、予期せぬ使用量とイグレス料金が積み重なり、クラウドストレージ予算を超過した組織が3分の2近くに上りました。その一方で、Google Cloud、AWS、Microsoftといったクラウド事業者は高まる注目に応じて一部のストレージ関連料金を引き下げており、もともとクラウドコストのために生まれたFinOpsの取り組みは、今では膨れ上がるAI請求から企業を守るために活用されています。
導入を検討するなら
サラム氏は、CIOはAIコストの最適化を事後の財務精算業務として扱うのではなく、アーキテクチャ要件として位置づけ、コスト最適化をエージェントワークフローそのものに組み込むべきだと提言しています。タスクにモデルを合わせることが要点であり、軽作業にフェラーリを使うような過剰投資を避けるべきだという表現を用いました。単純な問い合わせはより安価なモデルへルーティングし、より小規模でドメインに特化した言語モデルを活用する方法も併せて提示しています。ガバナンスやセキュリティ、データ基盤への投資をAI導入と並行して進めることで長期的なROIが維持されるとし、ユーザーに対してもAIトークンの財務的な影響を教えるリテラシー教育が必要だと付け加えました。天気を確認するために最も高価な推論モデルを使わせてはならない、というわけです。
国内でパイロットの段階を超え、エージェントを実業務に組み込む段階にあるなら、契約書に記載された単価ではなく、完了した処理1件あたりのコストを計測単位とするのが順序です。緊急の支出凍結が3分の1で発生したという事実は、請求書が届いてから初めて数字を確認した組織がそれだけ存在したことを意味します。今週確認すべきことは一つで十分です。先月のAI関連請求書を部門別・業務別に切り分けて帰属させることができますか。切り分けられないのであれば、ROIの算出も、モデルをタスクに合わせる作業も、まだ始まっていないということです。