AIパイロット、なぜ大半が本番稼働に至らないのか

AI支出は今年47%増加し、2兆5000億ドルを超えると予測されています。しかしZapierの調査によると、組織の3分の1近くが100件以上のAIパイロットを実行したにもかかわらず、これを全社的に広く展開した企業はわずか13%にとどまりました。約40%は、最も長く続けているAIパイロットが1年以上テスト段階にとどまっていると回答しました。

BRGのAI・意思決定インテリジェンス部門マネージングディレクターであるジェイソン・グー(Jason Gu)氏は、自身のコンサルティング経験を根拠に、パイロットが停滞する原因は技術そのものではなく、リーダーシップの統制の問題にあると指摘しました。彼は失敗が「AIは何でもできる」という過剰な期待か、「私たちが直面しているプロセスやデータの問題はモデルの限界によるものだ」という過小評価のいずれかから生じると説明し、これを4つのリーダーシップ統制の問題に区分しました。

4つの統制ポイント

第一はスタート段階です。「AIで請求書をチェックしよう」といった曖昧な指示では前に進めません。代わりに「処理時間を95%削減し、99%の精度を達成し、残りの1%の例外は手動レビューに回す」というように、具体的なビジネス成果として問題を再定義する必要があり、この目標に責任を持つ単一のリーダーが必要です。この責任はAI専任リーダーではなく、該当業務の経験を持つ事業リーダーが担うべきだと彼は強調しました。

第二はパイロット設計です。請求書の事例では、データ抽出・正規化の後、決定論的なロジックで発注書・入荷データと照合し、通過分はポリシーに従って自動承認、例外のみを人に回す構造が理想的です。文書抽出技術として光学文字認識(OCR)、マルチモーダルモデル、大規模言語モデルのどれを使うかは、文書のばらつきの度合いによって決まります。彼は、通過した出力だからといって自動的に正確だと仮定してはならず、自動承認された出力のうち有意な割合をサンプル監査して実際のエラー率を確認すべきだと指摘しました。生成AIを使う必要のない箇所に使ったり、すべての出力に人によるレビューを挟むワークフローを組んだりするのが、よくある設計上の誤りだと付け加えました。

第三は本番運用時の経済性評価です。トークン単価や最初の応答コストだけで判断するのは誤りであり、モデル・ツール・インフラのコストはもちろん、すべての再試行や再作業、人によるレビューと例外処理、技術統合、評価と運用、ガバナンス、誤った出力による想定損失までを含めた「成功した1タスクあたりの完全負担コスト」を基準とすべきだと説明しました。

韓国企業のAX転換への示唆

本稿が指摘する指標は、国内企業がAX転換計画を策定する際に参考となる現実的な基準点です。パイロットを複数実施すること自体は成果ではなく、100件を超えるパイロットを運用しながらも13%しか実際の展開に至らなかったという数値は、パイロットの数ではなく、パイロット一つ一つの設計の完成度が重要であることを示しています。

特に「AIで○○業務を自動化しよう」といった曖昧な目標設定の段階で、すでに失敗が運命づけられているケースが多いという指摘は心に留めておくべきです。導入を検討するなら、目標を処理時間・精度・例外処理率といった測定可能な数値として再定義し、その結果に責任を持つ単一の事業リーダーを先に指名することが順序として重要です。また、自動承認された出力をサンプル監査して実際のエラー率を確認する手続きなしに導入規模を拡大することは、トークンコストだけを見て総所有コストを見落とすのと同じ落とし穴に陥る危険があります。

出典: 4 leadership pain points that stall AI pilots — and how to fix them