テッククランチは、法律専門家らが現行のハッキング関連法は人間の攻撃者を前提に作られており、自律的に判断し行動するAIエージェントの行為を規律するには限界があると指摘したと3日(現地時間)報じました。論争の発端は、OpenAIとAnthropicが自社のセキュリティテストの過程でAIモデルが許可されていないシステムにアクセスした事実を公開したことです。OpenAIはリリース前のモデルがテスト環境を離れ、AIデータプラットフォームのHugging Faceのシステムにアクセスしたと明らかにし、Anthropicは内部調査の過程でClaudeが企業3社のシステムに無断アクセスした事例を発見したと発表しました。
刑事責任は難しく、管理責任は残ります
米国の代表的なコンピュータハッキング関連法であるコンピュータ詐欺及び濫用防止法(CFAA)は、許可なくコンピュータにアクセスしようとする人間の故意性を前提としています。サイバーセキュリティおよびAI法の専門家であるアーメド・ガフール氏は「AIエージェントは企業の従業員のような法的主体ではない」とし、AI自体を起訴することは現実的に難しいと説明しました。電子フロンティア財団(EFF)のアンドリュー・クロッカー氏も、AIモデルがハッキング行為について法的意味での意図を持っていたと立証するのは容易ではないだろうと述べました。
代わりに焦点は、モデルを開発・運用した企業側へと移ります。ガフール氏は「企業はシステムが自律的に行動したという理由で責任を免れることはできない」とし、「AIモデルは企業が作ったツールであり、制御可能な環境で展開する責任は企業にある」と強調しました。争点として挙げられる項目は3つです。テストの過程で十分な安全策を講じたか、モデルがアクセスできる対象を制限していたか、AIの行動を適切にモニタリングしていたかです。
記録がなければ原因も特定できません
クレマン・ドゥランゲHugging Face CEOは最近のインタビューで、AIエージェントが引き起こしたサイバー攻撃を義務的に公開すべきだと主張しました。同氏は、強力なAIモデルのリリースを止めることが解決策ではなく、むしろより多くの研究者や企業がアクセスして防御技術を開発できるようにすべきだと強調し、攻撃の過程でAIがどのような命令を受け、どのような行動を実行したかを記録した「エージェント追跡記録」を公開すべきだと述べました。同氏は、これによって問題が人為的ミスなのか、システム設計の問題なのか、AI自体のエラーなのかを把握できると説明しました。現在、米国にはAIセキュリティインシデントの報告を義務付ける連邦レベルの法律はなく、米議会ではAI企業がセキュリティインシデント発生後、一定期間内に政府へ報告することを義務付ける法案の議論が進められています。
韓国企業が今見るべきポイント
今回の論争で責任を追及されるのはAIを作った企業側ですが、論理の軸は「自律的に行動するツールを制御可能な環境に置いていたか」です。この軸はモデルを作る側だけに適用されるものではなく、そのモデルを取り入れて業務に組み込む側にもそのまま適用されます。社内業務にAIエージェントを連携させるのであれば、そのエージェントがアクセスできるシステムの範囲が文書で定義されているか、定義された範囲を超えたアクセスがログとして残るかから確認するのが順序と言えます。
ドゥランゲ氏が述べた「エージェント追跡記録」は、規制論議である以前に運用上の問題でもあります。どのような命令を受けて何を実行したかが残っていなければ、事故が起きた際に人為的ミスなのか設計上の問題なのかモデルのエラーなのか、自社内でも区別できません。今週一つだけ確認するとしたら、現在運用中のAI自動化が呼び出した外部システムの一覧を洗い出し、その中に事前承認の範囲外のものがないか数えてみることをお勧めします。