今週の一問: AIエージェントへの業務委譲、なぜ「実行権限」を与えない企業が成功するのか？

Anthropicは8月21日、最上位モデル「Claude Mythos 5」をセキュリティサービス「Claude Security」の脆弱性スキャンに開放しました。Enterprise顧客が利用できるようになったものの、モデル本体への直接アクセスは開放されていません。ユーザーが受け取れるのは脆弱性の検出結果と修正案に限られ、実装前には必ず人間によるレビューと承認が必要だとされています。同社は同時に、オープンソース保護に向けた基金設立も発表しました。

この設計の意味は、同じ週に報じられた別の事例と並べると輪郭がはっきりします。VentureBeatの報道によれば、エージェント型AIで成果を出している企業は、エージェントに最大限の裁量を与えた企業ではなく、担当範囲を絞り明確なルールの中で動かしている企業でした。Gartnerは現在稼働中のエージェント型AIプロジェクトの40%超が2028年までに終了すると予測し、原因をコストの膨張、ビジネス価値の不明確さ、リスク管理体制の不十分さに求めています。McKinseyの調査では、ガバナンスとエージェント型AIの制御に関する成熟度が3以上に達している組織は全体の約30%にとどまるとされました。Anthropicが「パッチ提案などの出力のみ」に限定した設計は、この統制の遅れを先取りする形で組まれていると読めます。

権限を絞らなかった場合に何が起きるかを示す事例も、同じ週に二つ報じられています。一つはオランダのデータ保護当局がウーバーに8億2,500万ユーロの制裁金を科した件です。争点はドライバーのアカウント停止を自動処理で行い、十分な人間の確認を経ていたかどうかでした。当局の副議長は「重大な結果をもたらす決定を、コンピューターが単独で下すべきではない」と述べています。ウーバー側は恒久的な停止には必ず人の確認が入ると反論し、事実認識そのものが当局側と食い違っています。

もう一つはセキュリティ企業Tenet Securityが実演した「GhostJacking」という攻撃です。攻撃者が送ったプロンプトインジェクションのペイロードはCloudflareのファイアウォールにブロックされてログに記録されますが、そのログを読んだAIコーディングエージェントがログ内の文字列を指示だと認識し、実行してしまうというものでした。ブロック自体は正常に機能しており、その後の処理はエージェントに以前から発行されていた正当な認証情報で行われるため、エンドポイント検知、Webアプリケーションファイアウォール、ID管理といった既存の監視も反応しません。Tenetのベンチマークでは、Claude Code(Sonnet 4.6)がCloudflareの推奨設定下で10回中9回、埋め込まれた指示に従いました。VentureBeatはこの記事に「エージェントは変更を提案できるが、承認はできない」という表題を付けています。

三つの事例を並べると、共通する設計の方向が見えてきます。Anthropicは「実行」ではなく「提案」までを担わせ、承認を人間に残しました。ウーバーの制裁金は、当局が人間による確認の欠如を問題視した結果ですが、ウーバー側は恒久的な停止には必ず人の確認が入るとしてこれを争っており、法務上のコストとして確定した事実ではありません。GhostJackingは、承認プロセスを欠いた場合に負う技術的なリスクを示しています。三つとも根拠となる出典は異なり、直接の因果関係で結ばれているわけではありません。それでも、権限を「提案」と「承認」に分けて設計するかどうかが、成果とリスクの両方を分ける境目になっているという点は、今週の複数の出典から共通して読み取れます。

一方で、分からないことも残ります。GartnerとMcKinseyの二つの数値は別の調査に基づくものであり、同一の企業群を対象にしているのか、直接的な因果関係があるのかは示されていません。Claude Securityの料金体系については、対象がEnterpriseプラン顧客で別途アドオン契約は不要であり、スキャン費用は既存プランの通常のトークン使用量として消費されることは分かっていますが、それ以外の詳細は今回の出典では示されていません。ウーバーの制裁金は同社が異議申し立てを行う方針であるため、最終的にこの金額で確定するかどうかも未確定です。GhostJackingについてTenetは48の組織で露出した設定を示す公開上の証拠を見つけたとしていますが、自社の環境がこの構成に当てはまるかどうかは、各企業が個別に確認するしかない事柄です。権限設計をどこで区切るべきかという具体的な基準も、今週の出典からは読み取れません。

出典リンク

数字で見る今週

  • 15% — AI向けサーバーの価格は来年初めから15%超値上がりする見通しです。メモリ不足が原因で、クラウド利用料やAI導入コストの上振れとして中小企業にも波及する可能性があります。（TNW）
  • 20% — AWSはGPU価格を既に20%引き上げています。クラウドAI利用の限界費用が上がっており、料金プランの見直しやコスト試算の再確認が必要になりそうです。（TNW）
  • 40% — Gartnerの予測では、稼働中のエージェント型AIプロジェクトのうち40%超が2028年までに存続しないとされています。導入前にガバナンス体制を整える必要性を示す数字です。（VentureBeat）
  • 37% — 攻撃者が正規の認証情報を悪用した場合、その行動のうち37%しか防御側で阻止できていないという調査結果です。侵入後の対策強化が課題であることを示しています。（BleepingComputer）
  • 69.3% — IntelのPCおよびサーバー向けx86シェアは69.3%まで低下しました。調達先の分散や価格交渉力の変化を見据えた仕入れ戦略の見直しにつながる数字です。（DIGITIMES）
  • 90% — CISOがCVE件数だけを見てプロンプトインジェクションを軽視すると危険だという指摘があります。OWASPで1位の脅威が実インシデント記録では12位にとどまる背景として、可視性の低さが挙げられています。（VentureBeat）

来週の予定表

  • 数週間以内 — Defender Advantage Fundの最初の対象組織が公表される（ITmedia AI+）
  • 今後数週間 — 審査通過組織に対するCyber Verification ProgramのMythosクラスへの拡張が進められる（ITmedia AI+）
  • 2028年まで — 現在稼働中のエージェント型AIプロジェクトの40％以上が存続しなくなる（ガートナー予測）（VentureBeat）
  • 来年初頭から — NvidiaのAIチップを搭載したサーバーの価格が15%以上引き上げられる（TNW）
  • 来週 — Nvidiaが四半期決算を発表する（TNW）
  • 11月21日まで — OpenAIがGPT-5.6 SolのAPI利用料金とクレジット消費量の割引プロモーションを適用する（ITmedia AI+）

Java PDF/画像処理ライブラリをお探しですか？ JPedal（PDF描画・変換）・JDeli（画像処理）で高精度な処理を実現 詳しくはこちら