今週の一問: 数千ドルのコスト超過や権限外アクセス。自律稼働するAIエージェントの死角をどう塞ぐ？

AIエージェントが実際にどう暴走するかは、この一週間だけでも具体的な数字が積み上がっています。開発者がAIコーディングアシスタントをノートPC上で4日間動かしたまま放置したところ、誰も気づかないうちに4,819回の呼び出しが実行され、コストは合計3,762ドルに達していました。別の企業では、AIエージェント基盤のコストが試作段階の月5,000ドルから、ステージング環境で月50,000ドルまで跳ね上がっています。原因は最適化されていないRAGクエリと、再帰的なエージェントループがアクセス集中時に重なったことでした。

一方でコストとは別の種類の失敗も報告されています。ミラノを拠点とするMicrosoftパートナーの経営者が構築したAzure OpenAIのメール対応エージェントは、評価スコアもユニットテストもすべて通過していました。ところが低権限アカウントと高権限アカウントで同じ質問を投げると、回答内容が一致せず、リクエストしたユーザーがSharePoint上で本来開けないはずの文書内容を受け取っていたことが判明しています。テストに通ったという事実が、実運用での安全性を保証しないという一例です。

Revenium社が紹介した顧客企業のコスト事例では、個々の判断や個々のアクションを見る限り、どれも不合理ではなかったとされています。同社は、コストが跳ね上がった顧客企業の事例について「個々のアクションはどれも合理的だったが、積み重なったコストは合理的ではなかった」と説明しています。Azure OpenAIの事例でも、エージェントは利用者が自力では開けないはずのSharePoint文書の内容を返していました。従来型のソフトウェアの予算は、通常は座席数や契約、更新日といった単位に結び付いています。エージェントの場合、コストは呼び出し回数やループの発生回数といった消費量ベースで変動します。PromptHalo創業者のChandoor氏は、能力と権限の区別こそが核心であり、「そのタスクを実行できるか」と「そのタスクを実行してよいか」が別問題として分離されずに扱われがちだと指摘しています。

この分離の欠如を指摘しているのが、AIセキュリティ企業PromptHaloの創業者Madhuri Chandoor氏です。同氏はエージェントの制御を考えるうえで、能力と権限の区別が核心だと述べています。返金処理を例に、1回ごとの上限は守っていても、同じ依頼を複数回に分けて実行することで実質的に上限を回避できてしまう、という具体例を示しています。対応策として同氏が挙げているのは、金融詐欺の監視手法をモデルにした行動プロファイリングと、エージェントが何にアクセスできるか、どんな条件下でか、その先にどんな影響が及び得るかを事前に文書化しておくことです。

こうした制御が求められる背景には、企業側の準備状況を示す数字もあります。2026年のIBM調査では、2,000人のC級技術幹部のうち、今後1年で見込まれるAIエージェント導入に完全に備えていると答えたのは11%にとどまりました。調査対象のC級技術幹部の70%は、チームの技術導入がIT部門による把握の速度を上回っていたと回答しています。テストに通ったエージェントが権限外の文書を返し、コスト管理会社自身が自社のエージェント支出を把握できなかった今週の事例は、この数字が示す準備不足の中身を具体的に言い当てているように見えます。

ここまでの事例に共通しているのは、個別評価ではコスト超過や権限逸脱の問題を捉えられなかったという点です。コスト超過の事例では積み重なった支出が、権限逸脱の事例では利用者の権限が、それぞれ個々の評価の対象になっていませんでした。

判断材料として持ち帰れる範囲を整理すると、まずコスト面では、Larridinはエージェントの支出を人間によるAI利用の支出と分けて計測し、リアルタイムで消費を追跡し、請求期間が終わる前に超過予測アラートを設定する対策を推奨しています。権限面では、Azure AI Searchが文書単位のアクセス制御をプレビュー提供している一方、Entraに紐づかない権限主体についてはクエリ時点での制御が確実に機能するとは文書化されていないという制約があります。使っている基盤がどちらの状態にあるかを確認する作業は、少なくとも今週の事例からは避けて通れません。

一方で、公開情報からは分からないことも残ります。Chandoor氏が提案する行動プロファイリングや観測性ゲートが、実際に導入した企業でどの程度コストや権限逸脱を減らせたのかという定量的な効果は、今回の記事群には記載がありません。IBM調査の11%や70%という数字も、企業がどのような対策を講じれば改善するかまでは示していません。エージェントの権限設計を後から締め直す作業に、どの程度の工数や期間がかかるのかについても、今週の素材からは判断できませんでした。自社で稼働しているエージェントが、テストに通ったという理由だけで安全だと見なされていないか。その確認だけは、公開情報の外にある宿題として残ります。

数字で見る今週

  • 129億ドル — NvidiaがHugging Faceを買収する金額です。年間売上高の86倍という水準で、AI基盤を握る企業への評価がいかに高いかを示しており、自社のAI導入先選びにも影響しうる動きです。（TNW）
  • 11% — IBM調査でAIエージェント導入に「完全に準備できている」と答えたC級役員の割合です。多くの企業が体制整備の途上にあることを示しており、自社の導入判断を急ぐ前に確認すべき水準です。（TNW）
  • 70% — IT部門が把握しきれない速さでAI技術が現場に導入されていると回答した割合です。管理体制が追いつかないまま利用が広がる実態を示し、社内ルール整備の緊急度を測る目安になります。（TNW）
  • 6% — EUのデジタルサービス法違反時に科される可能性のある制裁金の上限で、世界売上高に対する比率です。ChatGPTなど大規模プラットフォームに適用され、海外展開企業にも間接的な影響が及びます。（Ars Technica）
  • 75% — Anthropicの新モデルでキャッシュ読み込みのコストが下がった割合です。AIエージェントを継続稼働させる際の運用コストに直結し、導入コスト試算を見直す材料となります。（VentureBeat）
  • 60% — ある企業のAzure OpenAIメール対応エージェントが自動処理できている問い合わせの割合です。評価テストが良好でも権限管理の不備が別途見つかっており、数字だけで安心できない点に注意が必要です。（VentureBeat）
  • 83% — Owner.comの新規顧客のうちAI製品から利用を始めた比率です。従来型のログイン中心の指標から成果指標への転換を象徴しており、自社サービスのKPI設計を見直す参考になります。（SaaStr）

来週の予定表

  • 2027年まで — Nvidiaが180億ドルを株式投資に拠出する。（TNW）
  • 12月末まで — ChatGPT、Reddit、RobloxがEUのデジタルサービス法（DSA）に基づく追加の義務に準拠する。（Ars Technica）
  • 2030年まで — ウズベキスタンが500万人を対象としたAI教育を実施する。（zdnet.co.kr）
  • 2028年から — トヨタがレベル2++水準の自律走行車を発売する見込み。（zdnet.co.kr）
  • 来月2日 — ホームプラスの更生計画案認可の可否を判断する関係人集会が開催される。（zdnet.co.kr）
  • 9月9日 — Appleがイベントを開催。折り畳み式のiPhoneなどが発表されるとの観測がある。（japan.zdnet.com）
  • 2027年中 — 日立製作所が、製造業のサプライチェーン調整業務をAIエージェントが自動で行う技術の提供を開始する。（japan.zdnet.com）

AIチャットボットで問い合わせ対応を自動化しませんか？ 100言語対応・24時間365日稼働。マニュアル・FAQ・製品情報を学習したAIが顧客対応 詳しくはこちら