AIエージェントを4日間放置したところ、誰も気づかないまま呼び出し回数4,819回、費用約3,762ドルに達していました。検知したのは、AIコスト管理サービスを提供するRevenium社自身です。同社はほかにも、月5,000ドルから月50,000ドルへコストが跳ね上がった事例や、11日間続いた無限ループで47,000ドルを消費した事例も報告しています。今日はAIエージェントの運用コストがなぜ見えなくなるのか、そのメカニズムを掘り下げます。
AIコスト管理企業が、自社エージェントの暴走に気づけなかった
ZDNetの報道によると、AI支出管理サービスを提供するRevenium社で、開発者がAIコーディングアシスタントをノートPC上で4日間動かしたまま放置する事案が起きました。誰も気づかないうちに、そのエージェントは4,819回の呼び出しを実行し、合計3,762ドルのコストを発生させています。予算計上されていなかった支出でした。同社はAIのコスト管理を専門とする企業であり、自社の運用でもこうした事態を防げなかったことになります。
Reveniumはほかの事例も報告しています。ある中堅のEコマース企業では、AIエージェントの基盤コストが試作段階の月5,000ドルから、ステージング環境で月50,000ドルまで跳ね上がりました。10倍の差です。原因は最適化されていないRAGクエリと、再帰的なエージェントループがアクセス集中時に重なったことでした。Reveniumはこの状況を「個々のアクションはどれも合理的だったが、積み重なったコストは合理的ではなかった」と表現しています。
さらに別の事例では、2つのAIエージェントが無限の対話ループに入り、11日間誰にも発見されないまま47,000ドルを消費しました。「チームが寝ている間も、働いている間も、システムは順調に動いているとみんなが思っていた」というのが、Reveniumが振り返った状況です。
なぜこうしたコストが見えなくなるのか。AIコスト管理サービスを提供するLarridin社の分析が、その仕組みを説明しています。従来のソフトウェア予算は座席数や契約、更新日といった単位で管理されてきました。一方でエージェントのコストは消費量ベースで決まります。エージェントが何回動くか、何ステップ処理するか、モデル呼び出しが何回発生するか、そしてループや再試行が起きるかどうかで、コストは大きく変わります。かみ砕いて言えば、月額固定の契約書ではなく、タクシーメーターのように動いた分だけ加算される仕組みだということです。深夜に動き続けるコーディングエージェントは、チームが1週間で使うはずだった予算を数時間で使い切ることもあり得ます。
Larridinはこの状態を招く要因を4つ挙げています。1つ目は、エージェントの活動をリアルタイムで把握できていないこと。多くの企業は月次決算後にコストを知り、その時点で超過はすでに発生しています。2つ目は、エージェントの支出が人間によるAI利用の支出と混在していること。人の使い方とエージェントの使い方は挙動が異なるため、区別して管理する必要があります。3つ目は、超過を事前に予測する仕組みがないこと。3週間後に予算超過する見込みだと分かれば対応できますが、予算期間が終わってから分かっても手遅れです。4つ目は、プロジェクトが終了しても正式に停止されず、放置されたままのエージェント（Larridinは「orphaned agent」＝担当者不在のまま動き続けるエージェントと呼んでいます）が残ることです。Larridinの企業向けスキャンでは、1組織あたり平均47件のこうした放置エージェントが見つかっているといいます。
Alto（alto.gab.com）もこの件を取り上げ、複数の媒体が同じ出来事をどう報じているかを比較する形で扱っています。元の報道はZDNetによるものです。
用語補足：エージェントループ
今回の事例では、2つのAIエージェントが互いに応答し続けて止まらなくなったケースが報告されています。チームが寝ている間も働いている間も、システムは順調に動いていると思われており、支出の変化が予算を管理する担当者から見えなくなっていた点が問題として挙げられています。
注目ニュース
Forrester分析、10個のエージェントの予算を1個が食い尽くす仕組みを指摘
Larridin社が引用したBankInfoSecurityの報道によると、Forrester社のアナリストGreg Zorella氏は、10個のエージェントを運用している場合、1個が暴走して残り9個分の予算まで使い切ってしまう可能性を指摘しています。多くの企業には、支出がその水準に達する前にエージェント単位で止める仕組みが備わっていないとされています。エージェントは財務担当者が予算を確認するのを待たず、誰かがパターンに気づく視認性を持つまで、モデル呼び出しと再試行、トークン消費を続けるということです。larridin.com
韓国ZDNet、AIエージェント統合を含むIT業界の動きを連続報道
韓国のZDNetは、Palo Alto Networksが人間だけでなくマシンやAIエージェントまで対象を広げたID・アクセス管理（IAM）戦略への転換を進めていると報じています。zdnet.co.kr
日本のZDNet、クラウドフレアがAIエージェント対応を紹介
日本のZDNetによると、クラウドフレア日本法人はAIエージェント向けの機能や対応策を紹介し、インターネットの利用者の中心が人間からAIエージェントへ移行していると指摘しています。同メディアは併せて、日本企業でAI導入がクラウド移行より進んでいる一方、AIセキュリティを担う人材が不足しているという調査結果も報じています。japan.zdnet.com
編集後記：コストは、発見されるまで積み上がっていた
今回の一連の報道で残る観察は一つです。AIエージェントのコストが問題になるのは、暴走そのものよりも、誰も気づかないうちにコストが積み上がっていた点です。4日間の放置も、11日間のループも、発見までにコストが積み上がっていました。AIコスト管理を専門とする企業自身が自社のエージェントで同じ事態に陥ったという事実は、支出のばらつきが予算所有者から見えなくなっているという問題を示しています。エージェントを増やす前に、その活動をいつ、どの単位で確認できるのかを先に決めておく必要があるかもしれません。