アリババがAIのトークン消費を99パーセント削減。従量課金の膨張を防ぐ最適化手法を自社に組み込む

今日のニュース

アリババが開発した新フレームワークがAIエージェントのトークン消費を99%削減し、従量課金コストの抑制に道を開いた。VentureBeat
建設テックのTrunk Toolsが業界特化の専用AIで文書レビュー期間を60日から10日に短縮した。VentureBeat
英デジタル銀行Starling Bankが従業員130人の削減を発表し、AI投資強化と並行した組織再編を進める。TNW
アリババがAnthropicの「Claude Code」をソースコード漏洩リスクへの懸念から社内利用禁止とした。TechCrunch

ピックアップ: アリババ、AIエージェントのトークン消費を99%削減

毎月のAPI請求書の数字がどこまで伸びるか読めない。そんな状況でAI活用を進めている企業は少なくありません。以前取り上げたUberの事例は象徴的でした。AIに本腰を入れた結果、予算を4カ月で使い果たし、利用上限を設けざるを得なくなりました。「使えば使うほど請求が膨らむ」という構造が、エンタープライズへの導入拡大を足止めしてきました。

その構図を変えうる技術がアリババから出てきました。

何が起きたか

アリババが開発した新しいAIフレームワークは、エージェントがタスクを実行する際にすべてのツールを最初から読み込まない設計を採用しています。その瞬間のタスクに必要なツールだけを動的に選び取る仕組みで、「Tokenmaxxing」と呼ばれる最適化アプローチの一形態です。結果として、エージェント1回の実行あたりのトークン消費量が99%削減されたとアリババは報告しています。

精度を落とさずに99%という数字を達成している点が、他のコスト削減手法と異なります。

今の現実——何が変わり、何が変わらないか

確認しておきたい点があります。この技術は「AIを安く使い放題にする」という話ではありません。

トークン単価そのものは、過去3年で99.7%下落しています。2023年時点でGPT-4の入力トークン100万件あたり30ドルだった価格が、2026年には0.10ドル台まで落ちました。単価は下がりました。それでもコストが問題であり続けているのは、エージェント型AIがタスク1件あたりに消費するトークン量が膨大だからです。ツールの説明文、実行ログ、思考の中間ステップ——これらが積み重なります。単価が下がっても消費量が100倍になれば、請求は増えます。

アリババのアプローチは、消費量の側を直接削るものです。

本質的な変化——構造が変わる

この技術の意味は、コスト削減だけではありません。

「エージェントを使えば使うほど損をする」という構造が変わります。これまでエンタープライズ導入の判断を鈍らせていたのは、性能への不安よりも「どこまで請求が来るか読めない」という不確実性でした。従量課金モデルでは、利用が成功するほどコストが上がる構造があります。

GitHub Copilotは定額制からトークン消費ベースの従量課金へビジネスモデルを切り替えました。提供者側がコストの重心をそこへ移しています。受け手側のコスト最適化は、経営課題として重要になっています。

Microsoftは自社の圧縮技術「LLMLingua」を使い、金融向けのPDF解析エージェントで51倍のトークン圧縮と93%のコスト削減を実証しました。セマンティック検索でツール候補を絞り込む手法では、月6万ドルの削減に成功した大規模運用事例もあります。アリババの99%という数字は突出して見えますが、方向性は業界全体の流れと一致しています。

一点、補足しておきたいこと

99%のトークン削減が可能になった場合、企業はコストが下がった分だけAIエージェントの利用量を増やす可能性があります。コストが10分の1になれば、10倍のタスクをエージェントに任せようとするのは自然な判断です。削減効果が運用コストの拡大で相殺される「リバウンド」が起きる可能性があります。

技術的な最適化を導入した後に何をどこまで自動化するか、その判断軸を持っているかどうかが次の問いになります。アリババの技術はコスト爆発を抑える手段です。ただ、その使い方の設計は別の話です。

各ニュース詳細

Trunk Tools、建設業の文書レビュー期間を60日から10日に短縮

建設テックのTrunk Toolsは、図面や仕様書を扱う建設業務に対して、業界に特化した専用AIスタックを構築した。汎用の大規模言語モデルを使わないこの設計により、文書レビューにかかる期間を60日から10日へと短縮した。出典: VentureBeat

Starling Bank、AI投資強化と同時に130人の人員削減を発表

英デジタル銀行Starling Bankは、全従業員の約3%にあたる130人の削減を発表した。同時期にAIや技術基盤への投資強化を表明しており、業務再編の一環として位置づけている。出典: TNW

アリババ、Claude Codeを高リスクソフトウェアに指定し社内利用を禁止

アリババはAnthropicのコーディング支援AI「Claude Code」を高リスクソフトウェアに指定し、従業員の社内利用を全面禁止とした。同ツールはコード補完などで生産性向上に寄与する一方、入力されたソースコードが外部サーバーに送信される仕様を持つ。自社のコア資産であるコードベースの保護を優先した措置となっている。出典: TechCrunch

PDFをブラウザで高速表示したいですか？ BuildVu でPDF・Office文書をHTML5/SVGに変換。プラグイン不要でどのデバイスでも忠実に表示詳しくはこちら