マイクロソフトが自社製AIへの移行を開始しました。運用コストの最適化を検討する機会になります
MSが外部AIへの依存を減らしコスト削減に動きました。自社のAI予算ルールを再整備する機会になります 今日のニュース MSが製品裏側のAI機能を外部依存から自社製小規模モデルへ移行しました。TNW 米国製無人四輪バギー100台以上がウクライナの戦場に実戦投入されました。TNW GoogleがGeminiのAIエージェント管理機能へバックグラウンド実行を追加しました。Google AI Blog Figmaが自然言語からコードを生成するプラットフォーム開発チームを買収しました。TechCrunch 人間とAIが文書を共同編集できる次世代ツール開発企業が47万ユーロを調達しました。Tech.eu 中国DeepSeekが米国の輸出規制を避けるため独自のAI半導体開発を計画しています。Ars Technica GitHubの公開Issue経由で非公開コードを盗むAIへの攻撃手法が発覚しました。The Hacker News AIツールへ推敲を依頼すると利用者の意見が歪められる危険性を英大学が指摘しました。TNW 英国スタートアップが微小重力下で創薬データを収集する小型ラボを軌道へ打ち上げました。Wired Metaが著名開発者主導の新たな画像生成AIモデルを主要アプリへ組み込み公開しました。TNW ピックアップ: マイクロソフトが自社製品の裏側で動くAIを自社製モデルへ移行開始 「OpenAIへの依存を、Microsoftが自ら断ち切り始めた」——この事実は、AI業界の常識を静かに塗り替えつつあります。Microsoftが製品裏側のAIを自社製へ移行しました。 Excel等の機能からOpenAIのモデルを外しました。 代わりに内製したMAIモデルを組み込んでいます。 これは特定の処理に特化した小規模AIです。 週数万件のプロンプトを処理し、コストを削減しています。 直近の記事でも各社のコスト統制をお伝えしました。 UberはAI予算の枯渇課題に直面しました。 アリババもトークン消費の削減に取り組んでいます。 今回の対応もこのコスト統制の文脈に沿っています。 巨大IT企業自らが外部モデルへの依存を減らしました。 AI投資の費用対効果を厳格に見直すシグナルです。 単一モデルに頼る運用を見直す企業が増えています。 現状の運用実態を確認します。 すべてのタスクを自社製に置き換えたわけではありません。 高度な推論にはOpenAIのモデルを併用しています。 Copilotの通信の大半は外部APIを経由します。 完全な内製化には至っていません。 現在は外部と内部のハイブリッド運用が行われています。 高性能なモデルは費用対効果が課題となります。 完全なコスト削減策としての機能は限定的です。 注目すべきはタスクに応じたAIルーティング機構です。 Azureの仕組みがプロンプトの複雑さを分析します。 最大18種類の言語モデルから最適なものを自動で選びます。 単純なコード補完は軽量で高速なMAIへ回します。 複雑な設計タスクだけを大型モデルへ送ります。 計算資源の無駄を省く適材適所の振り分けです。 さらに新しい実行アーキテクチャを採用しました。 実行時のアクティブパラメータ数を抑えています。 計算効率を高め、2秒以下の低遅延を実現しました。 これで約30%の運用コスト削減を達成しています。 AI開発のアプローチも変化しています。 数千億パラメータの巨大モデルからの移行が進んでいます。 エッジ機器で動く小規模言語モデルの活用です。 Googleは小規模なGemma 2を展開しています。 Metaはエッジ向けのLlama 3.2を発表しました。 Appleも端末上で完結するAIをリリースしました。 計算リソースを最大98%削減するアプローチです。 安価で安全な軽量AIがビジネス現場に導入されています。 一方で自社運用には課題も存在します。 内製化への移行が常に最適な選択とは限りません。 運用にはTCOと呼ばれる隠れたコストが存在します。 インフラ費用だけではありません。 保守を担うAIエンジニアの人件費も発生します。 これは年間数十万ドル規模に達することもあります。 スタートアップによる試算がこの実態を示しています。 外部APIの利用は100万トークン約0.12ドルです。 1日の消費が少ない場合はAPI利用が適しています。 自社運用で費用対効果が出るのは月間1億トークン以上です。 これは超大規模運用を行う企業に限られます。 API利用と自社環境構築には費用構造の違いがあります。 このトレードオフを考慮する必要があります。 ...