大手小売のAIが顧客の通話ログをネットに公開。自社サイトのチャットツールの設定を今日見直す

あなたの会社では、自社のWebサイトに設置したAIが顧客と何を話しているか、誰が正確に把握していますか？

今日のニュース

  • Searsの顧客対応AIが個人情報を含む通話ログをWeb上に公開。Wired
  • OpenAIが低レイテンシ処理に特化した小型モデルGPT-5.4を発表。OpenAI Blog
  • WorldがAIエージェントの操作背後に人間がいることを証明するツールを発表。TechCrunch
  • Amazon Bedrockなど主要なAI開発基盤にデータ流出の脆弱性が発覚。The Hacker News
  • 医療大手Strykerで正規ITツールを悪用され数万台の端末が初期化。BleepingComputer
  • 米国防総省がAnthropicへの依存を避け独自の代替AIモデル開発を進行。TechCrunch
  • OpenAIがAWSと提携し米国政府向けにAIシステムの提供を拡大。TechCrunch
  • WorkFlexが越境労務コンプライアンス自動化SaaSで約60億円を調達。Tech.eu
  • 欧州の投資APIインフラUpvestが評価額約1000億円で約190億円を調達。TNW
  • NVIDIAが自律型AIに最適化した計算基盤Vera Rubinを正式発表。VentureBeat

米Searsの顧客対応AIが通話ログを露出。社外向けAIの監視

米国の老舗小売Searsのカスタマーサポート用AIが、顧客の個人情報を含む音声通話やチャットログをWeb上に公開していました。誰でも閲覧可能な状態でのデータ放置です。中小企業でも顧客接点でのAI活用が急速に進む中、便利さを優先してプライバシー保護の設計を後回しにした結果生じた、典型的な情報漏洩です。私たちはこの事態を、自社にも起こり得る最も警戒すべき事例と捉えています。

3月11日の記事では従業員が無断利用する「野良AI」の管理手法を、17日には自律型AIへの人間の判断介在についてお伝えしました。今回は企業が公式に導入し、顧客と直接対話する「社外向けAI」から情報が漏洩しています。導入したSaaSツールがもたらす経営リスクは、社内だけでなく社外の顧客接点にまで拡大しているのです。

自社に置き換えるとどうなるか。導入しているAIチャットボットの設定不備により、顧客からのクレーム内容や個人情報が検索エンジン経由で誰でも見られる状態になります。新たなセキュリティ投資や、エンジニア向けの高度な対策を検討する前に、現在利用中のツールのログ保存設定を確認することが先決です。Searsのような老舗企業ですら、導入ツールのデフォルト設定を盲信し、顧客の声を危険に晒しました。極めて基本的なガバナンスの欠如が、企業の信頼を一瞬で失墜させます。

企業が公式に導入したAIすら予期せぬリスクを生む現在。AI活用のフェーズは機能の真新しさを追い求める段階から、安全な運用とガバナンスへと確実に移行しました。自社サイトで稼働しているカスタマーサポート用AIの管理画面を開き、顧客との対話ログの保存先と公開範囲の設定をすぐ確認しておきたいですね。放置による顧客情報の流出か、今日中の設定見直しか。あなたの会社はどちらの道を選びますか。

OpenAIが小型モデルGPT-5.4 miniとnanoを発表

エッジ環境や多様なデータ形式を処理できる、軽量で処理速度の高い最新モデル「GPT-5.4 mini」「nano」が登場しました。 前モデル比で推論速度が約40%向上し、エッジデバイスやAIエージェントへの組み込みを想定しています。 出典: OpenAI Blog

私たちは、AIが手元のデバイスに浸透して自律的に稼働する動きを歓迎しています。クラウドに頼らない高速な処理は顧客体験を向上させますが、現場の端末側でもデータの取り扱いルールをしっかり整えておきたいですね。

WorldがAIエージェントと人間を区別する人間証明ツールを発表

AIによるオンライン代行が普及する中、操作の背後に人間がいることを証明する新たなID検証技術を発表。 Sam Altman氏が関わるWorldが提供し、ボットと人間の境界が曖昧なインターネット空間の信頼性担保を狙う。 出典: TechCrunch

私たちは、ボットと人間を区別する仕組みが今後のオンライン取引の前提になると確信しています。自社サイトへのアクセスが人間かAIかを判別し、適切な対応を振り分ける準備を進めてみてはいかがでしょうか。

主要AI開発基盤にデータ流出の脆弱性が発覚

Amazon BedrockやLangSmith等の著名なAIインフラで、機密データ流出を可能にする深刻な脆弱性を発見。 リモートコード実行の危険性も指摘され、エンタープライズAI導入における開発基盤自体の欠陥が懸念される。 出典: The Hacker News

私たちは、開発基盤自体の欠陥は企業側でコントロールできないため、強く懸念しています。単一のインフラに依存せず、システム全体の冗長性を確保して万が一の事態に備えておきたいところです。

医療大手Strykerへの攻撃で数万台の端末が初期化

医療機器メーカーStrykerへの攻撃で、社内のMicrosoft環境の正規機能を悪用して数万台のデバイスを初期化。 マルウェアを使わず、既存ツールの権限を乗っ取る環境寄生型の破壊的攻撃による被害が発生した。 出典: BleepingComputer

私たちは、正規ツールを悪用されると防御が難しいため、社内の権限管理の甘さを突く攻撃手法を危惧しています。現在利用している社内ITツールの管理者権限を最小限に絞り込むなど、足元の設定を見直す良い機会です。

米国防総省がAnthropicの代替AIモデル開発を推進

Anthropicとの関係悪化を受け、米国防総省が自前の代替AIモデル開発や他ベンダーの開拓を進行中。 政府所有の環境で稼働する複数のLLM導入を目指し、安全保障分野での特定企業への依存リスクを回避する。 出典: TechCrunch

私たちは、特定ベンダーへの依存を避ける動きが、日本企業の経営判断にも大いに参考になると考えています。一つのAIモデルに業務の根幹を委ねず、複数のモデルを使い分けるマルチモデル戦略の導入を検討してみてください。

OpenAIがAWSと提携し米政府向けAI提供を拡大

OpenAIがAWSと提携し、特定の自社クラウドに依存せず米国政府向けにAIシステムを販売する契約を締結。 機密および非機密の両方の業務で利用可能なソリューションを提供し、公共分野での販路を拡大する。 出典: TechCrunch

私たちは、公共分野で特定の自社クラウドにこだわらず販路を広げる動きを、AIのインフラ化を象徴するものとして注視しています。多様な環境でAIが稼働することが、今後の標準になっていきますね。

越境労務コンプライアンス自動化のWorkFlexが約60億円を調達

国境を越えた出張やリモートワークに伴う複雑な税務やビザのリスクを自動判定するSaaSを展開。 年間10万件以上の越境トリップを処理し、需要拡大を受けて今回約60億円の資金調達を実施した。 出典: Tech.eu

私たちは、複雑な労務管理コストを削減する現実的な一手として期待しています。多様化する働き方を支えるバックオフィス業務の自動化ツールは、無理なく業務に取り入れていきたいですね。

個人投資向けAPIインフラのUpvestが約190億円を調達

個人向けの投資システムをAPIで提供するドイツのスタートアップが、約190億円の資金を調達しました。企業価値は約1000億円と評価されています。 昨年1億件以上の投資注文を処理し、欧州におけるリテール投資の活発化と金融インフラの成長を牽引する。 出典: TNW

私たちは、新たな顧客体験を裏から支えるB2B2C型金融インフラの成長に着目しています。欧州での進化が、日本の金融DXにどのような影響を与えるか、引き続き動向を追っていきます。

NVIDIAが次世代AI基盤Vera Rubinを正式発表

人間を介さず動くAIエージェントの処理に特化した、7種類の半導体を組み合わせた計算基盤を公開しました。 OpenAIやMetaも賛同し、AIの進化がLLMからエージェントへ移行する中でのハードウェア展開を進める。 出典: VentureBeat

私たちは、ハードウェアの性能競争が加速していると捉えていますが、中小企業にとって直近の経営課題ではないため静観しています。まずは足元で稼働しているAIツールの安全な運用にリソースを集中させましょう。

AIチャットボットで問い合わせ対応を自動化しませんか？ 100言語対応・24時間365日稼働。マニュアル・FAQ・製品情報を学習したAIが顧客対応 詳しくはこちら