見出し画像

今日のAI失敗事例_「AIが自動で買います」63億円を集めたアプリ、中身はフィリピンの人力だった

ヘンザップ梅山

はじめに

あなたの会社が先月導入した「AIツール」。あの処理、本当にAIがやっていると確認しましたか。
結論から言うと、米国で「AIが買い物を全自動で完了させる」と宣伝され、投資家から4,200万ドル(1ドル150円換算で約63億円)を集めたアプリの正体は、フィリピンのコールセンターで働く数百人の人間でした。
この記事では、(1)なぜ投資家も社員も見抜けなかったのか (2)「AI搭載」をうたうツールを買う側が、商談で何を聞けばいいのか、が分かります。


何が起きたのか

アプリの名前は「Nate(ネイト)」。2018年に米国で創業されたショッピングアプリです。
Nateが掲げたのは「ユニバーサル・ショッピングカート」でした。どの通販サイトでも、面倒な決済画面をすべて飛ばし、1タップで購入が完了する——それが売りです。
同社はこの仕組みを、独自のAI・機械学習・ニューラルネットワークが「魔法のように」処理していると説明していました。
この説明を信じた投資家は、約3年間で4,200万ドル超を出資します。2021年には3,800万ドル規模の資金調達も実現しました。
ところが米司法省(DOJ)と証券取引委員会(SEC)によれば、Nateの自動化率は「実質ゼロパーセント」でした。
実際に住所や支払い情報を入力し、購入を確定させていたのは、フィリピンのコールセンターに配置された数百人の業務委託スタッフだったと当局は主張しています。
しかも当局は、この事実が投資家だけでなく、Nateの多くの社員にも伏せられていたとしています。
2025年4月9日、SECが民事で提訴し、同じ日にニューヨーク南部地区連邦検察が創業者のアルベルト・サニガー氏を証券詐欺と電信詐欺の2つの罪で起訴しました(参照:米司法省 ニューヨーク南部地区の発表、SECの訴訟リリース)。それぞれ最長20年の禁錮刑が定められた罪です(参照:TechCrunch、Fortune)。


なぜ失敗したのか

  • 「AIがやっている」という説明の裏側を、出資や導入の前に技術的に検証する手立てが用意されていなかった

  • 自動化率という最も重要な数字が、社外にも社内にも共有されていなかった

  • 人が代行しても利用者から見える結果は同じで、外側からは違いが分からない仕組みだった

  • AIブームのなかで「AI企業であること」が資金調達の前提のようになり、誇張する動機が強く働いた

  • 「魔法のように動く」といった感覚的な言葉が、性能を示す数値の代わりに使われていた


企業はどう対応したのか

Nateという会社自体はすでに事業を終えており、企業としての釈明や再建はありません。責任を問われたのは経営者個人でした。
当時のニューヨーク南部地区連邦検事代理マシュー・ポドルスキー氏は、起訴にあたり「サニガー氏はAI技術の将来性と魅力を利用し、実在しないイノベーションについて偽りの物語を作り上げ、投資家を欺いた」と述べています。
さらに「この種の欺瞞は無実の投資家を犠牲にするだけでなく、正当なスタートアップから資金を奪い、投資家に本物の技術革新まで疑わせ、最終的にAIの発展そのものを妨げる」とも指摘しました(参照:米司法省 ニューヨーク南部地区の発表)。
サニガー氏本人については、法律事務所Quinn Emanuelの解説記事によれば、その後有罪を認め、禁錮1年1日の判決を受けたとされています(参照:Quinn Emanuelの解説)。
この事件は「AIウォッシング(AI活用の誇張)」をめぐる初の刑事訴追として位置づけられ、複数の大手法律事務所が企業向けに警告を出しました(参照:DLA Piperの解説)。
そして取り締まりは一過性では終わっていません。2026年8月時点でも、米連邦取引委員会(FTC)がAIの誇大表示を摘発する「Operation AI Comply」の取り組みを継続していると報告されています(参照:Holland & Knightの解説)。


この事例から学べること

  • 「AI搭載」は性能の説明ではなく、マーケティングの表現として使われることがある

  • 利用者から見た結果が同じなら、AIが動いていても人が動いていても、外からは区別できない

  • 確認すべきは「AIを使っているか」ではなく「どの工程を、どれくらいの割合で自動化できているか」である

  • 社内の多くの社員すら実態を知らない場合があり、担当者の説明が実態と一致するとは限らない

  • AIに関する誇張は、もはや評判の問題では済まず、刑事責任の対象になりうる

  • 一社の誇張は業界全体への不信を招き、真面目にAIを開発している会社まで疑われることになる


今日から実践できる対策

  • 商談で「自動化率は何%ですか」「残りの工程は誰がやるのですか」と、必ず数字で聞く

  • 「どのモデルが、どの工程を、どんな入力に対して処理するのか」を説明できるベンダーかを確認する

  • 口頭の回答で終わらせず、性能の前提条件を提案書や契約書に書き残してもらう

  • デモ環境ではなく、自社の実データと繁忙期に近い条件でトライアルを行い、処理時間のばらつきを見る

  • 人手による代行が入ること自体は悪ではないので、それが正直に開示されているかどうかで判断する

  • 自社が社外に「AI活用」と説明する際も、実態と表現がずれていないか広報・法務で点検する


まとめ

「AIが自動でやってくれる」という説明を信じた投資家の4,200万ドルの先にいたのは、フィリピンで手作業を続ける数百人でした。原因は技術の失敗ではなく、AIという言葉が性能の説明ではなく期待の演出に使われたことです。買う側にできる最も確実な対策は、「AIですか」ではなく「自動化率は何%ですか」と数字で聞くこと。今日の商談から使える、たったひと言の確認方法です。


関連キーワード

Nate, ネイト, アルベルト・サニガー, AI失敗事例, AIウォッシング, AI washing, 誇大広告, 証券詐欺, 米司法省, SEC, FTC, Operation AI Comply, AIベンダー選定, 自動化率, ヒューマン・イン・ザ・ループ, AIガバナンス, AI導入リスク, DX失敗事例, ビジネスAI活用, AIリテラシー, スタートアップ, デューデリジェンス, AI調達, ベンダー評価
#生成AI #AI失敗事例 #AIウォッシング #AI導入 #DX失敗事例 #AIガバナンス #AIリテラシー #スタートアップ #ベンダー選定


いいなと思ったら応援しよう！

この記事は noteマネー にピックアップされました

noteマネーのバナー