88ドルで誰でも詐欺師に？Googleが「Gemini悪用組織」を提訴した衝撃の内幕
公開日：
※当サイトはアフィリエイトプログラムを利用しています。
「Geminiに頼めば、フィッシングサイトが数分で完成してしまう」そんな事実が、Googleの提訴によって明らかとなりました。
2026年6月、Googleは中国を拠点とするサイバー犯罪組織「Outsider Enterprise」を相手に、ニューヨーク州南部地区の連邦地方裁判所へ提訴に踏み切りました。
自社の生成AI「Gemini」が悪用されたことを理由にした、Google史上初めての法的措置です。
被害総額は約19億ドル（日本円で約3,000億円近く）。わずか5カ月で159万件以上の偽URLが量産され、たった2週間で250万通超の詐欺SMSが送信されていたといいます。
しかも、このシステムはわずか週88ドルのサブスクリプションで誰でも利用できたのです。
今回は、Googleの訴状やGoogleブログの内容をもとに、犯罪組織がどのようにAIを悪用していたのか、その生々しい証拠と背景を一緒に見ていきましょう。
Googleが犯罪組織を提訴した主な目的
Googleの公式ブログ（2026年6月12日付、法務顧問ハリマ・デレイン＝プラド氏の署名記事）より。
Googleは、自社の生成AI「Gemini」を悪用して大規模なフィッシング詐欺を展開していた、中国を拠点とするサイバー犯罪組織「Outsider Enterprise」をニューヨーク州南部地区の連邦地方裁判所に提訴しました。
Googleが「Geminiの悪用」を理由に法的手段に出たのは、今回が初めて。
GoogleはFBIや、米通信大手のAT&T、T-Mobile、Verizonらと初めて本格的に連携し、犯罪組織のインフラ解体や差し止め命令を求めて動いています。
今回の提訴の主目的は、Geminiを悪用してフィッシングしていた犯罪組織のインフラ解体、および今後のAI犯罪に対抗するための法整備への働きかけにあります。
共同防衛の体制
AIを用いた巧妙な攻撃に対抗するため、Google単独ではなく、官民が緊密に連携した共同防衛体制を敷いています。
FBI（米連邦捜査局）のサイバー部門と密に連携し、法執行措置を執行。
米大手のAT&T、T-Mobile、Verizonの3社と協調。ユーザーのスマートフォンに詐欺SMSが届く前に、ネットワーク上でブロックする仕組みを強化。
法整備への働きかけ
Googleは、現在の法律が「AIを悪用した高速・大量のサイバー犯罪」を想定しきれていない点を指摘。
テクノロジーによる防御だけでなく、法改正による恒久的な対策を求めており、米国議会の超党派による7つの法案への支持を表明しました。
主な法案は、国家詐欺対策戦略法案、高齢者詐欺防止法案、AI計画法案、国際サイバー詐欺取り締まり法案など。
Google自体のAIによる防御策
敵のAIに対抗するため、Google側もAIを活用したセキュリティ機能を強化しています。
Androidに搭載された「リアルタイム通話スクリーニング（Scam Detection）」機能により、通話中の不審な会話パターンを検知してユーザーに警告。
メッセージングアプリの防御壁により、現在毎月100億件以上の悪意あるメッセージを自動遮断しているとのことです。
AI悪用組織を追い詰める
テック企業、通信キャリア、連邦捜査機関、そして国会議員が一つのチームとして国際犯罪組織のインフラを潰しにかかるという、サイバーセキュリティの新しい戦い方を提示した内容になっています。
Googleの法務顧問（ハリマ・デレイン＝プラド氏）は、「自社の技術とブランドを守り、この詐欺の深刻さに歯止めをかけるため、初めてこのような組織的アクションに踏み切った」とコメント。
テック企業と国家の捜査機関が本格的にタッグを組んで「AI悪用組織」を追い詰める、象徴的な前例となりました。
事件の概要
この犯罪組織はいわゆるトクリュウ（匿名・流動型犯罪グループ）の形態をとり、メッセージアプリ「Telegram」などを通じて連携・ツール共有していました。
中国を拠点とし、Telegramを通じて連携するこのネットワークは、犯罪者がGoogleなどの信頼できるブランドからのものに見せかけた、偽のテキストメッセージを大量に送信できるフィッシングキットを配布しています。
Geminiを悪用し、GoogleやYouTubeなどの民間企業だけでなく、米国郵政公社やニューヨーク州の道路料金システムといった政府・公的機関を装った精巧なフィッシングサイトを短期間で構築していました。
驚異的なスピードと甚大な被害規模
わずか5カ月の間に159万件以上の偽URLを量産。
さらに、たった2週間のうちに250万通を超える詐欺メッセージをアメリカ国内などに送信していました。
被害の規模
FBIのサイバー部門との共同データ分析によると、この「Outsider Enterprise」のプラットフォームが稼働し始めた2023年7月以降、蓄積された被害総額は約19億ドル（日本円で約3,000億円近く）に達するとされています。
システムを通じて、世界中で少なくとも387万枚以上のクレジットカード・デビットカード等の決済情報がリアルタイムに盗み取られていました。
彼らがAI（Gemini等）を本格悪用する前の初期バージョンの段階でも、すでに世界95カ国、100以上の金融機関が発行した少なくとも3万6,000枚の決済カード情報が盗まれていたことが訴状で裏付けられています。
AI量産による攻撃の速度
AIを組み込んだことで、彼らの攻撃スピードは人間の手作業では不可能なレベルに跳ね上がりました。
組織に関連する偽サイトは9,000件以上、不正URLは150万件を超えています。
また、2026年5月のわずか2週間の間に、アメリカ国内のAndroidユーザーに向けて250万通以上の詐欺SMS（荷物の追跡連絡や、アカウント停止の警告など）を一斉送信。
この2週間の間に、AndroidユーザーからGoogleへ届いたスパム報告だけでも5万5,000件に上り、これは「1分間に2件以上」のペースで通報が鳴り止まなかった計算になるのです。
なぜこれほどの規模になったのか？
訴状では、この組織が「週88ドル」のサブスクでツールを横流しするだけでなく、内部が完全に分業化されていたことも暴露されています。
開発・テンプレート保守チーム
AIを使ってフィッシングキットや偽サイトのコードを常にアップデートする、システム管理する部隊
名簿・ターゲット調達チーム
去のデータ流出事件、SNS、公開の公的記録などから、カモリストを収集・分類して供給する部隊
インフラ・送信チーム
大量のSIMカードやモデムを物理的に運用し、キャリアの検知をかいくぐりながらSMSを爆撃送信する部隊
これほど組織化された仕組みに、生成AIの高速開発力が加わったため、短期間で3,000億円規模もの被害を叩き出すモンスター級の犯罪インフラへと膨れ上がってしまったのです。
犯罪組織がAIどのように悪用したのか
ここでは、Googleによる訴状に証拠資料（Exhibit）として添付されている証拠画像二枚から、犯罪組織がAIどのように悪用したのか、その一端を覗いてみます。
訴状から抜粋した二枚の画像の解説はGeminiに頼みました。
訴状の内容はウエブにアクセスしても日本語に翻訳されないのと、二枚の画像は文字が細かく拡大しても全然読めないから。特に、こういったコードや数字はAIの得意分野ですからね。
他にも複数枚の証拠画像が訴状に掲載されていましたが、象徴的な画像を選びました。
Gemini 2.5 Flashの画面からわかること
ブラウザのタブや左上のロゴから、Googleの「Gemini（Gemini 2.5 Flash）」のチャット画面そのものであることが確認できます。
Googleは自社のサービスがどのように使われたかのログ（または犯行グループのPCから押収した画面）をそのまま証拠として提出しています。
Geminiへの具体的な指示
画面下部のプロンプト入力欄には、英語で以下のような非常に細かく具体的な指示が書き込まれています。
「同じスタイルで商品交換ページを生成し続けてください。6つの商品が必要で、そのうち5つはポイントが足りなくて交換できない仕様にしてください」
「JS（JavaScript）コードは使わず、ページの外観をよりゴージャスで美しくしてください」
「実装にはインラインCSSを使用してください。インラインCSSで実装できない部分に限り、idセレクタやクラスセレクタの使用を許可します。要素のidやクラスにはランダムでユニークな値を生成してください」
出力されているHTML/CSSコード
プロンプトの指示通り、Geminiがフィッシング詐欺サイトの骨組みとなるHTMLと、見た目を整えるためのCSSコード（@keyframes fadeIn や、flexbox を使ったフォームの配置、font-family: "Segoe UI", Tahoma... など）を綺麗に出力してしまっている様子が写っています。
タグの属性（id="uid-form-container-1a2b3c" など）を見ると、セキュリティ検知（シグネチャ検知）を回避するために、ランダムな文字列（ユニーク値）を生成させている意図が読み取れます。
手動でコードを組むとなると、スマートフォンの画面に最適化させたり、見栄えを良くしたり、検知を回避するためのランダムなIDを振ったりするのに、それなりの知識と時間がかかります。
しかし、この画像のように、Geminiに自然言語で指示を出すだけで、一瞬にして綺麗で高度なフィッシングサイトのパーツが完成してしまうのです。
専用管理パネルの証拠画面の存在
犯罪組織「Outsider Enterprise」がフィッシング詐欺サイトを量産・管理するために構築・運用していた専用管理パネルの証拠画面です。
先ほどのGeminiの画面と対になるもので、AIに作らせたパーツやコードがどのように組み込まれ、キットとしてパッケージ化されていたのかが克明に写っています。
犯行グループのブランドロゴとシステム名
画面左上には、マフィアのような不気味なアイコンと共に「Outsider」という組織のブランド名がはっきりと掲げられています。
その下には「Backend Synchronization Management System（バックエンド同期管理システム）」と書かれており、彼らがこれを「商品」として他の犯罪者に提供していた裏付けになります。
左側のメニューには、フロントエンド管理、テンプレート管理、アクセス記録、システムログなどが並んでいます。
巧妙化されたコンポーネント・ライブラリ
画面左側のメニューには、詐欺サイトに必要な機能パーツがシステム化されて並んでいます。
銀行カード検証、暗証番号やパスワード検証、QRコード検証、メール検証、SMS検証、ログイン認証など、被害者から情報を抜き取るための「罠パーツ」がモジュール化されており、クリック一つで簡単に組み込めるようになっています。
モジュールとは「決済処理」「データ暗号化」「認証処理」など、特定の完結した機能や割ごとにシステムを切り離すことに主眼を置いた設計。
モバイルに最適化されたプレビュー画面
中央には「iPhone 15 Pro」での表示をシミュレートしたフィッシングサイトのプレビューが写っています。
画面を見ると、ロサンゼルスの公的機関を騙ったようなデザインになっており、「Points Redemption Mall（ポイント交換モール）」「Current Points: 1200」と表示されています。
上記の画像でGeminiに指示していた「商品交換ページ（gift redemption page）」の指示内容と完全に一致しており、AIに作らせたコードがそのままこの管理画面のテンプレートに流用されていることが一目で分かります。
HTMLソースコード
画面右側には、このプレビューを構成する生のHTML/CSSコードが表示されています。
html lang="zh-CN（中国語）の指定や、フォント指定（font-family: Arial, sans-serif）、細かなスタイル調整が施されているのが見えます。
この二枚のスクショだけでも、Geminiに自然言語で「ポイント交換サイトのコードを作って」と命じ、出力された高度なコードをこの「Outsider」の管理システムに組み込んで、瞬時に大量の偽サイトを自動生成していたという、サイバー犯罪ファクトリーが証明されます。
Googleがこれほど生々しいバックエンドシステムやAI悪用のログを押さえ、裁判所に提出したからこそ、今回の本格的なインフラ解体作戦に繋がったのだと言えますね。
なぜGeminiは詐欺サイトのコードを出力してしまったのか
例えば、AIに向かってストレートに「フィッシング詐欺サイトを作って」「パスワードを盗むコードを書いて」と入力しても、「私は安全で倫理的なAIアシスタントであり、詐欺行為やサイバー攻撃を助長するコードの生成はできません」といった感じでブロックされます。
では、なぜ今回の事件ではGeminiがコードを出力してしまったのかというと、犯行グループがプログラミングの手伝いをする善良な開発者に上手く化けた指示文を使っていたから。
訴状から明らかになった、彼らがAIのセーフティをすり抜けた具体的な手口は以下の通り。
コンテキスト（文脈）の偽装
彼らは「詐欺サイト」という言葉を一切使わず、「ポイント交換ページ」という、ECサイトや公式サービスでごく一般的に使われるプログラムの開発を手伝ってほしい、という文脈で指示を出していました。
AI側からは、これが正規のWeb開発なのか、詐欺のパーツなのかを100%見分けることができません。
デザインと裏の機能の分離
Geminiに作らせていたのは、あくまで見た目を綺麗にするためのHTML/CSSです。
「インラインCSSを使ってゴージャスにして」「スマホで見やすくして」といったデザインの指示に終始しており、実際に情報を盗み取る邪悪なシステムの構築はAIに要求していません。
AIに作らせた綺麗なデザインを自分たちの専用管理パネルに持ち帰り、そこに上で解説した「情報を盗むモジュール」をカチッと組み込むことで、初めてフィッシングサイトとして完成させていたというわけ。
正規の最適化テクニックを悪用
プロンプトにあった「要素のidやクラスにランダムでユニークな値を生成して」という指示も、Web開発の世界では「ページ内のIDの重複を避ける」「動的に要素を管理する」といった目的で日常的に使われる実装テクニックです。
AIはこれを「質の高いコードを書くための、技術的に優れた指示」と解釈して応じましたが、犯人側の真の狙いは「セキュリティソフトのシグネチャ検知をかいくぐるため」でした。
このように、ストレートな悪意はAIに弾かれるため、彼らは一見すると完全に合法で、技術的にも筋が通っている開発依頼にプロンプトを高度にカモフラージュしていたんですね。
今回の事件を受けて、Googleをはじめとするテック企業は悪意のある使われ方のパターンをさらに学習させ、単に言葉を拒否するだけでなく、出力されたコードが最終的にどう悪用され得るかまで予測してブロックする、AI防御壁の強化を急いでいます。
フィッシング詐欺以外の痕跡
今回の訴状では、Googleが直接の訴因として激しく追及しているのは、フィッシング詐欺とそれに付随するデータ・金銭の窃盗、およびインフラの不正利用が中心です。
ただ、やはりフィッシングの枠に収まらない、いくつかの痕跡や手口が暴露されています。
不正アクセス
彼らが構築したシステムは、単にクレジットカード番号を盗むだけでなく、リアルタイムで二段階認証コードやキーボードの入力履歴を盗み取る機能がありました。
訴状では、これによって盗まれたアカウント情報が二次利用されていた形跡が指摘されています。
資産洗浄に使う
デジタルウォレットへの登録
盗んだカード情報をApple Payなどのデジタルウォレットに不正に登録し、高級品の購入や資金洗浄する。
株価の不正操作
被害者の証券口座に不正ログインし、特定の銘柄を勝手に買い漁ることで仕手株のように株価を吊り上げ、犯人グループが事前に仕込んでいた株を高値で売り抜けて利益を得る。
株価の不正操作については、こちらで解説しています。
新NISA世代を狙う【証券口座乗っ取り】の恐怖とその防衛策
Googleへの内部侵入や悪用
犯人グループは、Geminiを悪用しただけでなく、Google DriveやGoogle Cloudの正規インフラ内に、フィッシングサイトを設置していた痕跡が確認されています。
これは、セキュリティシステムがGoogle公式のドメインを安全だと信頼してスルーしてしまう盲点を突いた非常に悪質な手口。
Google側にとっては、自社のクラウドシステムそのものを犯罪の片棒を担ぐ踏み台として悪用された形跡となりました。
正規ECプラットフォームでの実機テスト
FBIやLumen社のBlack Lotus Labsによる共同捜査の過程で、この組織が大規模なECプラットフォーム「Shopify」上に多数の偽の出店を構築していた痕跡が発見され、これらはすでに差し押さえられています。
彼らはこれらの店舗を、一般ユーザーを騙すためだけでなく、自分たちが開発した「Outsider」という詐欺キットが、キャリアや決済会社の検知システムに引っかからずに決済カード情報を正しく吸い上げられるかどうかを試す、テスト環境として利用していたことが判明。
週88ドルで誰でもフィッシングサイトを量産
この訴状から見えるのは、AIを使えば短時間でフィッシング用のウエブサイトを誰でも簡単に作成できること。
これまでもAIを悪用した詐欺の記事を書いてきましたが、Googleが提訴したことで、より可視化されたと思います。
この事例だと週88ドル（日本円で約1万4000円）、月200ドル（日本円で約3万2000円）という、誰もが気軽に手を出せるほど低価格なサブスクリプションで、高度な犯罪システムが貸し出されている点。
そして誰でも簡単に、サイバー犯罪に手を染められる環境が確立されていることを示しています。
知識ゼロでもトップクラスのサイバー犯罪者に
これまでは、セキュリティ検知をかいくぐるフィッシングサイトを作るには、HTML/CSSのコーディング能力、サーバーの知識、そしてAIに適切な指示を出す高度なスキルが必要でした。
しかし、「Outsider」のような組織がその面倒な部分、AIを使ったサイト生成やカード・SMS・QRコードを盗むための各種モジュール化をすべて裏側でシステム化してくれています。
利用者はただ週88ドルを支払って、管理画面をカチカチとクリックするだけで、プロ並みのフィッシングサイトを数分で量産できるようになってしまいました。
サイバー犯罪への参入障壁が完全に崩壊していることになるのです。
開発者と実行犯の完全な分業化
週88ドルのサブスクモデルのおかげで、ツールを開発する側と、実際にSMSを大量に送って人を騙す側が完全に切り離されました。
開発側はリスクを冒してターゲットを騙す必要はなく、AIを使って「より騙しやすいパーツ」や「対策されにくいシステム」を開発・アップデートし、サブスク代金だけで安全に大儲けする。
実行側は開発の手間を一切かけず、週88ドルという「経費」だけを払い、名簿に向けて詐欺SMSを爆撃送信して、引っかかった被害者から効率よく現金を吸い上げる。
テック企業の効率化をトレースした悪魔のビジネス
私たちが日頃利用している動画配信サービスやクラウドソフトと同じ仕組みを、彼らは詐欺ツールで実現しています。
「安価な定額制でユーザー（犯罪者）を大量に集め、集まった資金でさらに強力なAIシステムやモジュールを開発してアップデートする」という悪循環が完成しているのです。
Googleが今回、FBIや大手通信キャリアを巻き込んで、提訴という極めて異例の強硬手段に出たのは、週88ドルで誰でも凶悪な武器を手に入れられるインフラを叩き潰さなければという、強い危機感があったからに他なりませんね。
AI時代のサイバー犯罪にどう立ち向かうか
今回のGoogleとFBIによる共同作戦は、単なる一犯罪組織の摘発に留まらず、テクノロジーの進化がもたらした、犯罪の高速化や民主化に対する国際社会の本格的な宣戦布告と言えます。
去年辺りは「AIの民主化」といった言葉を耳にしていましたが、民主化は犯罪の中でも同時に起きているというのがよくわかる事例だったのではないでしょうか。
仕掛ける側がAIをフル活用してくる以上、私たちを守る防壁もまた、AIによるリアルタイム検知や官民が連携したインフラの遮断といった、新しい時代のセキュリティへシフトしていく必要があります。
最新の手口を正しく知り、システムによる防衛策を過信せず、常に一歩立ち止まって確認する姿勢が求められています。
あわせて読みたい
「返信したら最後」AIが戦術を変える新世代フィッシング。自律型エージェントの脅威と対策
AI詐欺に騙されないための新常識！24時間あなたを守るデジタル・ガードマン【AIにはAIで】
【AIボイスクローン詐欺】の恐怖 なぜ「声」だけであなたは騙されるのか？
【ScamAgent】とは？AIが世界一の詐欺師になるかもしれない
見破れる？AIが仕掛ける最新フィッシング詐欺 脅威の裏側と対策