SNSに氾濫するAI偽画像——その実態と対策

問題の規模

AI画像生成ツールは現在、全ツール合算で1日あたり約8000万枚の画像を生成しており、 月間利用者は1億5000万人を超えます。²その全てが悪意あるコンテンツではありませんが、この量は 誤解を招く少数の投稿でさえ毎日何百万もの件数としてフィードに流れ込むことを意味します。

実在の人物を描写したAI加工メディア（ディープフェイク）だけに絞っても、 オンライン上での拡散件数は2023年の約50万件から 2025年には推定800万件へと2年間で約900%増加しています。³人間がAI生成画像を正しく見分けられる精度は38%まで低下しており、 これは偶然より低い数字です。 ディープフェイク動画の判定精度はさらに低く、約24.5%にとどまります。⁴

訂正より速く拡散する理由

偽の画像が本物より速く広まる要因は主に3つあります。

1つ目はアルゴリズムの設計です。 プラットフォームはエンゲージメントを優先し、正確さは優先しません。 衝撃的な画像は誰かが真偽を確認する前に拡散します。 偽コンテンツはまさにその反応を引き出すように作られています。

2つ目は認知的なギャップです。 偽コンテンツを共有している人の多くは、それが偽物だと気づいていません。 精度が偶然以下に落ちると、「なんか変だな」という直感が機能しなくなります。

3つ目は検証ツールのスピードです。 ファクトチェッカーが調査するには時間がかかります。 選挙3日前に公開された動画は、訂正情報が同じ視聴者に届くよりも先に 数百万人に影響を与えてしまいます。 Metaが2025年1月に独立系ファクトチェッカーとの提携を終了したことで、 最も速い修正の仕組みのひとつが失われました。

実際に何が拡散しているのか

政治コンテンツが最も目に見えるカテゴリです。 アイルランドの2025年選挙では、国営放送が選挙中止を「報道する」 フェイク映像が削除前に数千件シェアされました。¹オランダでは約400枚のAI生成画像が政治家への攻撃に使われました。 米国では2026年初頭、大手政治委員会が民主党の上院候補者の ディープフェイク動画を公開しています。⁵

政治以外でも、AI生成画像はロマンス詐欺のプロフィール写真、 偽のレビューアカウント、スパムファームに日常的に使われています。 CNNは2026年3月、架空の戦争場面を描いたAI生成画像が 投稿から数時間のうちにSNS上で広く拡散したことを記録しています。⁶研究者はこれを「AIスロップ」と呼んでいます。 広告収入目的で大量生成・投稿される低品質なAIコンテンツです。

プラットフォームの取り組み

プラットフォームの対応は改善されてきましたが、まだムラがあります。 TikTokは2025年1月にC2PAコンテンツ認証を統合し、 主要プラットフォームで初めてAIコンテンツを自動検出・ラベリングする仕組みを導入しました。 2026年第1四半期には合成メディアポリシーのもとで230万本の動画を削除しており、 前年同期比180%増です。⁷

YouTubeは2025年初めからAI開示ラベルを義務付けています。 MetaはAI生成を示すシグナルを検出した場合、 コンテンツに「AIで作成」とラベルを付けます。 EUのAI法第50条は実在の人物を描写するAI生成コンテンツへの表示義務を定めており、 2026年8月から施行されます。

こうしたポリシーの限界は現実にあります。 ラベリングにはAI生成を検出できることが前提です。 最新世代のジェネレーターに対する検出精度が18%まで低下している現状では、⁸執行の抜け穴は至るところに存在します。

シェアする前にできること

怪しい画像を確認するのに1分もかかりません。 手間の少ない順に並べると、次のようになります。

• 逆画像検索をかける。Google ImagesやTinEyeに画像をアップロードし、日付で絞り込んで 最も古いインデックスを探してください。 ストックフォトや別の文脈で同じ画像が見つかれば答えは明らかです。
• 発信源を確認する。APやロイターなど信頼できる通信社が最初に出した画像かどうかを確認しましょう。 フォロワーが少なく投稿履歴もない新しいアカウントから出ている場合は要注意です。
• 細部を拡大して見る。手・歯・背景に映るテキスト・髪と肌の境界部分を200〜400%に拡大してみましょう。 AIモデルがまだ苦手としている箇所です。
• 検出ツールを使う。Maat ScanなどのAI画像検出ツールは、アップロードされた写真を 複数のシグナルで分析して信頼度スコアを返します。 完璧なツールはありませんが、スコアが低い場合はシェアする前に立ち止まる価値があります。
• 感情を揺さぶるコンテンツほど慎重に。最も説得力があるフェイクは感情的に強い反応を引き出します。 すぐにシェアしたくなった画像は、作成者がまさにその反応を狙っている可能性があります。