学習データと同意——AI画像生成に潜む倫理問題

学習データセットの中身

LAION-5Bは画像の保管庫ではありません。 約58億5000万件の画像URLと、その隣にあったキャプションを組にしただけのリストです。 素材はCommon Crawl、つまり大規模データセットの出発点として広く使われている ウェブの公開スナップショットから集められました。 これを構築したドイツの非営利団体LAIONは、自らのデータセットが 「リンクとメタデータのみ」で構成され、画像そのものを配布したことは一度もないと明言しています。²学習に使う側は、画像を今も置かれている場所から各自取得します。

この構造が、この先の話すべてを規定します。 リンクのリストは公開するのが安く、人の目で中身を点検するのはほぼ不可能です。 LAION自身も人手のレビューではなく別のモデルによるフィルタで選別しています。 50億件を読める人間はいないからです。 そして違法なものや私的なものが見つかったとき、公開者に取れる手当ては行を1つ消すことだけ。 ホストされている画像にも、他の研究機関が抱える派生コピーにも、 すでに学習を終えたモデルにも、その削除は届きません。

ここには議論全体を色づける皮肉があります。 LAIONの中身がわかるのは、LAIONが公開されているからです。 Midjourney、Adobe Firefly、グーグルやOpenAIの画像モデルが使ったデータセットは公開されておらず、 社外の誰も、あの研究者がやった検索を実行できません。 LAIONが批判を集めるのは、証拠をもって批判できる唯一の対象だからです。

誰も求められなかった同意

2022年9月、Lapineという名で活動するデジタルアーティストが、 LAIONを検索できるツール「Have I Been Trained」に自分の顔写真を入れました。 返ってきたのは、自分の顔の医療用ビフォーアフター写真でした。 主治医が撮影し、私的な医療目的に限るという同意書のもとで扱われていたはずの画像です。 Ars Technicaはこれらがデータセットに参照されていることを確認し、 同種の患者記録写真が数千枚含まれていたと報じました。⁴

子どもの写真も性質は同じでした。 公開範囲を制限していたページから拾われたものや、 家族ではない第三者が投稿したものが多数を占めます。 学校、スポーツクラブ、地域のニュースサイト。¹2023年12月には、スタンフォード・インターネット・オブザバトリーの研究者が 同じデータセットに児童性的虐待素材へのリンクが含まれていると報告しました。³LAIONはデータセットを一時公開停止し、2024年8月30日に改訂版Re-LAION-5Bを公開。 Internet Watch Foundation、カナダ児童保護センター、スタンフォードと協力して 2,236件のリンクを削除し、ヒューマン・ライツ・ウォッチからの削除要請も反映しました。²

これらの事例をつないでいるのは悪意ではありません。 業界全体が土台にしていながら、誰も根拠を論じていない前提です。 HTTPリクエストで取得できる画像は、利用可能である、という前提。 この考え方は検索エンジンから引き継がれました。 検索エンジンがページを複製するのは、読者をそのページへ送り返すためです。 一方、生成モデルがページを複製するのは、そのページを訪れる必要をなくすためです。 約束の内容が違う。そして後者の約束は、誰にも提示されていません。

「私の写真が使われた」と「私の顔が使われた」は別の話

この区別がほぼすべての訴訟の帰趨を決めます。 そして、学習データ訴訟の報道を読んだ人が 「どれも自分の話ではない」と気づく理由もここにあります。 写真の著作権は撮影者に属します。 他人が撮った写真なら、どれほど自分がはっきり写っていても、 その写真が学習に使われたことへの著作権上の請求権はありません。 大型の画像訴訟の原告がアーティストとストックフォト会社ばかりなのは、このためです。 彼らは写真を所有している。写真に写っている人は、何も所有していない。

第二の経路は肖像の権利です。 米国のパブリシティ権や日本の肖像権は、人の外見を一定の利用から守ります。 ただし通常は、出力に特定可能な人物が現れていることを要件とし、 入力に含まれていただけでは足りません。 何十億枚のなかで数回あなたの顔を見た拡散モデルは、あなたを描いてはいません。 人間の顔の振る舞いについて統計的な何かを吸収しただけです。 その仕組みはAI画像生成の仕組みで詳しく追いました。

第三の経路が生体情報法です。 人々が実際に抱く不満、つまり「測定可能なものとしての私の顔が機械に処理された」に 最も近い主張でありながら、現実には必要以上に通りません。理由は後述します。 結果として、議論の中心にはずれが残ります。 人が語る被害は、自分の顔、自分の体、自分の子どもについてのもの。 実効性のある法律が扱うのは、著作者性と所有権についてのものです。

法律は実際に何と言っているか

2025年11月4日、イングランド・ウェールズ高等法院が 生成AIの学習に関する欧米で最初の本格的な判決を下し、ゲッティイメージズはほぼ敗訴しました。 ゲッティは自社の画像約1,200万枚がLAION-5B経由でスクレイピングされ、 Stable Diffusionの学習に使われたと主張していました。 判決時点で主たる学習に関する請求は取り下げられており、 理由のひとつは学習自体が英国内で行われていなかったことです。 裁判所はStable Diffusionが著作物を保存も複製もしていないと認定しました。 残ったのは初期モデルの出力にゲッティの透かしが現れた商標上の狭い認定のみで、 裁判官はこれを「歴史的で、範囲がきわめて限定的」と表現しています。⁵

米国での試金石は3週間後に迫っています。 2023年1月に提起され、現在はStability AI、Midjourney、DeviantArt、Runway AIを 被告とするAndersen対Stability AI訴訟は、 2023年10月に直接侵害の主張について却下を免れ、2026年9月8日に陪審審理が始まります。⁶ただし陪審が判断するのは著作物の複製についてであり、 写っている人の同意についてではありません。

日本はこの問いを何年も前に、許容的な方向で決着させました。 著作権法第30条の4は、表現を享受する目的以外での著作物の利用を認めており、 文化庁はこれを通常の機械学習に及ぶものと読んでいます。⁷肖像権は著作権法の外にあり、いまも判例の積み重ねに依っています。この点は生成AI時代の肖像権で検討しました。

欧州は同意ではなく透明性を選びました。 2025年8月2日以降、汎用AIモデルの提供者は、 欧州委員会が2025年7月24日に公表したテンプレートを使って 学習コンテンツの要約を公開しなければなりません。 AI Officeは遵守状況を検証する権限を2026年8月2日に得ました。⁸カリフォルニア州は同じ発想を小さく実装しました。 AB 2013は2026年1月1日に施行され、 州内の利用者に提供される生成AIの開発者に対し、 個人情報が含まれるかどうかを含む学習データの概要公開を義務付けています。 ただし違反への罰則は条文に書かれていません。⁹

GDPRの下での論点は、スクレイピングにそもそも適法根拠があるのかという点です。 欧州データ保護会議（EDPB）は2024年12月17日の意見書で、 正当な利益を根拠として使える可能性を認めつつ、 学習済みモデルを匿名と呼ぶための水準を高く置きました。 学習データに含まれる人物の個人データを出力できるモデルは匿名ではない、という線引きです。¹⁰2026年7月7日に採択された生成AIのウェブスクレイピングに関するガイドライン草案は、 さらに踏み込んで厳しいことを明言します。 大規模なスクレイピングにおいて同意は機能する根拠にならない。 したがって正当な利益しか道はなく、その三段階テストでは robots.txt、ログイン制限、CAPTCHAが 「人々が何を合理的に期待していたか」の証拠として扱われます。¹¹学習用画像についての同意制度を構築している法域はひとつもありません。 50億件規模で構築できる制度ではないからです。 各国がつくっているのは開示制度で、開示が圧力を生むことに賭けています。

生体情報としての主張が通りにくい理由

米国で最も強力な生体情報保護法はイリノイ州のBIPAです。 民間事業者が顔の形状スキャンを取得する前に書面による説明と同意を要求し、 個人に訴権を与え、過失1,000ドル、故意または重過失5,000ドルの法定賠償を定めています。 顔データ企業に対する同意ベースの大型勝訴は、この法律から1件だけ出ました。 数十億枚のオンライン写真をスクレイピングしていたClearview AIは、 イリノイ州のクラスアクションで会社株式23%という異例の形で和解し、 裁判所はその価値を約5,175万ドルと算定、2025年3月に最終承認されました。 あわせてイリノイ州民向けのオプトアウト窓口と削除義務も課されています。¹²

ただしClearviewがやっていたのは顔認識です。画像生成モデルは違います。 そこから3つの壁が生まれます。第一は地理の壁。 IBMが顔認識の偏りを研究するために集めた100万枚のFlickr写真「Diversity in Faces」をめぐり、 イリノイ州民がマイクロソフトとアマゾンを訴えた事件では、 2022年10月、問題の行為がイリノイ州内で「主としてかつ実質的に」行われていないとして サマリージャッジメントで決着しました。本案の判断には入っていません。¹³

第二は定義の壁で、これが本当の抜け道です。 BIPAが対象とするのは顔の形状スキャン。 GDPR第9条が生体データを対象とするのは、 自然人を一意に識別する目的で処理される場合に限られます。 顔写真で拡散モデルを学習させる行為は識別ではありません。 誰もあなたを何かと照合していない。 監視を抑えるために書かれた目的要件が、生成を免責してしまっています。

第三に、抑止力が削られました。 イリノイ州は2024年8月2日にBIPAを改正し、 同一の方法による反復取得を1回の違反とみなすことで、スキャン回数ごとの賠償理論を覆しました。¹⁴テキサス州にはCUBIという広い生体情報法があり、 2024年7月にはFacebookのタグ付け提案機能をめぐってMetaから14億ドルという、 州の司法長官が獲得したプライバシー関連で史上最高額の和解を引き出しました。 しかしCUBIには個人の訴権がありません。¹⁵執行は司法長官が動くかどうかに完全に依存します。

記録に残る最も鋭い反論はオランダから出ています。 2024年、オランダのデータ保護機関はClearviewのスクレイピングをGDPR第9条1項違反と認定し、 本人が「明白に公開した」データという例外の適用を退けました。 写真がネット上で見つかることは、本人がそれを公開する意思だったことを示さない。 まして第三者が投稿した場合はなおさらだ、という理由です。¹⁶この判断を顔認識データベースではなく学習データセットに適用すれば、 業界の相当部分が揺らぎます。そう適用した規制当局はまだありません。

オプトアウトは何に効き、何に効かないか

Spawning AIが作ったHave I Been Trainedでは、LAIONを検索して削除申請を登録できます。 2023年3月までに約8,000万点の作品についてオプトアウトが集まり、 Stability AIはStable Diffusion 3でそれを尊重すると表明しました。¹⁷これは実際の成果であり、同時にこの仕組みの上限でもあります。 LAIONが持っているのはリンクなので、削除とは行を1つ消すこと。 画像はネット上に残り、他のデータセットは自前のコピーを保持し、 学習を済ませたモデルは学んだものをすべて保持し続けます。

ネットワーク層での遮断にはもっと力があります。 2025年7月1日、Cloudflareは自社が前面に立つサイト、 つまり公開ウェブのおよそ5分の1について、AIクローラーを既定で遮断し始めました。¹⁸これが効くのは、お願いではなく強制だからです。 robots.txtはお願いにすぎません。 Cloudflareは2025年3月の1か月だけで、これを無視したクロールを2,600万件以上数えています。¹⁸

3つのなかで最も弱いのがプラットフォームのオプトアウトです。 Metaが2025年5月に欧州利用者の公開投稿での学習を再開したとき、 異議申立てにはフォームを探す必要があり、 他人が投稿したあなたの写真について異議を出すには、 さらに手間のかかる第二のフォームを見つけ、理由を書かなければなりませんでした。 noybは11か国で申立てを行い、この設計を同意の詐術と呼びました。¹⁹異議を本当に受け取りたい企業は、フォームを2つに分け、片方をもう片方の裏に置いたりしません。

3つに共通する欠陥は、UIをどう作り直しても消えません。 オプトアウトは将来に向けたものだという点です。 次回の学習には効きますが、すでに手元の端末に入っているモデルには効きません。 学習済みモデルに特定データだけを忘れさせる機械的アンラーニングの研究も、 信頼できる救済を生んでいません。 除去手法は痕跡を残し、ある忘却テストに合格したモデルが 別の探り方では同じ情報を漏らすことがあります。²⁰Re-LAIONで削除された2,236行の背後にいる人々にとって、削除はモデルより後に来ました。

アーティストでない人にも関係がある理由

学習データの問題は、たいてい創作者への対価の話として報じられます。 それは実在する論点ですが狭く、それ以外の人にとっての利害が落ちています。 モデルが顔を得意とするのは、数億枚の実在する顔のおかげです。 出てくるのは、特定の誰にも似ていないが、全員に少しだけ似ている顔。 マッチングアプリで他人として通る程度、 捏造されたニュース写真の中の目撃者として説得力を持つ程度には似ています。 この問題は存在しない人物のAI生成で追いました。 その能力を可能にした写真の主たちは、能力のコストの一部を負いながら、 そう言うための手段を持っていません。

読者ができること

この問題のほとんどは個人の手が届く範囲にありません。 そうでないふりをするのは不誠実です。いくつかは手が届きます。

• 自分を検索する。Have I Been TrainedはLAIONを対象にしており、 これはオープンな画像モデルの多くが使ったデータセットです。 見つかれば具体的な事実がわかります。 見つからなくてもわかることは少ない。非公開データセットは検索できないからです。
• 使える権利がある場所では使う。 EUと英国では、個人データを処理する管理者（モデル提供者を含む）に対して GDPRのアクセス、異議、消去の請求ができます。 日本の個人情報保護法にも開示請求と利用停止請求があります。 手続きは遅く、回答は物足りないことが多い。 それでも記録に残る請求が、規制当局が数える材料になります。
• 自分より先に第三者を見る。 ヒューマン・ライツ・ウォッチが見つけた子どもの写真は、 大半が家族自身の投稿ではありませんでした。 学校のページ、クラブ、勤務先の紹介欄、地域ニュースが最も多い入口であり、 どのプラットフォームよりも直接の依頼に応じてくれます。
• サイトを運営しているなら、ファイルで頼むのではなくネットワークで遮断する。 robots.txtは丁重な掲示にすぎず、1か月で2,600万件のクロールがそれを無視しました。

自社の立場についてもひとつ書いておきます。こういう記事では書くべきことです。 Maat Scanは人物写真を解析するサービスであり、 ここで述べてきた問題の当事者でもあります。 利用者がアップロードした画像を学習に使うことはなく、 無料スキャンの画像は当社サーバーに保存すらしていません。 第三者による処理についてはプライバシーポリシーをご参照ください。 人物写真を扱うサービスは、自社の学習方針を一文で言えるべきです。 そして利用者はそれを尋ねてよいはずです。

欠けている救済

問題は、法が学習データについて何の見解も持っていないことではありません。 ロンドンの裁判所は判断を下し、サンフランシスコの陪審はまさに判断しようとしており、 ブリュッセルは開示を義務付け、カリフォルニア州も同じ道を選び、EDPBは判断基準を書き出しました。 しかしそのどれもが、著作物の所有者か、企業を監督する規制当局のために作られています。 写真に写っている本人に当事者適格を与えるものは、ひとつもありません。

50億枚の画像に同意要件を課すのは本気の提案になりません。 写されている本人がデータセットからの削除を請求できる権利、 それに個人の訴権と、次の学習サイクルより前に効く期限を付けたものは、本気の提案になります。 著作権より範囲が狭く、ライセンス市場より運用が安く、 そして現在どの枠組みからも抜け落ちている唯一の集団、 つまり写真に写っている人に届きます。 それに近いものができるまで、AI画像生成における同意は Common Crawlの時代から変わらない意味のままです。 誰も拒まなかった。誰も訊かれなかったからです。