画像生成AIが出力した1枚の絵は、学習に使われたどの画像に由来するのか。MITの研究者2人がこの問いを実験で確かめたところ、意外な答えが返ってきました。学習データが多いモデルほど、出力を特定の学習元に結びつけることが難しくなり、やがて事実上たどれなくなる——研究チームはこの現象を「帰属の減衰（attribution decay）」と名付けています。論文は2026年8月18日、査読誌のNature Communicationsに掲載されました。
調べたのは、MITのコンピュータ科学・人工知能研究所（CSAIL）に所属するZheng Dai氏とDavid K. Gifford氏です。対象は拡散モデルと呼ばれるタイプの生成AIで、MidjourneyやStable Diffusionなど、いま広く使われている画像生成AIの多くがこの方式です。
生成AIと「出どころ」をめぐる問題
生成AIの学習には、大量の画像が使われます。そこに自分の作品が含まれていたアーティストたちからは、「AIが自分の絵柄を再現できるのは、作品を学習させたからだ」という訴えが起きています。米国では2023年から、アーティストらがStability AIやMidjourneyなどを相手取った著作権訴訟（Andersen対Stability AI訴訟）が続いており、原告側は「どの画像を学習に使ったのか」を開示させようとしてきました。
この争いの土台にあるのは、素朴な仮定です。出力がどの学習画像に由来するのかを特定できれば——つまり「帰属」を明らかにできれば——複製かどうかを判定できるし、作者に報いる仕組みも作れる。実際、出力を学習データに帰属させる技術は活発な研究分野で、規制の議論でも前提として期待されてきました。
では、その帰属は本当に可能なのでしょうか。素直に考えれば、確かめる方法はひとつです。学習データから特定の画像や特定の作者の作品を丸ごと抜いて、モデルをもう一度作る。それで出力が変われば、その画像が効いていた証拠になります。ただし、抜きたい画像1枚ごとにモデルを一から学習し直すのは、計算コストが莫大すぎて現実には不可能でした。
2人はこの壁を、発想の転換で越えました。モデルを最初から小さな部品の集合として訓練しておき、特定のデータを学習した部品だけを後から取り外せる構造にしたのです。この「アブレーション（除去）」と呼ぶ手法を使えば、再学習なしで「もしあの画像を学習していなかったら、どんな絵が出ていたか」を効率よく確かめられます。たとえば744人の画家の作品で学習したモデルなら、744通りの「もしも」を、744個のモデルを作り直すことなく検証できます。
消したはずの画風が、それでも出てくる
この方法で、7種類の公開画像データセットから256枚〜約16万枚まで大きさの違う学習データを用意し、24のモデルを作って比べました。結果は、素朴な仮定の逆でした。学習データが多いモデルほど、どの1枚を抜いても、どの作者の作品を丸ごと抜いても、出力がほとんど変わらなくなっていったのです。学習枚数と「抜いたときの出力の変化幅」の間には、きれいな反比例の関係が見つかりました。
論文には象徴的な比較が載っています。約1,300点の絵画で学習した小さなモデルでは、生成画像に最も似ていた画家の全作品を学習データから抜くと、出力は大きく別の絵に変わりました。ところが5万点で学習したモデルでは、生成画像に最も似ていたのは18世紀の画家Thomas Jonesの風景画だったのに、Jonesの全作品を抜いても、出てくる絵はほぼ同じままでした。似ているのに、由来してはいない——見た目の類似から「元ネタ」を推定するやり方は、モデルが大きくなるほど間違いが増えることも、あわせて確認されています。
さらに、白黒2値の画像で試した実験では、生成した3,731枚のうち14枚が「完全に帰属不能」でした。学習データのどの単位を抜いても、出力が1ビットも変わらないサンプルが、実際に存在したわけです。
つまり、たどれなくする細工を何かしたわけではありません。データを増やす。それだけで、出力と特定の学習元との結びつきは薄まり、やがて消えます。研究チームの解釈はこうです。モデルが学ぶ特徴は、大量のデータの中に重複して散らばって記録されている。だからどれか1つを抜いても、残りが穴を埋めてしまう。同じ特徴を持つデータが他にいくらでもあるなら、「この1枚のおかげ」とは言えなくなるのです。
規制と裁判への波紋
この結果は、生成AIをめぐる制度の議論に難しい問いを投げかけます。「この出力はあの作品に由来する」と技術的に示せることを前提にした規制や訴訟は、モデルの規模が大きくなるほど、その前提自体が崩れていくからです。実際に商用の画像生成AIは10億枚規模のデータで学習されているとされ、今回の実験で減衰が確認された規模（数万〜16万枚）よりはるかに大きな領域にあります。
著者の一人であるGifford氏は、出力がどの学習データにも帰属しないのなら、フェアユース（米国著作権法上の公正利用）の扱い、出力そのものが新しい著作物として保護されるのか、そして作者にどう報いるのか、といった問題がすべて問い直されると指摘しています。一方で、外部の専門家であるコーネル大学の法学者James Grimmelmann氏は、帰属がうまく機能するなら出力と作品の類似が「複製」なのか「偶然」なのかを判別できたはずだが、この論文はそれが成り立たないことを示唆しており、技術者も裁判所も複製を評価する別の方法を探す必要が出てくる、とコメントしています。
ここで注意したいのは、この研究が言っているのは「大規模なモデルでは出力を特定の学習元にたどれない」という事実であって、「だからAIの学習は著作権侵害ではない」という法的な結論ではないことです。論文自身も、この性質が責任回避に使われうる懸念に触れています。モデルを十分大きくすれば、どの出力もどの入力にも帰属できなくなる——それを狙って規模を拡大する、という戦略が理屈のうえでは成り立ってしまうからです。
解釈上の留意点
いくつか、割り引いて読むべき点があります。まず、この研究の対象は画像などを作る拡散モデルであり、ChatGPTのような言語モデルの話ではありません。また、帰属がたどれないことと、複製が一切起きないことは別の話です。過去の研究では、10億枚規模で学習した商用モデルでも、およそ100万回に1回程度の割合で学習画像とほぼ同じものを出力する例が報告されており、今回の論文もその点は否定していません。今回示されたのは、モデル全体としての傾向です。
もうひとつ、意外な副産物もあります。学習データが十分多いモデルでは、生成された人物の顔が、学習に使われた実在の人物の誰にも由来しなくなることが確認されました。帰属できないという性質は、権利の面では厄介ですが、プライバシーの面では保護として働くわけです。同じ現象が、見る角度によって正反対の顔を持つ——このねじれこそ、この研究のいちばん考えさせられるところかもしれません。
出典
Zheng Dai & David K. Gifford, “Outputs of generative diffusion models are often unattributable,” Nature Communications 17, 6974 (2026). https://doi.org/10.1038/s41467-026-75667-5（オープンアクセス）
Thomas Claburn, “AI models get convenient amnesia about source material as they grow, MIT boffins find,” The Register, 2026年8月18日. 記事はこちら
コメント