AIに政治家など112人の公人「になりきって」しゃべらせたら、その言葉が、本物の政治家が実際に語った言葉よりも「本物らしい・筋が通っている・質問に的確に答えている」と受け取られた——。そんな研究があります。しかも「なりすまし」のほうが、より本人っぽいと判定されたというのが、じわじわ効いてくる話です。
研究のあらまし
これはドイツ・パッサウ大学のSteffenHerboldさんたちのグループがまとめた研究です。テーマはずばり、「大規模言語モデル（LLM＝ChatGPTのような文章生成AI）は、政治家をはじめとする公の人物になりすませるのか」。そして「その偽物を、人はどれくらい見抜けるのか（あるいは見抜けないのか）」です。
題材に選ばれたのは、イギリスの長寿討論番組。会場の視聴者が政治家や専門家に直接質問をぶつけ、登壇者がその場で答える、というBBCの番組です。ここに出てくるやりとりは「実際に、その人が、その質問に、こう答えた」という記録がそろっている。つまり「本物の答え」と「AIの答え」を、同じ質問で真正面から比べられる、という点がこの研究の肝になっています。
何がわかったか
研究チームは、番組に登場した112人を対象にしました。政治家だけでなく、実業家、ジャーナリスト、医療の専門家、作家など、イギリスで名の知れた人たちが幅広く含まれています。この112人それぞれに「なりきった」AIの答えを用意し、イギリス社会の縮図になるように選んだ948人に見せて、本物の答えと並べて採点してもらいました。
採点したのは3つのものさしです。ひとつは「本物っぽさ（authenticity）」——この発言は、本当にその人物から出てきたものだと思えるか。ふたつめは「筋の通り方（coherence）」——話の流れに矛盾がなく、論理的にまとまっているか。みっつめは「質問への的確さ（relevance）」——聞かれたことにちゃんと答えているか。
結果は、AIになりすまさせた答えのほうが、この3つのどれでも本物の発言より高く評価された、というものでした。とくに効いてくるのが1つめの「本物っぽさ」です。ここで測っているのは「その発言が“本人から出た”と思える度合い」なので、平たく言えば、人々はAIが作った偽物のほうを「これこそ本人が言いそうなことだ」と感じた、ということになります。つまり、なりすましのほうが本人より“本人らしい”と受け取られたわけです。
どうやって作ったか
使われたAIは、当時のOpenAIのモデル「GPT-4Turbo」です。手法自体はそれほど大がかりなものではありません。番組でのやりとりを学習させ、さらにWikipediaの経歴情報を足して人物像の輪郭を持たせたうえで、「この人物として、この質問に答えて」と指示する。基本はその繰り返しです。特別な追加学習や専用の道具をそろえなくても、市販のAIに少し材料を渡して指示するだけで、この水準の“なりすまし”ができてしまった、という点が不気味なところです。
この研究が投げかけるもの
研究チーム自身が、成果を手放しで喜んではいません。論文には「この技術が社会にもたらしうる害について、広く一般に知らせる差し迫った必要がある」という強い言葉が置かれています。なりすましの言葉が本物より説得力を持ってしまうなら、選挙前の世論操作や、実在の人物の口を借りたデマの拡散に、そのまま転用できてしまうからです。実際、政治家の実際の主張とは逆の立場を、本人が言いそうな口ぶりで語らせることもできる、と関連研究では指摘されています。
いっぽうで、同じ結果は別の顔も持っています。AIが人にわかりやすく、筋の通った政治的な説明を作れるということは、うまく使えば議論を助ける道具にもなりうる、という点です。研究チームも、なりすましの危うさと、公の議論に役立つ可能性の両方をこの結果から読み取っています。要は、同じ能力がどちらにも転ぶ、ということです。
受け取り方の注意点
気をつけたいのは、これがまだ査読を通っていないプレプリント（専門家同士の相互チェックを経る前の段階の論文）だという点です。2024年に公開されて以降、多くの研究に引用されてはいますが、正式な査読誌への掲載は確認できていません。結果はあくまで「そういう報告がある」という段階として受け止めるのが無難です。
もうひとつ、調査の舞台がイギリスの一番組・イギリスの参加者に限られている点、そして使われたAIが2024年時点のモデルである点も押さえておきたいところです。国や文化が変われば「本物っぽさ」の感じ方も変わりうるし、AIはこの2年でさらに性能を上げています。だから「今のモデルなら、もっと差が開いているかもしれない」とも読めるし、「あくまで特定の条件での結果だ」とも読める。どちらの含みも残した話として見ておくのがよさそうです。
それでも、なりすましのほうが本人より本人らしいと感じられてしまう、という指摘そのものは、これからのニュースや発言を見るときの目線を少し変えてくれます。「本物らしさ」は、もう本物である証拠にはならない——そこだけは、覚えておいて損はなさそうです。
出典
Steffen Herbold, Alexander Trautsch, Zlata Kikteva, Annette Hautli-Janisz「Large Language Models can impersonate politicians and other public figures」（arXivプレプリント、2024年）：https://arxiv.org/abs/2407.12855
404 Media「Scientists Asked AI to Impersonate 112 Public Figures. What Happened Next Is a ‘Dire’ Warning」（2026年7月1日）：https://www.404media.co/untitled-28/
コメント