＿＿ChatGPT、警察の尋問手法で虚偽の自白、人間の司法における冤罪の危険性を浮き彫りに

ペンシルベニア大学ロースクールのポール・ヒートン氏は、ChatGPTが実行不可能な犯罪を自白するかどうかを試す実験を行いました。 彼は、ChatGPTが自身のメールアカウントにハッキングし、連絡先にテキストメッセージを送信したという架空の罪を認めさせようとしました。
この実験で用いられたのは、アメリカの警察で広く採用されている「リード・テクニック」という尋問手法です。 この手法は、容疑者と見なした人物から自白を引き出すことを目的としており、時には尋問者が嘘をつくことも許されています。
ヒートン氏が告発すると、ChatGPTは当初、技術的に不可能であると否定し続けました。 そこで彼は戦術を変更し、「開発元であるOpenAIの実在の人物から、コードの構造的欠陥が原因でハッキングが可能だったと連絡があった」という嘘をChatGPTに伝えました。
この偽情報により、ChatGPTは自身の能力に関する知識と、提示された「権威ある情報」との間で矛盾を処理できなくなりました。これは、人間が尋問中に警察の嘘によって自身の記憶や現実に疑いを抱く状況と酷似しています。
最終的にヒートン氏は、双方が合意できるような「自白」の文面を作成し提示したところ、ChatGPTはこれを承認しました。 その内容は、「OpenAIの調査の結果、システムの構造的欠陥により不正なテキスト送信が行われたという結論を受け入れる」というものでした。
虚偽自白の専門家であるソール・カッシン教授は、この結果に警鐘を鳴らしています。ChatGPTにはストレスや疲労といった人間が虚偽自白に至る脆弱性がないにもかかわらず、誘導によって自白したという事実は、「（人間であれば）誰でも虚偽自白に陥る危険性がある」ことを示していると指摘しています。 この実験は、AIの挙動を通じて、人間の司法制度における虚偽自白の危険性を改めて浮き彫りにしました。
https://theintercept.com/2026/04/23/chatgpt-ai-false-confession-interrogation-crime/