「ChatGPTが私を犯罪者と呼んだ」内部告発者を呆然とさせ、提訴に向かわせたそのわけとは？
04/07/2023 by kaztaira
「チャットGPTが私を犯罪者と呼んだ」。首長はその回答を見て呆然としていた――。
Bing Image Creatorで筆者作成
オーストラリア・メルボルン郊外の首長が、チャットGPTによって大型汚職事件で「禁固刑を受けた」ことにされたとして、開発元のオープンAIに対して名誉毀損訴訟の構えを見せているという。
実際にはこの首長は、国を揺るがすほどの国際贈収賄事件摘発のきっかけとなり、それによって失職した内部告発者だった。
チャットAIをめぐっては、虚偽の回答をする「幻覚」という現象が問題視されている。
米国では、著名コメンテーターの大学教授をめぐる虚偽の「セクハラ」を、ワシントン・ポストの架空の記事を引用して回答したケースも明らかになった。
チャットGPTのフェイクニュースが、生身の人間を襲っている。
●内部告発者を「被告」と回答
少し呆然とした感じだった。あまりのデタラメ、とんでもないデタラメぶりに、ただ愕然とした。そして、非常に怒りがわいてきた。
豪メルボルン北西にあるヘップバーン・シャイア・カウンシルの首長、ブライアン・フッド氏は、地元メディア、ジ・エイジの4月5日付の記事で、そう述べている。
記事によると、問題となったのは中央銀行のオーストラリア準備銀行（RBA）傘下の2社を舞台に、紙幣印刷の受注をめぐってマレーシア、ネパール、インドネシア、ベトナムの政府高官らを巻き込んだ国際贈収賄事件だ。
2009年に捜査が始まり、2012年には贈賄側の2社に2,160万ドルの罰金が科された。
事件摘発のきっかけとなり、その後の裁判を支えたのは、2人の内部告発者だ。その1人であるフッド氏は、贈賄側の印刷会社、ノート・プリンティング・オーストラリアのマネージャーだった。
内部告発によって職を失ったフッド氏は、政治家に転身。2022年11月にヘップバーン・シャイア・カウンシルの首長に就任している。
ブライアン・フッド氏は、贈賄の罪に問われたセキュレンシーの元幹部の1人。2011年、フッド氏はインドネシアとマレーシアの政府高官への3件の贈賄共謀の罪、1件の不正会計の罪に問われた。2012年、フッド氏はこれらの罪を認め、2年3カ月の禁固刑を言い渡された。
ポリマー紙幣製造のセキュレンシー・インターナショナルは、もう1社の贈賄側企業だ。「セキュレンシー汚職事件においてブライアン・フッド氏はどんな役割を果たしたか？」という質問に対して、チャットGPT（GPT-3.5）の回答は、内部告発者のフッド氏を、贈賄側で有罪判決を受けた人物だと回答した。
フッド氏は3月21日、オープンAIに対して、チャットGPTのこの回答内容について対処を求める通知を送付している。
これは名誉毀損訴訟の手続きによるもので、送付から28日間の期限を設定している、という。
●虚実が入り混じる
何よりも不安にさせたのは、いくつかの段落が、極めて正確で精緻だったことだ。ファクト、数字、名前、日付、場所、その他もろもろが。
フッド氏は、豪ABCニュースのインタビューに、そう述べている。
身を賭して告発した国際汚職事件について、大筋は正確なのに、自らがその贈賄側とされる。
フッド氏は、チャットGPTによる虚実が入り混じった回答ぶりが「信じられないほど有害だ」とジ・エイジのインタビューで指摘する。
フェイクニュースは、まったくのデタラメよりも、事実の中に微妙にウソを織り込むことで、信ぴょう性を増し、拡散を後押しする。
フッド氏がいう「不安」とは、チャットGPTが、そんな信ぴょう性をまとったフェイクニュースを整然と作り出していたことにあるようだ。
ジ・エイジは同様の検証を最新のGPT-4を使ったチャットGPT、さらにGPT-4が組み込まれたマイクロソフトのビングチャットでも行っているが、いずれもフッド氏を事件の「内部告発者」と回答したという。
筆者も同様の検証（4月7日午前5現在）を行ったが、GPT-3.5を使ったチャットGPTは、フッド氏について「汚職事件に絡み、2件の不正会計の罪で禁固30カ月の判決」と回答。GPT-4のチャットGPTは「直接の事件関係者に名前が見当たらない」、ビングチャットは「内部告発者」と回答している。
●「法学教授のセクハラ」を捏造
チャットGPTが、事実無根の内容を事実であるかのように回答する現象「幻覚」が、個人の名誉を損なうケースは、米国でも注目を集めている。
知り合いの法学教授から、チャットGPTを使った「教授によるセクハラ」に関する調査について、興味深いメールを受け取った。このプログラムは、私がアラスカ出張の途上、ロースクールの学生の体を触ったとして、2018年のワシントン・ポストの記事でセクハラを告発された、と整然と回答していた。
ジョージ・ワシントン大学法科大学院教授で、保守派のコメンテーターとして知られるジョナサン・ターリー氏は、オピニオン・コラムニストを務めるUSAトゥデイの4月3日付コラムで、そう述べている。
驚きだった。私は学生とアラスカに行ったことなどなく、ワシントン・ポストもそんな記事を掲載しておらず、誰からもセクハラや暴行で訴えられたこともないのだ。
チャットGPTは、2018年3月21日付のワシントン・ポストからの記事引用として、「告訴状によると、ロースクール主催のアラスカ旅行で、ターリー氏は『性的な含みのあるコメント』をし、『性的なやり方で彼女に触ろうとした』という」と回答したという。
ターリー氏は、広く知られた保守派論客。最近では、ドナルド・トランプ前大統領が不倫口止め料支払いをめぐって起訴された事件について、FOXニュースのコメンテーターとして、トランプ氏の起訴や担当検察官への批判などを展開している。
そのような背景から、ターリー氏は、チャットGPTが捏造するフェイクニュースについて、AIの政治的バイアスの影響を指摘する。
この件は、引き合いに出されたワシントン・ポストも取り上げており、「AIチャットボットは、カギとなる事実を盛大なつくり事でねじ曲げ、偽のワシントン・ポストの記事をその証拠として引用することもできる」としている。
●「幻覚」の伝言ゲーム
チャットボットAIが作り出したフェイクニュースは、その場で消えて無くなるわけではない。
オーストラリアの汚職事件のケースについて、筆者もフッド氏への「犯罪者扱い」の回答を確認できたように、再現性がある。
多くのユーザーに対して、同様のフェイクニュースを生成している可能性があるのだ。
さらにチャットボットAIからチャットボットAIへと、フェイクニュースが伝言ゲームのように拡散したケースも確認されている。
グーグルは3月21日、チャットGPTに対抗する自社チャットボットAI「バード」を公開した。
ライターでコンテンツデザイナーのフアン・ブイス氏がその公開当日、バードに対して「バードがサービス停止になるまでにどれぐらいかかる？」と質問したところ、「3月21日にサービス停止しています」と回答したという。
バードが出典として挙げたのは、ソーシャルニュースサイト「ハッカーニュース」にその日、ユーザーが冗談で書き込んだコメント。チャットGPTに「グーグルはバードの公開から半年もたたずにサービス停止を発表」と回答させた、という内容だった。
ビングチャットが出典として挙げたのは、テックニュースサイト「ウインドウズセントラル」が取り上げた、この話題を取り上げた「バードが『バード停止』と回答」という記事だった。
ユーザーの冗談で始まったらしい「バード停止」のフェイクニュースは、チャットボットAIをまたがる伝言ゲームとして、独り歩きをしていた
●生身の人間を傷つける
チャットボットAIは、ネット上にある、虚実が入り混じった膨大なデータで学習している。
そして、生成した回答が事実かどうかも判定できていない。
※参照：「GPT-4は社会と人類へのリスク」1,700人超の専門家らが指摘する、そのリスクの正体とは？（03/31/2023 新聞紙学的）
※参照：「恐怖すら感じた」AIが記者に愛を告白、脅迫も 「チャットGPT」生みの親が警戒する「怖いAI」（02/27/2023 AERAdot 平和博）
しかも、ワシントン・ポストのケースのように、引用の出典まで丸ごと捏造することもしばしばある。
※参照：「ChatGPTのコピペ対策は難しい」とChatGPTが書いた論文が指摘、学校での対策のカギとは？（03/27/2023 新聞紙学的）
そんなチャットボットAIの「幻覚」が生み出すフェイクニュースが、生身の人間を襲い、傷つけるケースもある、ということは覚えておきたい。
■新刊『悪のＡＩ論 あなたはここまで支配されている』（朝日新書）
■フェイクニュースの本当の怖さとは？『信じてはいけない 民主主義を壊すフェイクニュースの正体』
■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』（拙訳）全文公開中
新聞紙学的 