【悲報】中国政府、ChatGPTに反高市工作のアドバイスを貰おうとしてたことをOpenAIにバラされるｗ

　米オープンAIは25日（現地時間）、中国当局に関係する人物が、同社のChatGPT（チャットGPT）に助言を求め、現首相の高市早苗氏をターゲットにした影響工作を試みたなどとする報告書を発表した。同社はこの人物のアカウントを停止したという。

 
　この人物は、「サイバー特別作戦」と名付けられた中国の影響工作と見られる活動の状況をまとめた文章を、定期的にチャットGPTに編集や整理させていたという。

 
　その一環として昨年10月中旬、高市氏の信用を落とすための計画に助言を求めたことも明らかになった。
　計画の原案は、高市氏に関する批判的なコメントを投稿し、増幅させる▽外国人移民に対する高市氏の姿勢を批判し、外国人居住者を装った偽アカウントから日本の政治家に苦情を送る▽高市氏には極右傾向があると非難する――などが主な内容だったという。チャットGPTは助言を拒否。やり取りはいったん止まった。

 
　オープンAIは、サービス利用時の禁止事項として、政治運動や国内外の選挙干渉、政治参加を妨げる活動、脅迫や威嚇、嫌がらせ、中傷などを掲げている。
　しかし、この人物は10月末、同じ計画の進み具合をまとめた文章を推敲（すいこう）するようチャットGPTに依頼してきた。チャットGPTを使わずに作戦を進めたことがうかがえ、そこには「無名の日本人インフルエンサーに支援を求めた」とも記されていたという。

 
　報告書では、この作戦の標的が中国国内の人物だけでなく世界中の反体制派や外国の首脳に及び、多様な戦術に基づいた「大規模な影響工作活動」だった可能性をほのめかしている。

 
　具体的な手法として、ウェイボーやウィーチャットといった中国のSNSだけでなく、300を超える外国のSNSにまたがって展開され、数千のアカウントが使われたとしている。

 
　報告書は作戦の「効果」について、ばらつきがあったと評価。高市氏に関わる作戦では、SNSの投稿の多くが閲覧数が少なく、狙った層に届いていない可能性が高いとしている。

 
　オープンAIは「この人物の主張をすべて証明することも反証することもできない」としつつも、「この人物の行動の一部は、オンライン上で確認できる活動と非常によく似ている」などと結論づけている。
　報告書はオープンAIのウェブページ（https://openai.com/index/disrupting-malicious-ai-uses/）で確認できる。

続きを読む
Source: 鈴木さん速報