Rand National Security Research DivisionのWebinar「Generative AI’s Potential Role in Information Warfare」が2024年10月24日に行われて、生成AIがいかにして偽情報戦を変貌させるかについて議論されました。生成AIの進化により、悪意のある勢力がソーシャルメディアを利用して、リアルな偽情報や「草の根支持」感を創出しやすくなっています。今回は、特に中国の実例を取り上げながら、私たちが学ぶべき点について考察します。
中国の生成AIを用いた情報戦の実例
近年、中国は生成AIを利用して他国の政治や社会への影響力を強化しようとしています。特に、中国が台湾選挙やアメリカ国内の政治世論に対してどのように生成AIを活用しているかが明らかになっています。
- 台湾選挙に対する介入
2023年の台湾選挙で、中国は生成AIを用いた「声優ビデオ」やソーシャルメディア投稿を通じて、親北京の候補を支持する偽情報を拡散しました。選挙直前には、ある候補の「偽の音声メッセージ」が出回り、台湾有権者の投票行動を誘導しようとする最後の試みが行われたとされています。これにより、中国が生成AI技術を利用して、国際的な世論操作に積極的に関与していることが確認されました。 - アストロターフィングの活用
中国は、生成AIによって生成された偽の人物やアカウントを使い、オンラインでの「草の根支持」感を演出する「アストロターフィング」を大規模に行っています。例えば、SNS上で「なぜアメリカは台湾問題に関与するべきなのか？」といったメッセージを広める際、一般市民のようなアカウントが多様な視点で同意見を示し、あたかも多数のアメリカ市民がこの意見を支持しているかのように見せかけます。これにより、特定の意見が実際よりも広く支持されているかのように錯覚させる効果を生み出しています。 - 生成AIの微調整と高精度な操作
中国の研究者たちは、アメリカや台湾などのターゲットに合わせて生成AIを調整するために、大規模なデータセットを活用し、特定の言語や文化に適した発言や画像を生成するモデルを訓練しています。例えば、都市部と農村部、若者と高齢者といったターゲットごとに異なるスタイルでメッセージを生成し、より自然で説得力のある偽情報を発信できるようにしています。
偽情報対策のための提言
Randの研究者たちは、このような生成AIの悪用に対抗するための具体的な施策を提案しています。
- リスク低減のための施策
ソーシャルメディア企業が偽アカウントやボットの削除を強化し、偽情報が拡散するリスクを減らすべきだとされています。また、生成AIの生成物を識別する技術開発も重要です。 - メディアリテラシーの向上
一般市民が生成AIによる偽情報に惑わされないように、メディアリテラシーの向上が必要です。SNSやインターネット上の情報に対して批判的な視点を持つことで、偽情報への耐性を高められます。 - 政府の透明性の向上
政府が偽情報対策の取り組みを公表し、市民との信頼関係を築くことも重要です。選挙や国防における透明性を高め、国民が安心して情報を受け取れるようにすることが、民主主義を守るために欠かせません。
考察：情報戦における私たちの役割とこれからの課題
生成AIが情報戦にもたらす影響は大きく、今後も進化が続くでしょう。しかし、対策を講じることで、私たちの社会を守ることが可能です。SNS企業、政府、市民それぞれの役割を再確認し、正しい情報を求める姿勢を持つことが、情報の信頼性と透明性を確保するために重要です。
コメント