生成AIと南アフリカの2024年選挙：誤情報の影響とその対策

情報操作

2024.12.16

　2024年、南アフリカの総選挙は、生成AIがどのように選挙に影響を与えるかを評価する重要なケーススタディとなりました。2024年12月4日にFriedrich Naumann Foundation for Freedomが発表した政策文書では、生成AIが誤情報キャンペーンに利用された例はあったものの、影響は限定的であったと報告されています。本記事では、この文書を紹介し、南アフリカの成功の要因と、将来への教訓を探ります。

レポートの概要

　このレポートは、生成AIが南アフリカ選挙に与えた影響を分析し、特に誤情報の拡散とその対策に焦点を当てています。主要な結論は以下の通りです：

生成AIを用いた誤情報の影響は限定的。
高い社会的警戒意識と独立したメディアが、生成AIの効果を抑える上で重要な役割。
将来の選挙に向けて、さらに強固な対策が必要。

生成AIによる具体的な事例

　レポートには、以下のような生成AIを活用した事例が挙げられています：

偽の投票所画像：AI生成画像がSNS上で拡散され、不正投票の疑惑を引き起こしました。
音声なりすまし：特定の候補者の発言を偽造したAI生成音声が使用されました。

　これらの事例は注目されましたが、大規模な影響を与えるには至りませんでした。その背景には、いくつかの要因があります。

https://dgap.org/system/files/article_pdfs/Policy%20Paper%20AI%20on%20South%20Africa%27s%202024%20Electons%20PDF.pdfのFigure 4より。2024年南アフリカ総選挙に関連するX上での議論のネットワーク構造の視覚化。

成功の要因

1. メディアと市民の高い警戒意識
　南アフリカでは、生成AIによる誤情報のリスクに対する警戒意識が高く、事実確認団体「AfricaCheck」などが積極的に対応しました。また、市民の多くがデジタルリテラシーを高め、SNS上の情報を慎重に検討しました。

2. 独立したメディア環境
　南アフリカのメディアは自由で独立しており、選挙期間中も事実確認と誤情報の公開に注力しました。

3. 技術の普及段階
　生成AI技術が進化途上にあるため、南アフリカでの利用は限定的でした。また、誤情報を広めるためのリソースが不足していたことも影響しています。

将来の課題と提言

レポートは、2026年の選挙に向けて、生成AIのリスクを管理しつつその利点を活かすための以下のような提言を示しています：

教育キャンペーンの強化：市民のデジタルリテラシーをさらに向上させる。
AI規制の整備：生成AIの透明性を確保するための規制を導入。
技術的対策の開発：AIによる誤情報をリアルタイムで検出するツールの開発。

教訓：他国への示唆

　南アフリカの事例は、他国が生成AIによるリスクに対処するための重要な教訓を提供します。特に、メディアの独立性と市民教育が誤情報対策の鍵であることが明確に示されました。

　なお、以前アメリカ大統領選挙における偽情報の記事にも書いたように、2014年のアメリカ大統領選挙において、米国土安全保障省傘下のサイバーセキュリティ専門機関を率いるジェン・イースタリー長官が、「偽情報が急増しているものの、選挙結果に直接影響を及ぼすような証拠は確認されていない」と述べています。

　一方で、BBCの報道によれば、ルーマニア大統領選挙では、TikTokが極右候補に「優遇措置」を与えたのではないかという疑惑が浮上し、票を再集計することになりました。また、日本の事例としては、以前に書いたように、兵庫県知事選において、斎藤元彦氏の勝利を巡り、ナラティブの力や偽情報、さらにはメディアへの信頼低下が選挙結果を大きく左右したことが挙げられます。

　これらの事例は、生成AIの影響が限定的であった南アフリカと対照的に、各国が抱える独自の課題を浮き彫りにしています。各国がそれぞれの文脈に応じた対策を講じることが、誤情報対策の成否を分ける鍵となるでしょう。