生成AIの登場は、偽情報の生成と拡散に新たな局面をもたらしている。安価で高速、そして大量に作られるAI生成コンテンツは、これまで以上に社会の分断を刺激し、政治や選挙の文脈に深く入り込む可能性を持つ。
2025年8月、インドネシア・ガジャマダ大学で開催された国際会議 Information Resilience & Integrity Symposium (IRIS 2025) の Panel 4 に向けて公開された4本の論文は、この問題をインドネシア、マレーシア、台湾という具体的な事例に即して検討している。それぞれの研究は、地域ごとの脆弱性や社会条件と結びついたAI偽情報の姿を明らかにしており、理論的抽象化では見えてこない現実を描き出している。
インドネシア──宗教と政治を結びつける生成AI
インドネシアの選挙においては、宗教が政治的対立の大きな軸となる。Gaffar 論文は、この宗教的アイデンティティを利用した偽情報が生成AIによってどのように増幅されるかを論じている。
従来から、候補者が「宗教的に不適格だ」といった言説で攻撃されることは珍しくなかった。だが、生成AIによってこの種の攻撃的コンテンツは容易に量産され、ソーシャルメディア上で急速に拡散するようになっている。AIで作られた偽の映像や音声が流布されれば、特定候補に対する不信感が一気に広がり、宗教的帰属を軸にした社会的分断が深まる危険性がある。宗教と政治の結びつきが強いという構造的な要因が、AI偽情報の影響力を一層強める背景となっている。
マレーシア──マイノリティと女性を標的とする攻撃
Pradipa & Michelle の論文は、マレーシアにおける生成AI偽情報が、政治的プロパガンダにとどまらず、社会的ハラスメントの道具として利用される現実を描く。
民族や宗教の違いが対立を生みやすい社会において、AIによって自動生成されたコンテンツは、少数派コミュニティを攻撃する言説を拡散させやすい。さらに深刻なのは、女性政治家や活動家に向けられた攻撃である。偽造された画像や音声を用いて人格を貶める試みは、政治的立場への攻撃と同時に、社会的偏見を増幅させる効果を持つ。ここでは、政治的偽情報と差別的言説が結びつき、AIがその拡声器となる構図が浮かび上がる。
インドネシアの若者──SNSと日常に溶け込む偽情報
Fauzi 論文は、同じインドネシアでも別の角度から、若者世代のSNS利用に焦点を当てる。TikTokやInstagramといった短尺動画プラットフォームは、若者にとって主要な情報源となっているが、そこにAI生成の政治コンテンツが浸透している。
問題は、偽情報が「ニュース」としてではなく、エンタメ的なコンテンツの一部として日常的に消費される点にある。政治的メッセージが娯楽に紛れ込むことで、若者の政治認識や社会的信頼が歪められる。ニュースを精査する態度ではなく、日常的なSNS視聴の延長で受け入れられるからこそ、AI偽情報が与える影響は大きい。メディアリテラシー教育の不足は、こうした新しい情報環境における脆弱性をさらに拡大させている。
台湾──2024年総統選挙の実際の経験
もっとも具体的な事例を提供しているのが、Summer Chen の台湾に関する論文である。2024年総統選挙では、実際にAIを利用した偽情報が散発的に登場した。その形態は多様で、候補者の声をクローンした偽の音声、ニュース映像にAI音声を重ねた改変動画、さらには完全に生成された電子書籍やストーリーなどが確認されている。
これらのコンテンツの影響は限定的にとどまったものの、台湾政府は早期に法制度を整備し、AI偽情報の作成・流布に対して最長7年の刑罰を導入した。また、検察や選挙委員会が専用窓口を設置し、主要プラットフォームとの連携を強化した。市民社会においても、台湾ファクトチェックセンターがAI専門家と連携して検証ネットワークを形成し、AIリテラシー教育を広げる動きが見られた。
しかし課題も多い。AI生成コンテンツの検証ツールはまだ成熟しておらず、プラットフォーム側の対応も十分ではない。また、ディープフェイクを逆手にとって「本物を偽物だと否認する」──いわゆる false denial の問題も顕在化した。これらは、制度や市民社会の努力だけでは解決が難しい技術的・社会的課題である。
浮かび上がる共通課題
4本の論文を通して見えてくるのは、生成AI偽情報が社会の特定の脆弱性と結びつくことで、深刻なリスクを生み出しているという点だ。宗教や民族、ジェンダー、世代といった要素が、AIによって拡張される偽情報の影響を強めている。
他方で、台湾の事例が示すように、法制度・教育・市民社会の協力による複合的な対応は一定の効果を持つ。ただし、技術的な検証能力の不足やプラットフォーム対応の遅れは、いずれの国・地域においても共通の課題として残されている。
結論
IRIS Panel 4 の論文群は、生成AIと偽情報がどのように社会に影響するのかを、アジアの具体的な経験を通じて明らかにしている。まだ決定的な破壊力を持つ段階ではないにせよ、安価で迅速に生成されるコンテンツが、既存の社会的分断や対立を強化する可能性は現実のものとなっている。制度的規制、教育によるリテラシー向上、そして市民社会の活動を組み合わせていくことが、今後の偽情報対策に不可欠である。
コメント