生成AIが切り開く情報戦の新時代：産業化する偽情報とその現実

　2024年12月11日のThe Centre for International Governance Innovation（CIGI）のレポート「Preparing for Next-Generation Information Warfare with Generative AI」は、生成AIが社会、軍事、法的規制にどのような影響を与えるかを包括的に分析したものです。本記事では、この文書の内容を紹介します。

文書の概要

生成AIの進化がもたらす新たな現実

　レポートは、生成AIがどのように情報戦の性質を変革しているかを3つの視点から論じています。また、情報戦が「国家主体」から「非国家主体」へと広がりつつある現状を捉え、規制や対応の必要性を強調しています。

社会への影響: 偽情報の拡散が公共の信頼や安全を損なう。
軍事的影響: 生成AIが戦術・心理作戦を高度化。
法的・規制の課題: 現行の国際法が生成AIのリスクに対応しきれていない。

注目すべきポイント

生成AIによる情報戦の産業化

　生成AIは、偽情報の生成と配布を自動化し、工業規模での情報操作を可能にしています。この「産業化」が何を意味するのか、レポートでは次のように述べられています。

低コストで大規模な偽情報生成

AIモデルを用いることで、リアルな偽情報（ディープフェイクや捏造されたニュース記事）が低コストで大量に作成
例: 偽の災害警告や選挙妨害キャンペーンが短期間で展開

犯罪者のツール化

ダークウェブでは、「FraudGPT」や「WormGPT」といった生成AIモデルが販売され、詐欺やサイバー犯罪に利用
オープンソースAIが広く普及し、専門知識がなくても簡単に利用可能に

アウトソーシングされる情報戦

国家主体だけでなく、サイバー犯罪者や傭兵企業が生成AIを利用して情報戦を展開。
情報操作が「外注」されることで、効率性が向上し、より複雑な攻撃が可能に。

具体的な事例

　文書では、生成AIがすでに現実世界でどのように影響を与えているかを示す具体的な事例が紹介されています。偽情報がリアルタイムで生成・拡散されることにより、市民が安全な意思決定を下す能力が損なわれる点が重要です。

ウクライナ侵攻における偽情報の使用

ハイパーローカルな情報操作:
- ロシア関連のアクターがTelegramやViberといった地元コミュニティのプラットフォームを利用して、地域レベルでカスタマイズされた偽情報を拡散
- 例: 「地元当局が地域を放棄した」「核攻撃が迫っている」などの虚偽情報が流布され、市民の恐怖を煽動
市民の移動を操作する情報戦略:
- 市民をロシア占領地域に留めるか、ロシアが管理する地域に移動させるよう誘導する目的で、避難ルートや保護オプションに関する誤情報を使用
- このような情報操作は、心理的圧力を用いた強制移動や、国際人道法（IHL）における違反に該当

イスラエル・ハマス紛争におけるAI生成コンテンツ

感情を煽る偽情報の拡散:
- TikTokやX、Instagramなどのプラットフォームを通じて、AIが生成した赤ん坊や子供の遺体の画像が拡散
- 支持者同士が互いに非難し合う感情的反応を誘導
避難情報の混乱:
- 偽情報がハマスの作戦地域に関する安全情報を誤らせ、市民が避難計画を立てるのを妨害
- 例: イスラエル政府が特定地域からの避難を促した際、安全な避難経路やシェルターに関する情報が不足しており、それを偽情報がさらに混乱

社会的影響

偽情報による信頼の損失:
- 偽情報の流布により、公的機関や人道支援団体への信頼が喪失
- 例: 国連救済事業機関（UNRWA）や国境なき医師団（MSF）が偽情報のターゲットとなり、支援活動が妨害

ウクライナ侵攻:
- 地域に特化した偽情報が、市民の恐怖を煽り、避難を妨害
- TelegramやViberといったプラットフォームが主な媒体として使用
イスラエル・ハマス間の紛争:
- TikTokやXで流布されたAI生成コンテンツが社会的分断を悪化
- フェイク映像や画像が感情的な対立を煽動