FERMI（Fake nEws Risk MItigator）は、欧州連合のHorizon Europeプログラムによって資金提供され、偽情報の拡散を抑えるためのAIベースの技術ソリューションを開発しています。本プロジェクトの主な目的は、偽情報の拡散メカニズムを解明し、それに基づいて効果的な対策を提案することです。これには、ソーシャルメディアやフォーラム上の偽情報を分析するツールの開発が含まれます。
FERMIプロジェクトは、2024年11月27日に3つの具体的なパイロットストーリーを公開しました。これらは、異なる状況でFERMIツールを活用し、偽情報対策をどのように実施するかを示す実例です。
3つのパイロットストーリー
ロシアとフィンランドの国境で発生したハイブリッド作戦を題材としたこのパイロットでは、ロシアが難民を使い危機を煽る中、FERMIの「Spread Analyser」ツールを活用しました。このツールは、X上でのボットと人間アカウントを識別し、偽情報の拡散状況を可視化します。
このシナリオでは、偽情報が難民危機の感情を煽り、右派過激主義者による犯罪の引き金となるリスクが指摘されました。Spread Analyserを使用することで、当局は：
- 偽情報がどのように広がり、誰によって影響を受けているかを把握。
- リソースを効率的に配分し、犯罪の発生を未然に防止。
- 事実に基づいた戦略的なコミュニケーションを実施。
これにより、偽情報キャンペーンの影響を軽減するための行動計画が強化されました。
2. EUROTOPサミットにおける過激主義と偽情報の監視
ブリュッセルで行われたEUROTOPサミットでは、左右両極端の過激派グループが偽情報を利用して抗議活動を組織し、公共の安全を脅かす可能性が高まりました。このパイロットでは、FERMIプラットフォームを活用して、偽情報の発生源とその影響をリアルタイムで特定しました。
具体的には：
- サミットに関連するハッシュタグや極右・極左イデオロギーに関連するキーワードを監視。
- 偽情報のトレンドを特定し、極端な思想を持つアカウントのリスクをプロファイリング。
- デマの拡散に対応するための公式情報キャンペーンを展開。
これらの取り組みにより、暴力的な抗議活動や混乱を事前に防ぎ、サミットの安全が確保されました。
3. ミュンヘン安全保障会議におけるコミュニティのレジリエンス評価
ミュンヘン安全保障会議（MSC）の開催時、左翼過激派によるデマ拡散や暴力的抗議のリスクが高まりました。このシナリオでは、FERMIの「Community Resilience Management Modeller」を用いて、地域社会の脆弱性を分析し、適切な対策を実施しました。
主な成果として：
- 地域社会の偽情報への感受性を評価し、リスクのあるグループや地域を特定。
- 専門家の協力を得て、左翼過激派のイデオロギーを分析し、効果的な対応策を策定。
- 情報キャンペーンや多機関によるタスクフォースを活用し、住民の信頼を回復。
これにより、暴力行為が抑制され、会議の安全が保たれました。
考察
FERMIプロジェクトは、急速に進化する情報環境で、偽情報対策の新たな可能性を示しています。これらのパイロット事例は、AIツールがいかにして現実の脅威に対応し、社会的影響を最小化するための重要な役割を果たせるかを示しています。
ただし、課題も残されています。特に、ツールの導入に必要なリソースや、偽情報を完全に排除することの難しさが挙げられます。また、ツールを効果的に活用するためには、多機関間の緊密な連携と透明性の確保が求められます。
FERMIプロジェクトは、偽情報の抑制と社会的信頼の再構築に向けた一歩であり、その進展に期待が寄せられます。
コメント