ソーシャルメディアと有害アルゴリズム

　2025年1月20日に公開された戦略対話研究所（Institute for Strategic Dialogue, ISD）の報告書「ISD Written Evidence to the Science, Innovation and Technology Committee Inquiry, on Social Media, Misinformation and Harmful Algorithms」は、ソーシャルメディアや検索エンジンがどのように誤情報や有害コンテンツの拡散を助長しているか、また、それが社会的な害を引き起こすメカニズムを探るものです。2024年夏にイギリスで発生した暴動を事例として取り上げ、アルゴリズムがリアルな暴力行動にどのように寄与したかを分析しています。また、「オンライン安全法（Online Safety Act, OSA）」がどの程度この問題に対応できるかについても評価しています。

具体例：2024年夏の暴動

報告書の中で特に注目されるのが、2024年7月にイギリスのサウスポートで発生した暴動の事例です。この暴動は、事件の犯人が移民であるという虚偽の情報がソーシャルメディア上で拡散されたことがきっかけでした。

• 誤情報の拡散:
  プラットフォーム「X（旧Twitter）」の「What’s happening」セクションやTikTokの検索機能が、虚偽の名前「Ali al-Shakati」を推奨。これにより情報がさらに広がりました。
• 影響:
  右派のTelegramチャンネルでは、反移民ヘイトが246%、反ムスリムヘイトが276%増加。これらの誤情報が暴動を誘発する原因となったとされています。

ソーシャルメディアアルゴリズムの課題と規制

レポートでは、プラットフォームアルゴリズムがどのようにして誤情報や有害コンテンツを拡散するかを明らかにしています。

• 推奨アルゴリズムの影響:
  YouTubeやTikTokでは、極端な思想や有害コンテンツが新規ユーザーに推奨されるケースが多く確認されています。
• 透明性の欠如:
  アルゴリズムの動作やデータへのアクセスが制限されているため、研究者や監査機関がプラットフォームの実態を十分に把握できない現状があります。

AIと誤情報

　報告書では、ジェネレーティブAIがどのように誤情報の生成と拡散に利用されているかにも言及しています。

• 選挙関連:
  アメリカ選挙時にAI生成コンテンツが5100万回以上のインプレッションを記録。これらの多くはラベル付けや削除が不十分でした。
• 戦争プロパガンダ:
  イラン・イスラエル間の紛争に関連するAI生成画像や動画が、短期間で数百万回視聴されたとされています。

オンライン安全法（OSA）への期待と課題

イギリスで施行される「オンライン安全法（OSA）」は、プラットフォームに以下の義務を課すことを目指しています。

• 違法コンテンツや有害コンテンツの拡散リスクを評価し、それを最小化するための対策を講じること。
• 推奨アルゴリズムやコンテンツモデレーションの透明性を向上させること。
• ユーザー保護のための報告やデータ提供を行うこと。

しかし、レポートはOSAにいくつかの課題があると指摘しています。

• 小規模で高リスクのプラットフォーム（例: Telegram）の取り扱いが不十分。
• 研究者がプラットフォームデータにアクセスできる仕組みが欠如している。
• AI生成コンテンツに関するラベル付けや規制が明確化されていない。

EUの「デジタルサービス法（DSA）」と比較すると、OSAにはまだ改善の余地があるとされています。

最後に

　この報告書は、ソーシャルメディアが誤情報や有害コンテンツをどのように拡散させるかを深く掘り下げた重要な資料です。詳細なデータと分析が含まれており、デジタルプラットフォームがもたらす課題を理解するための貴重な洞察を提供しています。