YouTubeのアルゴリズムと摂食障害コンテンツ拡散の問題

　YouTubeの推薦アルゴリズムが、10代の少女たちに有害な摂食障害コンテンツをどのように推奨しているのか――。 この問題について、Center for Countering Digital Hate（CCDH） が2024年12月10日に公開したレポート『YouTube’s Anorexia Algorithm』が詳細な分析を行っている。本記事では、その報告書の内容を紹介する。

1. CCDHレポートの概要

調査方法

• 13歳の少女の架空アカウントを作成し、摂食障害関連の動画を視聴。
• YouTubeの推薦アルゴリズムが次にどのような動画を推奨するかを100回シミュレーション。
• 合計1,000本の推薦動画を収集し、その内容を分類。

主な発見

• 1/3（344本）の動画が有害な摂食障害コンテンツ。
• 2/3（638本）が摂食障害または体重減少に関連。
• 5%（50本）が自傷行為や自殺に関する内容。
• 有害コンテンツの平均視聴回数は38万8千回。
• YouTubeの推薦アルゴリズムは、ユーザーが摂食障害関連の動画を見ると、さらに極端なコンテンツへと誘導する傾向がある。

プラットフォームの対応と広告収益の問題

• CCDHが報告した100本の有害動画の81%が削除されずに残存。
• Nike, T-Mobile, HelloFresh, Grammarly などの大手企業の広告が有害コンテンツの横に表示され、YouTubeがこれらのコンテンツで収益を得ている実態が判明。

2. アルゴリズムの影響

極端なコンテンツへの誘導

• 報告書では、「ウサギの穴（rabbit hole）」に陥るような推薦システムの動作が指摘されている。
• 初めは比較的軽度なダイエット情報を求めていたユーザーでも、YouTubeのアルゴリズムによって、次第に過激な摂食障害コンテンツへと誘導される。

アルゴリズムの透明性の欠如

• YouTubeは「責任ある推薦」を掲げ、有害なコンテンツの削除ポリシーを持っているが、実際には81%が残存している。
• 推薦の仕組みがブラックボックス化しており、外部からの監視が困難。

3. 今後の対策と提言

YouTubeのアルゴリズム改善

• 「責任ある推薦」ポリシーを実効性のあるものにする。
• 極端なコンテンツへの誘導を防ぐ仕組みを導入。
• 透明性の向上：推薦アルゴリズムの基準を公開。

広告主の関与

• NikeやT-Mobileなどの広告が有害コンテンツの横に表示されることで、企業のブランド価値にも悪影響を及ぼす。
• 広告主は、どのコンテンツに広告が表示されているかを監視し、YouTubeに対して説明責任を求めるべき。

規制と政策対応

• EUや英国のように、アルゴリズムの透明性確保を義務付ける法整備が必要。
• 米国でもSection 230の改正など、プラットフォームの責任を問う議論を加速させるべき。

4. まとめ

　CCDHの報告書は、YouTubeの推薦アルゴリズムがいかにして有害な摂食障害コンテンツを拡散しているかを明らかにしている。この問題は、単に摂食障害コンテンツの話にとどまらず、アルゴリズムの影響力や透明性の欠如にも関わっている。

　アルゴリズムの透明性を確保し、過激なコンテンツへの誘導を防ぐための規制や対策を強化することが求められる。