偽りの記憶で稼ぐ仕組み——AIとFacebookが作るホロコーストの捏造投稿

偽情報の拡散

2025.06.28

　2025年5月、イスラエルのロシア語メディアNewsru.co.ilが、Facebook上に出回る「ホロコースト犠牲者」の感傷的な投稿の多くが、実際にはAIによって生成された虚偽であると報じた。これを受けて、調査団体Proverenoが複数の投稿群と運営主体を独自に検証し、2025年6月にその分析をロシア語で公開した。今回EDMOが英語で掲載したのは、そのProverenoの全文英訳である。タイトルは「Holocaust for Sale: How Facebook Profits from AI-Driven Deception and Why Meta Doesn’t Care」だ。

　このレポートは、ホロコーストの歴史的記憶をAIとSNSによって収益化する構造が、いかに容易に成立しているかを明らかにしている。背後にあるのは、画像生成AI、テキスト生成AI、Facebookのアルゴリズム、そしてMetaの収益モデルの共犯関係である。

名前だけ本物、写真も文章も創作

　Facebook上で拡散された投稿の形式は単純で、ホロコーストで命を落とした子どものポートレートと、1〜2段落の短い伝記風の文章という組み合わせである。しかし、顔写真はAIによる生成画像であり、文章も事実とは異なる内容であることが明らかになった。

EDMOより。https://edmo.eu/publications/holocaust-for-sale-how-facebook-profits-from-ai-driven-deception-and-why-meta-doesnt-care/

　多くの投稿は、Yad Vashemが公開する犠牲者名簿の実在の名前を利用しているが、生年月日や出身地、死因などの情報は捏造されており、「祖父とチェスをした」「バイオリンを愛していた」といった感情的描写は、裏付けのない創作である。さらに、一部の投稿では、実在する犠牲者の写真（アウシュビッツ・ビルケナウ博物館の公式Facebook投稿など）を改変して使用する例も確認されている。

　これらの投稿は、イスラエルの記念日（ホロコースト記念日）を起点に急増し、複数のFacebookページによって並行的に運用されていた。「90’s History」「Let’s Laugh」「Код 450」「Ok 30」などのページが確認され、その多くがAI生成コンテンツを使っている。

投稿の目的は収益、ページの正体は個人運営のマネタイズ拠点

　投稿の背後にある動機は、政治的な意図でも歴史的な主張でもなく、単純な収益目的である。Facebookは「コンテンツ収益化プログラム（Facebook Content Monetization）」を通じて、いいね・シェア・コメントといったエンゲージメント数に応じて投稿者に報酬を支払っている。1エンゲージメントあたり約0.0065ドルとされ、ページによっては1投稿で70ドル以上を稼ぐ例もある。

　Proverenoの調査によれば、確認されたページの多くは、元々別の用途（公的機関、フィットネス、個人ブログなど）で使われていたFacebookアカウントを改名・転用したものであり、既存のフォロワー基盤を持っていた点から、アカウント乗っ取りの可能性も指摘されている。運営者はインド、ナイジェリア、ミャンマー、イラン、オーストラリアなどに分散しており、特定の国家や組織による統一的なネットワークではなく、互いに模倣・盗用を繰り返しながら並走するマイクロな収益行動の連鎖とみられる。

　生成された投稿には一定のパターンがあり、使用される画像・文章ともに、既存の成功例を分析し、AIによって自動化された生成パイプラインが用いられていると考えられる。使用されるAIモデルはオープンソース、あるいは簡易サービスとして提供されており、画像と感傷的文の大量生産が可能である。

Facebookのアルゴリズムは「事実」より「反応」を優先する

　Metaの問題は、こうした投稿を明確に助長する設計にある。Facebookのアルゴリズムは、ユーザーの関心や感情的な反応に基づいて関連投稿を推薦するが、その信頼性や出典を評価する機構は組み込まれていない。2024年時点で、Facebookのフィードに表示される投稿の約30%が、ユーザーがフォローしていないページのものとされる。

　とりわけ歴史・戦争・子どもといった感情的テーマは、反応率が高く、Facebookのシステム上「成功しやすい」投稿として拡散されやすい。その結果、Yad Vashemやアウシュビッツ博物館の公式投稿よりも、AIによる捏造投稿のほうがユーザーのタイムラインに優先して表示される事態が起きている。

　Metaはこれまで外部のファクトチェッカーとの連携を行ってきたが、2025年に米国内でその制度を終了し、Xの「Community Notes」に類似した仕組みに移行するとしている。しかし、この仕組みは有効に機能しておらず、Proverenoが確認した偽投稿にはユーザー注釈が一切付与されていなかった。

「生成された犠牲者」は、記憶を崩壊させる

　UNESCOは2024年、AIがホロコースト記憶を損なう危険性を警告した。生成AIの誤用によって「存在しない犠牲者」が拡散されることは、否認論者にとって格好の材料となり、「偽の記憶」の存在が「本物の記憶」への懐疑につながる恐れがある。アウシュビッツ博物館の声明も、こうした懸念に強く同調している。

　さらに、同様の構造は商業広告にも転用されており、事実無根の感動話にAI画像を添えた投稿が、Tシャツ販売などの宣伝媒体として利用されている例も確認されている。Facebookにおいて、AI生成投稿が全体の4分の1を占めるという調査もあり、収益構造と投稿量の増加が、質と真偽への関心を限りなく希薄にしていることが読み取れる。

評論的補足

　この事例が示すのは、国家主導の情報操作とは異なる、脱構造化された偽情報の経済圏である。AIとソーシャルメディア、アルゴリズムとマイクロマネタイズが交錯した領域では、倫理や真実性は設計上考慮されていない。収益化可能な感情的物語の原材料として、歴史の悲劇すらも対象になる時代が現実になった。ホロコーストの記憶という重みのある主題が、誰にでも作れて誰にでも売れるテンプレートと化す危険を、EDMO掲載の本報告書は明確に示している。