Cheapfakesはなぜ使われるのか。その持つ力とは？

論文紹介

2024.12.10

　視覚的な誤情報は、インターネット時代において私たちの社会に深刻な影響を与えています。その中でも特に注目されるのが、簡単に作成できる Cheapfakes です。

　Cheapfakesは、既存の映像や画像を編集したり再文脈化することで誤解を生じさせる技術であり、Britt ParisとJoan Donovanによる2019年のレポート「Deepfakes and Cheap Fakes」では、SNSやデジタル文化における重要な現象として位置づけられています。一見してすぐに偽物とわかる場合も多いCheapfakesが、なぜ広く使われ続け、効果を発揮しているのでしょうか？

Cheapfakesの特性

　「Deepfakes and Cheap Fakes」は、Cheapfakesの特徴とその力を次のように定義しています。

技術的な簡便性
- Cheapfakesは簡単な編集ソフトやスマホアプリで作成可能で、Deepfakesのように高度なAIや計算能力を必要としません。
- コストや技術の壁が低いため、誰でも作成・共有可能で、SNSの特性（迅速な拡散）に合致しています。
拡散力
- 特にWhatsAppのようなプライベートチャネルでは、Cheapfakesが高速かつ広範囲に拡散されやすいと指摘されています。
感情操作
- 動画や画像の視覚的要素は、視聴者の感情を強く刺激します。例として、ナンシー・ペロシのスローモーション映像（遅く話しているように見える操作）が挙げられます。

Cheapfakesが効果的な理由

　Michael Hameleersらによる2つの論文「How persuasive are political cheapfakes disseminated via social media?」と「Cheap Versus Deep Manipulation」では、Cheapfakesの効果をさらに深く掘り下げています。

信頼性と受け手の認識
- Cheapfakesは、視覚的リアリズムに頼らなくても効果を発揮します。映像や画像は受け手に「現実の一部」と認識されやすく、特に既存の信念や偏見と一致する場合、その信頼性が高まります。
- また、SNS上で「いいね」や肯定的なコメントが付与されることで、Cheapfakesの信頼性がさらに補強されることが実験で示されています。
Deepfakesとの比較
- CheapfakesとDeepfakesを直接比較した結果、意外にもCheapfakesがDeepfakesと同等、またはそれ以上の効果を持つ場合があることがわかりました。
- 理由は、Cheapfakesが「シンプル」であるがゆえに、受け手が批判的に検証せずに受け入れる傾向があるためです。Deepfakesの高度なリアリズムが逆に「嘘くさい」と感じられる場合もあることが指摘されています。

なぜCheapfakesが広く使われるのか？

　Cheapfakesが多用される背景には、以下の3つの理由があります。

コストとスピード
- Deepfakesに比べ、Cheapfakesは低コストで迅速に作成でき、SNSでの即時拡散に適しています。
感情的インパクト
- Cheapfakesは視聴者の感情を引き出す効果が高く、特定の政治的・社会的議題を支持させるのに効果的です。
リスクが少ない
- 技術的に簡単な編集であるため、法律やプラットフォームの規制を回避しやすい場合があります。

Cheapfakesにどう対抗するか

　Cheapfakesがこれほど効果を持つ中で、私たちはどのように対抗すべきでしょうか？上記の3つの論文からは、以下の3つの対策に整理できます。

メディアリテラシーの向上
- 視聴者が視覚メディアに対する批判的思考を持ち、真偽を見極める力を持つことが重要です。
プラットフォームの検出能力強化
- SNSプラットフォームがCheapfakesの検出に積極的に取り組む必要性が示されています。アルゴリズムの精度を高めるだけでなく、ユーザーとの協力が求められます。
社会的規範の確立
- 拡散される社会的背景に注目すると、拡散を防ぐための倫理的議論と啓発が必要です。