ロンドン拠点の保守系シンクタンク、ヘンリー・ジャクソン協会（Henry Jackson Society、以下HJS）が2026年5月、報告書 Governing the Machine: Countering AI-Driven Disinformation を公表した。著者はHJS准研究員のDr Helena Ivanov。ロンドン・スクール・オブ・エコノミクス（LSE）で国際関係学の博士号を取得し、ユーゴスラビア紛争期のプロパガンダと民間人への暴力の関係を分析した研究者である。本報告書はHJS内のCentre for Resilient Society（社会的レジリエンス研究部門）との共同名義で発行されている。
なお、HJSは「民主主義・自由・人権」を標榜する親大西洋・反権威主義的立場をとる政策アドボカシー機関であり、中立的な学術研究機関とは性格が異なる。本報告書も英国政府への政策提言として設計されており、その規範的立場を前提として読む必要がある。
偽情報エコシステムの現状——WEFリスク評価が映す13年間の軌跡
報告書の出発点は、世界経済フォーラム（WEF）のグローバルリスクレポートの変遷である。WEFが「デジタル山火事」として偽情報を初めて体系的リスクとして位置づけたのは2013年のことで、当時のレポートはソーシャルメディアによる情報の急速拡散がテロ、サイバー攻撃、グローバルガバナンスの失敗と交差する複合リスクを形成すると警告した。「緊張が高い状況において、偽情報や不正確な画像は、正確な情報が普及する前に損害をもたらしうる」——この記述は2026年の文脈でも本質的に有効である。
その後の10年でこの潜在的危機は現実化した。2024年版WEFレポートでは偽情報・誤情報が「2年以内の最も深刻なグローバルリスク」の第1位に、10年スパンでは第5位に格付けされた。そして2026年版では10年スパンで第4位に上昇し、短期では地経学的対立に次ぐ第2位に後退した——ただしこれは偽情報リスクの低下を意味せず、地政学的・経済的緊張の急速な悪化が他リスクを押し上げた結果である、と報告書は明示している。
規模感を示す数字として報告書が引用するのは、Datareportalの2026年4月時点のデータである。世界のSNSユーザーアカウント数は57.9億に達し、前年同期比2億9,400万増。世界のインターネットユーザーの94.7%が月次でSNSを利用している。総利用時間として換算すると、人類は毎日150億時間以上をSNSコンテンツ消費に費やしており、これは175万年超の人間的時間に相当する。この数字は、アカウンタビリティが最小限にとどまるプラットフォーム上でほぼ誰もがほぼ何でも発信できる環境が、偽情報に対してどれほど肥沃な土壌を提供しているかを示す。
政治的帰結に関しても報告書は具体的事例を列挙する。ロシアが組織した偽情報キャンペーンとBrexit国民投票の関係、2016年の米国大統領選挙への影響（その「正確な影響度は争われているものの」という留保付きで）、そして2022年のウクライナ全面侵攻をめぐる情報戦がその主要事例として示される。報告書はさらに、中国・ロシアのFIMI（外国による情報操作・干渉）活動を比較分析した研究を引用し、「両国は様式と意図こそ異なるが、反西側ナラティブとメディア増幅を通じてFIMI活動で収斂しており、民主主義プロセス——特に台湾問題と米国選挙——を信用失墜させる活動に憂慮すべき並行性が見られる」とする。
ソーシャルメディアのアーキテクチャが生み出す増幅メカニズム
偽情報がなぜこれほど根強く持続するのかという問いに対して、報告書が提示する核心的な回答は、ソーシャルメディアプラットフォームの構造的設計にある。これらのプラットフォームは真実を優先するよう設計されていない——エンゲージメントを優先するよう設計されている、という命題がその起点となる。
アルゴリズムはクリック・シェア・いいねといった「ユーザーの顕示選好」を最適化する。実際の帰結として、事実に基づくが感情的刺激の少ないコンテンツは後退し、怒り・恐怖・憤慨を喚起する投稿が系統的に増幅される。その内容が正確かどうかはパフォーマンスの問題として二次的に扱われる。Germano・Gómez・Sobbrio（2026）はこのメカニズムを定量的に分析し、シェアベースのエンゲージメント増幅が誤情報とイデオロギー的分極化の双方を強化することを示した。彼らは、より極端な信念を持つユーザーは自らのプリアを支持するコンテンツを不釣り合いなほど多く強調する傾向があり、その結果コンテンツ分布が二峰性・分極化する方向に歪み、プラットフォーム全体のエンゲージメント指標は上昇しつつも情報品質の平均値は低下するという構造を明らかにした。Twitter/Xについても、エンゲージメント最適化アルゴリズムが「感情的に過激で外集団への敵意を帯びたコンテンツを増幅し、ユーザーが政治的反対者に対してより悪い感情を持つようになる」ことを示す研究が引用されている。
これに加えて報告書が詳細に分析するのが「レイジベイティング（rage baiting）」の経済的構造である。プラットフォームがエンゲージメントを収益化しクリエイターに還元する仕組みが整備された結果、怒り自体が経済的価値を持つようになった。意図的に炎上を招く挑発的・分断的コンテンツを制作するインフルエンサーは、感情的反応とエンゲージメントを最大化することで経済的報酬を得る。BBCの分析が指摘するように、このマネタイゼーション構造がこうした行動の急増に直接寄与している。
フィルターバブルとエコーチェンバーについて、報告書は両概念を区別する。フィルターバブルはアルゴリズムによるキュレーションがユーザーを態度一貫的な情報に浸す環境を指し、エコーチェンバーは個人が能動的に同質的他者とのみ交流を選ぶ選択的プロセスを強調する。HJSの先行調査では、回答者の50%超がSNSで目にするコンテンツは自分の既存信念と一致していると答え、70%超が自分の政治的・社会的信念を強化するアカウントを意図的にフォローし、対立的な見解を避けていると回答した。この二重の力学——アルゴリズム的閉鎖とユーザーの能動的選択——が組み合わさることで、誤った信念は反証への露出なしに反復的に強化される。報告書はさらに、エコーチェンバーが単一テーマにとどまらず隣接するミスインフォメーションへの推薦を通じて連鎖的に拡張する点を指摘する。反ワクチンコンテンツに引き込まれた個人がやがて主流医学・科学・制度全般への懐疑へと誘導されるというパターンがその典型例として示されている。
さらに報告書が強調するのが、SNSの「依存性設計」の問題である。ドゥームスクロール・強迫的な投稿・フィードの無限更新はドーパミン応答を惹起し、薬物依存やギャンブルとの類似を指摘する精神科医・心理学者の知見が引用される。前述のように人類が毎日150億時間をSNS消費に費やしているという数字は、誤情報への暴露が一時的・散発的ではなく継続的・高密度であることを意味する。この「量」の問題が、コンテンツの性質に加えて偽情報の定着化を促進する独立した要因として位置づけられている。
偽情報の実害——公衆衛生・選挙・制度信頼の複合崩壊
報告書が偽情報の「実害」として最も詳細に扱うのはコロナ禍のワクチン忌避問題である。40カ国1万8,400人を対象にした大規模研究によれば、COVID-19に関するミスインフォメーションの「信頼可能性の認知」とワクチン忌避の間に強い相関が確認され、オンラインで噂に接触したユーザーのうちファクトチェック情報にも接触したのはおよそ半数に過ぎず、国によっては6〜37%の個人がそれらの噂を「信じられる」と判断した。ポーランドのSNS上で最も多くシェアされた健康関連リンクの40%がフェイクニュースを含み、そのうちワクチン関連のものが最も多くの虚偽コンテンツを含んでいたという研究も引用される。英国・米国では、それまでワクチン接種を意図していた人々の接種意欲がミスインフォメーションによって6.2〜6.4%低下したとする推計も示されている。
この問題はCOVID-19で完結しない。英国の王立公衆衛生学会の調査では、5歳未満の子供を持つ英国人の親の50%がSNS上でワクチンに関するネガティブなメッセージに定期的に接していると回答している。HJSの先行調査では、英国の学生の60%超がオンラインで読んだ情報に基づいてMMRワクチンを子供に接種することに抵抗感を示した。報告書はこれを集団免疫閾値の観点から分析し、仮にこの忌避感の半数が行動に移された場合、予防可能な感染症の深刻なアウトブレイクが生じる水準まで接種率が低下すると指摘する。現実に、麻疹の再流行が西側諸国の一部で記録され、百日咳が東欧・北欧で再燃していることが引用される。
Belle Gibson事例は、意図的な偽情報と善意のシェアが組み合わさる構造を示す個別事例として提示されている。Gibsonはダイエットにより末期の脳腫瘍を治癒したと虚偽申告し、20万人超のフォロワーを獲得、Apple Watchへのアプリ統合とPenguin Booksとの出版契約を獲得した。その後、Gibsonが実際には脳腫瘍に罹患していなかったことが判明したが、彼女の発信を信じた多くのフォロワーが無意図的に内容を拡散しており、その時点で損害は既に生じていた。報告書はこの事例を、商業的利益のためにミスインフォメーションの検証を怠った大企業の問題としても読み解いている。
制度信頼の崩壊については、Gallupの2025年調査データが核心的根拠として用いられる。米国でテレビ・新聞・ラジオに対して「かなりの」または「相当の」信頼を寄せると答えた割合は28%——2020年の40%から急落し、測定史上最低を更新した。共和党支持者では8%と初めて一桁に落ち込み、無党派層は27%（歴史的最低値と並ぶ）、民主党支持者でも辛うじて過半数の51%を維持するにとどまった。Reuters Digital Report 2025が示す世界的傾向も同様であり、主流メディアへの不信を背景に「代替メディアエコシステム」への流入が進んでいる。報告書はこの動態を「悪循環」として概念化する——偽情報危機が深まるにつれ人々は主流メディアからSNSに移行するが、そのSNSはより多くの偽情報にさらす。これが主流メディアへの信頼をさらに低下させ、個人を次の操作に対してより脆弱にする——という連鎖である。
対抗策の失敗分析——ファクトチェックから教育介入まで
報告書は、過去10年間に展開された主要な対抗策がなぜ有効性を欠いたかを構造的に分析している。ファクトチェックについては、その限界が二重の意味で生じたとする。第一に、実装上の問題——協調的な偽情報ネットワークやボットファーム、アルゴリズム的に増幅されたウイルス性虚偽情報に対して、現実的な人員規模のファクトチェッカーは速度・量・精度で追いつけない。訂正情報はしばしば遅く、視認性が低く、感情的訴求力も元の偽情報に劣る。第二に、政治的正当性の問題——コロナ禍でMetaが導入した積極的なファクトチェックと内容モデレーションは、一部ユーザーから政治的偏向した「検閲機関」として認識された。特にTwitterのHunter Bidenラップトップ報道の処理とFacebookのCOVID研究所漏洩説の抑制——いずれも後に各プラットフォームが方針を撤回——は公的な信頼に取り返しのつかない損傷を与えた。
2024年のトランプ再選とElon MuskによるXの買収以降、主要プラットフォームはプロのファクトチェックモデルから撤退し、Community Notesのような代替システムに移行した。しかしこのシステムの有効性についても報告書は批判的データを提示する。Xでは提案されたノートのうち実際に表示されるのは約1割に過ぎず、最も必要とされる分極化した話題でさらに表示されにくい。「通常は意見が対立するユーザー間のコンセンサス」を要件とする設計上の欠陥が、事実上、党派的ユーザーによる事実の「人質化」を可能にしているという批判が引用される。
教育介入の限界については、構造的問題が三層で指摘される。第一に到達範囲の問題——多くのプログラムは自発的・局所的であり、既に問題を認識している層にしか届かない。Bronstein・Vinogradovが指摘するように、教育介入は「動機づけられた個人」を前提とするため、デジタルメディアリテラシーが低い層へのリーチが困難である。また、SNSがシェアを促す動機として「正確性の認識」よりも「フォロワーへの印象」を優先させるため、正確性認識を向上させても情報共有行動が変わらないという根本的問題がある。第二に教師の準備不足——2024年のCERTL調査では、公民教育者の20%未満しかミスインフォメーションに関する専門的研修を受けておらず、AIに関するトレーニングを受けたのはわずか2%。AIが生成したコンテンツを検出・批判的分析できると感じる割合は、教師が13%であるのに対し生徒が38%という逆転現象も示された。第三に制度的抵抗——コロナ禍に実施されたAPA調査では、PreK-12教師の3分の1が生徒から言語的嫌がらせを受け、29%が保護者から脅迫されたと報告しており、APA自身が教師への暴力を公衆衛生問題と位置づけるに至っている。
AIがもたらす質的・量的変容——ディープフェイクから選挙干渉まで
既存の偽情報危機にAIが重畳する構造的変化を、報告書は四つの次元で整理している。
第一は規模と質の変容。欧州議会調査サービスの推計によれば、オンラインで共有されるディープフェイク動画の数は2023年の約50万本から2025年には800万本に達する可能性があり、この期間に16倍の増加が見込まれる。ディープフェイク検出実験では、人間の評価者の検出精度はほぼ偶然水準と変わらず、「情報の霧」が本物性の識別を困難にしている状況がすでに発生している。
第二はコストと速度の変容。操作的コンテンツ生成コストの劇的な低下と生成・拡散速度の増大が、既存の対抗手段の有効性をさらに低下させる。過去にボットファームや組織的トロールネットワークと競合できなかった人力ファクトチェッカーが、産業規模で偽情報の生産・拡散を自動化できるAIシステムに対抗できる根拠は乏しい。しかも偽情報への対抗コストは生産コストを超過する傾向にあり、主要SNSプラットフォームがプロのファクトチェックから離脱しつつある環境ではなおさらである。
第三はマイクロターゲティング能力の変容。WEFが指摘するように、AIは自己申告されたオンラインデータから性格類型を識別してターゲットを特定し、感情的に共鳴しシェアされやすいメッセージをカスタマイズして配信することを可能にする。2024〜2025年選挙サイクルのデータは、AIシステムが複数国にわたって感情的インパクトを最大化するようにコンテンツを最適化したことを示している。大規模なキャンペーンが数百万単位のカスタマイズされたナラティブを同時展開する事態が現実のものとなりつつある。
第四は進化速度の問題。AIモデルの急速な進化は、教育プログラムや規制フレームワークの設計を根本的に困難にする。現世代のシステムを想定して設計された法制度や教育カリキュラムは、数カ月後には大幅に高度化した次世代モデルに対して陳腐化する可能性がある。
実際の事例として報告書が詳述するのはルーマニアの2024年大統領選挙である。AIによる干渉を示す証拠——操作された動画を含む——が確認され、選挙結果が司法によって無効化された。この事例の意味は選挙結果そのものにとどまらない。ロシアの干渉が狙っていた特定の政治的結果を達成したかどうかとは独立に、ルーマニアの民主的制度に対する国民の信頼を永続的に傷つけ、選挙制度の完全性への公的信頼を不安定化させることには成功した、と報告書は分析する。
アイルランドの2025年大統領選挙では、最終的な当選者が候補を辞退したとするディープフェイク動画が拡散し、国内の放送局がそれを「確認」したとする偽の映像まで作成された。オランダでは政治的対立者への攻撃に約400点のAI生成合成画像が用いられた。英国では、King’s College Londonの教授Alan Readの音声をほぼ完璧に合成したディープフェイク動画が、フランスのマクロン大統領を含む西側指導者を批判する「政治的な演説」を行う形でSNSに拡散し、ロシアとの関連が疑われる一連の合成動画の一つであることが指摘された。
AIの悪用は選挙・地政学にとどまらない。報告書は非合意的性的画像の問題を独立したテーマとして詳述する。Trinity College Dublinがゴ Grok（XのAIチャットボット）を利用した500件のSNS投稿を分析した研究では、収集・分析された投稿の約4分の3が実在の女性または未成年者の衣服を除去・追加する非合意的画像の生成要求であった。Xはプレミアム以外のユーザーに対してGrokによるそのような画像生成を禁止しているが、プレミアム加入者には制限が適用されていない可能性があることも指摘されている。報告書は英国政府がこうした画像の生成・共有を犯罪化し最大2年の禁固刑を設けたことを歓迎する一方、その決定が問題全体のごく一部に対処するに過ぎないとして、より包括的な政策フレームワークの必要性を強調している。
政策提言の枠組み——五つの柱とその根拠
報告書が提示する政策フレームワークは五つの提言から構成される。いかなる静的な政策も急速に陳腐化するという前提のもと、継続的な更新・適応がフレームワーク全体の条件として位置づけられている。
| 提言 | 内容 | 主な条件・留意点 |
|---|---|---|
| AIによるファクトチェック | AIによる大規模監視・パターン検出・対応提案を活用するハイブリッドモデル | 最終判断は人間が担う。継続的なストレステストと更新。回避戦術への対応 |
| 教育者向け国家支援訓練 | 学年ごとに専任教育者を配置。AI企業・SNS企業・専門家との連携による継続的滚動研修 | 静的でなく継続的ローリング方式。Metaからanthropicまでの民間参加 |
| 義務的メディアリテラシー教育 | 初等教育から大学まで週1コマの義務的授業。インタラクティブ・事例ベース・定期更新 | 任意では「既に関心を持つ層」にしか届かない。実践的演習を重視 |
| ラジカル・トランスペアレンシー | 政府の偽情報対策プログラム・AI開発者・SNS企業への透明性要件。AI生成コンテンツの義務的ラベル表示。ファクトチェック過程でのAI使用開示 | 独立した監督・議会審査・不服申立手続きとセットで。言論の自由との均衡が不可欠 |
| 継続的更新と戦略投資 | 持続的財政投資・ローリング政策レビュー・国際協力・産業横断的連携 | 散発的な政策ペーパーや会議では不十分。戦略的優先事項としての制度化 |
AIファクトチェックについて、報告書はJRC（欧州委員会合同研究センター）の知見を引用し、LLMがメッセージとナラティブの拡散パターンを分析することで協調的操作の兆候を検出でき、多言語クラスタリングにより偽情報キャンペーンを複数言語・国にまたがって識別できることを示す。ただしAIモデルの偏向・誤情報生成・ハルシネーションのリスクを明示した上で、AIはあくまで識別・処理・提案を担い、最終的な判断は人間の管理下に置くべきだと論じる。AI検出システム自体が検出回避を前提とした偽情報生産に適応されるという軍拡競争的ダイナミクスも認識した上で、継続的なシステム更新の必要性が強調される。
「ラジカル・トランスペアレンシー」では、COVID-19研究所漏洩説の抑圧やHunter Bidenラップトップ問題でのプラットフォームの判断が後に撤回された事例を起点として、情報の抑圧自体が偽情報に搾取される信用ギャップを生み出すと分析する。同時に、偽情報対策が政府による「真実の管理」として機能するリスクを正面から取り上げ、その懸念を「単純に退けるべきでない」と述べる。このため対偽情報施策は独立した監督・公表された判断基準・明確な監査証跡・議会審査・不服申立経路とセットで設計されなければならないとし、正当な政治的見解の相違と国家安全保障上の脅威となる言論の境界を明確化することを前提条件として位置づけている。
最後の提言「継続的更新と戦略投資」において報告書が採用する比喩は注目に値する——「戦争は戦場で始まる前に、ほぼ常に情報空間で戦われる」。SNS台頭期に被害の可能性を認識しないまま後手に回った失敗と対比し、AIについては「まだ先手を打てる機会がある」という時間軸上の主張が重ねられる。WEFリスクレポートで偽情報が長年にわたって高順位に据え置かれている事実そのものを、現行の対処アプローチが「根本的に不十分」であることの証左と位置づける論法も提示されている。
分析射程は英国政策に限定されているが、アルゴリズム的増幅・エコーチェンバー・AIによるディープフェイク大量生産・制度信頼侵食というメカニズム分析は普遍的構造問題として提示されている。HJSの政策的立場を踏まえた上でも、ソーシャルメディアのアーキテクチャとAIによる偽情報の質的変容を接続する枠組みは参照価値を持つ。
出典： Dr Helena Ivanov, Governing the Machine: Countering AI-Driven Disinformation, Henry Jackson Society / Centre for Resilient Society, May 2026. https://henryjacksonsociety.org/publications/governing-the-machine/
コメント