本稿が扱うのは、モナッシュ大学ソフトウェア・システム・サイバーセキュリティ学部のカーロ・コップ博士が2026年8月12日付で発表した、国家のための偽情報対処能力成熟度モデルの理論的根拠を示すホワイトペーパー「A Rationale for a Disinformation Defeat Capacity Maturity Model for Nations」である。同文書はオセアニア・サイバーセキュリティセンター（OCSC）の資金提供を一部受けて作成された。
このホワイトペーパー自体は完成した評価基準ではない。コップ博士とC. Jonesが同時期にまとめた別の報告書「A Disinformation Defeat Capacity Maturity Model for Nations」（2026年8月、モナッシュ大学、DOI: 10.26180/33218691）の理論的裏付けを提供する位置づけの文書であり、後者の実務的な成熟度モデル本体を設計する際に用いた分析枠組みを、章立てて詳述したものである。参照点として挙げられているのが、オックスフォード大学Global Cyber Security Capacity Centreが策定した「Cybersecurity Capacity Maturity Model for Nations（CMM）2021年版」であり、サイバーセキュリティ分野で広く用いられているこの成熟度モデルを、そのまま偽情報対処の分野に転用することはできないという問題意識が、本稿全体を貫く出発点になっている。
成熟度モデルとは、ある組織や国家が特定の課題にどれだけ体系的・持続的に対応できる能力を備えているかを段階的に評価するための枠組みである。サイバーセキュリティの領域ではすでに確立された手法だが、偽情報という対象に適用するには、攻撃対象・攻撃の性質・防御の副作用のいずれにおいてもサイバー攻撃とは根本的に異なる前提を組み込む必要がある。この違いを一つひとつ検証し、成熟度モデル設計上の要件として抽出することが、本ホワイトペーパーの目的である。
偽情報の定義とその周辺概念
コップは冒頭で、主要な辞書・百科事典・国際機関による偽情報の定義を列挙している。Britannica、Cambridge、Oxford、Merriam-Webster、Dictionary.com、旧ソビエト百科事典、欧州連合（EU）、Wikipediaの定義を比較した上で、共通する核は「特定の対象集団に虚偽の信念を抱かせる意図的な欺瞞行為」である一方、範囲や実行主体の定義には相違があると整理する。
そのうえでコップは、自身がK. B. Korb、B. I. Millsと共著し2018年に学術誌PLOS ONEに発表した論文で示した欺瞞の定義――「第二者を虚偽の信念状態に導く、あるいは維持することを目的とした行為または意図的な不作為であり、欺く側の意図が欺かれる側に不利益を与えることであるとは限らない」――を土台に、偽情報を次のように再定義する。「偽情報とは、いかなる手段によるものであれ、被害者集団に虚偽の信念や虚偽の解釈を流布させることを意図した欺瞞であり、攻撃者の目的を推進・助長するために行われる。多くの場合、明確な目標を持つ組織的キャンペーンとして実行される。プロキシ（媒介者）は、それが欺瞞であると知らず、欺く意図もないまま偽情報を伝播させることがある」。
この定義でとりわけ重要なのはプロキシという概念の組み込みである（後述）。加えて本稿は、米空軍系の専門誌Aerospace Power Chroniclesに1999年に発表されたアンドリュー・ボーデンの論文、およびNATOによる情報戦の定義――「相手に対する情報上の優位を獲得するために行われる作戦であり、自らの情報空間を統制し、自らの情報へのアクセスを守りつつ、相手の情報を取得・利用し、相手の情報システムを破壊し、情報の流れを阻害することから成る」――を引用し、偽情報がしばしば認知戦の一構成要素として運用される点を確認する。
さらに、調査報道研究者クレア・ワードルとホセイン・デラクシャンが欧州評議会の委託により2017年にまとめた報告書「情報の混乱」が示す三分類が紹介される。誤情報は「虚偽の情報が共有されるが、害意はない」場合、偽情報は「虚偽の情報が害を及ぼす目的で意図的に共有される」場合、そして悪意情報は「真実の情報が害を及ぼす目的で共有される場合であり、多くはプライベートな情報を意図的に公共空間へ移すことによる」場合と定義される。コップはこの三分類のうち、悪意情報の典型例としてテロリズムの被害を大々的に報じるメディアの姿勢を挙げ、メディアが結果的にテロリストの意図を叶えるプロキシと化す構造を指摘している。
この文脈で参照されるのがRAND研究所が提起した「真実の衰退」という概念である。RANDはこれを「事実やデータをめぐる意見の相違の増大、意見と事実の境界の曖昧化、事実に対する意見の相対的な量の増大、そして事実の情報源として権威を持っていたはずの機関への信頼の低下という4つの傾向によって特徴づけられる」と定義しており、コップはこの真実の衰退が社会の認知的機能不全と密接に結びついていると論じる。人気が真実性よりも拡散の駆動力となるデジタル情報環境の構造そのものが、既存の認知バイアスに訴える情報を優遇し、社会的な認知機能不全を強化するという指摘である。
プロキシ問題――悪意なき媒介者をどう扱うか
コップが特に力点を置くのが「プロキシ問題」である。偽情報の拡散において、マスメディア・ソーシャルメディア・メッセージングプラットフォームを問わず、プロキシ（媒介者）の利用は極めて一般的な特徴であり、しかもプロキシ自身が自分が偽情報を広めていることに気づいていないケースが多いと指摘する。
プロキシが偽情報を共有する動機は多岐にわたるとして、次のような類型が列挙されている。集団内での社会的地位の維持・向上のため、既存の信念やイデオロギーに合致するため（いわゆる「有用な馬鹿」としての行動）、荒らし行為の一環として、ネットワークのトラフィックと収益を稼ぐクリックベイトとして、資金提供を受けて真偽に無頓着なまま拡散する場合、偽情報生産主体自身が用いる偽の身元として、そして学習データの汚染によって意図的または過失により偽情報を生成するAIチャットボットやソフトウェアロボットとして機能する場合、である。
この整理が持つ政策的意味は大きい。プロキシが悪意なく害を及ぼす偽情報や、あるいは害を及ぼす真実の悪意情報を拡散した場合、対策は行為者の「意図」を優先すべきか、それとも生じた「害」を優先すべきかという問題が生じる。コップは、プロキシが自らが悪意ある主体のために行動していることを認識していないケースが多いことこそが問題の核心であり、この認識の欠如が対抗策の設計に倫理的・法的な難題をもたらすと結論づけている。成熟度モデルは、プロキシが悪意を持つか否かにかかわらず、偽情報の流通経路としてのプロキシの機能そのものに対処しなければならないという要件がここから導かれる。
サイバー攻撃との構造的な違い
偽情報攻撃をサイバー攻撃と混同する傾向は、マスメディアや一般言論において根強い。コップは両者の本質的な差異を、攻撃対象の違いに求める。NISTのサイバー攻撃の定義――「サイバー空間を介して、企業のサイバー空間利用を妨害・無力化・破壊すること、あるいはコンピューティング環境・インフラを悪意をもって制御すること、またはデータの完全性を破壊すること、あるいは制御された情報を窃取することを目的とした攻撃」――に対し、コップは偽情報攻撃の対をなす定義を提示する。「偽情報攻撃の意図は、被害者または被害者集団を虚偽の信念状態に導く、あるいは維持することであり、通常は政治・イデオロギー・商業といった別の目的を支えるために、攻撃者に有利になるよう被害者の行動を変化させることを目指す。偽情報は典型的には悪意ある影響力行使の道具である」。
すなわち、サイバー攻撃の主要な標的がコンピュータシステム・ホストされたアプリケーション・データおよびそれを支えるネットワークであるのに対し、偽情報攻撃の主要な標的は人間の心、あるいは人間集団の心そのものである。この対比は単なる分類上の整理にとどまらず、両者を同じ枠組みで測定・防御しようとする発想の限界を示すものである。
もっとも両者の対象は重なり合う局面もある。コップは重なりのパターンとして、（A）偽情報を正当化するための偽の身元を作成・維持するサイバー技術の利用、（B）偽情報生成のための個人情報窃取を目的としたサイバー技術の利用、（C）ニュースフィードを監視するビッグデータやAIシステムを偏向・汚染させるための偽情報の注入、（D）より深刻なサイバー攻撃を可能にするために、被害者にサイバー衛生を怠らせるための偽情報の利用、の4類型を挙げる。具体的な事例として、選挙結果の集計に用いられるコンピュータへの侵入によって別候補の順位を表示するマルウェアを仕込み、プロパガンダの物語を支える手口と、スピアフィッシングによってメールサーバーに侵入し、窃取した書簡を公開または改変してプロパガンダの根拠として流布させる手口が挙げられている。
偽情報がもたらす害と認知戦の位置づけ
偽情報の害の分類として、コップは欧州議会対外政策総局の委託により2021年に公表された報告書でカルメ・コロミナらが示した人権への影響（思想・意見形成の自由、プライバシー権、表現の自由、経済的・社会的・文化的権利）と民主的プロセスへの影響（民主的制度・社会への信頼の弱体化、公共の議論への参加権と選挙介入）の整理、およびオーストラリア通信メディア庁（ACMA）による急性の害（健康と安全、公共のパニックと社会的混乱、選挙の健全性、金融・経済的被害）と慢性の害（公共機関への信頼、専門的情報源への信頼、地域社会の結束）の分類を、それぞれ原文を引用する形で紹介している。
偽情報は多くの場合、認知戦の構成要素として展開される。コップは防衛専門誌The Defense Horizon Journalに2023年に発表されたイブラヒムらによる系統的レビュー論文のモデルを引用し、心理作戦、情報戦、心理戦、認知戦の四者を、対象（戦闘員か非戦闘員か）と媒体（アナログかデジタルか）の二軸で位置づける図式を示す。認知戦はこれら全ての範囲を包含する最も広い概念として位置づけられている。
ロシアの情報作戦ドクトリンにおいて重要な概念として紹介されるのが「反射統制」である。米シンクタンクMITRE社のロシア軍事思想専門家T・L・トマスが2019年にまとめた報告書「ロシアの軍事思想」に引用されているロシア側論者チャウソフの説明によれば、その手法は「敵に対して、自軍にとって有利な形で行動するよう仕向けるための手段と技法であり、敵の目標と行動様式を自軍に有利な方向に変化させ、任務達成に有利な条件の創出に貢献しうるもの」と定義される。コップは同じくトマスの報告書に引用されている2011年のロシア国防省文書を引用し、「国家間の情報空間における紛争は、情報システム・プロセス・資源、および重要な構造への損害を与えることを目標とし、政治・経済・社会システムを弱体化させ、国家の人口に対する大規模な心理作戦を実施して社会と政府を不安定化させ、あるいは国家に相手の利益に沿った意思決定を強いることを目指す」という記述を提示している。
不確実性が存在する状況――マレーシア航空17便撃墜事件やSARS-CoV-2の起源をめぐる高度に政治化した論争のように、確たるデータが欠如し、事実についての不確実性が大きい状況――こそ、偽情報が最も繁茂する土壌であるとコップは指摘する。国家主体・非国家主体を問わず、認知戦を展開する主体はこうした不確実性の存在する状況の利用に長けているという。
人間の認知エラー――なぜ人は偽情報を受け入れるのか
コップは認知サイクルモデルとして知られるボイド・サイクル（OODAループ、観察-情勢判断-意思決定-行動）を用いて、人間の認知が偽情報にどう脆弱であるかを説明する。観察された情報が個人の内的モデルと整合しない場合に生じる「認知的不協和」――心理学者レオン・フェスティンガーが1962年の著書で最初に体系化した概念――への反応は受容か拒絶に分かれ、受容の結果として虚偽の信念が内的モデルに組み込まれた場合、それ以降の観察・情勢判断・意思決定・行動のすべてが歪められる可能性がある。
虚偽を虚偽と認識できない主な原因の一つとして、コップは能力の欠如そのものを挙げる。これは「自信バイアス」の一種であり、ダニング=クルーガー効果――無能な個人ほど自らの無能さを評価する能力自体を欠いており、それが誤った判断への無批判な受容を生む――の典型例である。カーネマンとトヴェルスキーが最初に指摘した認知バイアスの概念、および「速い思考」――正確性よりも反応速度を優先するヒューリスティック（経験則）による判断――の構図が紹介され、進化心理学者マーティ・ヘイゼルトンらの研究に基づき、この「速い思考」が進化的な生存機構として本来は有効に機能する一方、不適切な文脈で用いられると偽情報への脆弱性を高めることが説明される。認知心理学者ゴードン・ペニークックとデイヴィッド・ランドが学術誌Trends in Cognitive Sciencesに発表した近年の研究も、熟考的な思考が虚偽データの受容を減らすことを示し、「速い思考」と偽情報への脆弱性の強い相関を裏づけているという。
数ある認知バイアスの中でもコップが特に問題視するのが確証バイアスと自信関連バイアスである。確証バイアスは既存の信念体系を強化・拡大しうる点で深刻であり、自信関連バイアスは真の理解を伴わない過剰な自己確信を生む点で深刻だとされる。本稿はさらに、動機づけられた認知、優越の幻想、偽の合意バイアス、偽の独自性バイアス、自己欺瞞、否認・否認主義という具体的なバイアス類型を列挙する。
個人レベルの認知エラーに加え、集団レベルの機能不全として社会心理学者アーヴィング・ジャニスが1982年の著書で提示した「集団思考」――集団内の個人が代替的な説明を退け、しばしば非合理に集団的な判断や見方を偏らせながら、集団の見解に盲目的に同調する現象――、「多元的無知」――集団内の個人が他者の見解を誤解し、自らが虚偽と知る見解や決定に、多くは社会的優位を得るために表面上同調する現象――、そして「分極化」――集団が相互に相容れない見解を持つ二つの下位集団に分裂し、時間の経過とともに和解不可能になり、しばしば公然たる敵意や暴力にまで発展する現象――が挙げられる。デジタルネットワークによって形成される大規模な社会的つながりが、これらの機能不全を急速かつ大規模に個人集団を捕捉させる重要な要因であるとされる。
なお、前出のペニークックとランドは別の研究で、偽情報への受容性と偽情報を生産する傾向との間に強い相関を見出し、虚偽の受容と理解力の弱さとの密接な関係も確認している。ウォータールー大学のシェーン・リトレルらの研究も、他者に感銘を与えるために偽情報を生産しがちな個人ほど、自らも偽情報を受容しやすいという同様の知見を報告している。
生存可能性の定量モデル――サスセプティビリティとバルネラビリティ
本稿の中でも独自性の高い提案が、偽情報に対する「生存可能性」の定量的モデル化である。コップはNISTのサイバー・レジリエンシーの定義を借用し、偽情報レジリエンシーを「虚偽の信念や虚偽の解釈を生み出そうとする偽情報攻撃を予測し、それに耐え、そこから回復し、それに適応する能力」と暫定的に定義する。
そのうえで、航空機の生存性分析を専門とする工学者ロバート・E・ボールが著書『The Fundamentals of Aircraft Combat Survivability』で確立した生存可能性モデルを援用し、偽情報生存可能性（PSD）を「攻撃者が意図した虚偽の信念や解釈の注入に成功しなかった確率」、偽情報感受性（PH）を「欺瞞的メッセージが標的に提示される機会、すなわち偽情報攻撃に晒される確率」、偽情報脆弱性（PV）を「攻撃者が意図した通りに標的の信念を変化させる、虚偽の信念や解釈を標的が受容する確率」として定義する。三者の関係は次の式で表される。
この式が持つ含意は明快である。複数のソーシャルメディアやニュースプラットフォームを頻繁に利用するユーザーは偽情報への曝露確率（PH）が高く、ユーザーが常用する複数のメディアにまたがって「バイラル化」したメッセージに対しては感受性がほぼ1に近づく。一方、脆弱性（PV）は各被害者固有の認知バイアス・支配的な認知効果・社会的認知エラーによって決まる。素朴な標的は高い脆弱性を持ち、懐疑的な標的は低い脆弱性を持つ。注目すべきは、ある偽情報による欺瞞が一度失敗した場合、懐疑的な標的はその後の類似攻撃に対してより低い脆弱性を示す可能性がある――つまり欺瞞として識別されやすくなる――という指摘である。
本稿には、欺瞞的メッセージへの曝露回数と信念生存確率の関係を示す簡易モデルの図表も含まれる。信頼度（脆弱性の低さ、1−PV）が0.1から0.999まで変化する複数の曲線が描かれ、曝露回数が増えるにつれて素朴な被害者（脆弱性が高い層）の信念生存確率が急速に低下する一方、懐疑的な被害者（脆弱性が低い層）は比較的緩やかにしか低下しないことが視覚化されている。コップは、この生存可能性方程式への適切な対処こそが、成熟度モデルにおける能力と容量双方の問題の中核をなすと結論づける。攻撃を生き延びるとは、攻撃者側の配信を妨げることと、防御を突破して届いたメッセージそのものを打ち破ることの、両方を意味するという整理である。
伝播問題――口伝えからボットまで
偽情報は情報を運びうるあらゆるチャネルを通じて伝播しうる。コップは歴史的な発展段階を辿る。最も原初的な「口コミ」伝播においては、信頼と社会的文脈が伝播率と受容度を大きく左右し、家族集団・拡大家族・友人集団・宗教共同体・教育機関・職場のそれぞれで異なる伝播パターンが見られる。文字の発明は情報の遠距離・長期間にわたる伝達を可能にしたが、手書きの写本による複製は再解釈と脚色を通じて事実を偽情報へと変質させる歴史学・社会学ではよく知られた問題を生んだ。
グーテンベルクの活版印刷術の登場は明確な断絶点であり、（1）情報を寸分違わず複製できること、（2）印刷物が物理的に保存される限り情報を保存できること、（3）大量に複製できること、（4）活版一式が整えば、手書き写本よりも安価かつ迅速に複製できること、という4つの新たな性質をもたらし、これがプロパガンダ配布に大々的に利用されることとなった。20世紀のアナログ電子メディア（電気通信・放送）の登場はさらなる断絶点となり、ほぼ瞬時の伝播と、大規模な受け手集団への同時配信を可能にした。実際、テレビの大規模導入の最初の用途はプロパガンダの放送だったと本稿は指摘する。
デジタルメディアの登場は、情報の捕捉・保存・大量配信技術の高速化・低コスト化・大規模化という傾向をさらに推し進めた。ソーシャルメディアプラットフォームとアルゴリズムによるコンテンツ配信のフィルタリングは、大規模なユーザー生成コンテンツの配信と「マイクロターゲティング」されたコンテンツ配信を可能にすることで、この変化を加速させた。政府によるメディア統制への反発から普及した秘匿性の高いメッセージングツールも、偽情報の秘匿された配信チャネルとして機能しうる。
現代における偽情報配信チャネルは、（A）口コミ、（B）印刷メディア、（C）放送メディア、（D）デジタルマスメディア、（E）ソーシャルメディア、（F）セキュアメッセージングツールおよび電子メールという複雑かつしばしば無秩序で構造化されておらず、時にランダムなメッシュ構造をなし、これら異なるメディア種別の間・内部を横断して伝播・拡散する。ソーシャルメディアに現れた口コミの噂がマスメディアや放送によって取り上げられ、複数チャネルを横断していく事例は頻繁に観察される。
伝播行動そのものについては、媒体を問わず生物学的病原体で見られる疫学的パターンに従うことが多く、拡散行動の測定やシミュレーションの多くは疫学で確立された区画モデルに良好に適合するという。デジタル時代に特有なのは、帯域・国家規模あるいは地球規模のフットプリントが、生物学的病原体で見られる何桁も速く広い規模で拡散効果を生む点である。偽の身元やなりすまし身元を用いる「ソックパペット」や、メッセージの人気度に応じて反応するランキングアルゴリズムを汚染するために用いられる「ボット」がこの拡散を増幅する。「バイラル」な伝播、すなわちネットワーク内でのカスケード的な拡散行動の獲得は、偽情報を広める側が広く追求する目標であり、「エコーチェンバー」や「フィルターバブル」もこの捕捉に寄与する要因として挙げられている。
AI技術がもたらす偽情報問題――「スロパガンダ」とハルシネーション
AI技術、とりわけ大規模言語モデル（LLM）を含む機械学習の応用は、偽情報の領域にすでに重大な影響を及ぼしている。コップは、哲学者マイケル・クリンツェヴィッチらが2025年のプレプリント論文で提唱した「スロパガンダ（slopaganda）」という語を紹介する。これは「政治的な目的を達成するために信念を操作する目的で拡散される、望まれていないAI生成コンテンツ」と定義される。
現代の偽情報の多くが根拠となる真実を必ずしも必要としないため、他の高度な用途には不十分な水準のAI技術でも、偽情報の生産・拡散には十分役立ちうるとコップは指摘する。ニューヨーク大学ロースクール附属の法・安全保障研究拠点Reiss Centerが2022年に公表した報告書でベン・ホニグバーグが述べる言葉を借りれば、「AIの能力が向上し続けるにつれ、それらは人間を操作し欺くますます効果的な道具になっていく。差し迫ったサイボーグの黙示録を恐れる必要はないが、AIが可能にする新しい時代の偽情報に備え、戦略を練る必要がある」。NATO戦略的コミュニケーション卓越センター（ラトビア・リガ所在）が2026年に公表した報告書でニール・ボルトとエカ・ランゲ＝イオナタミシュヴィリはさらに踏み込み、「神経戦争」の到来を警告する。「人間と機械の融合は人工知能を超え、民主主義と情報環境に深刻な影響を及ぼす神経技術的革命となる」とし、「西側のオープンソースAIモデルに虚偽データを注入し、将来の訓練サイクルを汚染することを狙う」新たな情報戦線の存在や、AIシステムが競合する解釈で証拠を断片化し、「証拠を立証する責任から、どのAI仲介システムが有効な証拠を定義する権威を持つかを選ぶ責任へと」立証責任の所在を移してしまう危険性を指摘している。
技術的な観点からは、AIモデルの「ハルシネーション」効果――もっともらしい虚偽を生成する現象――が問題として詳述される。学術誌ACM Transactions on Information Systemsに2025年に発表されたホアンらの調査論文の分類学に基づき、ハルシネーションは事実性ハルシネーション（事実矛盾・事実捏造）と忠実性ハルシネーション（指示との不整合・文脈との不整合・論理的不整合）に大別され、それぞれの原因もデータ由来（誤情報とバイアス、知識境界、不十分な整合データ）、訓練由来（事前学習・SFT・RLHFに起因）、推論由来（不完全なデコード戦略、過信、ソフトマックス・ボトルネック、推論の失敗）に分類される。2025年のプレプリント論文でカライらが示した研究は、不確実性を認める応答よりも推測を報酬する評価方法そのものがハルシネーション行動を生んでいることを示しており、人間が不確実性に直面したときの振る舞いと並行する現象だとコップは指摘する。
さらに深刻なのが、AIモデルの学習データそのものが人間由来のバイアスや偽情報によって汚染されうる問題である。本稿はLLMに共通して観察される10種類のバイアスを表にまとめている。ステレオタイプ・バイアス、確証バイアス、過信バイアス、ダニング=クルーガー効果、フレーミング効果、利用可能性ヒューリスティック、アンカリング・バイアス、直近性バイアス、選択バイアス、否定性バイアスがそれぞれ、訓練データに含まれる人間の判断パターンを反映する形でLLMの出力に現れることが示される。経営学術誌Manufacturing & Service Operations Managementに2025年に発表された、ChatGPTのバイアスを人間のバイアスと比較したチェンらの研究では、GPT-3.5とGPT-4を対象とした36の検証事例のうち15例で人間のバイアスを反映し、21例で典型的な人間の反応から乖離する結果が得られたという。
学習データの意図的な汚染の実例として、コップはロシアのLDPR（自由民主党、実際には自由でも民主的でもない政党）が、故ジリノフスキー元党首の「多くは支離滅裂だった演説」を基盤とする「世界初の政治アルゴリズム」を構築しようとしている事例を紹介する。LDPR党首レオニード・スルツキーの言葉として、「彼の科学的著作、演説、書簡、コメントはすべてデジタル化される。人工知能のおかげで、われわれは世界初の政治アルゴリズム『ジリノフスキー』を作っている……人工ニューラルネットワークは世界で起きていることについての情報にアクセスし、ウラジーミル・ヴォルフォヴィチ（ジリノフスキー）が何を予測したかを学習する。ジリノフスキー・アルゴリズムによって策定される見積もりと予測が、ロシアと全世界の未来の発展に資すると確信している」という発言が引用されている。このアルゴリズムが実際に機能するか否かにかかわらず、その意図は機械システムを用いた極端な超国家主義プロパガンダの大量生産にあることは明白だとコップは評する。
規制面では、G7が承認した「広島プロセス国際行動規範」が、偽情報をAIの悪用可能な潜在的リスクとして明示している。米国では2023年10月30日の大統領令「安全・安心・信頼できるAIの開発と利用に関する大統領令」が偽情報に言及していたが、この大統領令は2025年1月に撤回された。2025年7月23日付の最新の大統領令「連邦政府における『ウォークAI』の防止」は、代わりに「イデオロギー的教条」の排除を目指すもので、LLMが「真実追求」であることと「イデオロギー的中立性」を保つことを求める「偏向なきAI原則」を掲げている。コップは、オンラインコンテンツの多くが既にイデオロギー的バイアスやプロパガンダで汚染されている現状に鑑みれば、この大統領令の実装には技術的な困難が伴うと指摘する。EUのAI法は米国の取り組みに比べれば発達した規制モデルとされるが、学術誌International Journal of Law and Information Technologyに2025年に発表された論文で法学者MesarčíkとSlosiarováは「AI法は前向きな進展だが、偽情報に直接対処する上では重大な限界を抱える。AIが駆動する偽情報がもたらす進化する脅威は、EUデジタルサービス法をはじめとする他のEUデジタル法体系とのより緊密な規制的協働を必要とするかもしれない」と結論づけている。
欺瞞の情報理論モデル――Borden-Kopp モデルの四類型
本ホワイトペーパーの理論的な核心部分をなすのが、「Borden-Kopp情報理論的欺瞞モデル」の詳述である。このモデルはシャノンの通信理論における「チャネル容量」の概念と、二つのメッセージ間の「情報理論的類似性」という考え方から導出される。シャノンのモデルはエントロピーを中心とする定量的なモデルであり、メッセージの情報量は I(m)=−log2p(m) で表される。すなわちメッセージの生起確率が低いほど、そのメッセージが持つ情報量は大きい。
欺瞞のコンテクストで重要なのが、シャノンのチャネル容量定理 C=Wlog2(1+S/N) である。チャネル容量 C（ビット/秒）は帯域幅 W（ヘルツ）、信号電力 S、雑音電力 N（いずれもワット）によって定まる。送信側の主体がこの容量方程式の各項を操作する行動は、欺瞞が成功すれば受信側の主体の内部状態を変化させる。
このモデルから導かれる四つの欺瞞モデルが、劣化、腐敗、否認、破壊工作である。劣化は情報を雑音や他の背景メッセージの中に隠すか埋没させることで、競合する主体の信念に不確実性や誤った認識を導入するモデルであり、能動形態（雑音を大きくして N≫S、C→0 とする）と受動形態（メッセージを背景雑音に紛れ込ませて S≪N、C→0 とする）の二形態を持つ。腐敗は、本物のメッセージと十分に類似した虚偽のメッセージを捏造し、被害者がその違いを認識できないようにするモデルで、被害者の認知システム内で情報理論的類似性 S→1 となるよう仕向ける。否認はバンド幅の項を操作して W→0（ひいては C→0）とし、被害者が情報を収集する手段そのものを妨害・損壊することで不確実性を高めるモデルであり、サイバー領域における従来型のサービス拒否（DoS、DDoS）攻撃が典型例である。破壊工作は、被害者の情報処理方法やアルゴリズムそのものを攻撃者に有利な形に変質させるモデルで、政治的・商業的な欺瞞における「スピン（印象操作）」がその代表例とされる。
これら4つの情報理論モデルは「原子性」に相当する性質――シャノン・モデルにおける異なるパラメータをそれぞれ操作するため、攻撃者にとってこれ以上単純なモデルは存在しない――と、「直交性」に相当する性質――これらのモデルは単独でも任意の組み合わせでも適用できる――を備える。その結果、被害者が複数の逐次的・並列的な欺瞞攻撃に晒され、攻撃者が望む特定の内部状態へと誘導される「複合欺瞞モデル」が生じる。
西側民主主義国のように能動的なメディアが機能する社会では、情報の流れを統制したり、容易に虚偽と証明できる欺瞞を効果的に流布したりすることは一般に困難である。したがって最も一般的に用いられる欺瞞技法は、省略による欺瞞、飽和による欺瞞、そしてスピンによる欺瞞の三つであるとコップは論じる。省略による欺瞞は被覆的な劣化の一形態であり、攻撃者に有利な現実の描像を維持するために不都合な事実を隠す。飽和による欺瞞は能動的な劣化攻撃、あるいは緩やかな否認攻撃の一形態であり、被害者を大量の冗長・無関係なメッセージで溢れさせ、攻撃者のメッセージに矛盾しうる情報を収集する能力を飽和させる。スピンによる欺瞞は破壊工作攻撃の一形態であり、不都合ながらも既知・容認されている事実を、攻撃者に不利益の少ない視点から評価するよう被害者を仕向けることで、被害者自身の批判的評価の仕組みを乗っ取る。「これは真実の事実だが、以下の事情によりそれほど悪いことではない」という定型が基本形として例示され、より発見しにくい応用形として、不都合な現実そのものとは切り離された文脈で「間接的スピン」を展開する手法も紹介され、これを1920年代に広報（パブリック・リレーションズ）という職能分野を確立した先駆者エドワード・バーネイズが開拓したとコップは位置づけている。この間接的手法は、攻撃者による資金提供の経路を遡って初めてスピン攻撃の進行が判明するため、防御が特に困難だという。
マスメディアがプロキシとして偽情報の出所と背後の意図を隠す上で特に魅力的である理由についても、コップは引用を通じて論じる。「視聴者・読者は劇的で暴力的、あるいは強い論争性を伴う映像や物語に最も強く惹きつけられる」「メディア組織は聴衆の既存の偏見や先入観に訴えようとする」という経験的事実は、これに挑戦する内容が組織の商業的な訪問者数、あるいは自国民をターゲットとする体制のプロパガンダ効果を損なうことを意味する。この構図はコップによって、劣化と腐敗の複合戦略であり、聴衆の関心と先入観を中心に据えた「どちらがより優れた蜜壺を持っているか」という競争ゲームとして描写されている。西側民主主義の聴衆をグローバルな舞台で標的にする体制や政治運動が成功するためには、劇的・暴力的・強く論争的な、あるいはそれらの組み合わせを備えた、グローバルメディア組織にとって魅力的な内容の衣をまとわなければならないという分析である。
対抗戦略の四類型――劣化・腐敗・否認・免疫化
欺瞞の4つの情報理論モデルに対応する形で、コップは偽情報を打ち破るための防御戦略を4つに分類する。劣化戦略は、攻撃者が利用可能な帯域幅を減らすことで感受性を下げることを狙う。具体例として、敵対的なアナログ音声無線やテレビ放送への電波妨害、デジタル音声無線・テレビ放送への電波妨害、偽情報をホストするサーバーへのDDoS攻撃による過負荷化、真実のメッセージによる潜在的被害者への「フラッディング」（対抗的洪水攻撃）が挙げられる。
腐敗戦略は被害者に虚偽の信念を作り出すことを狙う攻撃モデルを、防御的に転用したものである。具体例として、敵対的プロキシの信念を標的とした対称的な腐敗攻撃（プロキシとしての利用を否定する）や、粗悪な模造品を用いて敵対的な腐敗攻撃自体を腐敗させ、攻撃者を露見させたりメッセージを希釈したりすることで感受性・脆弱性の双方を低下させる手法が挙げられる。
否認戦略は、攻撃者が被害者に影響を及ぼすために用いる帯域幅を一時的あるいは恒久的に否認することで感受性を下げることを狙う。AIまたは人間のファクトチェッカーなどを用いて偽情報を含むトラフィックをフィルタリングする、偽情報の出所へのネットワークアクセスを遮断する、国内における偽情報の生産・配信を防ぐための立法・規制、偽情報配信に用いられるサーバーやネットワークへのサイバー攻撃、ソーシャルメディアやマスメディアプラットフォームからのプロキシの排除、国内での偽情報の再配信を防ぐための立法・規制といった手法が例示される。
免疫化（あるいは接種）戦略は、潜在的な被害者に偽情報攻撃を識別する能力を一時的あるいは恒久的に備えさせることで、脆弱性を下げることを狙う。コップはこれを、被害者の情報処理そのものを攻撃者に不利な方向へ変化させるという意味で、攻撃者に対する「友軍による破壊工作」に相当すると評している。免疫化戦略には、既知の偽情報の物語・主張とその出所を識別する方法を教える「争点別免疫化」、感情操作の試みや偽の二分法・等価性、責任転嫁によるスケープゴート化、陰謀論の助長、偽の身元・資格詐称、荒らし行為といった一般的な操作技法を識別する方法を教える「技法別免疫化」、論理的誤謬や認知の誤りを識別できるようにする批判的思考の方法を教える「論理別免疫化」の三形態がある。ただし免疫化戦略には固有の限界があり、虚偽の変種や偽の出所の識別可能性、初期の虚偽の派生型や脚色に対応するための追加の努力を要するスケーラビリティの問題、エビングハウスの忘却曲線が示す持続性の問題、そして虚偽が誤りだと証明された後も信じ続けられる「継続的影響効果」という4つの限界が存在する。免疫化戦略は他の3戦略と異なり、多くの法域で合法とされる点が特徴として付記されている。
各国・地域の政策モデルの比較
コップは、成熟度モデルが対処すべき現実の多様性を示すため、確立された民主主義国における4つの政策事例を検討する。この検討に先立ち提起されるのが「真実の裁定者問題」である。既存および提案中の多くの偽情報対策制度は、真実が既知であり、したがって虚偽を容易に識別できるという前提に立つ。これは外国の国家主体によるプロパガンダを扱う場合には概ね成り立つが、ファクトチェッカー自身が政治的・イデオロギー的に偏っている場合や、高品質な「ディープフェイク」や巧妙な論理的誤謬を見抜く技能を欠く場合には、この前提が崩れる。コップは、自身の共同研究者でもあるベイズ推論の専門家ケヴィン・コーブが2022年のブログ記事「信頼できる情報源」で述べた言葉を引用し、「どれほど信頼できる情報源であっても、機会があれば実際に検証すべきである。そうすることで、検証の機会がない場合にも異なる情報源の信頼性を正確に判断する知識が得られる」と述べ、政策や規制は全てのファクトチェッカーが誤りうるという前提のもとに設計されるべきだと論じる。
オーストラリアモデルは、2019年に上院が立ち上げた「ソーシャルメディアを通じた外国干渉に関する上院特別委員会」の調査を起点とする。2021年にはオーストラリア通信メディア庁（ACMA）による自主規制の業界行動規範「オーストラリア偽情報・誤情報行動規範」が策定され、安全保護・広告収益化インセンティブの遮断・プラットフォームの完全性確保・消費者への情報提供強化・政治広告の出所の透明性向上・戦略的研究支援を通じた公共理解の強化・署名事業者による対策の公表という7つの目標が掲げられた。2023年6月には「通信法改正（偽情報・誤情報対策）法案2023」の草案が公表されたが、オーストラリア法曹協会は「草案は範囲が過度に広く、不確実であり、深刻な意図せざる帰結をもたらす可能性がある」と指摘し、2024年9月に修正版の法案が上院で十分な支持を得られず、同年11月に撤回されている。
スウェーデンモデルは、偽情報対策に特化した政府機関「スウェーデン心理防衛庁」の設立という、より体系だったアプローチを取る。同庁のミッションステートメントは「心理防衛の目的は、開かれた民主的社会、自由な意見形成、スウェーデンの基本的自由、そして最終的には我々の独立を守ることにある」と述べ、その業務を平時・有事双方にわたる「オペレーション部門」（外国の悪意ある情報影響活動を識別・分析・対抗する）と「能力開発部門」（心理防衛に関する社会全体の能力を開発・強化する）の二部門に分けている。コップはこのスウェーデンモデルの重要な革新性として、偽情報対処の責任を「機関、自治体、団体、そして何より個々の市民」による社会全体の取り組みとして明示的に共有している点を挙げる。
米国モデルについては、対照的に体系だった政府機関が現状ほぼ存在しないと評される。国務省が運営していた「グローバル・エンゲージメント・センター（GEC）」――2016年の「外国プロパガンダ・偽情報対策法」に基づき設立され、後に2017年国防権限法に吸収された――が唯一活発に機能していた実体だったが、2024年末に閉鎖された。GECは主にロシアのプロパガンダに関する分析研究・報告書・勧告の作成において活発だった。国土安全保障省が2022年4月に発表した「偽情報統治委員会」も、その憲章と範囲をめぐる批判を受けて停止したと報じられている。2024年11月の連邦選挙以降、米国の政策の将来は不透明であり、米国国際開発庁（USAID）が事実上閉鎖され、大統領令によって米国グローバルメディア庁（USAGM）が「ボイス・オブ・アメリカ」と「ラジオ・フリー・ヨーロッパ／ラジオ・リバティ」の放送を閉鎖しつつあり、双方について法的異議申し立てが行われているという。
欧州連合モデルは、27か国・人口約4億5000万人にまたがる超国家的な取り組みとして描かれる。2018年の欧州委員会のコミュニケーションを起点に、「EU偽情報行動規範」がオンラインサービス・プラットフォーム事業者による自主規制の枠組みとして、EUデジタルサービス法と並行して運用されている。ただし、2022年3月にロシアの戦争プロパガンダを阻止・否認しようとした取り組みは限定的な成功しか収めなかったと報告されている。2025年11月には欧州委員会が「欧州民主主義シールド：強靭で回復力のある民主主義の強化」白書を公表し、情報空間の完全性を守るための状況認識と対応能力の強化、民主的制度・独立系メディア・自由で公正な選挙の強化、社会的レジリエンスと市民参加の促進という3つの優先分野からなる新たな枠組みを提示している。この枠組みの下で構想される「欧州民主的レジリエンスセンター」は、加盟国・EU候補国・EU諸機関にまたがる専門性と能力を結集し、とりわけ「外国による情報操作と干渉（FIMI）」と偽情報に対する早期警戒システムと迅速対応能力の構築を目指すとされる。コップはEUの取り組みを「これまでに見られた中で最も包括的なもの」であり、提案されている多くの仕組みは「非常に有望に見える」と評価している。
結論――成熟度モデルが満たすべき11の要件
コップは最終節で、偽情報対処のための成熟度モデルが対処すべき論点を11項目にわたって整理している。要約すれば、（1）サイバーセキュリティではなく偽情報対処に固有の問題群を、その遍在的かつ持続的な性質にふさわしい範囲で反映すること、（2）偽情報対策そのものが引き起こしうる異常に高いリスク――拙劣な対策が及ぼしうる副次的被害――を反映すること、（3）機械中心のサイバー攻撃と人間中心の偽情報攻撃の間の標的の根本的な違いを反映すること（言論の自由が損なわれないこと、ファクトチェック等の防御的措置自体が偽情報源と化さないよう真実性を担保すること、プロキシによる偽情報再配布問題を安全に扱うこと）、（4）生存可能性方程式――能力と容量の問題の中核をなす――に確実に対処すること、（5）配信チャネルの複雑な多様性という現実を踏まえた戦略と対策を扱うこと、（6）サイバー領域との共通点と明確な相違点を併せ持つ現代の技術的能力と偽情報の実践に対応すること、（7）技術的なツールや対策が精度・堅牢性・サイバーセキュリティについて許容可能な水準を満たすこと、（8）欺瞞の類型の多様性とそれが対抗戦略にもたらす帰結の多様性に対応すること、（9）潜在的な欺瞞戦略の多様性、ひいては偽情報対処戦略の多様性に対応すること、（10）各国・超国家的な取り組みの相当なばらつきに対応すること、そして（11）政府機関が民間セクターや市民社会と同一の基準・尺度の対象となること――政府機関が偽情報の生産・配信・再配信という問題から暗黙のうちに免除されているわけではないこと――である。
コップはこの理論的根拠が、モナッシュ大学が策定した実際の「国家のための偽情報対処能力成熟度モデル」の設計に用いられたと結んでいる。本ホワイトペーパー自体は評価尺度や成熟度段階の具体的な記述を提示するものではなく、あくまでその設計を支える概念的な地ならしとしての性格を持つ文書である。定義論・認知科学・情報理論・伝播モデル・AI技術・比較政策という複数の学問領域を横断しながら一貫して強調されるのは、偽情報が根本的に人間の認知を標的とする現象であり、サイバーセキュリティの発想をそのまま輸入した対策は的を外すという立場であり、また対策そのものが言論の自由や社会的信頼に及ぼしうる副次的損害への警戒である。この二重の警戒――偽情報の脅威と、対策の行き過ぎの双方に対する警戒――が、本稿全体を貫く分析的姿勢を形作っている。
コメント