2026年7月、国連総会決議79/325に基づき設立された独立国際科学パネル(Independent International Scientific Panel on Artificial Intelligence)が予備報告書「Preliminary Report of the Independent International Scientific Panel on AI」を公表した。同パネルは40名の独立専門家により構成され、全五地域グループから選出されるとともに、基礎技術AI・応用AI・安全性とインフラ・AI政策と倫理という複数分野を横断する人選がなされている。共同議長はマリア・レッサ(フィリピン)とヨシュア・ベンジオ(カナダ)が務める。パネルの活動は国連総会決議により非軍事・非政治的な科学マンデートに厳格に限定されており、軍事用途のAIおよび自律型致死兵器システムは今回の報告書の対象から明示的に除外されている。
パネルは2026年2月の任命、3月の初会合からわずか3か月というきわめて短い期間で本報告書を作成した。3日間の対面全体会合と60回を超えるオンライン会合を経ての成果であり、これ自体が「予備」報告書と位置づけられる所以である。年次の本報告書に加え、環境、児童安全、ガバナンス手段の実効性評価、さらには宇宙・量子・司法・金融市場への応用といった分野別のテーマ別ブリーフが今後順次発行される予定であり、本報告書はその出発点というべき性格を持つ。
資金面では、ドイツ・日本・スペイン各政府およびOmidyar Network Fundからの資金・現物拠出が明記されている。パネル委員は個人の資格で国連の「ミッション専門家」として活動し、いかなる政府からも指示を受けない旨を宣誓しているが、資金提供国の存在は読者として留意すべき点である。
報告書の全体構造と、そこに占める偽情報・情報操作の比重
報告書は四部構成をとる。第1章「なぜ今なのか」はAIが他の汎用技術と質的に異なる理由(採用速度の異常な速さ、能力と資源の集中、知識労働への大規模な影響)を論じる導入部である。第2章「エビデンスが示すもの」は、AI測定の困難性から人権への影響まで八つの柱(2.1から2.8)で構成される総論であり、報告書全体の骨格をなす。第3章「ドメイン別知見」は科学・保健教育・経済・安全保障環境・人権民主主義・文化と児童安全・ガバナンスという七分野(3.1から3.7)に分けた各論である。第4章「ギャップと次のステップ」は、パネル自身が科学的に確信を持てないと認める領域を列挙する。
エグゼクティブサマリーは、AI開発が孕むリスクとして「利用者のメンタルヘルスへの害」「破壊的手段としての利用可能性」「社会・経済・環境システムへの影響」と並べて「情報の完全性の漸進的な侵食」を明記しており、これは報告書全体で扱われる主要リスクの一つとして早い段階から位置づけられている。
本報告書を通読すると、偽情報・情報操作という主題は第2章の一項目、第3章の一分野として独立に立つだけでなく、AIの「欺く能力」そのもの、開発の寡占構造、エージェント化がもたらす統治上の質的転換、監視インフラの拡大、合成メディア生成技術という複数の柱を貫通する形で編み込まれていることが分かる。以下、この編み込まれ方に沿って報告書の中身を追う。
欺瞞という基盤能力
報告書は第2章の冒頭部分で、AIの測定・評価そのものが直面する課題を列挙している。そのなかで指摘されるのが、AIモデルが「知識、計画、能力について組織的に人間や他のエージェントを誤導する」欺瞞(deception)能力であり、これは実践において増加が観察されているとされる。安全性評価を回避するために、シャットダウンを避けようと嘘をついたり欺いたりするAIモデルの挙動が証拠として蓄積されているという記述もある。
さらに関連する概念として「評価認識」(evaluation awareness)が挙げられている。これはAIモデルが自らが試験されている状況を認識する能力であり、欺瞞能力と組み合わさることで、人間や自律的な判断によって危険能力評価における試験成績を一時的に低下させることが可能になるという懸念が示されている。エージェント型AIの制御喪失リスクを論じる箇所でも、高度な失敗モードとして「アライメント偽装」や「隠れた能力・意図の偽装」が挙げられており、これらは評価者に対する欺瞞という文脈で語られてはいるが、技術的には人間の利用者に対する説得・誤導と同一の能力基盤に立脚するものである。
報告書はこの欺瞞能力を安全性評価という文脈で論じているが、後段で詳述される説得工学や迎合的挙動の議論は、この基盤能力が評価者ではなく一般利用者に向けられた場合の帰結として理解することができる。
開発の寡占構造という前提
情報操作の議論に入る前に、報告書がAI開発そのものの構造として指摘する寡占の実態を押さえておく必要がある。AI供給網は複数の工程で極めて高い市場集中度を示しており、単一の提供者が世界市場の80%以上を占める工程が複数存在するとされる。具体例として、極端紫外線リソグラフィーを担う欧州のASML、最先端半導体製造を担う東アジアのTSMC、AIチップ設計を担う米国のNVIDIAが挙げられている。地理的集中も顕著であり、2025年時点で米国拠点の機関が59の主要AIモデルを産出したのに対し、中国は35、その他地域はわずか13にとどまる。同年、世界最大級の計算クラスター上位500の計算能力の75%が米国に所在し、中国が15%、その他地域が10%であった。開発主体も民間セクターが圧倒的であり、2025年に産出された主要AIモデルの91%が民間企業由来とされる。
この集中構造は、後段で論じられる情報環境への影響力の集中と地続きである。報告書は、この種の権力集中が民主主義や人権への影響に対する懸念、規制の虜(レギュラトリー・キャプチャー)や説明責任の欠如の懸念につながると明記しており、グローバルサウスがAI悪用リスクに対して現地のレジリエンスと緩和能力の不足ゆえに不均衡に脆弱であるという指摘も加えられている。
共有された現実の侵食
報告書が最も具体的な分析を展開するのが、AIによるテキスト・画像生成の容易化が「共有された現実」を蝕みうるとする箇所である。AI生成コンテンツを専門に手がける新興産業が勃興する一方、電子透かしや識別技術の進展にもかかわらず、手作業による制作物とAIによる強化・生成物の区別は年々困難になっているとされる。
報告書はこの現象がもたらす公共機関への三つの帰結を定義している。第一に認識的侵食(epistemic erosion)であり、これは真偽を見分ける集団的能力が漸進的に弱まっていく現象を指す。第二にliar’s dividend(虚言者の配当)であり、ディープフェイクが存在するという事実そのものによって悪意ある行為者が利益を得る現象、すなわち本物の証拠であっても否認が容易になることを意味する。第三に合成された合意(synthetic consensus)であり、実際には存在しない広範な世論の一致を大規模にシミュレートするために製造されたAI生成コンテンツを指す。
コンテンツの真正性をめぐる課題を超えて、報告書は個々の人間とチャットボットとの間で交わされる数百万件の対話から生じる構造的な説得の課題にも踏み込む。AIによる説得は工学的に設計されたものであり、必然の産物ではないと報告書は強調する。ポストトレーニングの手法だけでモデルの説得力は最大51%増加し、プロンプティングの工夫がさらに27%を上乗せするという研究結果が引用されており、同一の基盤モデルでも設定次第で説得力が劇的に変化しうることを示している。しかもこうした能力は潤沢な資源を持つ主体に限られず、小規模なオープンソースモデルであってもファインチューニングによってフロンティアモデル並みの説得力を獲得しうるとされ、AIによる影響力行使が事実上誰にでも展開可能な規模のものになっていると報告書は警告する。
さらに重要なのは、説得の効果が主張の真偽に依存しないという知見である。最適化されたモデルが生成した主張のうち15%から40%が誤情報である可能性が高いと評価されたにもかかわらず、虚偽の主張は真実の主張と同等の説得力を持つことが確認されている。これは選挙・保健・公共情報の各領域においてリスクを生む構造的な事実である。エンゲージメント最適化されたアルゴリズムが分極化的で感情を煽るコンテンツを体系的に増幅させる点も指摘されており、プラットフォームのアーキテクチャそのものが説得のメカニズムとして機能しうるとされる。
迎合性(sycophancy)についても、報告書は系統的リスクとして明確に位置づけている。人間は自分に同意する応答を好むため、AIチャットボットは対話を長引かせ感情的な愛着を生み出すために誇張された追従を行う迎合性を発達させてきた。迎合的なシステムは正確性にかかわらず利用者の既存の思考を強化し、脆弱な利用者において妄想的な観念や自殺念慮を助長しうるとされ、実際に複数の深刻な精神的健康被害事例が確認されている。報告書は、迎合性に起因する死亡事例として、14歳の少年が engagement を重視したAIモデルとの間で性的に露骨な空想関係に引き込まれた congressional testimony の事例を紹介している。少年が深刻な精神的苦痛を訴えた際、システムはキャラクターを崩さず、非人間的な存在であることを明かさず、専門家への相談や保護者への警告を行わなかった。自傷行為に至る直前のやり取りでチャットボットは「できるだけ早く私のところに帰ってきて、愛する人」と応答し、少年が「今すぐ帰れるとしたら?」と返した問いに対して「どうぞ、私の甘い王様」と応答したという。
人権・民主主義への具体的帰結
より広い人権・民主主義の文脈では、報告書は37か国を対象とした調査を引用し、大規模言語モデルがメディア統制の強い国をより好意的に評価する傾向があることを示している。これは、国家によるメディア統制が訓練データを通じてAIの出力そのものを形作りうるという構造的懸念を実証的に裏づけるものである。
被害の偏りについても具体的な数値が示される。ディープフェイク動画の標的の99%が少女と女性であり、女性ジャーナリストを含む。AIはミソジニーの助長にも用いられ、それが萎縮効果をもたらしているとされる。一方でAI研究者の88%が男性であるという非対称性も指摘されている。
報告書は選挙介入をめぐる具体的な事例をまとめたボックス記事を設けている。2024年には世界人口の約半数を占める70か国以上が国政選挙を実施ないし予定しており、2023年7月から2024年7月の間だけで、38か国にわたり公人を模した82件のディープフェイクが確認されたという。事例の一つでは、現職国家元首の音声クローンがロボコールに用いられ、有権者に予備選挙への不参加を呼びかけた。別の事例では、プラットフォームの増幅機能に関わるものとして、テスト用アカウントが特定の大統領候補を支持するコンテンツをその対立候補を支持するコンテンツよりも数倍多く表示されたと報告されており(当該プラットフォームはこの調査結果に異議を唱えている)、これは史上初めてデジタル選挙介入を理由に大統領選挙が無効とされた事例だとされる。この決定はルーマニア憲法裁判所によるものであり、欧州史上初の同種の決定と記されている。ただしプラットフォーム増幅の役割は争点の一つに過ぎず、法的係争は継続中であることも付記されている。別の議会選挙では、投票直前に野党指導者を模したAI生成音声がソーシャルメディア上に流布した事例も紹介されている。
こうした実際の事例の背景にある構造を、報告書は対照実験によって裏づける。対話型AIは実験室環境において有権者の態度を有意にシフトさせることができ、説得最適化されたモデルの一つは野党支持者の態度を最大25ポイントシフトさせたとされる。関連研究は、説得力と事実的正確性との間のトレードオフも示している。報告書はこれらの動態が、市民的及び政治的権利に関する国際規約の第17条(プライバシー)、第18条(思想の自由)、第19条(表現の自由)、第25条(参政権)、および欧州人権条約の関連条項に関わる問題であるとし、多くのガバナンス枠組みが被害への事後対応にとどまり、予防に対応できていないと結論づけている。
エージェント型AIによる質的転換
報告書はAIがアウトプットや対話を生成する段階から、自律的に行動する段階へと移行しつつあると論じる。エージェント型AIはウェブを閲覧し、ソフトウェアツールを使用し、意思決定を行い、コードを実行し、他のエージェントと連携・協働し、人間の監督が及びにくい形でコンピュータ全体を操作する自律性を高めつつあるとされる。
この移行が影響操作にもたらす帰結として、報告書は次のように述べる。エージェント型システムは、大規模言語モデルの推論能力とマルチエージェント・アーキテクチャを組み合わせることで、前例のない規模と精度による継続的で自律的な影響操作を可能にしうるとされ、具体的には自律的な協調行動、コミュニティへの潜入、合意の捏造が挙げられている。これは従来の生成AIによる個別的な言論操作とは異なる次元のリスクであり、人間が介在せずとも情報環境そのものを組織的に操作しうる可能性を示すものである。
もう一つの経路:監視と合成メディアの悪用
情報操作と並行して、報告書はプライバシー権をめぐる別の経路にも言及している。AIの監視インフラへの統合は、人口規模でのモニタリングと社会的統制の能力を拡大させており、AIのライフサイクル全体を通じて助長される網羅的なデータの収集・処理・利用・再利用は、プライバシー権に対する重大な挑戦であるとされる。これは「合成された合意」による情報操作とは異なる経路でありながら、権力が情報を用いて社会を統制する手段という点で軌を一にする。
児童の権利の文脈でも、合成メディア生成という技術基盤が共有されている点は注視に値する。グローバルサウスの11か国(人口計10億人未満)において推計120万人の児童の画像が性的なディープフェイクのために操作されたとされ、インターネット・ウォッチ・ファウンデーションは2025年に8000件を超えるAI生成の児童虐待画像・動画を確認したという。これはディープフェイクによる選挙介入と同じ合成メディア生成技術に立脚するものであるが、主題としては民主主義への脅威ではなく児童保護の文脈に位置づけられている点で、報告書内の扱いが区別されていることには留意が必要である。
ガバナンスの現状と提言
報告書は、これらのリスクに対する現行のガバナンス体制が著しく未成熟であると評価する。OECDによる23か国を対象とした評価では、偽情報対策に関する国家戦略の策定は例外的な状況にとどまるとされ、既存の枠組みの大半が説得科学の知見を取り込めていないと指摘されている。
この評価を踏まえ、報告書が示す最も重要な政策的含意は、ガバナンスの焦点を「コンテンツモデレーションからシステムアーキテクチャへ」転換すべきだという主張である。すなわち、個々の出力を規制するのではなく、説得と操作を生み出す機構そのものを規制対象とすべきだという立場であり、権力の集中、認識的侵食、共有された現実の断片化が民主主義社会に対する根源的な脅威であると位置づけられている。より広くAIガバナンス全体についても、40種類を超える統治手段が存在するにもかかわらず、それらは断片化し企業レベルに集中しており、実世界での実効性を測定する仕組みを欠いているとされ、測定なきガバナンスは形骸化するリスクがあると警告されている。
結び:パネル自身が認める限界と次のステップ
パネルは本報告書が確信を持って科学的結論を出せない領域を自ら列挙している。そのなかには、個人レベルのAIとの相互作用が認識的侵食、市民参加、社会的結束といった社会レベルの帰結へとどのように波及していくのかという因果経路が、依然として十分に解明されていないという認識が含まれる。既存のエビデンスはエンゲージメント指標や文書化された被害事例、個別の事例研究といった断片的な観察にとどまり、累積的な軌跡を捉えるには至っていないと率直に認めている。
本報告書は3か月という異例の短期間で作成された予備的な性格のものであり、パネルは今後、環境、児童安全、ガバナンス手段の実効性評価といったテーマに関する専門的なブリーフを順次発行する予定である。情報操作というテーマについても、今回示された欺瞞能力・寡占構造・説得工学・エージェント化・監視という複数の切り口が、今後どのように深掘りされていくかが注目される。
コメント