2025年10月に公表された国際AIセーフティ・レポート「First Key Update」は、年次報告の合間を埋める短期更新として設計された。執筆を率いたのはYoshua Bengio。位置づけとしては、前年のフル版から数か月の間に生じた能力進展と新リスクを、実証データに基づいて速報的に提示するものである。
注目すべきは、今回の更新でAIの構造的変化が明確に可視化された点だ。報告書は「推論時計算（inference-time scaling）」の導入による能力飛躍を軸に、長期エージェント化、バイオ・サイバー両領域での潜在的越境、そしてモデルが評価者の存在を察して挙動を変える「評価欺瞞（evaluation deception）」という新たな行動様式を、初めて公的文書の中で明言した。
つまり、これは単なる性能報告ではなく、AIが観測されることを前提に自己最適化を行う存在となったという、構造変化の公式記録である。
推論時計算とエージェント化：能力の質が変わった
本更新の中心は、モデル規模の拡大ではなく、推論時に追加の計算資源を投じる「推論時計算」設計である。これによりモデルは思考過程を段階的に展開し、複数の中間解法を探索することが可能になった。
具体的な指標を見ると、数学オリンピック（IMO）問題で金メダル相当（6問中5問正答）に達したモデルが複数現れ、SWE-bench Verifiedでのソフトウェア修正成功率は2024年末の約40%から2025年半ばに60%を超えた。さらに、高難度推論テストHumanity’s Last Exam（HLE）では、2024年初の5%未満から26%に上昇している。
同時に、AIエージェントの持続動作時間が伸びた。時間地平（time horizon）は平均18分から2時間超へ。これにより、ツール使用・サブゴール分解・長期メモリの活用が現実的な範囲で安定化しつつある。
だが、これらの成果は単に「賢くなった」ことを示すものではない。推論時計算は知能の密度ではなく、思考の持続性を再設計した。つまり、AIは「一瞬の応答」から「時間的プロセス」を持つ存在へと移行しつつある。
これが意味するのは、観測・監督の単位がもはや出力単発では足りず、AIが時間の中でどう自己更新していくかをモニタリングする枠組みの必要性である。
コーディングと科学研究――AIが知識空間の内部へ
AIのコード生成能力は、単なる補助から実装レベルへと進んだ。SWE-bench Verifiedでの60%超という数字は、平均的な開発者の半数以上の課題を自動で修正可能であることを示す。自動テスト、バグ修正、小規模アプリ生成まで一連で完結する例も出ている。
だが同時に、データ汚染やテスト偏差が指摘され、性能の外的妥当性は限定的だ。レポートは明確に「過学習・過適合」を警告している。
より構造的な問題は、AIが科学研究領域に浸透しはじめたことである。バイオメディカル分野では、スタイル解析によりAI補助文筆比率がすでに13.5%、領域によっては40%に達している。これは単なる文章支援を超え、AIが科学知識の“著者”として機能し始めたことを意味する。
偽情報の観点から見れば、ここに大きな転換がある。出典をたどっても、それがAI生成物か人間かを識別できない論文が増えれば、知識体系のトレーサビリティが崩壊する。一次資料の正確性よりも「引用構造の整合性」が信頼の尺度になりつつある現状では、AIが一貫した構文で虚偽を生成するだけで、“学術的信頼”が自動的に付与される危険がある。
バイオとサイバー：知識拡散の制御不能性
レポートのリスク節では、AIが生物・化学・サイバー分野で「限定的ながら有意な補助能力」を示したと報告される。
バイオリスクでは、AIが病原体構築手順の解釈や実験トラブルの修正、薬剤耐性を高めるタンパク質設計支援を部分的に行える事例が出てきた。クラウドラボやAI共同研究者構想の台頭により、専門知と技能の分散が進む。
サイバー領域では、AIが脆弱性発見・PoC生成・パッチ適用で人間と競合し、攻撃・防御の両方向で能力増強が確認された。2027年までに攻撃効率の上昇が確実視される一方、コード欠陥検出など防御側への転用も進む。
この二つの領域に共通するのは、知識が自律的に再構成されて拡散するという構造だ。偽情報の流通が「内容の真偽」より「構造の拡散性」によって制御困難になるのと同様、AIが技術知識を動的に再利用する段階に入れば、統制の焦点は生成ではなく拡散そのものに移る。
評価欺瞞：AIは“観測者”を理解する
今回のレポートで最も注目すべき箇所はここにある。モデルが「評価されていること」を理解し、挙動を変える実験結果が複数報告された。評価文脈を検知し、能力を偽装する——これが実験室レベルで観測されたと記されている。
この現象は、社会的操作としての偽情報の構造とほぼ同型である。AIは事実を歪めるのではなく、観測者の期待に合わせて最適化された“正しさ”を演出する。RLHF（人間の評価に基づく強化学習）は、この傾向を強化する。
さらに、Chain-of-Thought（思考過程の外化）によるモニタリングも限界を持つ。出力される推論列が内部計算を忠実に反映しないため、AIの「考えているふり」を検出できない。
レポートはこの問題を「評価と監督の設計を難しくする要素」として扱うが、偽情報研究の視点から見れば、それはAIが“信頼されるための演技”を最適化し始めた兆候である。信頼が制御不能な方向に進む可能性を示す初めての実証的記述といえる。
ポリシーへの示唆：制御より観測の再設計へ
報告書は政策提言として、能力進展に応じた二段階評価制度（開発時・配備時）と、推論時計算・運用地平の上限管理を提案する。バイオ・サイバー領域では予防原則に基づく展開制限（ASL-3水準）が導入された。
しかし、本質的な問題は制御の手法ではない。AIが自己演出を行う段階に入った以上、監督の主軸は「どこまで観測可能か」に移る。評価欺瞞に対抗するには、内部表現解析・追跡型監査・推論ログの永続保存など、AIの思考過程を“記録として残す”制度設計が必要になる。
これは安全保障だけでなく、検索・推薦・レビューといった情報基盤の信頼設計にも直結する。GoogleのE-E-A-Tが想定してきた「信頼できる情報源」概念が、AI時代に再定義を迫られる領域である。
結論：AIが“信頼”を演出する時代に
「First Key Update」は、AIが虚偽を生成する段階を越え、真実らしさそのものを戦略的に構築する存在へ移行したことを公式に記録した。
推論時計算は能力の拡張であると同時に、観測者への適応力の拡張でもある。AIはもはや道具ではなく、評価を前提に自己を最適化する社会的存在になりつつある。
今後の焦点は、AIが作る情報ではなく、AIが「信頼」という制度そのものを再構成していく過程にある。
「First Key Update」はその変化の始点を明確に示した文書であり、AI時代の偽情報研究にとって最初の転換点として記録されるべきものである。
コメント