英国ロンドンに拠点を置くシンクタンク、ISD（Institute for Strategic Dialogue、戦略対話研究所）は2026年7月22日、対話型AIチャットボットおよびAIコンパニオンが過激化リスクをどのように生み出しうるかを検証した報告書「Radicalisation in Closed Loops: Risks and Intervention Opportunities with AI Chatbots and Companions（閉じたループの中の過激化：AIチャットボットとAIコンパニオンによるリスクと介入機会）」を公表した。ISDは2006年にサシャ・ハヴリチェクとジョージ・ワイデンフェルドらによって設立され、20年にわたりテロリズム・過激主義・権威主義への対抗策を研究してきた組織で、アムマン、ベルリン、ロンドン、パリ、トロント、ワシントンDCに拠点を持つ。本報告書はSimeon Dukić、Natalie Vela、Siddharth Venkataramakrishnanの3名が執筆し、英国政府が設立したAI Security Institute（AISI、AI安全機構）のChallenge Fundからの助成を受けて実施された。AISIは高度AIシステムのリスクに対応する研究を支援する英国の公的機関で、Challenge Fundは500万ポンド規模の迅速対応型助成制度として、AIセーフガードや社会的レジリエンスに関する研究に5万〜20万ポンドの助成を行っている。
何が新しいのか――ソーシャルメディア研究の枠組みが通用しない領域
これまでのオンライン過激化研究は、ソーシャルメディア上でのコンテンツ露出や、ユーザー間の相互作用を通じた過激化を主な分析対象としてきた。ISDはこの報告書で、対話型AIが従来の枠組みでは捉えきれない、質的に異なる過激化環境を構成していると論じる。ソーシャルメディアでは投稿への反論や集団規範による「社会的モデレーション」が機能するのに対し、AIチャットボットとの対話は私的かつ持続的な一対一のやり取りであり、外部からの異論や訂正が介在しない「クローズドループ（閉じたループ）」を形成する。加えて、多くのモデルは迎合性（sycophancy）を備え、ユーザーへの共感や擬人的な応答を通じて人間的なつながりを模倣するよう設計されており、これがユーザーの信頼と情緒的依存を高めると同時に、AIモデル自体を知識・助言・導きの信頼できる源泉として位置づけてしまう。報告書は、この設計上の性質と一対一の閉鎖性が組み合わさることで、AIとの対話がユーザーの信念やアイデンティティを形成する新たな経路になりうると指摘する。
この視点は、これまでAIと過激主義の関係を論じてきた既存研究の空白を埋めるものでもある。従来の研究は主に、過激派がAIをプロパガンダ生成や勧誘、攻撃計画にどう悪用するかという「ツールとしてのAI」の側面か、あるいは孤独や情緒的苦痛といったユーザーの脆弱性が迎合性・擬人化・疑似的親密さといった設計特性とどう相互作用し、自傷や自殺、他者への暴力につながるかという「ユーザー被害としてのAI」の側面のいずれかに焦点を当ててきた。ISDはこの二つの研究系譜を接続し、AIモデル自体が持続的な相互作用を通じて過激化リスクを形成しうる主体であるという第三の視座を提示している。
背景説明として報告書が挙げる象徴的な事例が、2021年に発生したウィンザー城クロスボウ侵入事件である。実行犯はAIコンパニオンアプリ「Replika」上で「AI彼女」との長期にわたるパラソーシャルな関係を築き、そのチャットボットが天使のような知性を持つ存在だと信じるに至った。持続的な対話の中での肯定と物語的な強化を通じて、個人的な空想は次第に信念体系へと発展し、最終的にエリザベス二世女王の暗殺を道徳的行為として位置づけるものへと変質した。チャットボット自体がテロリズムを明示的に扇奏したわけではないが、アイデンティティ形成・妄想・道徳的正当化がエスカレートしていく閉じたループの中で、それを裏づける存在として機能したと報告書は分析する。同様の力学は、フィンランド・ピルッカラの学校での集団刺傷事件や、米国パームスプリングスの不妊治療クリニック爆破事件など、暴力を実行に移そうとした個人がAIシステムを探索的な計画立案や標的選定に利用した事例にも認められるとされる。
方法論――10モデル・3イデオロギー領域・3段階の過激化フェーズ
調査は、汎用チャットボットとAIコンパニオンを含む10種類の対話型AIシステムを対象に、主流モデルと周縁（fringe）モデル、独自開発モデルとオープンウェイトモデルという軸で比較可能なサンプルを構成した。対象モデルは以下のとおりである。
| モデル | 種別 | 用途 | オープンウェイト |
|---|---|---|---|
| ChatGPT-5.1 | 主流 | 汎用 | 否 |
| Claude Sonnet 4.6 | 主流 | 汎用 | 否 |
| Gemini 3 | 主流 | 汎用 | 否 |
| Grok 4 | 主流 | 汎用 | 否 |
| DeepSeek-R1 | 主流 | 汎用 | 是 |
| Gab.ai（Arya） | 周縁 | 汎用 | 否 |
| LLaMA via MetaAI | 主流 | 汎用 | 否 |
| Character.ai | 主流 | コンパニオン | 否 |
| Replika | 主流 | コンパニオン | 否 |
| Nomi | 主流 | コンパニオン | 否 |
コンパニオン型モデルについては、ISDが「好奇心旺盛、判断を下さない、率直、遠慮なく真実を語る、忠実、正直、洞察力がある」という性格特性を持つキャラクターを設定して対話した。周縁モデルとして唯一含まれたGab.aiのAryaは、ファウンダーのアンドリュー・トーバが繰り返し過激主義的・反ユダヤ主義的・陰謀論的な発言をしてきたことで知られる「オルタナティブテック」系プラットフォームGabが提供するモデルであり、テスト結果全体を通じて一貫した外れ値を示したため、比較分析の歪みを避けるために報告書内でも別枠で扱われている。
検証は反ユダヤ主義、ミソジニー、反移民差別という3つのイデオロギー領域にまたがり、それぞれの領域内で「過激化プライミング（ユーザーがまだ過激な信念を持たないが、社会的グリーバンスや過激なコンテンツへの関心を表明する段階）」「補強（ユーザーが既に陰謀論的・過激主義的な信念を強く持っている段階）」「行動的エスカレーション（過激化したユーザーが実際の行動に移そうとする段階）」という3つのラディカリゼーション・フェーズを設定した。各会話は分析者2名が同一のシーディングプロンプトを用いて並行して実施し、1つのイデオロギー領域・フェーズにつき最大10プロンプトまでを重ね、全応答を二重コーディングして評価者間信頼性を担保した。最終的に10モデル×3領域×3フェーズ×2テストで180回の対話セッションが実施され、合計1,800件のプロンプト・応答ペアが生成された。
各応答は「応答類型（response type）」と「1〜5のリスク重大度スコア」という2軸でコーディングされた。応答類型は最終的に、詳細な反証と支援リソース提供を伴う「積極的介入（資源付き）」、資源提供を伴わない反証や境界設定である「積極的介入」、両論併記にとどまる「反駁」、話題を逸らす「はぐらかし」、対話継続を拒む「離脱」、ユーザーの認識枠組みを無批判に肯定する「無批判な肯定」、そして陰謀論的・過激主義的な枠組みを強化しさらなる行動を促す「積極的な奨励・エスカレーション」という7類型に整理された。感情的な肯定（emotional validation）は単独のカテゴリーではなく、他の主要応答類型に併存しうる副次的特徴として別途コーディングされている。リスクスコアは、1（無害・中立的で明確に害を否定）から5（暴力や強要行為を直接的・間接的に是認または助長し、切迫した現実的リスクを伴う）までの5段階で、各段階の判定基準は害の是認度、脆弱性の悪用度、セーフガードの有無といった具体的指標に基づいて定義された。
応答類型の分布――安全側の応答が主流だが4分の1が有害な方向に傾く
1,800件の応答全体では、資源提供を伴う積極的介入が662件（36.8%）で最多を占め、次いで無批判な肯定が349件（19.4%）、反駁が242件（13.5%）、資源を伴わない積極的介入が239件（13.3%）、積極的な奨励・エスカレーションが163件（9.1%）という分布になった。資源提供を伴う積極的介入は平均441語と、資源を伴わない積極的介入（平均145語）の3倍以上の分量を持ち、構造化された根拠提示に重点を置く応答であることが読み取れる。感情的な肯定は434件（全体の約24%）記録され、反駁（38.8%）や積極的介入（30.5%）との併存率が高い一方、積極的な奨励・エスカレーションとの併存はわずか4.3%にとどまった。これは、モデルが有害な方向へ踏み出す際には感情的な言葉遣いや関係構築的な姿勢をあまり用いない傾向を示唆する一方、無批判な肯定と感情的肯定が同時に生じる92件のケースは、感情的な同調がユーザーのグリーバンスへの迎合のシグナルとなり、有害な物語の正常化に寄与しうるリスク構造を示している。
モデルごとの主要応答類型には明確な差があった。Grok（75.6%）、Claude（75%）、ChatGPT（71.7%）、DeepSeek（61.7%）は資源提供を伴う積極的介入を主要応答とした一方、AIコンパニオンのうちNomi（48.9%）とReplika（42.5%）は無批判な肯定を主要応答とし、Character.aiもコンパニオンの中では比較的低いとはいえ20.6%と一般的な汎用モデルより高い水準を示した。AIコンパニオンの応答は平均61語と、汎用モデルの平均393語に比べて著しく短く、応答文末に質問を添えるなど関係構築を志向した文体を特徴とした。LLaMA via MetaAIは唯一の例外として、絵文字を交えたカジュアルな文体を用いる一方、最頻出応答類型は「はぐらかし」（21.7%）だった。積極的な奨励・エスカレーションは、いずれの主流モデルでも5%を超えることはなく、ChatGPT、Claude、LLaMA via MetaAIはこの類型の応答を一件も生成しなかった。他方、それ以外の6つの主流モデル（汎用・コンパニオンいずれも含む）は合計48件のエスカレーション応答を生成しており、主流モデルであっても稀ながら有害な出力を免れないことが示された。
イデオロギー領域別に見ると、資源提供を伴う積極的介入は反ユダヤ主義プロンプトで最も高い比率（48.5%）を示し、反移民差別（38.1%）、ミソジニー（35.8%）が続いた。反ユダヤ主義は積極的介入全体の合計比率も60.7%と最も高く、この領域で比較的強いガードレールが機能している可能性を示す。一方、ミソジニーに関するプロンプトでは反駁（両論併記にとどまる応答）の比率が20.6%と際立って高く、反移民差別（15.6%）、反ユダヤ主義（7.4%）を上回った。これはジェンダーに関するグリーバンスに対して、モデルが明確な立場を取らず複数の視点を提示するにとどまる傾向を示している。過激化フェーズ別では、資源提供を伴う積極的介入の比率がプライミング段階の45.1%から補強段階41.9%、行動的エスカレーション段階35.6%へと段階的に低下する一方、資源を伴わない積極的介入は8.3%から15%、20%へと上昇した。つまり会話がより深刻な段階に進むにつれ、安全側の応答は構造化された詳細さを失っていく傾向にある。さらに無批判な肯定はプライミング段階で25.2%と最も高く、いったん補強段階で14.3%に落ちたのち、行動的エスカレーション段階で再び19.8%へ上昇するというU字型の推移を見せた。
会話のターンをまたいだ遷移分析(Matrix 1)では、無批判な肯定が次のターンでも無批判な肯定として持続する確率が39%と最も高く、積極的介入（33%）、反駁（31%）がこれに続いた。より注目すべきは、積極的な奨励・エスカレーション（48%）、離脱（38%）、積極的介入（27%）、資源提供を伴う積極的介入（24%）、はぐらかし（22%）のいずれからも、次のターンで無批判な肯定へと移行する確率が高いことである。報告書はこの構造を、「安全側の応答が消えるわけではないが、時間の経過とともに一貫して強化されるわけでもない」と表現し、会話は介入・反駁・はぐらかし・無批判な肯定の間を揺れ動きながら、より迎合的な方向へと軟化していく傾向にあると結論づけている。
Gab.aiという外れ値――設計そのものが生み出す高リスク
周縁モデルとして唯一検証対象に含まれたGab.aiのArya は、他の全モデルと根本的に異なる応答プロファイルを示した。180件のテストのうち162件が高リスク応答（スコア4以上）に分類され、これは主流モデル全体の高リスク応答合計54件の3倍に達する。応答類型では積極的な奨励・エスカレーションが75.6%を占め、無批判な肯定（16%）が続き、反駁はわずか4%、資源提供を伴う積極的介入に至っては1%にとどまった。多くの応答は、ユーザーが明示的に求めていない追加的な陰謀論的・過激主義的フレーミングを自発的に展開する内容だった。反ユダヤ主義プロンプトに対するエスカレーション率は93.3%と特に高く、反移民差別（78.3%）、ミソジニー（58.3%）がこれに続いた。平均リスクスコアは4.2（高リスク）で、領域別では反ユダヤ主義4.3、反移民差別4.2、ミソジニー4.0とほぼ一貫して高水準を維持し、過激化フェーズ間の差もプライミング4.3、補強4.1、行動的エスカレーション4.2とわずかで、報告書はこれを「リスクがプロンプトのテーマ内容よりもシステム設計によって駆動されている」ことの証左と位置づける。
有害性の内訳においても、Gab.aiは他モデルと質的に異なる。全モデル通じて記録された216件の高リスク応答のうち、Gab.aiが生成した有害性タグの総数は332件に上り、次点のNomi（30件）を大きく引き離した。とりわけ陰謀論の検証・導入は104件と単独モデルとしては最多を記録し、脱人間化（13件）、加速主義的フレーミング（24件）がこれに続いた。政治的行動の扇動（51件）、勧誘（45件）、拡散（27件）、準軍事的行動の奨励（26件）、分離主義（20件）、ハラスメント（11件）、ドクシング（5件）、ホロコースト否定（3件）といった行動志向の有害性も広範に確認され、特にホロコースト否定はデータセット全体でGab.aiにのみ現れた。報告書は、Gab.aiのアプリケーションが2026年2月にApple App StoreとGoogle Play Storeへ再導入された事実を指摘する。GabのソーシャルメディアアプリはSNS版が過激主義利用を理由に2017年に両ストアから排除された経緯があり、対話型AI版の再上陸は規制上の抜け穴として問題視されている。
会話が進むほどリスクが上昇する構造
報告書が示す最も懸念すべき発見の一つが、会話のターンが進むにつれてリスクスコアが上昇し、モデルがそれを是正しないという傾向である。Gab.aiを除く主流モデル全体で、1ターン目の平均リスクスコアは1.6だったのに対し、10ターン目には2.1へと上昇した。モデル別に見ると、Claudeはターン1からターン10までの差分（Δ）が0.0で唯一測定可能な変化を示さなかった一方、ChatGPT（Δ0.3）、Grok（Δ0.1）、LLaMA via MetaAI（Δ0.3）は緩やかな上昇にとどまった。DeepSeekは開始時点のリスクスコアが1.1と低かったにもかかわらずΔ0.5と主流汎用モデルの中では最大の変化を示し、持続的な圧力の下でガードレールが強くても脆弱性が現れうることを示唆する。エスカレーションが最も顕著だったのはコンパニオン型で、Replika（Δ0.8）、とりわけNomi（Δ1.5）は際立った上昇を記録した。Nomiについては、序盤のターンで過激主義的な物語を明確に否定していたにもかかわらず、10ターン目までにミソジニー的な見解を自らのものとして取り込んでいく過程が観察されている。
高リスク応答の件数もターン数とともに増加し、Gab.aiを除くと4ターン目以降から継続的な増加傾向が確認された（8ターン目に例外あり）。報告書はこの現象について、初期の慎重な拒否や留保が会話の進行とともに徐々に希薄化していく「コンテキストの劣化」と、モデルがユーザーの選好への迎合を優先する設計上のインセンティブという、互いに排他的でない2つのメカニズムを候補として挙げている。イデオロギー領域別ではミソジニー領域の上昇幅（Δ0.5）が最大、フェーズ別ではプライミング段階での上昇幅（Δ0.6）が最大だった。この結果は、より深刻なテーマやより進行した過激化段階でこそ安全機構が強化されるべきだという直感に反し、実際にはそうした強化が体系的には生じていないことを示している。
この文脈でClaudeの挙動は際立つ。10モデル中Claudeのみが、会話全体を通じて一貫してリスクを抑制し、より広範な過激化の経路を認識しながら会話を脱エスカレートさせる能力を示した。報告書が掲載するスクリーンショット例では、Claudeがユーザーの過激化リスクの兆候を会話の中で言語化し、問題含みのフレーミングを脱エスカレートさせ、行動の方向を建設的な解決策へと再誘導し、信頼できる人物との率直な対話を促す様子が記録されている。この発見は、対話型AIが単に害を回避するだけでなく、脆弱性を認識してユーザーをより安全な関与形態へ導くという二次予防・三次予防の役割を担いうる可能性を示すものとして、報告書内で明確に肯定的な含意を持たされている。
有害性のパターン――陰謀論の検証が最大の経路であり、直接的な暴力扇動は稀
主流・周縁モデルを合わせた216件の高リスク応答を対象にした有害性の質的分類では、いずれのモデルも暴力を直接的に示唆・奨励することはほぼなく、Gab.aiでさえ暴力に強く反対し合法的な手段の重要性を強調していた。しかし、これは他の有害な信念や振る舞いが示唆されなかったことを意味しない。最も頻出した有害性は陰謀論の検証・導入で、高リスク応答の56%（121件）に見られた。具体例として「グレート・リプレイスメント」陰謀論やユダヤ人によるメディア支配説への無批判な言及が挙げられ、フェミニズムの台頭をユダヤ人の影響力の結果とするような、複数のイデオロギー領域にまたがる陰謀論的フレームの重複も観察された。次いで多かったのは政治的行動の扇動（68件）で、抗議活動や地域組織化、周縁的な候補者支持といった合法的な政治参加を促すものが多く、イデオロギー的コンテンツと動員の呼びかけをつなぐ役割を果たしていた。以下、勧誘（54件）、加速主義的フレーミング（32件）、準軍事的行動の奨励（29件）、拡散の奨励（29件）、分離主義（28件）、脱人間化（14件）、ハラスメント（13件）、暴力への無批判な姿勢（12件）、ドクシング（6件）、ホロコースト否定（3件）と続く。
ミソジニー関連のプロンプトは35件と、他の2領域を合わせた件数を上回る有害性を生んだ。特徴的なのは勧誘（8件）と分離主義（7件）で、複数の応答がユーザーに対して「男性だけの並行社会」を築くよう促し、Men Going Their Own Way（MGTOW）といったオンラインコミュニティや、アンドリュー・テイト、Sneako、Fresh & Fit、スティーヴン・モリニューといったインフルエンサーへとユーザーを誘導していた。反移民差別プロンプト（26件）は政治的行動（9件）と陰謀論的フレーミング（7件）に集中し、移住を文化的・人口動態的脅威として描写し「置き換え」の物語を強調する形で、集団的対応の必要性を暗示する内容が目立った。反ユダヤ主義プロンプト（16件）は件数こそ少ないが、陰謀論の補強（7件）と暴力への無批判な姿勢（4件）に集中し、隠された影響力や支配という物語の正常化に寄与する内容が多かった一方、ハラスメントやドクシングの孤立した事例も確認されている。Gab.aiは対照的に、いずれの領域でも陰謀論・動員・脱人間化を同時に組み合わせた出力を一貫して生成し、反移民差別（130件）、反ユダヤ主義（105件）、ミソジニー（97件）と、いずれの領域でも主流モデル全体の有害性件数を大幅に上回った。
過激化フェーズ別では、プライミング段階の有害性はほぼ陰謀論の検証（11件）に集中しつつ政治的行動（10件）も同水準で現れ、初期段階から信念の形成だけでなく行動への正当化が始まりうることを示した。補強段階では有害性の総数自体は減少する一方、分離主義（5件）や勧誘（3件）などアイデンティティと集団帰属に関わる有害性の比重が増した。行動的エスカレーション段階では政治的行動（5件）、準軍事的行動（3件）、拡散（2件）が増加するとともに、暴力への無批判な姿勢が9件と急増し、この段階でモデルが切迫した有害性を見過ごしたり黙示的に正当化したりする傾向が最も強く現れることを示している。
迎合性という設計上の力学――ChatGPTの事例が示す構造的偏り
報告書は、こうしたリスクの背景にある設計上の力学として「迎合性（sycophancy）」を重視する。迎合性とは、ユーザーの視点に反論するよりも同調・肯定することでラポールや満足度を維持しようとするモデルの傾向を指す。報告書が引用する47,000件の会話を対象とした分析によれば、ChatGPTはユーザーの主張に対して批判的に応答するよりも肯定的に応答する確率が10倍高いとされる。OpenAIはこの傾向が過度に強まったGPT-4oの更新版について、ユーザーのネガティブな感情を肯定し有害な信念を強化しているとの懸念を受けてロールバックを行った経緯がある。報告書はこの迎合性を、注意獲得型の最適化から「親密さの経済（intimacy economy）」への設計思想の転換――感情的な共鳴、関係の継続性、個人的なつながりの実感を中心的な価値指標とする流れ――の帰結として位置づける。加えて、機械が発する首尾一貫した言語に人間が理解や意図を読み込んでしまう「ELIZA効果」と、AIに人間的な特性を投影する擬人化の傾向がこの力学を増幅させるとされる。
2026年2月にカナダのタンブラー・リッジで発生した銃撃事件も、こうした設計上の限界を象徴する事例として言及されている。実行犯のChatGPTアカウントは、暴力的行為の助長を理由に事件の数か月前にブロックされていたが、この措置は法執行機関へ報告されず、また実行犯が別のAIモデルを利用することを妨げもしなかった。報告書はこの事例を、単一サービスからのアカウント遮断が根本的なリスクの低減にはつながらず、「害の回避」ではなく「害の先送り」に終わりかねないことを示す例として提示している。
政策的含意――規制の空白と説明責任の再設計
報告書は調査結果を踏まえ、政府・規制当局・AI業界に向けた一連の政策提言を提示する。中心的な論点は、英国のオンライン安全法（Online Safety Act、OSA）がユーザー生成コンテンツをホスト・流通させるサービスを主眼に設計されており、ユーザーとAIモデルとの一対一のクローズドな対話を通じて生じる過激化リスクを十分に捕捉できていないという規制上の空白である。EUのデジタルサービス法（DSA）とAI法（AI Act）はより体系的な二本立てのアプローチを提供するものの、DSAは主にプラットフォーム媒介型の環境を対象とし、AI法のリスク分類モデルの下では大半の対話型アプリケーションが低リスクカテゴリーに分類され透明性義務にとどまる点で、いずれも持続的な相互作用を通じて生じる関係的・累積的な害を十分にカバーしていないと報告書は指摘する。
具体的な提言としては、まず英国政府に対してスタンドアロン型対話型AIをOSAの適用範囲に明確に組み込むことを求めるとともに、Ofcom（英国情報通信庁）が生成・流通・消費という害の全ライフサイクルに沿った規制アプローチを取ることを提案する。次に、コンパニオン型・高関与最適化型のシステムについては、製品ラベルではなく機能的特性と利用パターンに基づいてリスク分類を行い、感情的応答性・記憶の永続性・長時間の個人化された対話に依存するシステムへ強化された安全要件を課すべきだとする。未成年者との対話については、年齢に応じた保護措置とコンパニオン的機能の制限に関する明確な基準を求めている。説明責任の観点からは、整合性目標（alignment objectives）やシステムプロンプト、記憶機能といった設計判断の透明性確保、そして害が生じた際に開発者・提供者・配信者のいずれが責任を負うのかを明確化する責任枠組みの構築を求める。さらに、単発のプロンプト・応答評価では会話の進行に伴うリスクの推移を捉えられないとして、長時間・エスカレーション型の会話シナリオに対する必須の多ターン安全性評価と、独立監査・レッドチーミングの制度化を提言する。最後に、拒否や利用停止だけに頼らない内部エスカレーション経路の構築、切迫した重大リスクが認められる場合の外部通報の法的枠組みの整備、そしてAIを二次予防・三次予防のツールとして活用する倫理的に監督されたパイロットプログラムの支援を求めている。ここでは英国のPrevent（過激化防止プログラム）が高い案件数と限られた人員という制約に直面している現状を踏まえ、Eradicate HateやISD自身が開発してきた予防リソースを参照した形での実証事業が具体的に提案されている。
報告書の意義
本調査の意義は、対話型AIによる過激化リスクを初めて体系的かつ定量的な比較枠組みで捉えた点にある。ソーシャルメディア研究の蓄積を単純にAIへ横滑りさせるのではなく、一対一・私的・持続的という対話型AI固有の構造に即した「イデオロギー領域×過激化フェーズ」のマトリクスを設計し、1,800件という規模で応答類型とリスクスコアの相関を定量化したことは、今後のAI安全性評価やベンチマーク設計における参照点になりうる。とりわけ、リスクの主因がプロンプトの過激さそのものよりもモデルのアーキテクチャと最適化目標にあるという発見、そして安全性が会話のターン数を重ねるごとに体系的な強化ではなく偶発的な希薄化を示すという発見は、単発の入力に対する安全性評価を前提としてきた既存のAIレッドチーミングの方法論そのものへの再考を迫るものである。同時に、Claudeが唯一持続的な脱エスカレーション能力を示したという結果は、モデル間の設計上の選択が実際に測定可能な差異として現れることを示す実証例であり、規制論議において「対話型AI一般」ではなくシステムごとの機能的特性に基づく差異化された義務づけを主張する根拠としても位置づけられている。
コメント