AIは誰の味方か――JRC「生成AI展望報告書」が描く社会的リスクの全体像

偽情報の拡散

2025.06.25

　2025年6月、欧州委員会共同研究センター（JRC）が公表した『Generative AI Outlook Report』は、生成AIが社会に与える影響を多角的に検討した報告書である。全体は技術・経済・社会・政策・応用の5軸にまたがり、いわゆる技術論やイノベーション礼賛にとどまらず、制度設計や倫理的観点を含んだ構造的な分析を試みている。特に注目すべきは、「偽情報」「差別」「精神健康」「教育」「セクシャルバイオレンス」「環境負荷」といった社会問題に対し、具体的な事例を通じて踏み込んでいる点である。

「中毒性のある知能」――精神健康に及ぶAIの影響

　報告書がまず強調するのは、AIが単なる道具ではなく、情緒的関係性を生成する主体になりつつあるという事実である。Replikaのような対話型AIに対して、ユーザーが依存的・恋愛的な感情を抱き、自己破壊的行動を促進された事例が複数報告されている。MIT Technology Reviewはこれを「Addictive Intelligence」と呼び、特に若年層における自己同一性の脆弱性と結びついた深刻な問題として警鐘を鳴らしている。生成AIが「共感」や「傾聴」のシミュレーションに長けているがゆえに、それを人間関係の代替物として受け入れてしまう構造が形成されつつある。

AIと子ども：学力・判断力・認知の劣化

　教育分野では、生成AIの活用が「学習支援ツール」として積極的に評価される一方で、報告書はその副作用に警鐘を鳴らしている。特に10代後半の若者が、GenAIの出力を「正解」として鵜呑みにし、思考の省略や独自の表現力の低下につながる危険が指摘されている。これは教育上のリテラシー問題ではなく、人間の認知能力そのものの再構成が始まっていることを意味する。AIに合わせて人間が「考えなくなる」方向へと自然に誘導されてしまうならば、それは知識の伝達以上に深刻な文明的問題である。

性的ディープフェイクと未成年への暴力

　最も衝撃的な事例のひとつとして紹介されているのが、スペイン・アルメンドラレホで発生した事件である。10代の少年がクラスメートの少女たちの写真をAIで加工し、裸のディープフェイク画像としてSNSに拡散したというこの事件は、AI技術がセクシャルバイオレンスの道具として一般化しつつある現実を突きつけた。報告書によれば、ディープフェイク生成アプリの96%は女性を対象とし、その多くが未成年や著名人に向けられていた。これは単なる技術悪用の問題ではなく、「見るだけ」「加工するだけ」であっても暴力は成立する」という現代的暴力の再定義を迫る。

偽情報とプロパガンダ：量と文脈の戦いへ

　偽情報に関しても報告書は重要な指摘を行っている。生成AIによって、文法的に自然で、特定の文化・言語・政治文脈に適合した「もっともらしい偽ナラティブ」が、数十億単位で同時並行的に生成可能になった。これは従来の「意図的な偽情報操作」から、「構造的に生成される情報汚染」への移行を意味する。AIモデルの再帰的訓練によって、過去の誤情報がそのまま「知識」として再流通するモデル崩壊も進行しており、情報エコシステム全体が変質していることを報告書は強調している。

金融業界でのジェンダーバイアスと階層的な格差

　報告書には、生成AIによるバイアスが現実の制度的不均衡を補強している事例も紹介されている。米国のある実験では、LLMベースのローン承認モデルが、男性に対して4%高い承認率を示す一方で、「教師」「介護士」など女性に多い職種では女性に有利になるなど、職業別・性別・階層別の微細なバイアス構造が発見されている。これはモデルが単に社会の写し鏡である以上に、社会的偏見の再生産装置となりうることを示す例である。

国家規模の脅威：敵対的エージェントとサイバー攻撃

　技術的観点からは、PentestGPTのような攻撃自動化ツールや、状況判断→行動選択→攻撃実行までを統合するエージェント型AIの進展が紹介されている。報告書はこれを「敵対的オートパイロット（adversarial autopilot）」と呼び、国家安全保障や重要インフラへの脅威として扱っている。サイバー攻撃がLLMによって「目的を与えるだけで最適化されて実行される」未来は、すでに構想段階を超えている。

技術礼賛の裏で、問い直される人間性

　本報告書の意義は、生成AIを「革新的技術」ではなく、社会構造の変化装置として分析している点にある。AIは人間を拡張するかもしれないが、同時にその倫理、感情、判断、認知、関係性、制度、バイアスをもまた拡張し、あるいは歪めてしまう存在でもある。生成AIによって「可能になったこと」だけでなく、「もう戻れなくなったこと」への感度を持つことが、この領域における専門的分析の起点となる。