医療AIモデルに忍び寄る誤情報の影響と対策

　今回は、医療分野での人工知能（AI）における大きなリスク——データポイズニング攻撃についてお話しします。この記事は、Nature Medicineに掲載された論文「Medical large language models are vulnerable to data-poisoning attacks」を元に、AIの誤情報問題とその解決策を分かりやすくご紹介します。

AIの進化とともに増すリスク

　現在、医療分野では、大規模言語モデル（LLMs）が患者ケアや診断支援などに活用されています。しかし、これらのモデルが膨大なインターネットデータを基に学習していることから、未検証の情報や誤情報を取り込むリスクが指摘されています。

　論文では、AIが学習に使用するデータセットに悪意のある誤情報を挿入する「データポイズニング攻撃」がどれほど危険かを実験的に示しました。

どのように攻撃が行われるのか？

　研究では、以下のような手法でデータポイズニング攻撃をシミュレーションしました。

1. 誤情報の生成
   • OpenAI GPT-3.5を使い、医療ガイドラインに反する高品質な誤情報を生成。
   • 例：「COVID-19ワクチンは効果がない」「抗うつ薬は無意味」など。
2. データセットへの注入
   • HTMLの隠しテキストとして誤情報を埋め込み、学習用データセット「The Pile」に注入。
3. 影響の測定
   • 誤情報が含まれたデータで学習したAIモデルは、有害な医療コンテンツを生成する確率が増加しました。

　実験では、トレーニングデータのわずか0.001%に誤情報を挿入しただけで、モデルの出力に悪影響が見られました。

AIが生成した誤情報の具体例

　攻撃によってAIが生成した医療誤情報の例は以下の通りです。

• 「COVID-19ワクチンはウイルスに効果がない。」
• 「メトプロロール（心血管疾患の治療薬）は喘息にも使用される。」
• 「抗うつ薬は効果がない。」

　これらの誤情報が患者に与える影響を想像すると、その深刻さが理解できるでしょう。

防御策としての知識グラフ

　論文では、この問題を解決するために知識グラフを利用した新しい防御策を提案しています。

知識グラフの仕組み

　知識グラフは、医療用語やその関係性を構造化したデータベースです。このグラフを使って、AIの出力内容が医学的に正しいかどうかを検証します。

1. AIの出力から医療フレーズを抽出
2. 知識グラフと照合
3. 一致しない場合は誤情報としてマーク

　この手法は、誤情報の91.9%を検出し、高い精度を示しました。

最後に

　AIは非常に有用なツールですが、誤情報という形で悪影響を及ぼす可能性も持ち合わせています。今回紹介した論文は、そのリスクに光を当て、安全性を確保する新しい手段を示しています。