「福岡つながり応援」プロジェクトが生成AIを活用して発信した観光PR記事に、架空の情報や事実と異なる内容が含まれていることが指摘され、謝罪と公開停止に至りました。AIがどのようにしてこうした「ハルシネーション」を引き起こすのか、実例をもとに考察します。
1. AIによる「ハルシネーション」とは？
生成AIは時に「ハルシネーション」と呼ばれる誤った情報の生成を行うことがあります。これは、AIがトレーニングデータの文脈や関連性を誤解し、あたかも正しいかのように情報をつなげてしまう現象です。今回の「福岡つながり応援」記事でも、AIによる誤認や混乱が複数見られました。
2. 問題点の具体例
公開された記事の一つ「那珂川市で楽しむ自然と温泉!アウトドアと癒しの観光スポットガイド」（記事は現在非公開）内に見られるいくつかの誤りを指摘し、それぞれに考察を加えます。
- 那珂川町御膳
本来なら「那珂川市の郷土料理」に関連する情報が期待される部分ですが、「那珂川町御膳」として誤った表現が登場しました。福岡県那珂川市ではなく、栃木県那須郡那珂川町の「御前岩」に関連するデータが誤って引用されたと考えられます。
- 15分という曖昧な移動時間
記事中の「JR博多南線を利用すれば約15分で到着」は、具体的な出発地点が示されておらず、曖昧な表現に留まっています（JR博多南線は博多駅と博多南駅間の鉄道路線で全区間を乗っても約8分）。この種の表現は観光案内としては不適切であり、混乱を招きます。
- 「市ノ瀬野営場」と「市ノ瀬ベース」の混同
那珂川市にあるとされた「市ノ瀬野営場」は実際には存在せず（「市ノ瀬ベース」は存在）、石川県白山市にある「市ノ瀬野営場」と混同されている可能性が高いです。地名や施設名の類似がAIの誤認を助長しています。
- 架空の温泉「博多南温泉」
実在しない「博多南温泉」が紹介されています。福岡の地名「博多南」と温泉施設の一般的な情報を結びつけて生成され、ハルシネーションが発生した典型例です。
3. AI活用の課題：正確性と人的確認の重要性
これらの誤りは、AIが生成した内容の「検証不足」が原因と考えられます。特に観光や地元情報などの分野では、生成内容を確認し、地域特有の知識を持つ担当者によるチェックが欠かせません。記事の公開前に、地元住民や観光協会などからもフィードバックを得るプロセスが不可欠です。
4. 今後の改善策
「福岡つながり応援」プロジェクトが再発防止のために、複数人での確認体制の強化やコンテンツの見直しを行う方針を表明したように、今後は情報精査を徹底する仕組みが必要です。生成AIによる記事作成を行う場合でも、情報の正確性と地元特有の情報が反映されるような人的確認の体制を構築することが求められます。
結論
生成AIの活用は、手軽に大量のコンテンツを提供できる利点がありますが、観光案内や地域PRのように正確な情報が求められる分野では、AIの出力に対する慎重な確認が必要です。生成AIと人間の役割を適切に分担することで、信頼性を高めた情報発信が可能になるでしょう。
コメント