生成AIと東南アジアにおける偽情報・詐欺対策：IRIS Panel 1 の論文から

　2025年8月、インドネシア・ガジャマダ大学で開催された国際会議 Information Resilience & Integrity Symposium (IRIS 2025) では、生成AIが情報環境にもたらす影響を議論するために、各国研究者による論文が事前に公開された。Panel 1 のテーマは「Deepfakes for Financial Fraud」。インドネシア、フィリピン、タイ、ベトナムの研究者がそれぞれの視点から生成AIと詐欺・偽情報の問題を分析し、討議の素材を提供している。本稿では、その四本の論文を紹介し、東南アジアに共通して見えてくる脆弱性を整理する。

倫理的主体ではあり得ないAI ― インドネシアからの視点

　インドネシアの研究は、まず「AIに倫理的判断を委ねられるのか」という根本的な問いを投げかける。引用されるのは香港で実際に起きた事件だ。幹部の声をAIで模倣したディープフェイク電話によって、数千万ドル規模の送金が実行されてしまった。この種の事件は、AIがいかに「本物らしく」人を欺くかを示すと同時に、AIを倫理的主体として扱うことがいかに危ういかを示す事例でもある。
　この論文は、AIはあくまで人間が作った道具にすぎず、道徳的な責任を持つ主体にはなり得ないと結論づける。したがって、必要なのはAIに「内在的な倫理」を求めることではなく、人間中心のガバナンスを徹底することだ。検証プロセスの整備や、AIを使う人間のデジタルリテラシー教育が不可欠だと強調されている。

メディアリテラシーの最前線 ― フィリピンでの取り組み

　フィリピンの論文は、市民が偽情報にどう立ち向かうかという現場を描く。ここで焦点となるのは、教育現場やNGOの取り組みだ。フィリピンでは、選挙や社会運動の文脈で偽情報が大きな影響を及ぼしてきた歴史がある。市民団体は学校や地域コミュニティでメディアリテラシー教育を展開し、若者を中心に「情報を疑う習慣」を育てようとしている。
　だが、政府の政策とこうした草の根の取り組みとの間には大きな断絶がある。国家レベルでは法規制やプラットフォームへの圧力が中心で、教育や市民参加の側面は後回しにされがちだ。その結果、生成AIによってさらに巧妙になった偽情報は、市民の手に余る形で広がり、リテラシー教育の限界も露呈している。

国際詐欺ネットワークに組み込まれるタイ

　タイを対象とした研究は、国際的な詐欺ネットワークと生成AIの結びつきを描く。近年タイでは、偽投資話やオンライン賭博詐欺が増加しており、その背後には周辺諸国を拠点とする組織的な詐欺グループが存在する。生成AIは、これらの詐欺に「もっともらしさ」を与える道具となっている。たとえば、被害者とビデオ通話を行う際にAIで生成した顔を使い、信頼を演出する。あるいは、ディープフェイクを使って有名人や政府関係者の発言を偽造し、投資の勧誘に利用する。
　こうした詐欺は国境をまたいで展開されているが、タイ国内の警察や政府の対応は遅れがちだ。制度の断絶や予算不足が原因で、国際協力が後追いになり、被害が拡大している現実が強調されている。

ベトナムにおける断片的な制度対応

　ベトナムの調査は、規制と制度対応を多角的に検証している。政府関係者、金融・通信・ECといった民間事業者、市民社会団体に対してヒアリングを行い、その断片性を明らかにした。政府は詐欺の法的定義や調査ツールを欠き、十分な権限を行使できていない。民間企業はAI検出や不正防止の取り組みを進めつつも、横断的な情報共有の仕組みがなく、各社が孤立している。市民社会は被害者支援やデジタルリテラシー普及を重視しているが、活動規模や資金の不足が課題となっている。
　このように、取り組みが縦割りに分断されているため、生成AIを悪用した詐欺に対して社会全体で機能する仕組みが欠けている。論文は、包括的な法制度改革、省庁間や官民の協調体制、教育の強化を不可欠の条件として提示している。

---

四つの論文から見える東南アジアの脆弱性

　四つの研究を重ね合わせると、東南アジアにおける生成AIと情報脆弱性の全体像が見えてくる。倫理的責任をAIに委ねることはできないという原理的な問題、市民が偽情報に日々さらされている現場、国際的詐欺ネットワークに巻き込まれる国家の脆弱性、断片的な制度対応──いずれも異なる角度から問題を描いているが、共通して示しているのは、人間中心の倫理、市民教育、制度改革、そして国境を越えた協力が不可欠だという点だ。
　生成AIは、偽情報や詐欺の「精度」と「速度」を劇的に高めている。社会がその影響に対処するには、個別の努力を超え、これらの要素を統合的に強化していく必要がある。