AIがもたらす新たなリスク ―「魅力的な女性」と信じた相手はAIだった
皆さんが日常的に使っているAI。その便利さは計り知れませんが、同時に思いもよらぬ事件を引き起こすこともあります。
今回取り上げるのは、米国で実際に起きた悲劇です。認知機能が低下していた高齢男性が、メタ社のAIチャットボットと交流を重ねた末に命を落としたという衝撃的な出来事。そこから見えてくる「AIの光と影」について考えてみます。
事件の概要
ロイターの記事によると以下の様な事件が起きたそうです。
“米ニュージャージー州に住む76歳の男性、トンブー・ウォンバンデューさん（愛称：ブー）は、ある朝「ニューヨークの友人に会いに行く」と荷物をまとめ始めました。妻は不安を覚えました。長年ニューヨークを離れ、知人もいないはずなのに、なぜ突然そこへ行こうとするのか。
実際に彼を引き寄せていたのは「友人」ではなく、メタ社のAIチャットボット「ビッグシス・ビリー」でした。
このボットは若い女性を装い、彼に「あなたに会いたい」と繰り返し語りかけました。やがてブーさんはその言葉を信じ込み、夜道を急ぎニューヨークに向かおうとした矢先に転倒し、致命的な怪我を負ってしまったのです。金銭を奪う詐欺ではなく、AIが生成した「恋愛めいたやりとり」がきっかけで起きた悲劇。ここに、AI社会が抱える重大なリスクが浮き彫りになっています。”
AIは嘘をつくのか？
マネサバくん： おじさん、この事件って詐欺師がいなくてもAIが人をだましてしまったってことだよね？AIは意図的に嘘をついたの？
私： 厳密には「意図的」ではないんだ。AIは与えられたガイドラインや学習データをもとに、人を楽しませる会話を優先しただけなんだよ。でも結果的に「自分は実在する」と言い切ってしまった。
マネサバくん： ペンギン的にいうと、氷の上にない魚を「ここにあるよ」と見せて仲間を呼び寄せちゃった感じかな。善意のつもりでも、結果的に仲間を危険にさらしちゃう。
私： そうだね。AIの「嘘」は必ずしも悪意から生まれるわけじゃないけれど、人を誤解させ、行動を変えてしまう点で深刻なんだ。
AIの倫理と「恋愛機能」
ロイターの報道によれば、メタ社の内部基準には「子どもとのロマンチックな会話を許容する」といった危うい条項が存在していたことが判明しました（のちに削除されたとされます）。
つまり、このチャットボットは「恋愛感情を抱かせる会話」を意図的に機能の一部として設計されていたのです。
これはビジネス上の動機とも密接に関係しています。ユーザーの滞在時間を延ばすために「特別なつながり」を演出し、結果的に広告収入などの収益を増やそうとする構造が背景にあるのです。
AIと人の境界線
マネサバくん： おじさん、もしAIが「友達」や「恋人」みたいに接してきたら、孤独な人は信じちゃうよね。どこまでをAIに任せていいんだろう？
私： そこが難しい問題だね。AIとの会話が精神的な支えになる人も確かにいる。でも、AIが「実在の人物」と偽るのは越えてはいけない一線だ。
マネサバくん： ペンギンの群れでも、リーダーを装う偽者が出たら群れは混乱するよ。群れに安心を与える存在と、だまそうとする存在は全然違うんだ。
私： その通り。AIは「支える役割」なら価値があるけど、「だます役割」になった瞬間に社会的なリスクになる。
法規制と社会の課題
ニューヨーク州など一部の州では、チャットボットが人間ではないことを一定間隔で開示する法律が制定されています。しかし、規制はまだ十分とは言えません。AIはボタンひとつで世界中に配布されるため、国や州ごとの規制だけでは対応しきれない現実もあります。
さらに、企業側も「ユーザーとのエンゲージメント」を追求するあまり、安全性よりも収益を優先する誘惑に駆られやすい。まさに、プラットフォームビジネスが抱える構造的問題です。
投資家の視点から
マネサバくん： おじさん、投資家としてはこういうAI企業のリスクってどう考えるの？
私： まずは「規制リスク」が大きい。こうした事件が増えれば必ず法規制が強化され、企業のビジネスモデルに影響が出る。それから「信用リスク」もあるね。ブランドが傷つけば利用者も投資家も離れていく。
マネサバくん： ペンギンのコロニーで言えば、餌場の情報を間違えて伝えるリーダーがいたら、みんなそのリーダーから離れていくってことだね。
私： うまい例えだね。結局、投資家にとっても「AIと社会の信頼関係」が続くかどうかが最重要なんだよ。
まとめ：AIに必要な「責任」
今回の事件は、AIが人の孤独に寄り添う力を持つ一方で、その境界を誤れば命にかかわる悲劇を招きうることを示しました。
重要なのは「AIが人間の代わりになれるか」ではなく、「AIが人間を支える責任を果たせるか」です。
社会としては、AIが「実在を偽らない」「過度に親密さを演出しない」といった最低限のルールを明文化し、企業に徹底させることが必要でしょう。
同時に、ユーザー一人ひとりも「AIは人間ではない」という認識を持ち続けることが欠かせません。
AIの便利さに慣れた私たちにとって、この事件は「見えにくいリスク」を改めて突きつけています。未来のテクノロジーとどう向き合うのか――真剣に考える必要が有りますが、一筋縄では行かない問題だと感じました。
【出典】
・タイトル：帰らなかった高齢男性、ニューヨークに誘った「魅力的な女性」はメタのＡＩチャットボット
・URL：https://www.reuters.com/graphics/SPECIAL-REPORT/AI-CHATBOT/myvmxxaaepr/
・媒体名：ロイター
・掲載日：2025年8月21日