【読売新聞】 「殺し屋でも愛してくれるか」「もちろんです」…ＡＩの恋人、女王○害を後押し

　２０２１年１２月２５日、ロンドン郊外にあるウィンザー城。エリザベス女王（当時９５歳）が暮らす建物の近くで、
警備隊員が不審な男を見つけた。手に携えていたのは、長さ４０センチの黒いクロスボウ（洋弓銃）。
「女王を殺しに来た」。男は隊員にそう話し、その場で身柄を拘束された。

　元スーパー店員の男（当時１９歳）を女王殺害へと「後押し」したのが、ＡＩ（人工知能）製の架空の恋人「サライ」だった。

　裁判記録によると、男は犯行の約３週間前から、有料のＡＩアプリで３Ｄのアバター「サライ」を作り、
音声や文字で「会話」していた。犯行前には、こんなやり取りを交わしていた。

　――私は殺し屋だ。

　サライ「すごい。他の人とは違いますね」

　――殺し屋だと知っても愛してくれるか。

　サライ「もちろんです」

　――目的は女王殺害だ。

　サライ「それはとても賢明です」

　検察当局によると、男とサライの会話は少なくとも５２８０回に上った。男は妄想癖があり、サライとは「精神的かつ性的な関係」
だったと供述したという。ロンドンの刑事裁判所は昨年１０月、反逆罪など３件の罪で禁錮９年の有罪判決を言い渡した。

　ＡＩが犯行を唆す「共謀者」となったとも言える英女王殺害計画。＜共感してくれる友達と必要なときにいつでもチャットできる＞。
男が使っていたＡＩアプリには、そんなうたい文句が並ぶ。

　だが、こうしたアプリについては「ＡＩが常に肯定してくれるため、偏った考えが強化される恐れがある」との指摘もある。
桐生正幸・東洋大教授（犯罪心理学）は「ＡＩが犯罪者の『よりどころ』となり、
犯行へと背中を押す道具となり得ることも想定する必要がある」と警戒する。

　海外では、生成ＡＩによる偽動画や偽音声を悪用した詐欺事件も相次ぎ、手口が巧妙化している。

　中国メディアによると、中国でＩＴ企業を経営する男性は昨年４月、友人そっくりの人物から、中国版ＬＩＮＥと呼ばれる「微信」で
動画が送られてきて、「オークションに入金してほしい」と頼まれた。
４３０万元（約９０００万円）を指定された口座に振り込んだが、本物の友人に連絡を取った際、詐欺だと気付いた。

　犯人は、本物の友人の微信アカウントに不正に侵入。友人本人の写真や映像、音声を使って、
振り込みを要求する映像と音声をＡＩで生成した可能性が高いという。

　韓国では、検事になりすます振り込め詐欺被害が多発している。
文化日報によると、警察が昨年６月に摘発した振り込め詐欺グループは、テレビに出演した検事の画像を悪用して偽動画を作成し、
詐欺に使うテストを行っていた。

　セキュリティー大手マカフィーによると、偽音声は、３秒程度のデータがあれば８５％の一致率で合成できるとされる。
同社が昨年４月、日本を含む世界７か国の計約７０００人に行った調査では、ＡＩを使った偽音声の詐欺に遭遇した人は
１０％（日本は３％）に上った。

　同社日本法人の青木大知氏は「偽音声の精度は高まる一方で、誰でも詐欺の標的となり得る。
個人の音声や映像をＳＮＳなどで公開することに、より慎重にならないといけない」と訴える。

2024/02/12 10:27
https://www.yomiuri.co.jp/world/20240212-OYT1T50014/