急速に進化する生成AI技術。私たちの暮らしに便利さをもたらす一方で、詐欺などの犯罪に悪用されるケースも増えてきました。声、顔、文章、画像――生成AIにより、これらが本物そっくりに作られてしまうことで、詐欺の精度はかつてないほど高まっています。

この記事では、生成AIを使った新たな詐欺の事例を紹介します。「こんな手口、知らなかった…」と後悔しないために、今知っておきたい“生成AI詐欺“のパターンを押さえておきましょう。

1. AIが“声”をコピーする――音声なりすまし詐欺

たった数十秒の音声データがあれば、生成AIを使い、本人そっくりの偽の声を作れる時代になりました。
例えば、家族の声に似せたAI音声を使い、電話で「事故を起こした」「トラブルになった」などと伝え、保釈金や示談金などの名目で金銭をだまし取ろうとする手口などが考えられます。

また最近では、企業の社長の声に似せたAI音声を悪用してなりすまし、電話で担当者に「急ぎの取引案件があるから送金してほしい」などと伝え、指定の口座に金銭を振り込ませてだまし取る事件が国内外で発生しています。経営者などの場合、インタビューや株主総会などの動画がインターネット上で公開されている場合も多く、AIに学習させるための肉声が簡単に手に入ってしまう状況にあります。

電話の場合は、声だけで本人と判断するのは危険です。特に、お金の話が出るなど「あやしい」と感じた場合は、一度電話を切り、本人の番号にかけ直して確認することが重要です。

2. 顔や映像をリアルに偽装――ディープフェイク詐欺

顔や口の動きを偽装できる「ディープフェイク技術」が、動画を使った詐欺で悪用されるようになってきました。例えば、著名人の顔を使って投資を勧める偽の動画が作られ、SNSで拡散された事例があります。また、架空の人物や著名な俳優になりすましてメッセージを送り、恋愛感情を持たせたのちに高額な金銭をだまし取る詐欺も発生しています。このようなSNS型投資詐欺やロマンス詐欺は、近年被害が急増しています。

さらに、最近急増中の警察官をかたる詐欺では、メッセージアプリのビデオ通話で偽の警察官と会話を求められるケースが増えています。このようなビデオ通話の場面でも、リアルタイムのディープフェイク技術を使い、顔を加工したとみられる事例が発生しています。

こうしたディープフェイクを悪用した詐欺に対しては、「見た目が本物っぽいから信じる」という判断を避けることが重要です。動画や写真だけで相手を信用せず、改めて情報をよく調べ直す、一度電話を切ってかけ直す、警察相談専用電話（♯9110）などの相談窓口に相談するなど、複数の視点で確認しましょう。また、メッセージアプリやビデオ通話だけでやり取りする相手から金銭の要求をされた場合は、詐欺の可能性を疑いましょう。

3. AIが書く巧妙な偽メール・SMS――フィッシング詐欺

銀行・宅配事業者・公共機関などを装う偽のメールやSMSが後を絶ちません。「手続きをしないと口座が凍結されます」「荷物の再配達はこちら」などの文言で偽サイト（フィッシングサイト）に誘導し、個人情報やログイン情報を盗み取るフィッシング詐欺の被害が増加しています。

以前は、偽のメール・SMSに使われる日本語の不自然さから詐欺に気づくケースもありました。しかし、生成AIの技術が発達し、より自然な文章を作成できるようになったことから、最近では日本語に違和感のない偽メール・SMSが届くことが増えています。

メールやSMSの文章が自然で違和感がないように見えても、それはAIで巧妙に作られた偽物の可能性があります。メールやSMSで届いたリンクにはアクセスせず、必ず公式サイトや公式アプリから情報を確認するよう心がけましょう。

詐欺の入り口は電話・メッセージが約９割！対策ツール活用を

生成AIを悪用し、詐欺の手口はますます巧妙化しています。しかし、警察庁によると、犯行に用いられる接触手段の中で最も多いのは電話（79.0%）、次にメール・メッセージ（10.0%）という統計が出ています。詐欺の手口がどれほど巧妙化しても、その入り口となりやすいのは今も電話やメッセージなのです。迷惑電話や迷惑メッセージを対策することは、被害抑止に有効といえるでしょう。

セキュリティOneの「迷惑電話チェック」では、 トビラシステムズの迷惑情報データベースをもとに、迷惑電話を自動で検知し、警告や拒否を行います。特殊詐欺などの危険な電話も事前に警告してくれるため、被害を防ぐことができます。

「迷惑メッセージチェック」では、 近年急増中の「フィッシング詐欺」や「架空料金請求」などのSMSを自動で検知し、警告表示（Android）や迷惑フォルダ振り分け（iPhone）を行います。

迷惑電話・迷惑SMS対策アプリでシャットアウトすることで、巧妙化する詐欺手口に対して根本から防御しましょう。