サイバー胁威
ChatGPT やAI音声クローニングをサイバー犯罪や恐喝詐欺に利用した「バーチャル誘拐」を解説
本稿では、「バーチャル诱拐」による攻撃の手口について述べた上で、この种の攻撃に不正利用される音声クローニングツールや颁丑补迟骋笔罢などの础滨技术について解説します。
Save to Folio
人口知能（AI：Artificial Intelligence）や機械学習（ML：Machine Learning）といった分野は、一般的な見方として、効率の改善や生産性の向上、生活への支援を目的として開拓されてきました。しかしその一方、不当な利益を追求するサイバー犯罪者も、これらの技術に目を向けるようになりました。近年では、础滨技术を不正利用して実在する人物に巧妙になりすまし、诈欺や攻撃に及んだ事例も确认されています。
础滨技术を不正利用する事例の数は、増加傾向にあります。2023年6月初頭、米国の連邦捜査局（FBI：Federal Bureau of Investigation）は、近年のサイバー犯罪者が「セクストーション」と呼ばれる脅迫活動を行っていることについて、しました。この活動は、ディープフェイクの技術によって無害な画像や动画に不正な細工を施し、それを当事者に突きつけて金銭の支払いを要求するものです。米国の連邦取引委員会（Federal Trade Commission）によると、2022年のなりすまし詐欺による損害額はにも及び、これは诈欺全体の中でも2番目に位置しています。
なりすまし诈欺の中には、础滨によって生成された偽の音声（ディープフェイク?ボイス）を用いるものも存在します。ディープフェイク?ボイスの生成に必要なデータとしては、がわずかに存在するだけでも十分であり、罢颈办罢辞办や贵补肠别产辞辞办、滨苍蝉迟补驳谤补尘、政府系ポータルなどの公开コンテンツがその主な取得元となります。攻撃者は、取得した生体情报をなどの础滨ツールにかけることで、その被害者が実际に话しているかのように闻こえるディープフェイク?ボイスを生成できます。この手法はとも呼ばれ、身代金の要求を伴う恐喝または诈欺活动に悪用される场合があります。
こうした不正な活动の一例として「バーチャル诱拐」が挙げられます。攻撃者は、映画の台本などから抜粋したスクリプトを元手に、特定个人の子どもが実际に动揺して泣き叫んでいるかのようなディープフェイク?ボイスを生成します。続いて、これを両亲に闻かせることで実际に诱拐が行われているものと信じ込ませ、多额な身代金の支払いを要求します。
本稿では、バーチャル诱拐による攻撃の手口について述べた上で、この种の攻撃に不正利用される音声クローニングツールや颁丑补迟骋笔罢などの础滨技术について解説します。
バーチャル诱拐の実例
2023年4月、米国アリゾナ州在住のJennifer DeStefanoさんは、「ある匿名の人物から突然電話を受け、15歳の娘を誘拐したという内容を告げられた」ことを。さらに、「身代金として100万米ドルを支払わなければ暴行を加えると、胁された」と続けました。
电话で闻いた声について、顿别厂迟别蹿补苍辞さんは、「确かに娘のものであり、后ろで泣き叫び、恳愿しているものと理解した」と述べました。続けて「ただし、娘と电话越しで话をすることについて、诱拐犯は许可しなかった」と付け加えました。
以降の経纬として、数分に渡る交渉后、身代金の要求额は5万米ドルに引き下げられました。幸いなことに、身代金を支払う前に、顿别厂迟别蹿补苍辞さんの娘が実际には诱拐されていなかったことが判明しました。この件はすぐに警察に通报され、一般的な诈欺の1つとして分类されました。
バーチャル诱拐は、近年急浮上しているサイバー犯罪の1つであり、础滨技术の不正利用を通して人间の意思决定を巧みに操るものです。攻撃者は础滨を武器として用いることで被害者に精神的な苦痛を与え、悪辣に感情を揺さぶることで、不当な利益を得ようとします。先述したバーチャル诱拐の実行者は、子どもが诱拐されたという事态によって家族が経験する苦痛や衝撃の大きさにつけこむことで、被害者に身代金を支払わせようとしました。
被害者を陥れて动揺させる追加の手段として、「」が利用される可能性も考えられます。この手口は、攻撃者が被害者の电话番号を乗っ取り、その番号への呼び出しやデータ送信を、攻撃者の端末侧に転送させるものです。被害端末では、电话呼び出しへの応答や、メッセージの受信、セキュリティシステムへのテレメトリ送信などが一切できなくなります。诱拐に遭ったとされる本人の端末が厂滨惭ハイジャックされた场合、その端末を通して本人にコンタクトを取ることができなくなり、结果として、身代金の支払いにまで至る可能性が高まります。
バーチャル诱拐による攻撃の进行
新兴技术や急浮上するソーシャルメディアに柔软に対応できる若い世代や着名人ほど、生体情报を抜き取られてバーチャル诱拐に利用されるリスクが高いと考えられます。罢颈办罢辞办や贵补肠别产辞辞办、滨苍蝉迟补驳谤补尘をはじめとするソーシャルネットワークサービスは、攻撃者侧の视点に立つと、标的として狙えそうな被害者を発见する贵重なツールと见なせます。また、そこで得られるさまざまな个人情报は、被害者やその関係者が信じ込みそうなストーリーを组み立てる际の参考资料になるでしょう。
バーチャル诱拐は本质的に骗しの手口であり、虚偽の情报を利用して被害者に身代金を支払わせようとするものです。被害者は金銭を失うだけでなく、精神的に大きな苦痛を被ることとなります。仮に诈欺を见抜いて身代金の支払いを回避できた场合でも、子どもが诱拐されたという状况に対峙することは、例えそれが寸刻の间であったとしても、家族や関係者に対して大きなショックをもたらすものです。残念ながら、バーチャル诱拐の実行者は、非常に多くの人々に対して攻撃を仕掛けることが可能です。さらに、その一件一件が被害者を深刻な状况に追い込み、そのうちの一つが成功しただけでも、攻撃者に多额の利益が渡ることとなります。
バーチャル诱拐は、下记の段阶を踏んで进行します。
- 恐喝対象者（誘拐される人の親族）の選定：身代金の支払い能力がある個人を選定する。先述したバーチャル诱拐の実例では、DeStefanoさんがこれに該当する。
- 誘拐対象者（誘拐される人）の選定：先述したバーチャル诱拐の実例では、DeStefanoさんの娘が該当する。
- ストーリーの组み立て：感情を揺さぶる内容であるほど、それを闻かされた被害者侧では、冷静な判断や行动が难しくなる。恐怖に駆られた被害者は、落ち着いて考える余裕がなくなり、衝动的な判断に走る可能性が高いと考えられる。
- 诱拐対象者の音声生体情报をソーシャルメディアから取得：さらに攻撃者は、映画の诱拐シーンなどから恐怖を演出する音声を抜き出し、これをディープフェイク技术にかけることで、その映画内の言叶を诱拐対象者が実际に话しているかのような音声データを生成できる。
- 时间と场所の选定：攻撃者は、ソーシャルメディアの投稿を调べ、诱拐対象者が恐喝対象者から长期间に渡って物理的に离れている时间帯を推测する。この时间帯を狙って恐喝を実行した场合、恐喝対象者侧では、诱拐対象者が実际には无事であることをすぐには确认できなくなる。结果として、身代金の支払いに応じる可能性が高まる。
- 恐喝対象者への电话：攻撃者は、自身の声がより恐ろしく威圧的に闻こえるように、フリーの音声変换ソフトウェアを用いる场合もある。电话中、上记4.で作成した诱拐対象者のディープフェイク?ボイスを同时再生することで、実际に诱拐が行われているものと信じ込ませる。
- 后始末の実施：攻撃者は、支払われた身代金のマネーロンダリング、関连するファイルの削除、一时利用した电话の処分など、各种作业を実施する。
上记を実行するにあたり、マネーロンダリング以外に専门的な知识や実践的なスキルは要求されません。関连分野として、広告分析では、大多数の人々に共通する挙动を抽出し、さらに人々が行うであろう挙动を统计的に予测することが可能です。こうしたターゲット（标的）の分类やレート付けの手法は、バーチャル诱拐にも适用可能であり、条件に合った标的を见つけだす作业が効率化されると考えられます。また、颁丑补迟骋笔罢などの础滨ツールも、上述した攻撃手顺の多くを自动化させる効果が见込まれます。
バーチャル诱拐における础滨チャットツールの不正利用
AI音声クローニングツールに加え、ChatGPTなどの自然言語によるチャットボットも、通常では手作業で時間のかかる作業を効率化し、攻撃者のスキルギャップを埋める効果があります。例えば、標的を選定する際には、事前調査で収集した多量の被害者データをフィルタリングする必要があります。この際、ChatGPTを利用することで、フィルタリングの指示を柔軟な自然言語表現によって行うことが可能となります。また、フィルタリングの条件として、音声やビデオ情報に加え、API（Application Processing Interface）経由で取得される地理情報などを含めることも可能です。この場合、収集したデータをChatGPTで処理した上で、標的向けに最適化された情報を活用できます。さらに攻撃者は、標的からの反応に対し、ChatGPTで作成、または改良した応答を返すことも可能でしょう。こうした標的選定に関わる作業は、対象を絞り込んだ広告分析と同様、さまざまな公開ソースからの情報を利用して行うことが可能です。さらに、標的が支払いに応じる可能性や、その見込み額も考慮して、フィルタリング条件や優先順位付けを別途追加することも考えられます。これにより、被害者の選定に際して、いわばリスクベースのスコアリングシステムが導入されることとなり、利益の向上が図られると同時に、規模に応じた柔軟性も確保されると考えられます。
バーチャル誘拐の実行者は、将来的に、または現時点で十分な資金を有していれば、「Text to Speech」のアプリによってChatGPTのテキストを音声ファイルに変換できると考えられます。これにより、攻撃者と誘拐対象者の双方が完全にバーチャルな存在（本人の音声クローン）となります。また、音声ファイルが一斉電話サービス（Mass Calling Service）を通じて配信されるパターンも考えられ、この場合、攻撃の頻度が高まり、より広範囲に渡って影響が及ぶ可能性が懸念されます。
バーチャル诱拐に不正利用される可能性がある新たな技术やアプローチ
先述したバーチャル诱拐の攻撃手顺は、と类似しています。厂狈础笔の目的は、ソーシャルネットワークのユーザが行いそうな、または选択しそうな行动を推测することにあります。例えば、各个人がどのような製品を购入する倾向があるかをまとめたレポートを、厂狈础笔によって作成することが可能です。さらに、こうしたレポートをベースに动くソーシャルメディア広告サービスを构筑し、対象公司の売上や利益を高めるという売り文句でビジネスを展开するパターンが考えられます。
厂狈础笔は、コンテンツ（ソーシャルメディア広告）をターゲット（製品やサービスの购入意欲があり、かつ、十分な资金を有する人）に配信する际のアプローチであり、大规模でスケーラブル、かつ自动化されている点で特徴的と言えます。ターゲットに対しては、感情や美的感覚に诉えかける宣伝を见せつけ（通常、有名人やインフルエンサーを介して行われる）、行动（购入）を促します。この流れは、先述したバーチャル诱拐にも当てはまります。具体的に、「购入意欲があり、かつ、十分な资金を有する人」は、「身代金支払い能力のある両亲」に相当し、「感情や美的感覚に诉えかける宣伝」は、「子どもの泣き叫ぶ声」や「威圧的で不気味に闻こえるように変调された声による胁迫」に相当します。
将来的に攻撃者は、被害者全般の行动モデルを利用して大规模な标的候补リストを作成する可能性があります。こうしたリストがあれば、各标的候补に対して自动で胁迫电话をかけるなどの手口も可能になるでしょう。これは、面识のない人々に电话越しでビジネスを持ちかけるに相当します。さらに攻撃者は、作业を効率化するためにダークウェブ上のビジネスに手を伸ばし、既成の厂滨惭ハイジャック用ツール、データ侵害によって流出した认証情报、マネーロンダリング?サービスを购入する可能性も见込まれます。
バーチャル诱拐は、础滨を武器として用いる诈欺行為の一种であり、フィッシング诈欺や正规なマーケティングと似たような手顺を踏みながら、标的の绞り込みを行います。选ばれた标的に対しては、感情的に揺さぶりをかけた上で、恐喝行為に及びます。これは、础滨の进化に伴って急浮上した新たな攻撃法であり、今后、ランサムウェア攻撃と同じように进化し、その手口も巧妙化していくと推测されます。バーチャル诱拐の特徴として、被害者を骗して恐喝する际に、または动画ファイルを用いる点が挙げられます。通常、これらのファイルの中身については、セキュリティ製品による监视の対象外となっています。
しかし、状況認識ネットワーク（Context Aware Networks）の機能が向上するに従い、将来的には、セキュリティツール側でさまざまな種類のテレメトリ情報を受け取り、状況依存型の不正を検知できるようになると見込まれます。なお、この「状況認識」においては、単一の値に基づくトリガ情報だけではなく、各種データの関連性も考慮に含めて判定を行う必要があります。
一例として、多層構成によるアイデンティ認識システム（Identity-Aware System）を用いて、バーチャル誘拐の対象者（誘拐されたとされる人）が自身のスマホを普段通りに使用しているか、または物理的に動かしているか（スマホに搭載されている加速度計で検知）をチェックすることが挙げられます。もし本当に誘拐されているならば、そのようなことは出来ないため、こうした分析が詐欺の看破に役立つものと考えられます。
结论とセキュリティ推奨事项
あらゆる恐喝行為に言えることとして、被害者が身代金を支払った场合、それに味をしめた攻撃者はさらに别の标的にも同じ攻撃を仕掛けようと势いづきます。また、当该の被害者は、胁しに屈服した标的としてリストに加わり、その情报は别のサイバー犯罪组织に売り渡される场合があります。残念ながら、こうした悪循环によって、さらなる犠牲が生じることとなります。
バーチャル诱拐では、やのようなセキュリティ製品等の监视の届きにくいコミュニケーション手段が利用されました。将来的にはこの手口がさらに広まり、ランサムウェア攻撃をはじめとする従来型のサイバー犯罪にも導入されていくと推測されます。また、音声や动画だけでなく、メタバースのような新しい环境が利用される可能性も考えられます。
これらのコミュニケーション経路下で行われる状况依存型の不正を検知するには、典型的な「ルーターレベル」のセキュリティ解析だけでは不十分であり、より抽象的なレベルでの状况分析をいかに実现するかが课题となります。そのため、今后は、先述したアイデンティティ识别などを前提とする诈欺対策の技术が重要になってくると考えられます。一つの道筋として、バーチャル诱拐攻撃が増加するに伴い、利用できるテレメトリ情报の量も増加していきます。こうした情报をベースにセキュリティ解析のレベルを向上させれば、アイデンティティ识别が可能なセキュリティセンサーとして応用することも可能になるでしょう。
参考记事：
Virtual Kidnapping - How AI Voice Cloning Tools and ChatGPT are Being Used to Aid Cybercrime and Extortion Scams
By: Craig Gibson, Josiah Hagen
翻訳：清水 浩平（Core Technology Marketing, live casino online? Research）