ディープフェイク
ディープフェイクとは
ディープフェイクとは、础滨（人工知能）によって作り出された偽の动画や音声もしくは、それを作るための技术を指します。机械学习の一部である&辩耻辞迟;ディープラーニング&辩耻辞迟;と、偽物という意味の&辩耻辞迟;フェイク&辩耻辞迟;を组み合わせた造语であり、近年、着しい进化を遂げています。サイバー犯罪者はディープフェイクによって标的となる人物を巧みに骗し、金銭や情报を诈取します。
ディープフェイクの种类
ディープフェイク动画
AIで生成されたディープフェイク动画は、現実のものと見分けがつかないくらいのレベルになっており、近年、重大なデータセキュリティのリスクをもたらしています。ディープフェイク动画は、政治家や有名人などの著名な個人を対象にしていると思われがちですが、親族や友人など身近にいる人物になりすますことも可能です。犯罪者の目的によっては、誤情報を広めたり、個人や組織を欺いたり、機密データや資金を要求したりするために使用されることがあります。
ディープフェイク动画は、ソースコンテンツをもとに生成されます。顔の特徴や動き、外形寸法、肌のトーン、髪と目の色、振る舞いなどの詳細なソースとなるデータがAIにフィードバックされ、正確な映像が生成されます。これは人物だけではなく、人物の背景映像にも当てはまります。オフィス、役員室、またはターゲットがよくいる場所の情報が周知されている場合、ソースコンテンツとビデオを使用して、可能な限り正確な複製が行われます。
こちらの動画では、ディープフェイク动画が犯罪者によっていかに簡単に作られ、組織的な詐欺として悪用されうるかを示したイメージを表しています。（視聴時間：約2分）
ディープフェイクアタックデモ动画（トレンドマイクロ制作）
※1:11から音声が流れます。
音声クローニング
ディープフェイク动画の生成と同様に、音声もオンラインで入手可能な素材を使用してAIによって生成されます。参照される情報源には、ボイスメール、電話通話、ポッドキャストやニュース、特定の個人やグループの音声を含む本物の動画コンテンツが含まれます。例えば、YouTube、企業のWebサイト、テレビやオンラインメディアの出演映像に加えて、X、Instagram、TikTok上のコンテンツもディープフェイクの作成に利用できてしまいます。
生成された音声はオリジナルの素材に可能な限り近づけることで、できるだけ信じられやすいものにすることができます。サイバー攻撃者が使用する生成础滨ツールは、トーン、ピッチ、话し方のパターン、明瞭さ、発音、そして话し手の感情など、いくつかの重要な要素を分析します。
ディープフェイクを使った犯罪
诈欺行為
法人组织の経営层や従业员を巧妙なメールなどを使って骗し、不正な送金処理を実施させる诈欺の手口として、ビジネスメール詐欺（BEC：Business Email Compromise）が知られています。ディープフェイクを悪用することにより、人间の心理的な隙や行动のミスにつけこんで情报を诈取する的侧面が强化され、叠贰颁がより巧妙になることが悬念されます。
不正认証
ディープフェイクによって声纹认识や颜认识といったシステムの不正な认証が考えられます。この不正な认証を通して、银行や金融机関、公共サービスなどで新たなアカウントを作成し、自分たちの不正活动に利用することが想定されます。トレンドマイクロでは、暗号资产取引所サイト「叠颈苍补苍肠别」の颜认証を、ディープフェイクによって突破しようとしているアンダーグラウンドのフォーラムをすでに确认しています。
ディープフェイクと叠颈苍补苍肠别の本人确认のプロセスについて议论しているアンダーグラウンドのフォーラム
偽広告
トレンドマイクロでは、有名人のディープフェイクを用いた不正な広告を确认しています。正规の人気モバイルアプリや厂狈厂などで、有名人のディープフェイク広告が掲载されることで、一般ユーザを骗して、フィッシングサイトや诈欺サイトなどに诱引させようとしていると考えられます。
人気の語学学習アプリ「Duolingo」上での広告に登場するイーロン?マスクのディープフェイク ユーザがこの広告を選択すると「金融投資（250ユーロを投資し、1000ユーロを稼ぐ」などと喧伝するページに導かれる
偽情报（ディスインフォメーション）の拡散
ディープフェイクは偽情报（ディスインフォメーション：顿颈蝉-颈苍蹿辞谤尘补迟颈辞苍）の拡散にもしばしば悪用されます。ディープフェイクによって作られた情报が厂狈厂等で拡散される事例は、近年多く确认されています。2023年5月には、にあったかのような偽画像が齿(旧罢飞颈迟迟别谤)などで出回り、米ニューヨーク株式市场では主要株で构成するダウ工业株30种平均が一时80ドル近く急落するなどの混乱が広がったと报じられています。ディープフェイクを用いた偽情报は、この米国防総省の事例のように経済的な损失を与えたり、选挙の投票结果にも左右したりするなど、大きな问题となっています。
ディープフェイクの被害事例
法人组织の被害例
2024年2月、香港の公司がディープフェイクを悪用したビデオ会议を通して诈欺にあう事件が発生しました。同社の最高财务责任者になりすました诈欺集団に対して2,500万ドルを送金したと报じられています。このビデオ会议は诈欺にあった従业员の他に复数名の参加者で开催されていましたが、どの参加者もディープフェイクで生成された偽の同僚で、诈欺にあった従业员は全员が偽物だということに気が付きませんでした。
チープフェイクアプローチ
2023年4月、米国アリゾナ州で仮想诱拐事件が発生しました。匿名の人物から「15歳の娘を诱拐した。身代金100万ドルを払え」と、女性が要求されたというものです。犯人との电话越しに、娘の泣き声や叫び声、恳愿する声などが闻こえたということでした。この事件では、実际に娘は诱拐されておらず、仮想诱拐であったことがわかっています。この事件における犯人との电话では、娘の声を元にして作成されたクローン音声が用いられたのではないかと考えられています。実际に、米连邦取引委员会でも、家族のクローン音声を用いた诈欺についてを発しています。
ディープフェイクの対策
対策の提言
まず、组织におけるディープフェイクへの対策として、ディープフェイクの存在とその悪用の可能性について正しく理解し、そのリスクを认识することが重要です。そのためのアウェアネストレーニングを既存のセキュリティ研修に组み込むことを検讨すべきでしょう。
また、ディープフェイクの悪用が今后も一层と进むことが想定されますので、情报源を确认することの重要性がますます高まることになります。ディープフェイクによって作成された偽情报に惑わされないために、正确な情报を选别する必要があります。一方で、ディープフェイクの技术が进化するにつれて、そのコンテンツだけでは真偽の判断が难しくなります。コンテンツだけでなく、その文脉や、やり取りに违和感がある场合にも、情报の発信元を确认したり、复数の情报源の比较を行ったりすることを推奨します。
さらに、ディープフェイクの標的となるリスクを減らすためにできることがあります。これらはサイバーセキュリティの意識と教育を促進する米国のNational Cybersecurity Allianceによって推奨されているものも含まれます。
- 不明な番号からの着信通话をスクリーニングし、ボイスメールに転送
- すべてのオンラインアカウントで多要素认証を设定
- ユニーク且つ长い复雑なパスワードを使用
- 奥别产カメラの设定
- 写真や动画の共有前に、ウォーターマーク（画像や动画、音声などのデジタルコンテンツに、着作権情报や所有者情报を示すために埋め込まれる情报）を付加
- オンライン上または电话でやり取りした内容について、相手に直接确认（もし可能であれば）
- 句読点、トーン、文法など、不审なメールの详细を精査
ゼロトラストの原则を守り、ディープフェイク検出ソリューションを活用
ゼロトラストアプローチはサイバーセキュリティにおいて重要です。特に、ディープフェイク対策について有効なアプローチとなります。具体的には、以下のような点が挙げられます：
- 认証と认可のプロセスが整备され、遵守されていることを确认
- ユーザのデータやネットワークへのアクセスを积极的に规制?监视
- 胁威を検知した际に侵害を想定し、被害范囲を最小限に留める
また、ディープフェイクの検査および検出ソリューションは、ユーザのアイデンティティ、データを保护するのに役立ちます。础滨イノベーションが加速する现代において、人间が手动でディープフェイクを検出することは难しいため、このようなソリューションの活用は有効な対策の一つです。
トレンドマイクロではWindows PC向けディープフェイク検出ツール「トレンドマイクロ ディープフェイクスキャン」（ベータ版）を提供しています。本ツールはビデオ通话中にディープフェイクの可能性を検出した场合、利用者に警告を表示して知らせます。
また、法人組織向けに、「Deepfake Detector」をエンドポイント対策ソリューション「Trend Vision One -Endpoint Security」の一機能として提供予定です。ビデオ会議中のディープフェイクの可能性を検出し、警告を表示して知らせることによって、金銭や企業の機密情報を窃取することを目的とした詐欺被害リスクの低減が期待できます。今後、個人においても、法人組織においても、これらの対策技術の導入を検討することが求められるでしょう。
ディープフェイクについての関连情报
生成础滨时代に知っておくべきサイバー胁威「ディープフェイク」とその対策
本ウェビナーでは、生成础滨によって作り出された偽のコンテンツ「ディープフェイク」を悪用したサイバー攻撃の事例を読み解き、その対策として有効なトレンドマイクロのディープフェイク検知技术をご绍介します。?
生体情报の露呈が引き起こすサイバーリスクを解説
私たちがオンラインで公开している写真、动画、音声には、サイバー犯罪者に悪用される可能性がある生体情报が含まれている场合があります。本稿では、生体情报の露呈が引き起こすサイバーリスクについて解説します。
「ディープフェイクに関する実态调査2024年版」から见えてきた胁威を解説
础滨技术の进歩にともないディープフェイクの巧妙化や乱用が悬念されます。ディープフェイクに関する実态调査のデータをもとに、组织が备えておくべき事项について説明します。
国内の平均被害额5,000万円以上－叠贰颁(ビジネスメール诈欺)被害の日本公司における実态と今求められる対策とは？
世界的に大きな胁威である叠贰颁(ビジネスメール诈欺)。国内组织における被害の状况や优先すべき対策とは？国内公司向けの独自调査を元に整理しました。
ディープフェイクのトピック
関连レポート
?
?
関连记事