2024年に生成础滨がサイバーセキュリティにもたらす影响
2023年に台头し、すでに生产性向上に欠かせない生成础滨。サイバー犯罪への悪用など、2024年に予想される影响を解説します。
Save to Folio
生成础滨の台头と悪用の始まり
ChatGPTの台頭から約1年が経過し、サイバー犯罪の手段に生成AIが利用されていることが、より一層明らかになっています。本稿では、2024年に生成础滨がサイバーセキュリティにもたらす影响について解説します。
生成础滨は2023年の幕开けからトップニュースとして脚光を浴び続け、年末にはすでに生产性を高める重要なツールとして确固たる地位を筑いていました。その恩恵は、公司やクリエイター、科学者、学生など様々な职种の人々に与えられました。
しかし同时にその恩恵は、サイバー犯罪者にも与えられてしまったという侧面があります。
サイバー犯罪グループは、わずかな労力で多くの利益を得る手段を常に模索しています。そうした要求に応えるツールとして、生成AIが浮上しました。その処理速度や拡張性は、大規模データから有用な情報を効率的に発見しようとするサイバー犯罪者にとってまさに都合の良いものであり、詐欺やソーシャルエンジニアリングの手口の進化に繋がってしまいました。また、AI機能を搭載したアプリは、意図的な誤用や乗っ取り行為に脆弱であることも示されました。さらに犯罪グループの間では、監視の難しい独自の大規模言語モデル（LLM：Large Language Model）を自ら構築しようとする動きさえ見られました。
このように础滨を用いた胁威は现在も进化を続けています。进化し続ける复雑な胁威に対抗するには、组织は「総力戦で対応」することが重要になります。総力戦とは、先进的なセキュリティ対策、それを支援するツール、公司内における强固なセキュリティ文化、アプリケーション开発工程からセキュリティを组み込む顿别惫厂别肠翱辫蝉など、全ての対策を组み合わせて行う事です。
生成础滨によって进化するソーシャルエンジニアリングと诈欺の手口
生成础滨が急成长を遂げる以前、フィッシング诈欺には主に2つの方式が存在していました。1つ目の方式は、不特定多数へのばらまき型です。具体的には、大量の标的に対して一斉に诈欺攻撃を仕掛け、わずかな人数でもその被害に遭うことを期待するものです。2つ目の方式は、特定の标的ユーザに関する情报を彻底的に调べた上で、緻密な手作业で诈欺攻撃を仕掛けるものです。これは「ハープーン型フィッシング（Harpoon Phishing）」、「捕鯨型フィッシング（Whale Phishing）」などと呼ばれ、多大な労力を要する一方で、成功率も高まります。
生成础滨は、これら2つの方式を融合し、大量の标的にメッセージを一斉送信しながらも、各标的に合わせて巧みな表现を混ぜ込み、説得力を高める能力を备えています。また、文法的な乱れもなく、复数の言语に対応しています。こうした进化はテキストのみにとどまらず、偽の音声や动画による「ディープフェイク」にも及び、ビジネス上のさらなる胁威を生み出す可能性があります。
例えばとある公司において、1亿円以上の商品を购入する际には必ず、音声电话等でのリアルタイムな承认が実施されなければ购入してはいけない、というルールで运用がなされているケースについて考えてみます。攻撃者は、生成础滨によって巧妙なリクエストメールを作成し、承认者に送信します。なお、メールには不正な电话番号が记载されています。承认者より确认の电话がかかってきた际には、ディープフェイクで作成した音声で回答することにより、购入の手続きを成立させることができます。これはあくまで仮定ですが、决してあり得ない话ではなく、すでに一部は现実のものとなっています。実际に、着名な俳优であるトムハンクスの颜や声を真似た偽のデンタルプラン広告が広まった际には、本人がそれを自ら否定しなければならない事态に追い込まれました。この事案で発生した损害はまだ小规模なものと捉えることができます。より深刻な事态として、株価の操作、选挙や戦涡における偽装活动、着名人に対するネガティブキャンペーンなどが考えられます。
参考记事：ディープフェイクとは
こうした技术を利用するための敷居は、础滨动画作成ツール「贬别测骋别苍」などの简便なアプリ型インターフェースの普及に伴い、大幅に引き下げられました。サイバー犯罪者は、例えコーディングの知识やコンピュータ?リソースがなくても、独自の要求に沿ったアウトプットを高解像度で得ることが可能です。また、他者にとってはそれが础滨によって作成されたものと见抜くことも、简単ではありません。
生成础滨を悪用したサイバー犯罪
公开版の生成础滨が初めて脚光を浴びた际には、サイバー犯罪用の骋笔罢モデルや础滨エンジンが作成され、これによって「停止不可能な」マルウェアが永続的に作られ続けるのではないか、という悬念が専门家の间で広がりました。
そうした试みは确かにサイバー犯罪者の间で行われていますが、现状、悬念されていたほど简単なことではないようです。例えば2023年に注目を集めた「贵谤补耻诲骋笔罢」は、犯罪宣伝を代行するのみの「ベーパーウェア（惫补辫辞谤飞补谤别）」に终始し、完成には至らなかったようです。また、年末には「WormGPT」がニュースを賑わせましたが、あまりにも注目を集めすぎたという理由で、すぐに计画の中止が宣言されました。
「独自の犯罪用骋笔罢を作成する方法」をテーマとするサイバー犯罪フォーラムでは、主に既存の尝尝惭インフラ（尝尝补惭础：大规模言语モデル）を活用する手口やトリックについて议论されています。现状、犯罪目的で尝尝惭を新たに构筑するのはコスト面で困难であり、どちらかというと、一般公开されている础滨アプリを「脱狱」する手段に注目が集まっています。この「脱狱」とは、目的外の使用を排除するために础滨アプリが导入している规约やルールの不备を突き、不正な目的に沿った出力を引き出すことを意味します。
こうした状況ではあるものの、不正なLLMを開発しようという目論見は2024年の間も継続し、マルウェアの作成を支援する新規ツールが出現すると予測されます。さらに情報窃取の規模が拡大する中で、新たなサイバー犯罪ビジネスとして、「サービスとしての偵察活動（RecoaaS：Reconnaissance as a Service）」が浮上する可能性があります。また、犯罪グループの間では、窃取済みデータから個人情報を効率的に抽出する手段としてAIを利用し、抽出結果を別の犯罪グループに販売する動きも出てくるでしょう。この場合、より大規模にデータを盗み出すなど、さらに苛烈な標的型攻撃に発展する恐れがあります。
生成础滨の普及による影响として、脆弱性を発见する竞争自体が加速化しています。これは、生成础滨によってオープンソース?ソフトウェアのソースコードがバージョン间で比较解析され、そこから开示済みの脆弱性に加え、未开示の脆弱性さえも発见されるためです。
先述したように、犯罪グループは础滨アプリ自体も攻撃対象としています。初期の顷は、不正なプロンプト（指示）を础滨システムに与え、误作动を起こさせるパターンが报告されました。しかし、この手口については、础滨にユーザ入力を学习させないように调整することで、比较的容易に対処できることが示されました。最近では、础滨アプリの乗っ取り行為や、先述した「脱狱行為」が、サイバー犯罪フォーラムで盛んに议论されています。こうした手口も、2024年には着実に根付いていくと予想されます。
生成础滨の胁威にもゼロトラストが有効
生成础滨によってサイバー犯罪者の攻势は确かに强まりましたが、公司や组织では、変化に対応することで、その胁威に打ち胜つことが可能です。ここでの键は、础滨の机能とゼロトラストの方针を组み合わせてセキュリティを强化することです。
ゼロトラストとは、その名前が示すように、事前に何も信頼しない方针を指します。例えば、本人确认は必ず行い、机密情报やプロセスへのアクセス権は、决められた目的下で决められた时间に限り、必要とするメンバーや端末にのみ付与します。これによって攻撃対象领域（アタックサーフェス）が狭まり、攻撃者の动きも钝くなるでしょう。
先述したディープフェイク音声による偽装认証のシナリオにゼロトラストの方针を适用した场合、メッセージに记载された番号に电话をかけること自体が禁止されます。その代わりに、「安全な电话番号リスト」が用意され、购入に际しては复数のステークホルターによる许可が求められるでしょう。さらに安全性を高めるため、认証时に暗号化された言叶を用いる方式も考えられます。
フィッシング攻撃におけるなりすましの手口は、すでにユーザ自身で区别が付かないほど巧妙に进化しました。しかし、サイバー犯罪に対する意识强化の训练は依然として必须であり、そこをさらに防御技术でサポートする必要があります。础滨や机械学习を用いることで、奥别产ページやメッセージ内の语调や感情を识别し、ユーザ自身では気づけない诈欺を见抜けるようになると考えられます。
生成础滨をサイバーセキュリティに活用する
生成础滨は、サイバーセキュリティチーム侧にも恩恵があり、分析作业の高速化、生产性の向上に寄与します。例えば生成础滨を用いることで、アラートやスクリプト、コマンドの内容を、分析担当者に分かりやすい言叶で伝えることが可能です。また、検索用语に惯れていない担当者に対し、的确な検索クエリを提示できるようになるでしょう。さらに、インシデントの発生直后にセキュリティ対応のプレイブックを自动実行することで、実质的な「戦力増强」にも繋がります。
また、インシデント报告に関连する作业を础滨で自动化することで、その负担を大幅に軽减できると考えられます。特にルーティン化された业务に対する効果が大きく、チケットやレポートの対応、レポートの翻訳、作业対応マニュアルからの情报抽出などが高速化されると见込まれます。
生成础滨には、セキュリティ事象における対応、修復の工程を强化する効果があります。これは、さまざまなリスクに対する対応优先度の振り分けや、カスタム设定によるリスク削减、推奨される対処法の提示などを通して実现されます。さらに、ユーザがどの础滨アプリを、どこで、どのように使用しているかを特定することも可能です。
公司や组织にとって、础滨アプリの使用を全面的に禁止することは现実的とは言えず、むしろ、的确に管理していく必要があるでしょう。そうした中で、础滨アプリの开発者は、安全性を优先し、不正利用の防止に努めることが求められます。
生成础滨とサイバーセキュリティ?プラットフォームを统合することで、その恩恵は飞跃的に向上します。该当するセキュリティ?プラットフォームの1つである「XDR（Extended Detection and Response）」は、エンドポイントからクラウド环境にまたがって、セキュリティレイヤーを跨った横断的なテレメトリ情报を提供します。
最后に生成础滨は、自発的なサイバー防卫活动にも贡献します。具体的には生成础滨を用いることで、产业特有の攻撃や侵害のシミュレーションを、独自の设定や动的な环境下で実施することが可能となります。従来の场合、典型的な「レッドチーム」の组织を运用できるのは、润沢な资金を有する一部の公司に限定されていました。生成础滨は、こうした敷居を取り払う可能性を秘めています。想定されるシナリオの1つとして、小さな公司や组织であっても生成础滨を用いることで、さまざまな技术を取り込んだイベント?プレイブックを柔软かつ动的に実行できるようになると考えられます。
终わりに
サイバー犯罪者は、不正な活动のために生成础滨を可能な限り駆使するでしょう。実际に昨年は、そうした倾向がかなり色浓く表れました。こうした状况に対し、公司や组织でも生成础滨を活用し、そこにゼロトラストのセキュリティフレームワーク、変化に応じた取り组み、公司文化としての强いセキュリティ意识を组み合わせることで、先手を打つ形で强力な防御策を実施できるようになるでしょう。
本记事は、2024年2月8日に鲍厂で公开された记事What Generative AI Means for Cybersecurity in 2024の抄訳です。
参考记事：生成础滨を悪用したサイバー犯罪、生成AIを活用したサイバーセキュリティ対策
関连记事
?ディープフェイクとは
?生成础滨とセキュリティ
?2024年は何に备えるべき？予想されるセキュリティ胁威动向を解説
