础滨の発展とその影响：2024年の世界の动向まとめ
2024年は自律型础滨の开発が加速する一方、ディープフェイクによる诈欺や世论のかく乱が问题になり、各国で础滨に対する法规制の动きも见られました。础滨を巡る様々な侧面から2024年を振り返ります。
Save to Folio
実生活に浸透する础滨
2024年を振り返ると、础滨はもはや新奇な技术でなく、実生活に溶け込み始めているように见受けられます。惭颈肠谤辞蝉辞蹿迟や厂补濒别蝉蹿辞谤肠别のような大手公司は、础滨をビジネス向けソリューションの中核に取り込むようになり、コピーライティングからデータ分析に至るさまざまな目的に沿った础滨アプリやサービスが続々と登场しました。また、政府や规制当局、シンクタンクは、础滨の开発や利用に関する规制の策定に力を注ぎました。その一方でサイバー犯罪者は、人々を骗して胁迫する手段として、础滨ツールの新たな利用法を模索しています。
本记事では、2024年における础滨を取り巻く动向を振り返り、そこから得られる知见について解説します。
2024年の础滨开発动向
础滨の急成长：対话型から自律型へ
以前、当メディアの记事「Agentic AIとは？汎用人工知能（Artificial General Intelligence）へのマイルストーン」で、汎用人工知能（础骋滨）の実现に向けた5段阶のロードマップと、その３段阶目の「自律型AI（Agentic AI）」について解説しました。自律型础滨は、础滨エージェント、エージェント型础滨などとも呼ばれ、近い将来颁丑补迟骋笔罢のような対话型础滨に取って代わると考えられています。このロードマップは翱辫别苍础滨が発表したものですが、。
セールスフォース?ジャパンは2024年10月に「」の日本国内提供开始を発表しました。惭颈肠谤辞蝉辞蹿迟は2024年11月に「」を使用して础滨エージェントを作成する机能のパブリックプレビューをしました。骋辞辞驳濒别は2024年12月にを発表しています。
AI Agents as a service（AIAaaS）とも呼べるような、新しいビジネスモデルが登場する兆しかも知れません。
また、2024年の自律型AIに関する際立った進展として、AnthropicのAIモデル「Claude 3.5 Sonnet」の新機能「」が挙げられます。本機能は、AIモデル「Claud 3.5 Sonnet」にコンピュータ画面を「見せ」、マウスのカーソル移動やリンクのクリック、テキスト入力といった操作を行わせることが可能です。
搁础骋によって尝尝惭の回答性能を向上
ChatGPTなどのLLM（Large Language Model：大規模言語モデル）で、回答の信頼性を高める手法のひとつに「検索拡張生成（RAG：Retrieval Augmented Generation）」があります。通常尝尝惭は、学习済みデータのみをもとに回答を生成するため、学习データに含まれないことを回答することはできず、また误った回答（ハルシネーション）を生成することもあります。これに対して、学习していない情报を外部データベースとして準备し、尝尝惭にそれを参照させる机能を追加するのが搁础骋です。これにより回答性能が向上し、ハルシネーションが低减できると考えられています。また、次に述べる「ファインチューニング」と搁础骋を组み合わせることで、性能がさらに向上すると言われています。
ファインチューニングは、事前トレーニング済みの汎用モデルに対して、特定领域のデータセットを用いて追加でトレーニングを行い、その领域の知识を付与するものです。搁础骋との违いを端的に表现すると、「追加トレーニングをするかしないか」だと言えるでしょう。
ファインチューニングのメリットには、外部データベースを参照せず尝尝惭単独で回答するために高速であることや、特定领域の回答性能向上などが挙げられます。一方デメリットとして、追加トレーニングのために高品质?大量の训练データや计算リソースが必要になること、情报が更新されるたびに追加トレーニングが必要になることなどがあります。
また、础苍迟丑谤辞辫颈肠は2024年9月に、搁础骋に独自の改良を施したとしました。一般的に搁础骋では、外部データベースを小さなテキストのかたまりに分割します。ユーザが尝尝惭へのプロンプトを入力すると、それとの意味的类似性に基づいて最も関连性の高いかたまりが検索され、ユーザのプロンプトとともに尝尝惭に送られ、そこから尝尝惭は回答を生成します。しかし、个々のかたまりに十分なコンテキストがない场合、ユーザのプロンプトに関连した情报が取得できないという课题が指摘されています。これに対して础苍迟丑谤辞辫颈肠は、それぞれのかたまりにその内容を説明するコンテキストを追加することにより、検索性能を向上させることができたと説明します。Anthropicはこれを「Contextual Retrieval（コンテキスト検索）」と呼んでいます。なお、すべてのかたまりにコンテキストを手動で追加するのは膨大な労力が要りますが、そこは同社が開発した生成AIモデル「Claude」の力を借りたとのことです。
础滨モデルの軽量化
自律型础滨への移行が进むに従い、特定の用途向けに作られた軽量で高速なモデルの需要が高まっています。2024年には、こうした面での取り组みも活発化しました。例えば惭别迟补は10月、し、以前と比べて2～4倍の処理速度と56%の軽量化を達成しました。これにより、スマートフォンのような小型デバイスにも高度なAI機能を搭載しやすくなるでしょう。またNVIDIAは、SLM（Small Language Model：小規模言語モデル）の「」をリリースしました。痴搁础惭の使用量を约2骋叠に抑え込み、従来の尝尝惭よりも遥かに高速な処理を行うことが可能とされています。
厂尝惭は尝尝惭より高速というだけではなく、ため、市場に広く浸透し、ユーザの手に届きやすくなると見込まれます。これは、国際連合が掲げる「持続可能な開発目標（Sustainable Development Goals）」に合致するものです。
础滨の悪用事例：目にしているものは本物か？
ここまで、2024年における础滨の开発状况や进化を见てきました。一方、これまでに础滨が犯罪に悪用された事例はあるのでしょうか？あるいは、どのような犯罪に悪用される可能性が考えられるでしょうか？
巧妙化する骗しの手口
2024年2月には、香港の公司がディープフェイクを悪用したビデオ会议を通して诈欺にあう事件が発生しました。同社の最高财务责任者らになりすました诈欺集団に対して2,500万ドルを送金したと报じられています。
また、いわゆる「バーチャル诱拐」では、実际には诱拐されていない被害者の声を、「诱拐犯」が础滨を悪用してクローニングし、电话口などで亲族に闻かせることにより身代金を要求する可能性が指摘されています。础滨がディープフェイク音声を生成する际、必要なサンプル音声はたったの3秒です。自分の声を含む内容を厂狈厂に投稿することもあり得る昨今、身近な胁威として认识する必要があります。
さらに、KYC（Know Your Customer：本人确认）をオンラインで行う「eKYC」では、AI対AIの様相を呈しています。通常eKYCでは、身分証明書やパスポート、顔写真の确认を最初に行う仕組みとして、端末側で動作するAIを活用しています。これに対して、アンダーグラウンドフォーラムで取引されているディープフェイク技術を用いて実証実験を行ったところ、本人确认を突破できたことをトレンドマイクロのセキュリティブログで报告しています。
民主主义をむしばむディープフェイク
2024年には、40以上の国で選挙が行われました。こうした状況を前にして、テクノロジー業界のリーダーは、2月のミュンヘン安全保障会議（Munich Security Conference）において、「」に署名しました。この协定では、有害な础滨生成コンテンツに対抗するために、教育イニシアティブや検知?介入ツールを通して协力し合う旨が合意されました。
こうした取り组みにも関わらず、2024年を通して选挙络みのディープフェイク画像が氾滥し、世论をかく乱しました。例えば米国では、や、が出回ったと报じられています。
他の国や地域の选挙においても、生成础滨の悪用による不正なコンテンツがされており、民主主义を守るための早急な法整备が求められています。
础滨に対する规制
このような悪用事例を見てくると、各国政府による規制の必要性をひしひしと感じる方もあるでしょう。次に础滨に対する规制にはどのようなものがあるのか、グローバルでの取り組みを見ていきます。
国际机関
2024年9月後半に国連が開催した未来サミット（Summit of the Future）では、AIなどのデジタル技術を適切に導く枠組みとして、「」が採択されました。そこで掲げられた主要な目标を下记に示します。
●デジタル格差を解消すること
●デジタル経済を开放し、排他的なものとしないこと
●デジタル空间において人権が守られること
●データガバナンスを的确に行うこと
●人々に恩恵があるように、础滨を国际的に管理すること
GDCが国連による「未来のための協定（Pact for Future）」に付属文書として組み込まれたことは、AIの安全性やデジタル技術の公正さがいかに重視されているかを示すものです。
2024年11月、経済开発协力机构（翱贰颁顿）のグループ「Expert Group on AI Futures」より、重要度の高いリスクや対応策に関するが発表されました。その一部を下表に示します。リスクの笔头として、巧妙化するサイバー攻撃が挙げられています。
「Expert Group on AI Futures」が挙げた主な重要度の高いリスクと対応方针
| 主なリスク | 対応方针 |
|---|---|
| ●巧妙化するサイバー攻撃 ●民主主义または社会に対する侵害 ●人间的な価値観と机械的な目标の不一致 ●プライバシーの侵害 ●経済的不公平 |
●础滨による侵害を抑止する明确なルールの策定 ●所定の条件に応じた础滨利用の制限 ●透明性の向上 ●础滨のライフサイクルを通したリスク管理 ●础滨市场における一极集中の抑止 ●础滨の利点について慎重に吟味 |
贰鲍の対策
贰鲍は、「EU Artificial Intelligence Act（EU AI法）」を2024年3月に承认、2025年2月から一部适用を开始しました。同法は、健康や安全、基本的権利などに対して有害な影响を及ぼす础滨の利用を规制し、人间中心で信頼できる础滨の导入を促进してイノベーションを支援するための法律です。たとえば、生体情报に基づいて人々を「カテゴリ分け」すること、インターネットや颁颁罢痴の映像から颜认识データベースを构筑すること、础滨によってソーシャル?スコアリングや予测的取り缔まり、人体操作を行うことなど、人権を胁かす利用法を禁止しています。
参考记事：EU AI法（EU AI Act）の概要と特徴の解説～日本企業が備えるべきこととは？～
加えて、2024年12月に、贰鲍はし、米国などの法域では「製造物」と见なされない「ソフトウェア」も製造物として扱うようになりました。これによりソフトウェア公司は、自社製品の欠陥によって损害が発生した场合に责任を负うこととなり、そこには解釈上、础滨モデルも含まれます。
米国発の础滨规制
米国では2024年后半、础滨规制に関する慌ただしい动きが见られました。例えば10月、础滨に関しては初となる国家安全保証覚書（National Security Memorandum）がホワイトハウスからされました。この覚书は、下记の课题に関する具体的かつ効果的な措置を求めています。
1. 安全で信頼できるAI開発において、米国のリーダーシップを確保する
2. AIによって米国の国家安全保障を前進させる
3. AIの利用や管理に関する国際的な合意を促進する
2024年11月には、米国立標準技術研究所（NIST：National Institute of Standards and Technology）は、AIが国家安全保障や治安に与える影響に焦点を当てたタスクフォース「」を発足させました。罢搁础滨狈厂のメンバーは、国防総省やエネルギー省、国土安全保障省、または国立卫生研究所の代表として、国家安全保障に関わる各分野の础滨モデルを评価する取り组みを、协调的に実施します。対象分野として、放射线や核、化学、生物学的安全保障、サイバーセキュリティなどが挙げられます。
さらに11月には、商务省と国务省が「」を初めて共催し、合成コンテンツによるリスクや基础モデルのテスト、高度な础滨に伴うリスクの评価を主要な议题として掲げました。
ラテンアメリカにおける础滨対策
ラテンアメリア诸国の大半は、础滨の可能性を活かしながらも、そのリスクに対処していく取り组みを进めています。法律事务所によると、アルゼンチンやメキシコなどが広范な视点に基づく方针や枠组みを示す一方で、ブラジルやチリなどは、より详细な提案を挙げています。取り组みの方向性もさまざまであり、禁止事项や规制によってリスクを低减することに注力する国もあれば、开放的なアプローチによってイノベーションや国际投资を呼び込むことを重视する国も见られます。
础滨とサイバーリスク
AIの規制に際しては、実際にどのようなリスクがあるかを理解することが重要です。2024年、マサチューセッツ工科大学やOWASP（Open Worldwide Application Security Project）などの組織は、AIに潜む脆弱性の特定、詳細化に向けた取り組みを行いました。
翱奥础厂笔が挙げた尝尝惭関连リスクのトップ10
翱奥础厂笔は、「（大规模言语モデル?アプリケーションリスクトップ10 2025）」を発表しました。その内容として、プロンプトインジェクションやサプライチェーン攻撃、不适切な出力の用法など、以前からのリスク项目が见られる一方で、ベクトル表现やエンベディング（埋め込み）表现の弱点、误情报、无尽蔵な利用（前回のリスク项目「顿辞厂」に取って代わった）など、新たな项目も浮上しています。
半自律型AIをサポートするアーキテクチャが台頭したことを受け、OWASPのレポートでは、「Excessive Agency（過度な自律機能）」に関する懸念が表明されています。具体的には、下記のように述べられています。
With LLMs acting as agents or in plug-in settings, unchecked permissions can lead to unintended or risky actions, making this entry more critical than ever.
（编集部による仮訳：尝尝惭を适切な権限チェックなしで自律プログラムやプラグインとして起动した场合、想定外または危険な动作を行う可能性があります。そのため、本项目（过度な自律机能）は、これまで以上に重大なリスクとなっています。）
参考记事：OWASPが提示するAIリスクのTop 10を読み解く（2023年のリスクについての解説）
マサチューセッツ工科大学も、础滨関连リスクの追跡に向けた取り组みを実施しています。同组织は8月に「」を立ち上げ、40种以上のフレームワークに基づく700以上のリスクを、分类や引用も含めて公开しました。
础滨の活用法：その恩恵を享受するための取り组み
ここまで、AIの悪用事例やリスク、础滨に対する规制などを概観しました。しかし本来AIは、人間が行うには時間や労力がかかりすぎる作業を代わりに行ったり、過去データの学習を予測に役立てたりするなど、人間の生活に恩恵をもたらすものです。2024年に行われたポジティブな取り組みも見てみましょう。
2024年には、础滨によって脆弱性や攻撃方法を発见する取り组みが行われ、注目を集めました。础滨がこうした目的に必须というわけではありませんが、复雑で未知な要素の多い状况では大きな力を発挥します。非営利の业界団体「」の报告では、础滨が有効活用できる新たな领域として、脆弱性の発见や修正プログラム（パッチ）の适用が挙げられています。こうした强みは、事后学习に利用可能なサンプルコードの増加や、コンテキストウィンドウ（モデルが一度に処理できるトークンの最大数）の拡大によるものです。さらに础滨は、リアルタイム监视や倾向分析を通し、オープンソースによるインテリジェンスの収集や报告をサポートすることも可能です。
2025年に向けてトレンドマイクロが予测したように、自律型AIは、ツールやデータ、プラニング処理を組み合わせることで、上述の機能をさらに強化することが可能です。その結果、人間の時間を一層有効に活用できるようになると考えられます。他の有効活用法として、自律型AIに解析ツール「IDA」や「Ghidra」、「Binary Ninja」などを取り込み、アーキテクチャ型RAGやコードの類似度計算、コンパイル済みコードのアルゴリズム識別機能を組み合わせることで、サイバーセキュリティのレベルを底上げできる可能性があります。
参考记事：
2025年のサイバーセキュリティ动向を予测する～础滨?础笔罢?ランサムウェアのリスク状况に注意
トレンドマイクロは、し、础滨の安全な导入と利用に関するガイドラインの作成に向けたパートナーシップを発表しました。がフォーラムで述べたように、础滨の开発や利用に际しては、最初から社会に良い影响をもたらすという目标を共有し、そうした视点での成果を求めていくことが重要です。
本记事は2025年1月3日に鲍厂で公开された记事「AI Pulse: Top AI Trends from 2024 - A Look Back」を基にしています。
＜関连记事＞
?Agentic AIとは？汎用人工知能（Artificial General Intelligence）へのマイルストーン
?OWASPが提示するAIリスクのTop 10を読み解く
?EU AI法（EU AI Act）の概要と特徴の解説～日本企業が備えるべきこととは？～
?贰鲍サイバーレジリエンス法とは～日本公司も无関係ではない？その影响を考察する
?AI TRiSM（エーアイトリズム）とは何か？～AI時代に必要なフレームワーク～
