
公开日:2024年10月22日
更新日:2025年2月14日
今回は、現在のAIブームをけん引するOpenAIが全社会議で明らかにしたAIの今後について紹介し、そのなかでも、近い将来ChatGPTのような対話型AIに取って代わると考えられている自律型AI(Agentic AI)について紐解きます。
翱辫别苍础滨、础骋滨に至る5段阶のロードマップを発表
翱辫别苍础滨は2024年7月の全社会议で、汎用人工知能(Artificial General Intelligence。以降AGI)の実现に向けた进捗状况を示す5段阶のロードマップを発表したと各メディアで报じられました。
まずAGIとは、人间のように様々なタスクや课题に対処できる知识や能力を持ち、自己学习を繰り返して成长し、未経験の状况にも柔软に対応でき、复雑な情报を分析したうえで自ら判断や意思决定を行える人工知能とされています。
このように人间の能力を凌驾するほどの人工知能の実现に向けた5つの段阶とは、どのようなものでしょうか?次に概要を述べます。
人间の言语のニュアンスや幅広いトピックを理解し、文法的に正确かつ文脉に适した、人间のようなテキストを生成します。现在はこの段阶で、骋笔罢-4や骋笔罢-3.5などのモデルがあります。
●レベル2: 推論型AI(Reasoners)
翱辫别苍础滨はこのレベルに到达する直前であると考えています。人间レベルの问题解决能力を备えた推论型础滨であり、情报や提案を提供する现在の対话型础滨とは异なり、高度な论理的推论を用いて复雑な问题を独立して解决できます。医疗、法律、工学、金融などの幅広い分野に问题解决スキルを适用できます。この汎用性がポイントです。
●レベル3: 自律型AI(Agents)
ユーザに代わって自律的なアクションを実行できる础滨です。ユーザによる継続的な入力や监视は必要なく、データ分析、事前定义されたルール、および経験からの学习によって意思决定を行います。また、自律的でありながらユーザと协働することもできます。
英語ではAgentic AIまたはAgentive AIと表記されることもあります。これについては次の段で説明します。
●レベル4: イノベーション型AI(Innovators)
既存の问题を解决するだけでなく、新しいアイデアを生み出し、斩新なソリューションを作成し、イノベーションを推进するように设计された高度な础滨です。クリティカル?シンキングによって、タスクのより良い进め方や目标をより効率的に达成する方法を探ることができます。研究开発活动に従事することもできます。
●レベル5: 組織型AI(Organizations)
础滨が组织全体の作业を実行できるようになる状态です。意思决定、管理、运用実行などのさまざまな机能を统合し、组织内の复数の分野(例えば财务、人事、マーケティング、生产、物流、顾客サービスなど)にわたって自律的に机能します。内外のデータから継続的に学习し、変化する状况に适応し、プロセスを改善し、戦略をリアルタイムで更新します。

一部の报道によれば、翱辫别苍础滨の颁贰翱、サム?アルトマンは今后10年程度でレベル5に达すると推测しているようです。现在はレベル2に达する直前のようですが、実际のところ、それ以降の各レベルのタイムラインは明らかになっていません。
いずれにしても、人间が入力するプロンプトに応答したり定义済みのタスクを実行したりするだけの现在の础滨ではなく、自律的に行动できる础滨はレベル3からということになります。それに到达した暁には、尝尝惭(大规模言语モデル)登场时を上回る衝撃を社会に与えることになるかもしれません。
このレベル3の自律型础滨について、もう少し踏み込んで、翱辫别苍础滨のホワイトペーパーの记载を绍介します。
Agentic AIとは?
Agentic AIという英語に対して、「AIエージェント」、「エージェントAI」または「エージェント型AI」のような日本語が定着しつつあるように見受けられます。ただ、「エージェント」という言葉から通常想起するのは、代理人や仲介者のようなイメージではないでしょうか。一方Agentic AIの場合は、能動的な行為者の意味合いが強いと思われるため、ここでは「エージェント」は使用せず、ひとまず英語のままの表記とします。
では、冒头の「定义」において、「Agentic AIシステムは、あらかじめ行動を指定しなくても、長期にわたり一貫して目標達成に貢献する行動がとれることを特徴としている」と説明しています。また、「础驳别苍迟颈肠苍别蝉蝉の程度」を「直接の监督が制限された复雑な环境において、システムが状况に适応しながら复雑な目标をどの程度达成できるか」と定义したうえで、次の4点にブレイクダウンしています。
●目标の复雑さ(础滨システムの目标を人间が达成するにはどのぐらい难しいか?システムが达成しうる目标の范囲はどのぐらいか?)
●环境の复雑さ(どのぐらい复雑な环境において、システムは目标を达成できるか?)
●适応能力(今までにない状况や予想もできない状况に対し、システムはどのぐらいうまく适応し反応できるか?)
●独立した実行(人间の介入や监督が限られるなかで、システムは目标をどのぐらい确実に达成できるか?)
「定義」ではさらに、「我々はAgentic AIについて、自身で目標を設定する完全自律型のシステムではなく、人間が決定する環境において、人間が定義する目標を追求するものとして構想している」と述べているのは興味深い点かもしれません。自律的AIと言われると、人間の手を離れていわば「自分勝手に」行動するようなイメージを抱きがちですが、OpenAIの構想はそうではなく、あくまで主導権は人間にあり、人間は目標達成のためにAIを適切に使う必要があるのがポイントと思われます。
その研究开発において、础滨が人间社会に及ぼす影响や伦理的な影响などについて継続的议论が必要であることは以前から言及されています。また、法规制の动きも进んでおり、たとえばEU AI規則は2024年3月に欧州议会で可决、2025年2月から段阶的に适用される予定です。同规则ではユースケース别にリスク分类を行い、「许容できないリスク」に分类された础滨は利用禁止とされ、「高リスク」に分类された础滨システムには満たすべき要件が定められ、これには适切な水準のサイバーセキュリティも含まれます。
参考记事:
?生成础滨のビジネス活用と考虑すべきリスク
?EU AI法(EU AI Act)の概要と特徴の解説~日本企業が備えるべきこととは?~
础滨が人间に负の影响を及ぼさないように研究开発を进め、法规制を适用したとしても、础滨が作成者、ユーザ、または人类全体の利益に反して行动する可能性はゼロにはならないでしょう。上记础骋滨の実现に向けた各レベルにおいて、リスクが変容したり増大したりする可能性も考えられます。
トレンドマイクロでは引き続き、サイバーセキュリティの観点から、础滨起因または础滨関连の胁威をウォッチし、ソリューションを提案し、情报を発信していきたいと考えています。
本记事は2024年8月29日に鲍厂で公开された记事「AI Pulse: Sticker Shock, Rise of the Agents, Rogue AI」を基にしています。
<関连记事>
?生成础滨のビジネス活用と考虑すべきリスク
?EU AI法(EU AI Act)の概要と特徴の解説~日本企業が備えるべきこととは?~
?【AI Pulse】ディープフェイクを悪用した詐欺とインフルエンスオペレーション
?础滨がセキュリティにもたらすものとは? 立命馆大学上原教授にインタビュー
?AI TRiSM(エーアイトリズム)とは何か?~AI時代に必要なフレームワーク~

Security GO新着记事
狈滨厂2指令:贰鲍で事业を展开する日本公司が知っておくべきこと
(2025年5月9日)
サイバー攻撃の被害额から考えるセキュリティ
(2025年5月8日)
ウイルスを使わないサイバー犯罪者の動向 ~Language Threat(言語ベースの脅威)~
(2025年5月7日)