AIエージェントとは

AIエージェントとは

AIエージェントは目標を設定すると、検索や社内システムの操作などの手段を自ら選択して使用し、結果を確認して次の手順を決定しながら作業を処理するAIシステムです。
AI事業者ガイドライン第1.2版は、特定の目標を達成するために環境を感知し自律的に行動するAIシステムと定義しており、この定義はLLMを利用するものに限りません。
業務で利用される形の1つでは、文章を解釈・生成するAIモデルであるLLM（Large Language Model）が次の手順を自ら選択します。
LLMは検索や社内システムの操作といったツールを呼び出しながら、複数の手順を連続して実行します。

たとえば先月解約した顧客の解約理由を集計するよう依頼すると、顧客管理システムで該当する顧客を検索し、問合せ履歴を参照して理由を分類し、情報が不足する顧客は追加で検索してから表を作成します。

RPA（Robotic Process Automation）は画面操作を、ワークフローは業務の手順と承認の流れを、人が定義したとおりに自動で実行します。
AIエージェントとの違いは、手順を人が事前に決定するか、AIが実行中に結果を参照して選択するかです。
Anthropicの解説も、LLMとツールを事前に定義した流れで連携させるものをワークフロー、LLMが自ら手順とツールの使い方を決定するものをエージェントと区別しています。

手順書どおりに作業する担当者ではなく、目的だけを指示して一任する新任の担当者に近いです。
どのシステムの鍵を貸与し、どの作業の前に上長の承認を求めるかを決定しないと一任できない点も同じです。

定型の手順の自動化でも人が担っていた作業

ツールを接続しない対話の利用では、AIに確認事項や次の手順を提案させることはできますが、検索結果の転記やシステムへの入力といった外部システムでの実行は人が担います。
RPAやワークフローは定型の手順を同一の方法で反復できますが、定義していない例外には別途の対処が必要です。
分岐の増加によるルールの複雑化で、保守の費用や改修時の誤りが増加することがあります。
チャット画面の形をした製品の中でエージェントが稼働することもあるため、区別の基準は画面ではなく、手順を誰が決定するかです。

観点	ツールを接続しない対話	RPA・ワークフロー	AIエージェント
手順を決定する主体	人	人が事前に定義	AIが実行中に選択
システムの操作	人が行う	定義した操作	付与したツールの範囲
定義外の例外	AIの提案を参考に人が判断	別途の対処が必要	結果に応じて次の手順を選択
費用の決まり方	無料、月額定額、従量課金など契約に依存	ライセンス料や実行回数に応じた利用料と、構築と保守の費用の合計	契約に依存。従量課金ではモデル、入出力の量、ツールの利用、手順の数で変動

業務の自動化にAIエージェントとRPA・ワークフローのどちらを採用するか

まず定型の手順で実現できるかを確認し、できるならRPAやワークフローを第一候補にします。
結果を予測しやすく、実行回数や処理量を事前に把握できる業務では費用も見積もりやすいためです。
入力の解釈だけが困難ならAIエージェントには委任せず、その箇所にAIを組み込んだワークフローを採用します。

OpenAIの構築ガイドが列挙する次の3種類の業務は、RPAやワークフローではなくAIエージェントに委任します。

• 例外や文脈に応じた判断を要する業務は、AIエージェントに委任する
• ルールが複雑になり改修の費用や誤りが増加した業務は、分岐の追加を中止してAIエージェントに委任する
• 文書などの非構造化データへの依存度が高く従来の自動化では対応しにくい業務は、手順の選択も要するならAIエージェントに委任し、解釈だけならAIを組み込んだワークフローを採用する

そのうえで、結果の正誤を確認する方法があり、誤りの取り消しが実行の前か直後に可能な業務だけをAIエージェントに委任し、満たさない業務は委任せず人が処理します。
委任する業務の例は次のとおりです。

• 問合せの内容を判別し、注文履歴や配送状況を照会して、回答案を作成する
• ソースコードを修正し、自動テストの結果に応じて修正を反復する

採算は月間件数×1件あたりの作業時間の削減量×人件費が、確認の人件費、利用料、ツールの整備と保守の費用の合計を上回るかで見積もります。
1件に半日を要する調査なら月に数十件でも整備費を回収できることがあり、1件数分の作業なら件数が多くても整備費を回収できないことがあります。

AIエージェントの効果と運用後のコストとリスク

効果

• 例外の多い業務で、担当者が担っていた検索、転記、突合の手順を削減できる
• 書式や条件の変化によっては、手順書の改修ではなく、AIへの指示文であるプロンプトやツールの調整で対応できる場合がある

コスト

手順の数が案件ごとに変動する業務では、処理時間と従量課金の費用を正確に見積もりにくくなります。
エージェントのような仕組みは、多くの場合、性能の向上と引き換えに処理時間と費用が増加します。

• 従量課金の変動。同じ件数でも1件ごとの呼び出し回数によって月の費用が変動する
• 検証の人件費。実際の案件を用意し、結果を人が確認して記録する
• ツールの整備。社内システムをAPI（Application Programming Interface）や画面操作で呼び出せるようにし、接続ごとの権限を設計する
• ログの点検。担当者を指名し、異常な操作や費用の増加がないかを定期的に確認する

リスク

• 誤りの連鎖。途中の誤りを前提に次の手順を実行するため、誤りが累積することがある
• 過剰な機能・権限・自律性。OWASP（Open Worldwide Application Security Project）のLLMアプリケーション向けリスク一覧の1項目であるExcessive Agencyで、不要な機能、権限、自律性を付与すると、誤作動の原因に関係なく被害が拡大するおそれがある
• 間接的なプロンプトインジェクション。参照したメールやWebページに埋め込まれた命令文でAIの動作を変更する攻撃で、付与した権限の範囲で送信や削除まで実行されることがある
• 対応の責任。AIが実行した操作であることは、結果の確認や顧客への対応を担う責任が免除される理由にならない

運用の設計で決定すること

権限の範囲

最小権限の原則に従い、業務に必要なツールと権限だけを付与します。
ツールは最小限にし、接続先の権限を限定し、操作の可否はLLMではなく接続先のシステム側で判定します。

• 参照だけで十分な業務には書き込みの権限を付与しない
• 管理者の共有アカウントではなく、業務ごとの専用アカウントか依頼した担当者の権限で稼働させる
• 顧客情報を処理させるなら、利用環境の契約、保存の条件、閲覧権限を事前に確認する

人の確認と引き継ぎ

失敗の回数が上限を超えたら人へ引き継ぎます。
機微な操作、取消不能な操作、影響が重大な操作は、信頼性を検証できるまで人が監督します。
社外への送信、支払い、データの削除、金額や件数が事前に定義した範囲を超過する操作は、実行の直前に人が承認します。

再実行と二重の操作

失敗した手順を再実行すると、登録、送信、支払いが二重に行われることがあります。
処理済みかどうか不明なときは再実行の前に状態を確認し、同一の依頼を再度受信しても操作が重複しない性質である冪等性を、接続先の処理に実装します。

ログ

何を参照し、どのツールをどの入力で呼び出し、何を出力したかを1件ごとにログへ記録します。
AI事業者ガイドライン第1.2版の別添も、操作履歴や入出力の記録を管理する体制の整備を、AI利用者向けの具体的な手法の一例として記載しています。
ログは原因調査と再現に有用ですが、個人情報や機密情報の複製にもなるため、保存期間と閲覧できる人の決定が必要です。

費用の上限と停止の条件

1件あたりの手順の数と月の予算に上限を設け、上限に到達した案件は人に引き継ぎます。
手順の数の上限は繰り返し回数に上限を設ける停止条件にあたります。
開始前に、停止の手順を定め、停止を決定する担当者を指名します。

AIエージェントに委任する業務の選定と範囲の拡大

1つの業務に限定し、参照と下書きだけを委任する段階から開始します。
実際の案件で、最後まで完了した割合、誤りの種類、1件あたりの費用と処理時間を記録します。
参照と下書きの試行は経過期間に関係なく、想定した例外と失敗の条件の検証が完了した時点で終了します。

結果の抜き取り確認への変更や書き込み権限の追加といった拡大は、操作ごとに決定します。
下書きの修正が少ないことは、書き込みを安全に実行できる証明にはなりません。
誤りが発生したときの影響、取り消しの可否、誤りを検知する方法を確認します。
次に、権限を追加した状態で誤操作と再実行を試験してから拡大します。
取消不能な操作は実績の増加後も人の承認を維持するほうが安全です。

よくある誤解

AIエージェントを導入すれば担当者の作業はなくなる

手順の実行の一部を委任しても、担当者には結果の確認と例外への対応が残存します。
ログの点検と、モデルやプロンプトを変更したときの再検証も継続します。