AIエージェントが必要か、それとも普通のワークフローで足りるか

重要な区別

ワークフローは、あらかじめ決めた手順の並びです。モデルがその一工程に入ることはありますが、経路は固定です。エージェントは実行時に次の一手を自分で決めます。

小さな違いに聞こえます。しかしこれは、テストできるシステムと、眺めることしかできないシステムの違いです。

たいていの課題はワークフロー

請求書から項目を抽出し、検証し、データベースに書く。問い合わせを分類し、振り分ける。翻訳し、用語を確認し、公開する。どれも形が既知です。順序をモデルに選ばせれば、コストが増え、挙動の予測可能性が失われ、見返りはありません。

エージェントが複雑さに見合うとき

取りうる経路が本当に多く、事前に把握できず、しかも誤った経路のコストが低く回復可能なとき、エージェントは意味を持ちます。未知の文書群に対する自由な調査は妥当な例です。返金処理はそうではありません。

作るなら、制約をかける

• ツールは少数に絞り、それぞれ狭く、単体で安全なものにする。
• ステップ数に上限を設ける。ループこそがエージェントを高くつかせます。
• 金銭が動く操作や記録の変更には、人の承認を必須にする。
• 結果だけでなく、すべての判断を記録する。

実務的な助言

まずワークフローとして始める。固定経路では処理できない実例にぶつかり、それを名指しできるようになったら、その一工程だけを適応的にすることを検討する。強そうだからという理由でエージェントから始めるのは、プロジェクトが予測不能でデバッグ困難になる道です。