利害が対立しなくても、意図と行動はずれる
たとえば、経理部門がAIエージェントに「支払いが遅れている取引先に連絡する」と依頼します。エージェントが帳簿の入金状況を見て督促するのは、指示の一つの解釈です。取引先が請求額に異議を申し立てていることを担当者だけが知っていれば、同じ督促でも依頼者は送信を望まないでしょう。AIに私的な利益がなくても、参照できる情報と伝えられた条件の範囲で行動すれば、このずれは生じます。
こうした委任上の制約から生じる、依頼者の意図とAIの実際の行動のずれをAI agency slackと呼びます。ずれの原因には、目的や例外を事前に指定しきれないこと、実行の根拠を観察しにくいこと、気づいても間に合ううちに介入できないことがあります。より詳しい指示で減らせるずれもあれば、権限や業務フローを変えない限り残るずれもあります。
承認や停止が間に合う場所を決める
督促業務なら、延滞先の抽出と文面の下書きはAIに任せ、送信の前に、異議申立てや支払猶予の有無を担当者が確認するという分け方ができます。承認する人に請求書、連絡履歴、送信予定の文面が見えれば、送信の可否を判断できます。送信後にログを見るだけでは、すでに届いた連絡は取り消せません。
事前の制約、実行中の監視、承認や停止の権限は、それぞれ異なる時点に効きます。帳簿の読取りを許可しても、取引先への連絡や契約条件の変更まで許す必要はありません。誰が何を見て、どこで止められるかを行動ごとに決めると、監督を担当者の注意力だけに頼らずに済みます。
監督の費用と、対策後に残る損失を比べる
全件を人が承認すれば、確認漏れは減るかもしれませんが、処理速度が落ち、委任で節約できたはずの時間も使います。反対に、全件を自動で送信すれば確認時間はかからないものの、例外が見落とされたときの損失を引き受けることになります。予防、発見、修正にかかる費用と、それでも残る損失を合わせて考えるのが、ここでのエージェンシー費用の見方です。
同じ目的を与えたAIでも、下書きだけを任せる場合と、社外への実行権限まで渡す場合では、必要な監督が変わります。委任の便益を判断するには、処理時間の短縮だけでなく、例外を見つける負担、誤った実行の影響、介入して修正できるまでの時間も見る必要があります。