指示の完全性は行動で測る
たとえば、AIに「重要な支払いを優先して確認する」と指示します。「重要」は支払期限が近いことかもしれませんし、遅延の影響が大きいことかもしれません。ある請求書がどちらの基準でも最優先なら、AIは「重要」の意味を確定させなくても、最初に確認する請求書を選べます。
指示と共有文脈から考えられる意図が、どの状況でも同じ行動の範囲を導くとき、指示は完全です。完全でない指示でも、その場面で考えられるすべての意図に共通する最適な行動があれば進められます。指示全体が完全かという問いと、目の前の判断に追加情報が要るかという問いは、分けて考える必要があります。
確認に価値が生まれる場面
期限が近い少額の請求書と、期限には余裕があるものの遅延の影響が大きい請求書が並ぶと、優先順位は判断基準によって変わります。ここでは「期限と遅延の影響のどちらを優先しますか」と聞く意味があります。答えが選択を変え、意図と異なる対応を取る損失を減らせるからです。
確認にも費用があります。担当者は作業を中断して答え、処理は返答を待ちます。影響が小さくやり直せる判断なら、確認を省いた方が負担を抑えられる場合もあります。選択を誤ったときの影響が大きければ、同じ曖昧さでも確認に時間をかける価値が高くなります。
人の時間を事前の指示と実行中の判断に配分する
選択肢は、人が自分で作業する、事前に判断基準を詳しく書いて任せる、必要なときだけ相談を受けて任せる、の三つです。同じ例外が繰り返される業務では、先にルールを書く費用を複数の処理で回収できます。一度きりの例外に備えて長い指示を書くなら、実際に起きた時点で聞く方が人の時間を使わずに済むこともあります。
人の時間が足りなくなると、実行中の相談は減りやすくなります。それでも事前に完全な指示を書く方がよいとは限りません。指示を書く時間も同じ制約を受けるからです。相談の答えを同じ条件の案件に再利用できるなら、その条件と判断を一緒に残すことで、次回からの確認を減らせます。