依頼者の意図とAIの行動はなぜずれるのか
AIが自らの利益を追求しないと仮定しても、目的や制約の伝達が不十分だったり、実行中の行動を観察しにくかったりすると、依頼者の意図とのずれが生じます。本稿はこのずれを「AI agency slack」と呼び、予防・発見・修正にかかる費用と、対策後に残る損失を整理します。
委任後も行使できる権限を設計する
株主が経営判断をAIに委ねる例を中心に、職場、行政、専門職、資産運用への応用も考察します。委任の便益と監督の負担を踏まえ、事前の指示、実行中の監視、承認や停止の権限をどう組み合わせるかを論じます。