アクセスを明確にする
AIエージェントには、どのシステム、文書、記録にアクセスできるかの明確な境界が必要です。この境界は技術的な権限だけでなく、業務上の役割を反映すべきです。
信頼できるパターンでは、検索範囲を限定し、エージェントの動作を記録し、機密性の高い引き継ぎを責任者に見える形にします。
確認をワークフローに組み込む
人による確認は最後に置く安全策だけではありません。判断、例外、顧客影響、規制判断が含まれる場所に設計として組み込む必要があります。
これにより、スピードと一貫性を得ながら、最終的な業務成果への責任を保てます。
検索範囲を業務権限に近づける
検索機能は、既存のガバナンスを迂回する手段にしてはいけません。元システムでアクセスできない記録は、その人の代わりに動くエージェントも取得できない設計にする必要があります。
実務的なデータ主権パターンでは、役割、文書の所有者、地域や契約上の制約を検索層にも反映します。情報が要約されても、元のルールが失われないことが重要です。
判断を追跡できるログを残す
エージェントログには、どの情報源を参照したか、どのツールを呼び出したか、ユーザーが何を求めたか、人の確認がどこで入ったかを残します。不要な個人情報を広げる必要はありませんが、出力が問われたときに検証できる粒度は必要です。
監査可能性は品質の一部です。弱い情報源、権限の不一致、繰り返される失敗、業務責任の曖昧さを見つける材料になります。