AIエージェント構築、その前に 第2回:権限設計の天秤 — エージェントに「させないこと」を決める
AIエージェントの事故は賢さ不足ではなく権限過多で起きる。モデルの判断は説得されても、権限の境界は説得されない。4象限での権限棚卸しと「させないことリスト」の作り方を解説する連載第2回。
カテゴリ別記事一覧(全6件)
AIエージェントの事故は賢さ不足ではなく権限過多で起きる。モデルの判断は説得されても、権限の境界は説得されない。4象限での権限棚卸しと「させないことリスト」の作り方を解説する連載第2回。
Shadow AIをどう統制するか、DX推進部門とセキュリティ部門の協調、経産省AI事業者ガイドライン2026年改訂の方向性。ガバナンスを追加レイヤーではなく「設計判断の蓄積」として扱う、連載②の総括回。
M365 Copilotゼロクリック流出の解剖、「外部入力は信頼しない」の実装、サンドボックス分離・コンテンツサニタイズ・出力検査。メモリポイズニングが示す「侵害が数週間後に発火する」未来を見据えた連載②第4回。
自動実行と人間承認の境界線をどう引くか。Replit Plan Mode、承認フローのUX設計、監査ログから読み取れるべきもの——過剰な承認はバイパスを誘発する逆説の中で、機能する設計を組み立てる連載②第3回。
削除・外部送信・金融API操作の権限分離、開発DBと本番DBの分離、ロール定義のチェックリスト。Replit事件が示した「広すぎる権限」の代償から最小権限原則の実装を逆算する連載②第2回。
Cisco社長Patel氏「AIエージェントには身元調査が必要」。85%が実験中・5%のみ本番運用というギャップの正体は、主体性の設計の欠落。識別なき主体を権限の対象にできない理由を解説する連載②第1回。
GPT-4o・Claude・Geminiなど主要AIエージェントから見た
御社サイトの可読性を、W3C・Schema.org準拠の39項目で自動測定。