Agent 的手腳與紅線
逐一測試 11 項能力,並刻意撞一次紅線。
✓已通過·第 2 週· 預估 50 分鐘
導入評估者情境設計者
這一關要做什麼
Capability 是 Agent 能對既有系統做的每一件事,一件一個,有風險等級;Policy 是不論 Agent 多有把握都不能跨的規則。 1. 在能力頁逐一呼叫,記錄每一項的風險等級與回傳。 2. 對「AI Voice 外撥」注入錯誤,觀察 Agent 遇到能力故障時的行為。 3. 刻意讓 Agent 在病患尚未確認時改掛,看它被 POL-004 擋下。
驗收條件
4 / 4 已達成- 11 項能力都至少成功呼叫過一次工具執行紀錄
- 對 voice.outbound 注入過故障並觀察到 Agent 的因應工具執行紀錄
- 曾觸發 POL-004 的拒絕工具執行紀錄
- 能分辨「被紅線擋下」「能力故障」「Agent 自己放棄」三者講師人評
標籤代表這一條的事實來源。除「講師人評」外,全部由系統狀態推導,不採信 Agent 的自述。