arXiv 於 2026 年 11 月 5 日刊出論文《Who May Overrule the Agent? Evidence-Gated Authority in LLM Review Institutions》(編號 arXiv:2611.05390),研究多代理語言模型系統中審查代理的授權邊界。論文指出,審查代理既可修正上游代理的錯誤,亦可取代原本正確的決定。

研究將此定義為「制度管轄權」問題:在相同提案、任務資訊、模型與審查輸出下,審查代理何時有權令其建議具約束力。團隊比較寬鬆推翻權與「證據閘門」兩種制度,後者要求審查代理先產出機械有效的約束違規記錄與合規修復,才可替換原決定。

審查代理的雙面性:修錯同時殺好答案

多代理語言模型系統常加入審查代理,用以改善上游代理的決策。但論文明確指出,審查代理的角色具雙面性:它既可修正錯誤,亦可取代原本正確的決定。研究將此界定為「制度管轄權」問題,即審查代理在何種條件下有權令其建議具約束力。

論文強調,問題的核心不在模型能力,而在授權規則本身。在相同提案、任務資訊、模型與審查輸出下,審查代理何時有權推翻原決定,取決於制度設計而非模型強弱。這意味著,即使審查代理的判斷正確,若授權規則過寬,它仍可能系統性改壞原本無誤的提案。

研究比較兩種制度:寬鬆的推翻權,以及要求審查代理先產出機械有效的約束違規記錄與合規修復、才可替換原決定的「證據閘門」。結果顯示,授權規則的設計直接影響審查代理的行為,而非單純取決於模型選擇。

實驗設計:96個空間政策任務與轉移基準

實驗在兩個本地運行的開放權重模型上進行,涵蓋 96 個空間政策任務,以及一個 96 任務的組合轉移基準。研究比較寬鬆推翻權與證據閘門兩種制度,後者要求審查代理產出機械有效的違規記錄與合規修復,才可替換原決定。

結果顯示,證據閘門大幅減少對正確提案的破壞,同時保留大部分對違規的修復。論文指出,此權衡的方向部分由規則本身暗示,但其幅度取決於審查代理的狀態轉移與上游提案狀態。

在前瞻驗證中,研究賦予審查代理明確選擇:保留、替換或升級。此設計對 Qwen 完全消除對正確提案的破壞,但 Mistral 仍替換全部 48 個正確提案。這表明證據閘門的效果高度取決於模型本身,並非萬靈丹。

權衡幅度視乎模型:Qwen與Mistral差異顯著

論文指出,證據閘門減少改壞正確提案的方向,部分由規則本身決定;但幅度取決於審查代理的狀態轉移與上游提案狀態。換言之,同一制度在不同模型上,效果可以相差很遠。

前瞻驗證讓審查代理明確選擇保留、替換或升級。Qwen 因此完全消除對正確提案的破壞,48 個正確提案全部保留。但 Mistral 仍替換全部 48 個正確提案,即閘門對它幾乎無效。

這個對比說明,制度設計不能假設模型中立。Mistral 的結果顯示,即使有機械驗證的違規記錄要求,模型仍可能錯誤地判定違規並替換正確答案,令閘門形同虛設。

對企業流程設計的啟示:授權層級要寫死

研究把審查權限視為制度設計問題,而非單純提示工程問題。企業若把審查代理當成「第二對眼」,須明確界定何時可推翻原決定,並將授權層級寫死在流程中,不能留待模型自行判斷。

證據閘門要求審查代理留下可機械驗證的違規記錄,等於強制問責。這與香港金管局 2024 年生成式 AI 指引的人為問責方向一致,但指引未細化代理之間的授權層級,企業宜在試點時記錄每次推翻決定的依據。

Mistral 的結果說明,不能假設同一套規則放諸四海皆準。試點時應按模型分別量度「改好」與「改壞」比率,並設升級機制,避免「為審查而審查」拖低效率。

論文的關鍵判斷是:審查代理需要證據閘門,而非無限否決權。但閘門效果高度取決於模型本身,Qwen 與 Mistral 的差異便是明證。企業引入多代理審查時,授權層級設計比模型選擇更關鍵。

香港金融機構與公營部門若在貸款審批或資助申請覆核引入多代理流程,宜在試點時按模型量度推翻決定的依據與比率,並設升級機制。金管局指引要求人為問責,但代理之間的授權層級,仍待企業自行寫死。