金管局推ART框架代理式AI納監管

框架方向與技術現實金管局公布ART框架，以問責、韌性、信任為核心，並預告就代理式AI治理發表討論文件。焦點不在生成式AI，而在代理式AI：當局關注AI在既定邊界與控制範圍內，自行拆解步驟再動手的能力。

框架提出「意圖錨定問責」、代理登記冊及干預機制三個新概念。方向值得肯定，監管機構終於承認AI不再只是作答，而是會行動。但「意圖」存在於模型內部，銀行連解釋一次貸款拒批都吃力，要證明代理的行為錨定在客戶原意，技術上近乎不可能。短期內，這套框架更像申報制度，多於風險控制。

不過，數據質素保證寫入設計原則，意味平台要處理標註一致性、偏差檢測與版本管理，工作量遠超單純的數據倉庫。學術方法、營運與召集角色如何劃分、更新頻率多少、由誰問責，素材未見交代。平台若停留在樣本數據集層面，對訓練代理式AI的幫助有限；要真正補短板，須觸及合成數據與場景模擬。

另一邊廂，代理登記冊將合規成本壓在中小型銀行身上。大行有專隊應付申報與測試，中小行可能只有一兩個合規人員兼顧。業界諮詢時預料有反彈，焦點不會是反對監管，而是要求申報門檻與代理定義清晰，避免連內部工具都要上報。框架成敗，最後看的不是文件寫得多完整，而是中小行能否負擔。

意圖錨定問責假設系統能準確記錄代理的原始意圖，惟大型語言模型的黑箱特性令驗證極困難。銀行即使保存完整日誌，監管機構也難判斷代理是否偏離初衷，尤其在多代理協作場景下，意圖鏈可能長達數十步。技術上，這更接近事後追溯而非事前控制。

登記冊若覆蓋所有「重大AI代理」，中小型銀行將面臨沉重申報負擔。業界諮詢時，銀行公會料提出門檻爭議：何謂重大？一個僅處理查詢的代理與一個掌管信貸審批的代理，風險級別相差極遠，但框架現階段未見分級機制。

保留意見在於，登記冊與問責機制目前仍屬討論階段，年內不會形成具約束力的規則。當局僅稱「即將發表討論文件」，意味正式立法或指引可能拖至更後時間。期間代理式AI若快速滲透，監管真空將由銀行自身風險管理填補，質素參差難免。

更根本的問題是，代理式AI的風險多數在跨系統互動時出現，單一機構層面的登記冊或低估系統性風險。當多間銀行的代理同時對市場波動作出反應，可能引發共振效應，這類風險無法靠個別機構申報來捕捉。框架方向正確，但若缺乏跨機構壓力測試，實際防禦力有限。

金管局推動ART框架，把監管重心由生成式AI轉向代理式AI，方向值得肯定。然而，代理登記冊短期內更似申報制度而非風險控制，意圖錨定問責在技術上難以驗證，銀行合規成本最終會轉嫁至客戶。當局須在討論文件中釐清登記門檻與分級機制，否則中小型銀行將面對不成比例的負擔。

代理式AI的跨系統風險，無法單靠機構層面申報解決。金管局應考慮在沙盒階段加入跨機構情境測試，並與數據平台掛鈎，確保代理行為數據可作監管分析。若登記冊僅流於文件往來，框架的實際效力將大打折扣。業界亦應主動提出分級方案，而非被動等待指引。