11 月 5 日，arXiv 刊出編號 2611.05394 的論文，題為《A Feasibility Condition for Confidence-Gated Tiered LLM Inference》。論文只有一版，卻直接衝着「分層推論等於慳錢」這個假設而來：它推導出一條封閉式條件，指出在某些成本結構下，無論信心訊號設幾多門檻，都無法令分層架構比「全部送去後端」更划算。
分層推論近年被視為大型語言模型服務的出路，把運算分散到裝置、邊緣硬件與數據中心，標榜更低延遲、更便宜、更私密。論文卻提醒，這個如意算盤要視乎本地運算是否需要計錢。若本地算力要計折舊或租用費，成本就會綁死，訊號質素再高都未必救得返。
分層推論的如意算盤
分層推論的做法，是把同一個大型語言模型的運算拆開，部分留在手機或邊緣裝置，部分升級到數據中心。論文指出，多數這類系統編排的是凍結的模型檢查點，前線模型不會邊運行邊更新，而是靠一個預先訓練好的版本產生信心訊號，決定哪些查詢本地解決、哪些升級。
這個設計的賣點是便宜、低延遲、私密。但論文作者把路由決策建模為二元測試：前線模型先給出信心分數，系統再按門檻決定是否升級。問題是，門檻設在哪裏，從來無人給出封閉式答案。arXiv 2611.05394 正是衝着這個缺口而來，試圖用一條公式講清楚幾時分層才划算。
論文的分水嶺是一個叫 κ 的架構成本比例，用來分開本地運算成本與升級到後端的成本。當本地運算要計費，κ 就把成本綁死，與近期實證發現吻合；當本地運算屬於沉沒成本，例如運行在去中心化硬件上，可行性就變成無條件，訊號質素只決定分層架構實際做到幾多，而唔再決定佢可唔可行。
信心訊號的兩道牆
論文推導出的可行性條件，由兩道界線夾住。第一道是「信號無關下限」：低於這條線，分層架構在任何訊號質素下都可行，信心訊號幾差都唔影響結論。第二道是「完美訊號上限」：高於這條線，分層架構完全不可行，即使信心訊號準到百分百，都無法令分層划算。
換句話說，信心訊號並非萬能。訊號質素太差時，設幾多門檻都無法令分層架構划算；訊號質素太好，亦唔一定救得返一個成本結構本身有問題的架構。論文把這個結果寫成封閉式條件，意味着企業不必再靠試錯，可以直接代入自己的 κ 值，檢查身處哪一邊。
不過，論文只提供可行性條件，未披露實際系統的 κ 值分佈，亦未回應訊號質素在真實部署中如何量度。香港企業若計劃把推論分層至邊緣裝置，這篇論文提供了一個先計數的框架：本地雲端伺服器與機櫃租金不菲，把運算留在裝置看似省錢，但若邊緣算力要計折舊或租用費，信心訊號不夠準就隨時得不償失。科技園與數碼港的初創宜先量度自身訊號質素與成本比例，再決定是否分層。
κ 軸上的反轉
論文把路由決策看成二元測試，並用架構成本比例 κ 區分本地與升級成本。沿 κ 軸讀下去，可行性條件會反轉：當本地運算要計費，成本綁死，分層架構的好處被侵蝕。arXiv 論文 2611.05394 在 2026 年 11 月 5 日發表，明確指出這一點與近期實證發現吻合。
反過來，當本地運算屬沉沒成本，例如去中心化硬件，可行性變成無條件，信心訊號質素不再決定「做唔做得分層」，而是決定分層架構達到什麼效果。同一條公式，在兩種成本情境下給出相反結論，這是論文最實用的地方。
這意味同一套分層方案，在租用邊緣伺服器與自家裝置兩種情境下，結論可以完全相反。香港企業若把邊緣裝置當成免費資源，就會誤讀論文的可行性條件；若把裝置折舊或租用費算進去，κ 值上升，分層的吸引力即時下降。
香港讀者點樣用
香港企業若租用邊緣運算資源，第一步應計算 κ 值，即本地與後端每次查詢的成本比例。本地雲端伺服器與機櫃租金不菲，把運算留在裝置看似省錢，但租用邊緣節點的費用會直接推高 κ，令分層架構更難划算。
第二步是量度信心訊號的準確度。論文推導出的條件由信號無關下限與完美訊號上限夾住；若訊號質素低於下限，把全部查詢送往後端可能是更穩陣的選擇，而非盲目分層。香港科技園與數碼港的初創若採用混合推論架構，宜先量度自身訊號質素與架構成本比例。
不過，論文未提供具體行業實測數據，亦未披露適用於香港場景的 κ 參考值。香港公司宜自行做小規模對照測試，比較分層與全後端兩種做法在真實查詢分佈下的成本，再決定架構，而非跟隨「邊緣優先」的口號。
論文的判斷很清楚：分層推論並非必然慳錢。當本地運算要計錢、信心訊號質素不足，將所有查詢送去後端反而更划算；只有當本地算力屬沉沒成本，分層架構才無條件可行。
對香港讀者而言，這篇論文提供了一個先計數的框架，而不是一張必勝藍圖。租用邊緣資源的企業，應先計 κ、再量訊號質素，然後才決定是否分層；自家裝置為主的場景，則可把重點放在提升訊號質素，而非糾結於可行性。
