NVIDIA 在 10 月 28 日於 Hugging Face 博客發文,公布 Nemotron 3.5 Transcribe 與 Granary v2 兩個模型,官方把它們定位為「可提示、可調適」的多語言轉錄工具。博客正文節錄相當簡短,模型參數量、準確率、延遲與授權條款細節,一律未有披露。
對企業而言,這次公布的關鍵不在帳面分數,而在於轉錄可以靠提示調調節。用家理論上可自行加入公司術語、地名人名,令輸出更貼近實際場景——但這些能力有幾成真的落地,仍要看 NVIDIA 之後公開的技術文件與評測。
轉錄模型加入提示調節
Nemotron 3.5 Transcribe 的核心賣點,是轉錄過程可以「提示」。用家可以在輸入時加入詞彙或語境提示,讓模型按指定方向輸出,而不是只靠預設語言模型硬猜。這個設計對術語密集的場景特別有意義,例如會議紀錄裡的公司名稱、產品代號。
不過,博客正文節錄沒有交代提示的具體格式,也沒有說明提示長度上限、是否支援逐句指定,抑或只能整段套用。這些細節決定提示功能是實用工具,還是宣傳用語。NVIDIA 暫未在節錄中回應。
另一個未確定之處,是準確率與延遲。素材完全沒有提供任何數字,連測試語種清單都未見。企業若打算用於客服中心或會議紀錄,必須自行以真實錄音測試,不能單靠官方定位作採購依據。
Granary v2 的角色
Granary v2 與 Nemotron 3.5 Transcribe 同批發布,屬同一系列的第二版。素材只確認它與轉錄模型一併登陸 Hugging Face,開發者可以即時下載試用,但沒有說明它的具體功能分工,也沒有交代與上一版之間的差異。
名字叫「第二版」,本身就暗示第一版曾經存在,但素材未提第一版的發布日期、用途或評價。Granary v2 究竟是配套的語言模型、後處理工具,抑或另一個獨立轉錄元件,現階段無法從節錄判斷。
可以確定的是發布渠道:兩個模型都放在 Hugging Face,開發者毋須申請即可取得。對想先做概念驗證的團隊,這是低門檻的起步點;但由下載到正式部署之間,仍隔著授權條款與合規審查兩關,而這兩點素材都未交代。
企業自訂詞彙的實際價值
可提示設計的實際價值,在於企業可以把自家術語寫進提示,而非被動接受模型預設詞彙。NVIDIA 在 10 月 28 日於 Hugging Face 博客發布 Nemotron 3.5 Transcribe,明確定位為「可提示、可調適」的轉錄工具。對跨語言會議、客服錄音、媒體字幕等場景,這意味着用戶可以文字指令指定語言、格式或專有名詞,減少人手校對。
但素材未披露模型的參數量、準確率與延遲表現,企業難以將它與現有商用轉錄服務直接比較。換句話說,自訂詞彙的價值目前只停留在設計層面,未有量化數據支撐。香港企業若處理粵語、英語、普通話夾雜的會議錄音,實際準確率提升多少,仍然未知。
另一個未確定之處,是提示調節對延遲的影響。轉錄模型加入提示後,推論時間可能增加,但 NVIDIA 未在博客中交代。對於客服中心這類要求即時轉錄的場景,延遲與準確率同樣關鍵。企業在試用時,需要自行量度這兩項指標,而非單看發布公告的定位描述。
開源路線的取捨
NVIDIA 把 Nemotron 3.5 Transcribe 與 Granary v2 放到 Hugging Face,開發者可即時下載,企業亦可在自家伺服器部署。這降低了試用門檻,尤其對資料敏感的行業,例如法律與醫療,本地部署可以避免錄音上傳至第三方雲端。香港企業若自行部署,理論上可控制資料存放位置,但實際合規安排仍須按《個人資料(私隱)條例》自行評估。
不過,素材未交代模型是否允許商業使用,部署前須自行核實授權條款。開源模型常見的授權限制,包括禁止商用或要求衍生作品同樣開源,這些都會影響企業的採用意願。NVIDIA 在博客中未有說明授權細節,企業法務部門需要直接查閱模型卡或授權文件,不能假設「開源」等於「可自由商用」。
多語言覆蓋範圍與粵語支援程度,同樣未在素材中說明。Granary v2 屬該系列第二版,但博客只確認它與轉錄模型一併發布,沒有交代功能分工或與上一版的差異。香港市場長期面對粵語混碼的轉錄難題,法庭、立法會與客服中心都關注準確度。這類可提示調適的開源模型能否應付,仍待本地機構實測驗證,目前未有公開評測結果。
NVIDIA 這步棋的真正賣點,不是帳面準確率,而是企業能否自訂詞彙與語言。可提示設計讓用戶把公司名稱、產品代號寫進指令,理論上減少人手校對。但素材未披露準確率、延遲與授權條款,企業難以判斷實際回報。開源路線降低試用門檻,同時把驗證責任轉移到用家身上。
香港企業若考慮採用,應先釐清三個問題:模型授權是否允許商用、粵語混碼的實際表現、以及本地部署的合規安排。NVIDIA 未公布這些細節,本地機構亦未有公開評測。在數據不足的情況下,與其追逐發布公告的定位,不如先做小規模測試,量度自家場景的準確率與延遲,再決定是否投入資源。

