مصرف級顯卡算力解鎖,AI 玩家推升二手價
開源專案 Zagitta/gpu-unlock 透過 Linux 核心模組,成功解鎖輝達(NVIDIA)Ampere 世代消費級顯卡在 FP16/BF16 運算上的發射速率。實測顯示,RTX 3090 Ti 在 BF16 運算下的表現,從原先的 87.50 TFLOPS 躍升至 157.41 TFLOPS。社群回報指出,此舉能為大型語言模型(LLM)的預填(prefill)階段帶來約一成至三成多的加速,同時二手市場價格也據稱隨之上漲,這對純粹的遊戲玩家而言,撿便宜的機會可能更加渺茫。
技術原理與實測數據
該開源專案利用 Linux 核心模組,在輝達驅動程式綁定前,透過寫入 speed selectors 來提升 Ampere 世代 GA102/103/104/106 消費級顯卡的 FP16/BF16 FMA 發射速率,使其接近專業級顯卡的水平。此方法無需刷寫 vBIOS,也無需每次都修改驅動程式補丁,大大降低了長期維護的複雜度。
根據專案的 README 文件,在 450W 功耗牆限制下,RTX 3090 Ti 的密集矩陣乘法(dense GEMM)運算實測數據如下:BF16 運算從 87.50 TFLOPS 提升至 157.41 TFLOPS;TF32 運算從 42.58 TFLOPS 提升至 82.61 TFLOPS;FP16 運算則從 87.46 TFLOPS 提升至 118.39 TFLOPS。媒體 Wccftech 在 10 月 24 日跟進報導後,二手市場的討論熱度也隨之升溫。
市場動態與供需轉變
在過去的加密貨幣挖礦熱潮時期,消費級顯卡的算力曾被鎖定,隨後因以太坊的轉型而價格暴跌。如今,隨著本地大模型推論與微調需求的復甦,同一批 Ampere 世代的硬體再次面臨重新定價。這次的買家轉變為 AI 領域的玩家,供需邏輯也從「挖礦」轉向「運行模型」。
專案優勢與限制
該專案模組結合了 CMP 解鎖技術與驅動程式時序調整手法,在 NVIDIA 驅動程式綁定前完成解鎖。其主要優勢在於無需刷寫 vBIOS,也無需每次驅動程式更新後重新打補丁,有效降低了長期使用的維護成本。
目前,該專案的主要應用平台是 Linux。Windows 系統尚未正式支援此核心模組(kmod)。社群也提醒使用者,此為實驗性操作,可能存在風險,例如需要關閉 Secure Boot 等設定。穩定性與保固方面可能因機型而異,不建議將其作為正式生產環境的依賴。
相容性與實際效益
目前已回報的相容型號涵蓋 RTX 3090 Ti、3090、3080、3070、3060 12GB 等。社群中也有多卡協同運作及虛擬機直通的案例。然而,少數 OEM 版本的顯卡即使完成流程,BF16 運算速度仍可能停留在半速,並非所有情況都能獲得預期效果。
動區僅概述技術層面與社群回報的資訊,不提供安裝步驟。有意嘗試的用戶應自行評估硬體與資安風險,並以專案官方文件為準。
根據 README 文件彙整的相容性回報,BF16 GEMM 運算的增益幅度約在 25% 至 80% 之間,功耗牆的影響極為顯著。對於功耗受到限制的顯卡,效能提升幅度往往會明顯縮減,因此不應僅僅參考峰值數據。
大型語言模型與其他應用
對於大型語言模型(LLM)而言,預填(prefill)階段的處理速度約有 14% 至 36% 的加速,首字延遲(TTFT)也能有所下降。矩陣密集型的微調任務以及類似 FlashAttention 的工作負載,在此解鎖下表現較為突出。
然而,對於解碼(decode)、INT8 運算以及記憶體頻寬成為瓶頸的工作負載,則幾乎感受不到明顯差異。GitHub 上的討論區也有報告指出,llama.cpp 的 Q8 量化推理幾乎沒有變化,顯示量化推理未必能從中受益。
換言之,此次解鎖主要提升的是指令發射速率,並非萬靈丹。用戶在購買顯卡前,應先釐清自身應用的瓶頸是算力還是記憶體頻寬,避免將「理論上的翻倍」直接視為實際使用中的倍率提升。
其他傳聞與注意事項
社群推文中曾傳出 Ada Lovelace 架構(RTX 40 系列)的 Tensor 核心吞吐量也接近翻倍。但官方 README 主要聚焦於 30 系列 Ampere 架構,40 系列的說法尚未獲得全面驗證,建議謹慎看待。
此外,還有關於「單卡 RTX 3090 運行 Qwen 達到 381 tokens/s」的優化傳聞,這主要是由於 MTP、DFlash 等模型端的優化手法所致,不應與本次的硬體解鎖混為一談,以免高估硬體解鎖的邊際效益。
二手市場價格飆升與未來展望
根據 Wccftech 的整理與社群流傳的消息,近期 eBay 的二手顯卡價格急劇上漲:RTX 3090 的價格從約 1,000 美元漲至超過 2,000 美元;RTX 3090 Ti 逼近 3,000 美元;RTX 3080(10–12GB 版本)則在 900 至 1,100 美元之間。如果二手市場的需求確實因 AI 應用而再次興起,那麼純粹的遊戲玩家將更難以「撿便宜」,這也可能導致新舊世代顯卡之間的價差重新洗牌。
當雲端算力成本高昂,而本地 LLM 的需求持續升溫時,舊世代消費級顯卡一旦被解鎖出接近專業級的半精度運算能力,便會立即面臨重新定價。這延續了加密貨幣礦卡「二次就業」的邏輯,只是這次的買家換成了 AI 玩家。這也使得消費級 GPU 與人工智慧硬體市場之間的界線再次變得模糊,值得持續關注。

Leave a Reply