內湖分店 新店分店 中和分店 法拍部 商務中心 

英偉達:從“一次性訓練”的大模型到“後訓練改進”的Agent,算力需求正在變化

    英偉達正將其下一代Vera Rubin平臺的核心價值主張從推理成本延伸至模型訓練效率,以"每美元智能"(intelligence per dollar)這一新指標,押注智能體AI時代持續後訓練將成為最核心的算力需求。

    英偉達在官方博客中闡述,隨著智能體AI(Agentic AI)的興起,模型後訓練已從一次性的收尾步驟演變為持續循環的核心工作負載。與傳統生成式模型不同,智能體模型需要規劃、調用工具並在運行中自主糾錯,其所處環境每周都可能發生變化,這使得後訓練的算力需求持續累積。英偉達表示,Vera Rubin平臺專為這一工作負載協同設計,可在訓練最大規模模型時僅需上一代Blackwell平臺四分之一的GPU數量。

    這一表述直接關係到英偉達的算力銷售邏輯:後訓練循環永不停止,意味著客戶對GPU集群的需求將從項目制轉向常態化,潛在市場規模隨之擴大。Prime Intellect、Perplexity及Together AI等已在英偉達平臺上運行後訓練工作負載的企業,均已表態計劃遷移或擴展至Vera Rubin平臺。

    後訓練成為智能體時代的核心算力驅動力

    英偉達在博客中對後訓練的戰略地位作出系統性闡述。預訓練階段賦予模型語言流暢性,而真正的"智能"——包括編寫代碼、規劃多步驟任務、使用搜索工具及從錯誤中恢復——則在後訓練階段形成。

    後訓練採用強化學習(RL)技術:模型針對給定任務生成嘗試(前向傳播),該嘗試被評分後更新模型權重(反向傳播),經過數百萬次疊代,模型能力逐步提升。英偉達指出,這一過程的算力消耗極為密集,需要數千個環境並行生成rollout,同時保持加速器滿負荷運轉。

    英偉達將"每美元智能"定位為高於"每token成本"的上層指標:前者衡量推理工廠的運營效率,後者則衡量構建並持續維護一個值得部署的模型所需的投入是否合算。兩者相互嵌套——降低每token成本同樣降低了模型智能的構建成本,而更高的模型智能則提升了每個token的服務價值。

    Nemotron Ultra提供可驗證的後訓練基準

    為支撐上述主張,英偉達披露了旗下開放權重模型Nemotron 3 Ultra的後訓練細節。該模型參數量達5500億,採用混合專家(MoE)架構,後訓練流程完整運行於NeMo RL框架之上。

    在SWE-bench Verified這一真實世界編程基準測試中,Nemotron 3 Ultra得分71.7%,即在來自開源項目的真實軟體缺陷中,約十個中有七個能夠生成可通過項目自有測試的有效修複方案。英偉達表示,該基準測試結果可供驗證,後訓練方案亦完整公開。

    英偉達同時指出,Blackwell平臺已通過降低單次運行成本,使智能體時代所需的高頻後訓練在經濟上具備可行性,而Vera Rubin平臺將進一步延伸這一軌跡——支持更多rollout、更多並行環境以及永不停止的後訓練周期。

    頭部客戶驗證平臺能力,遷移計劃浮出水面

    多家已在英偉達平臺上運行後訓練工作負載的企業披露了具體技術細節,並表達了向Vera Rubin遷移的意向。

    Prime Intellect持續在Blackwell平臺上對前沿開放模型進行後訓練,並使用NVIDIA Dynamo進行推理編排。該公司已將沙箱基礎設施與NVIDIA Vera CPU集成,在與x86架構的對比測試中,Vera CPU在真實RL沙箱工作負載下平均吞吐量高出30%。Prime Intellect計劃藉助Vera Rubin擴展強化學習環境規模,並加速訓練到推理的疊代循環。

    Perplexity的RL後訓練棧跨數百塊英偉達GPU異步運行,其基於RDMA的權重傳輸引擎可在兩秒內完成萬億參數模型在訓練節點與推理節點之間的同步。經後訓練的Qwen3 235B模型隨後部署於NVIDIA GB200 NVL72系統之上。

    Together AI則以服務形式提供後訓練能力,涵蓋監督微調、強化學習及直接偏好優化,通過API和SDK交付,目前運行於英偉達平臺,並表示正尋求接入Vera Rubin平臺。

   

資訊來源:華爾街見聞。如有侵權,請聯繫我們刪除。



全新M.CBD國際商務中心火熱招商中yes歡迎來電預約參觀

參觀時間:週一~週五 9:00AM~19:00PM(新店) 9:00AM~18:00PM(內湖)

歡迎電洽:02-22199566(新店)  02-26585500(內湖)

新店地址:新店民權路108號10樓

內湖地址:內湖區陽光街321巷8號3樓

M.CBD商務中心專頁yes

FB粉絲專頁yes

民權路上租個人工作室2219-9566/北新路租商務中心/北新路上租個人工作室/大坪林捷運站租商務中心/
新店區租商務中心/新北市租商務中心2219-9566/新北市個人工作室/新北市在台辦事處/新店個人工作室/
新店在台辦事處/十四張捷運商務中心2219-9566/十四張捷運站租個人工作室/十四張捷運租在台辦事處/
租商務中心/租個人工作室/租在台辦事處2219-9566/稀有小坪數辦公室/出租商務中心/出租微型辦公室/
出租個人工作室/民權路出租商務中心/民權路上出租商務辦公室2219-9566/出租大坪林捷運站微型辦公室/
出租大坪林捷運站個人工作室/出租民權路小坪數辦公室/出租北新路小坪數辦公室/出租商務中心/
出租微型辦公室/出租個人工作室/出租M.CBD國際商務中心/


 
Copyright (C) 遠建不動產有限公司版權所有‧非經授權不得轉載、連結本站圖文 ©