小鵬發力720億參數自駕基模，開啟自動駕駛新征程

小鵬加速發力720億參數自駕基模，豪邁開啟自動駕駛偉大征程

在汽車行業步入大模型研發熱潮之際，4 月 14 日，小鵬汽車于香港舉辦 AI 技術分享會，首次公開披露正在研發的 720 億參數超大規模自動駕駛大模型 ——“小鵬世界基座模型”。未來，小鵬將采用云端蒸餾小模型的方式，把基模部署至車端，為 “AI 汽車” 裝上全新 “大腦”，該模型還將為小鵬的 AI 機器人、飛行汽車等賦能。

小鵬汽車自動駕駛負責人李力耘介紹，小鵬基模以大語言模型作為骨干網絡，借助海量優質駕駛數據訓練，是多模態大模型。它具備視覺理解、鏈式推理及動作生成能力。經強大的強化學習訓練，基座模型持續自我進化，有望逐步發展出超越人類的自動駕駛技術。

為研發基模，小鵬汽車早在去年便著手布局 AI 基礎設施，現已建成國內汽車行業首個萬卡智算集群，用以支撐基座模型的預訓練、后訓練、模型蒸餾、車端模型訓練等任務。小鵬將這套從云到端的生產流程稱作 “云端模型工廠”。目前，小鵬 “云端模型工廠” 算力達 10 EFLOPS，集群運行效率常年維持在 90% 以上，從云到端的全鏈路迭代周期平均 5 天一次。

早在 2024 年下半年，小鵬汽車就已面向 L4 級別的自動駕駛，研發全新的 “AI 大腦”—— 小鵬世界基座模型。研發團隊利用優質自動駕駛訓練數據，先后開發出多個尺寸的基座模型，目前正全力推進 720 億(72B)超大規模參數世界基座模型的研發，其參數量約為主流 VLA 模型的 35 倍。

小鵬世界基座模型的顯著優勢是具備鏈式推理能力，在充分理解現實世界的基礎上，能像人類一樣進行復雜的常識推理，并將推理結果轉化為行動，比如輸出方向盤、剎車等控制信號，實現與物理世界的交互。未來，在基座模型的賦能下，智能駕駛系統有望從 “模仿人類” 邁向 “超越人類”，最終解決全場景的自動駕駛問題，包括模型從未在訓練數據中遇到過的難題。

自設計之初，小鵬汽車就將基模定位為可泛化到多種具身終端的基座模型。李力耘表示：“小鵬世界基座模型是小鵬自動駕駛邁向 L3、L4 的基石，也會成為未來小鵬所有物理 AI 終端的通用模型?！?后續，小鵬世界基座模型將全面賦能小鵬 AI 體系，應用于小鵬汽車的 AI 汽車、AI 機器人、飛行汽車。

為開發小鵬世界基座模型，小鵬汽車打造了 “云端模型工廠”，其 “車間” 涵蓋基座模型預訓練、后訓練、模型蒸餾、車端模型預訓練到部署上車的完整生產鏈路?！霸贫四Ｐ凸S” 采用強化學習、模型蒸餾技術路線，能高效生產 “小身材、大智商” 的端側模型，甚至可為不同需求的汽車定制專屬 “大腦”，讓 “千人千面” 的模型研發成為現實。

小鵬汽車自 2024 年開始搭建 AI 基礎設施，目前已建立起萬卡規模的智能算力集群，是國內汽車行業最大的自動駕駛算力集群。小鵬汽車算力儲備達 10EFLOPS，集群利用率常年超 90%，高峰時運行效率可達 98%。

小鵬世界基座模型負責人劉博士介紹，多模態模型訓練的瓶頸不僅在于 GPU，數據訪問效率也需解決。小鵬汽車自主開發底層數據基礎設施，使數據上傳規模提升 22 倍、訓練中的數據帶寬提升 15 倍;通過聯合優化 GPU/CPU 以及網絡 I/O，最終讓模型訓練速度提高了 5 倍。目前，小鵬汽車用于訓練基座模型的視頻數據量高達 2000 萬 clips，今年這一數字將增至 2 億 clips。

依托強大的 AI 基礎設施和數據基礎設施，小鵬開啟全新的基座模型研發范式，從云端模型預訓練到車端模型部署，整個 “云端模型工廠” 的迭代周期平均 5 天一次。

在分享會上，小鵬汽車披露了基模研發的三個階段性成果：驗證規模法則在自動駕駛領域持續生效;在后裝算力的車端成功實現基?？剀?啟動 720 億參數基模訓練，搭建針對強化學習的模型訓練框架。

規模法則揭示了大模型性能隨計算量、訓練數據量和參數量提升而增強的規律，被視作 AI 領域的 “摩爾定律”。在大語言模型領域，規模法則已得到充分驗證，但自動駕駛基座模型更為復雜，其訓練數據包含攝像頭信息、導航信息等物理世界的多模態數據，本質上要求模型對物理世界形成認知與理解。此前，利用駕駛數據訓練基模，尤其是參數規模擴大到百億級別后，規模法則是否依舊生效，行業內尚未有充分驗證。小鵬團隊首次證實了規模法則在自動駕駛領域持續有效。劉博士稱：“過去一年，我們開展大量實驗，在 10 億、30 億、70 億、720 億參數的模型上，均看到顯著的規模法則效應：參數規模越大，模型能力越強。同樣的模型大小，訓練數據量越大，模型能力也越強?！?/p>

不久前，小鵬汽車將理論轉化為實踐，在后裝算力的車端用小尺寸基模實現了控車。盡管只是早期實車測試，但全新基模已展現出令人驚喜的基礎駕車技能。

小鵬汽車去年就已開展強化學習技術研發，以提升基座模型的性能上限。劉博士表示，強化學習能助力模型自我進化，學會處理訓練數據中未出現的長尾問題，實現極致安全的自動駕駛。只有足夠強大的基座模型，才能被強化學習不斷激發能力上限。這也是小鵬汽車選擇云端蒸餾路線的原因之一：在云端不計成本地訓練出足夠聰明且泛化能力強的模型，將其蒸餾到適配車端算力的小尺寸模型上，最終使車端模型性能突破車端算力限制。值得一提的是，強化學習、云端蒸餾等技術方案，在今年備受關注的 DeepSeek 論文中均得到驗證。

基模研發是小鵬汽車 “AI 化” 轉型的關鍵一步。即便進入 “大模型時代”，過去 “規則時代” 的領先經驗仍在發揮作用。在開發強化學習的獎勵模型時，研發團隊依據規則經驗設計獎勵函數，將規則時代的沉淀轉化為訓練基座模型的生產力。

同時，小鵬汽車已著手開發世界模型，作為 “云端模型工廠” 的重要部分，為基座模型的性能優化提供支持。劉博士介紹，小鵬的世界模型是一種實時建模和反饋系統，能基于動作信號模擬真實環境狀態，渲染場景，并生成場景內其他智能體(即交通參與者)的響應，構建閉環反饋網絡，助力基座模型不斷進化，逐步突破過去 “模仿學習” 的局限。

今年 6 月，小鵬汽車將在計算機視覺國際頂會 CVPR 上，進一步分享小鵬世界基座模型研發和訓練成果的更多細節，值得期待。