螞蟻集團CTO何征宇：堅決投入大模型底層基礎設施，已建成萬卡AI集群

9 月 8 日下午消息，在 2023 外灘大會上，螞蟻集團宣布發布金融大模型，并開源生成式 AI 編程平臺 CodeFuse。

螞蟻集團首席技術官、平臺技術事業群總裁何征宇在接受采訪時介紹，螞蟻大模型走純自研的技術路線，以全棧布局、長線發展為原則，以創造產業價值為目標。為此，螞蟻堅決投入大模型底層基礎設施，目前已建成萬卡 AI 集群，訓練效率領先行業，為大模型產業化應用提供有力支撐。

何征宇介紹，螞蟻一直以來堅持核心技術自主創新，2022 年底正式立項大模型研發，目前已形成從基礎大模型到行業大模型以及產業應用的全棧布局。

今天發布的螞蟻金融大模型基于螞蟻基礎大模型，針對金融產業深度定制。何征宇介紹，螞蟻基礎大模型平臺具備萬卡異構集群，其中千卡規模訓練 MFU 可達到 40%，集群有效訓練時長占比 90% 以上，RLHF 訓練在同等模型效果下訓練吞吐性能相較于業界方案提升 3.59 倍，推理性能相較于業界方案提升約 2 倍，處于業界先進水平。

何征宇表示，未來螞蟻將持續探索和精進大模型的五大能力方向。一是，建設高質量的數據標注團隊，沉淀高質量數據體系；二是，攻堅基礎大模型算法，以及高效綠色工程能力，提升模型邏輯推理等能力；三是，從通用語言大模型到通用多模態大模型，從一般通識走向全面專業；四是，建設高效的大模型評測標準和評測體系，加快大模型迭代速度；五是，建設大模型安全能力，保障大模型健康可持續發展。

廣告聲明:文內含有的對外跳轉鏈接，用于傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。