IT之家 2 月 13 日消息,今日,螞蟻集團(tuán)百靈大模型發(fā)布并開源首個混合線性架構(gòu)的萬億參數(shù)思考模型 —— Ring-2.5-1T。
據(jù)介紹,作為邁向通用智能體時代的關(guān)鍵步驟,團(tuán)隊(duì)將混合線性注意力架構(gòu)在預(yù)訓(xùn)練和強(qiáng)化學(xué)習(xí)上均進(jìn)行了大規(guī)模擴(kuò)展,一方面利用高效的 1:7 MLA + Lightning Linear Attention 架構(gòu)來提升模型的思考效率和探索空間,另一方面通過擴(kuò)展強(qiáng)化學(xué)習(xí)和智能體環(huán)境規(guī)模來提升模型的思考深度和長程執(zhí)行能力。
相比此前發(fā)布的 Ring-1T,Ring-2.5-1T 在生成效率、思考深度、長程執(zhí)行上均有大幅提升:
高效生成:得益于高比例的線性注意力機(jī)制,在超過 32K 生成長度下,訪存規(guī)模降低 10 倍以上,生成吞吐提升 3 倍以上,尤其適合深度思考和長程執(zhí)行的任務(wù)。
深度思考:在 RLVR 基礎(chǔ)上引入 dense reward 來反饋思考過程的嚴(yán)謹(jǐn)性,使得 Ring-2.5-1T 同時實(shí)現(xiàn) IMO 2025 和 CMO 2025 的金牌水平(自測)。
長程執(zhí)行:通過大規(guī)模 fully-async agentic RL 訓(xùn)練,顯著提升針對復(fù)雜任務(wù)的長程自主執(zhí)行能力,使得 Ring-2.5-1T 可以輕松適配 Claude Code 等智能體編程框架和 OpenClaw 個人 AI 助理。

為評估 Ring-2.5-1T 的深度思考和長程執(zhí)行能力,團(tuán)隊(duì)選取了具有代表性的開源思考模型(DeepSeek-v3.2-Thinking、Kimi-K2.5-Thinking)和閉源 API(GPT-5.2-thinking-high、Gemini-3.0-Pro-preview-thinking-high、Claude-Opus-4.5-Extended-Thinking)作為參考。
Ring-2.5-1T 在數(shù)學(xué)、代碼、邏輯等高難推理任務(wù)(IMOAnswerBench、AIME 26、HMMT 25、LiveCodeBench、ARC-AGI-V2)和智能體搜索、軟件工程、工具調(diào)用等長程任務(wù)執(zhí)行(Gaia2-search、Tau2-bench、SWE-Bench Verified)上均達(dá)到了開源領(lǐng)先水平。
團(tuán)隊(duì)還額外測試了深度思考模式(heavy thinking mode),通過在推理過程中擴(kuò)展并行思考與總結(jié),實(shí)現(xiàn)測試時擴(kuò)展,從而有效提升推理的深度與廣度。在 IMO 2025(滿分 42 分)中,Ring-2.5-1T 獲得 35 分,達(dá)到金牌水平;在 CMO 2025(滿分 126 分)中取得 105 分,顯著高于金牌線(78 分)及國家集訓(xùn)隊(duì)入選線(87 分)。
此外,Ling 2.5 架構(gòu)在 Ling 2.0 架構(gòu)基礎(chǔ)上引入了混合線性注意力架構(gòu)。通過增量訓(xùn)練方式,將 Ling 2.0 架構(gòu)的 GQA 升級為 1:7 的 MLA + Lightning Linear 結(jié)構(gòu)。具體而言,團(tuán)隊(duì)基于此前發(fā)布的 Ring-flash-linear-2.0 技術(shù)路線,將部分 GQA 層改造為 Lightning Linear Attention,以顯著提升長程推理場景下的吞吐能力。為進(jìn)一步壓縮 KV Cache,將其余 GQA 層近似轉(zhuǎn)換為 MLA ,并對其中的 QK Norm 、Partial RoPE 等特性進(jìn)行了針對性適配,以增強(qiáng) Ling 2.5 架構(gòu)在混合注意力架構(gòu)下的表達(dá)能力。

改造后,Ring-2.5-1T 的激活參數(shù)量從 51B 提升至 63B。但在混合線性注意力架構(gòu)的支持下,其推理效率相比 Ling 2.0 仍實(shí)現(xiàn)了大幅提升。即便與激活參數(shù)僅為 32B 的 KIMI K2 架構(gòu)相比,1T 規(guī)模下的 Ling 2.5 架構(gòu)在長程推理場景下的吞吐依然具有顯著優(yōu)勢;且生成長度越長,吞吐優(yōu)勢越明顯。


不過,螞蟻集團(tuán)也提到,這一版本模型在 token efficiency 與指令遵循方面仍存在不足,在面向更真實(shí)、更復(fù)雜任務(wù)的長程執(zhí)行與實(shí)際交付能力上,也仍有較大的優(yōu)化空間。團(tuán)隊(duì)將在后續(xù)版本中持續(xù)改進(jìn)上述能力,并非常期待來自社區(qū)的使用反饋與建議。目前,Ring-2.5-1T 的訓(xùn)練仍在持續(xù)推進(jìn)中。完整技術(shù)報告將在下一版本發(fā)布后正式公開。
IT之家附地址如下:
Hugging Face:https://huggingface.co/inclusionAI/Ring-2.5-1T
ModelScope:https://modelscope.cn/models/inclusionAI/Ring-2.5-1T
Ling Studio(https://ling.tbox.cn/chat)與 ZenMux(https://zenmux.ai/)的 Ring-2.5-1T Chat 體驗(yàn)頁和 API 服務(wù)將在近期上線。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。