IT之家 10 月 9 日消息,今日,螞蟻集團(tuán)發(fā)布萬億參數(shù)的通用語言模型 Ling-1T。Ling-1T 是螞蟻百靈大模型 Ling 2.0 系列的第一款旗艦?zāi)P?,也是螞蟻百靈團(tuán)隊(duì)迄今為止推出的規(guī)模最大、能力最強(qiáng)的非思考大模型。
測評顯示,在有限輸出 Token 條件下,Ling-1T 于多項(xiàng)復(fù)雜推理基準(zhǔn)中取得 SOTA 表現(xiàn),展示出在高效思考與精確推理之間的卓越平衡。另外,在代碼生成、軟件開發(fā)、競賽數(shù)學(xué)、專業(yè)數(shù)學(xué)、邏輯推理等多項(xiàng)高難度基準(zhǔn)測試上,Ling-1T 均取得領(lǐng)先成績,多項(xiàng)指標(biāo)位居開源模型的榜首。
以競賽數(shù)學(xué)榜單 AIME 25 (American Invitation Math Examination 25)為例,Ling-1T 以平均 4000+ Token 的消耗達(dá)到了 70.42% 的準(zhǔn)確率,優(yōu)于 Gemini-2.5-Pro(平均 5000+ Token,準(zhǔn)確率 70.10%)。Ling-1T 用更少的 Token 實(shí)現(xiàn)了更高的準(zhǔn)確率,展現(xiàn)出在推理精度和思考效率綜合能力上的優(yōu)勢。
據(jù)螞蟻百靈團(tuán)隊(duì)透露,Ling-1T 沿用 Ling 2.0 架構(gòu),在 20T+tokens 高質(zhì)量、高推理濃度的語料上完成預(yù)訓(xùn)練,支持最高 128K 上下文窗口,通過“中訓(xùn)練 + 后訓(xùn)練”的演進(jìn)式思維鏈(Evo-CoT)極大提升模型高效思考和精準(zhǔn)推理能力。
螞蟻百靈團(tuán)隊(duì)還透露,在萬億級旗艦?zāi)P偷难邪l(fā)過程中,多次觀察到:擴(kuò)大模型規(guī)模與強(qiáng)化推理能力,往往會帶來出乎意料的跨領(lǐng)域泛化表現(xiàn)。例如,在智能體工具調(diào)用任務(wù) BFCL V3 上,Ling-1T 雖未在中訓(xùn)練階段引入大量操作軌跡,僅通過少量指令微調(diào),即可達(dá)到約 70% 的調(diào)用準(zhǔn)確率,展現(xiàn)出卓越的推理遷移與泛化能力。Ling-1T 能精準(zhǔn)理解復(fù)雜自然語言指令,自主完成綜合性任務(wù):將模糊的邏輯問題轉(zhuǎn)化為功能完備的可視化組件,為多端環(huán)境生成高兼容性前端代碼,或根據(jù)指定風(fēng)格與語氣創(chuàng)作營銷文案、文學(xué)續(xù)篇及多語種文本。團(tuán)隊(duì)認(rèn)為,這些能力構(gòu)成了通用智能體的關(guān)鍵基礎(chǔ)。
螞蟻百靈團(tuán)隊(duì)稱,盡管 Ling-1T 在高效推理、跨領(lǐng)域泛化與訓(xùn)練效率方面取得顯著進(jìn)展,但仍存在以下局限:
attention 架構(gòu)仍基于 GQA
在超長上下文和復(fù)雜推理任務(wù)中表現(xiàn)穩(wěn)定,但推理成本偏高。后續(xù)將引入混合注意力架構(gòu),以提升訓(xùn)練推理效率、降低算力開銷。
智能體能力仍需強(qiáng)化
當(dāng)前版本在多輪交互、長期記憶和復(fù)雜工具使用等方面仍有限,近期將持續(xù)提升工具理解與使用能力,增強(qiáng)模型的主動性與泛化能力。
指令遵循與身份認(rèn)知問題
部分場景下仍可能出現(xiàn)指令執(zhí)行偏差或角色混淆。后續(xù)將通過強(qiáng)化式身份對齊與安全微調(diào)改進(jìn)模型一致性。
未來版本將繼續(xù)在架構(gòu)、推理與對齊層面迭代,推動 Ling 系列邁向更高水平的通用智能。
IT之家附開源倉庫和體驗(yàn)頁面:
HuggingFace:https://huggingface.co/inclusionAI/Ling-1T
ModelScope:https://modelscope.cn/models/inclusionAI/Ling-1T
GitHub:https://github.com/inclusionAI/Ling-V2
Ling chat(國內(nèi)用戶):https://ling.tbox.cn/chat
ZenMux(海外開發(fā)者,提供 Chat 測試與 API 等能力):https://zenmux.ai/inclusionai/ling-1t
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。