IT之家 5 月 1 日消息，深度求索（DeepSeek）昨日（4 月 30 日）在 AI 開(kāi)源社區(qū) Hugging Face 上，發(fā)布名為 DeepSeek-Prover-V2-671B 的新模型，隨后在 GitHub 等平臺(tái)上公布了論文信息。
IT之家援引論文介紹，DeepSeek-Prover-V2 是一款專注于形式化數(shù)學(xué)推理的開(kāi)源大型語(yǔ)言模型，基于 DeepSeek-V3-0324，通過(guò)遞歸定理證明管道生成初始數(shù)據(jù)。
Deepseek 推出了 DeepSeek-Prover-V2-671B（結(jié)合 V3 基礎(chǔ)大模型）、DeepSeek-Prover-V2-7B（增強(qiáng)模型）兩個(gè)模型，以及 DeepSeek-ProverBench 數(shù)據(jù)集。
DeepSeek-Prover-V2-671B 采用和 DeepSeek V3-0324 相同的架構(gòu)，并非用于常規(guī)對(duì)話或者推理，而是用于形式化定理證明、專門增強(qiáng)數(shù)學(xué)能力的模型。
DeepSeek 團(tuán)隊(duì)首先引導(dǎo) DeepSeek-V3 模型將復(fù)雜定理分解為一系列子目標(biāo)（subgoals），整合非形式與形式化數(shù)學(xué)推理，在 Lean 4 平臺(tái)上形式化證明步驟。
接著，利用一個(gè)較小的 7B 參數(shù)模型處理子目標(biāo)的證明搜索，減輕計(jì)算負(fù)擔(dān)。最終，結(jié)合完整的逐步證明與 DeepSeek-V3 的思維鏈（chain-of-thought），形成強(qiáng)化學(xué)習(xí)的“冷啟動(dòng)”數(shù)據(jù)。
在訓(xùn)練中，團(tuán)隊(duì)篩選出一批 7B 模型無(wú)法直接解決但子目標(biāo)已被證明的難題。通過(guò)整合子目標(biāo)證明，形成完整的形式化證明，并與 DeepSeek-V3 的推理過(guò)程對(duì)接，生成合成數(shù)據(jù)。
隨后，模型微調(diào)這些數(shù)據(jù)，并通過(guò)強(qiáng)化學(xué)習(xí)進(jìn)一步提升能力，以二元反饋（正確或錯(cuò)誤）作為獎(jiǎng)勵(lì)機(jī)制。最終，DeepSeek-Prover-V2-671B 在神經(jīng)定理證明領(lǐng)域創(chuàng)下新高，在 MiniF2F-test 數(shù)據(jù)集上通過(guò)率達(dá) 88.9%，在 PutnamBench 數(shù)據(jù)集中解決 658 個(gè)問(wèn)題中的 49 個(gè)。
團(tuán)隊(duì)還發(fā)布了 ProverBench 基準(zhǔn)數(shù)據(jù)集，包含 325 個(gè)形式化數(shù)學(xué)問(wèn)題。其中，15 個(gè)問(wèn)題源自近期 AIME 競(jìng)賽（AIME 24 和 25），涉及數(shù)論與代數(shù)，代表高中競(jìng)賽難度。
其余 310 個(gè)問(wèn)題則來(lái)自精選教材和教學(xué)內(nèi)容，涵蓋線性代數(shù)、微積分、概率等多個(gè)領(lǐng)域。這一數(shù)據(jù)集旨在為高中競(jìng)賽和本科數(shù)學(xué)提供全面評(píng)估標(biāo)準(zhǔn)，推動(dòng)模型在多樣化場(chǎng)景下的測(cè)試與應(yīng)用。
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。