IT之家 8 月 4 日消息，騰訊混元今日發(fā)布了四款開源的小尺寸模型，參數(shù)分別為 0.5B、1.8B、4B、7B，消費(fèi)級(jí)顯卡即可運(yùn)行，適用于筆記本電腦、手機(jī)、智能座艙、智能家居等低功耗場(chǎng)景，且支持垂直領(lǐng)域低成本微調(diào)。
目前，四個(gè)模型均在 Github 和 Huggingface 等開源社區(qū)上線，Arm、高通、英特爾、聯(lián)發(fā)科技等多個(gè)消費(fèi)級(jí)終端芯片平臺(tái)也都宣布支持部署。
新開源的 4 個(gè)模型屬于融合推理模型，具備推理速度快、性價(jià)比高的特點(diǎn)，用戶可根據(jù)使用場(chǎng)景靈活選擇模型思考模式 —— 快思考模式提供簡(jiǎn)潔、高效的輸出；而慢思考涉及解決復(fù)雜問題，具備更全面的推理步驟。
效果上，四個(gè)模型均實(shí)現(xiàn)了跟業(yè)界同尺寸模型的對(duì)標(biāo)，特別是在語(yǔ)言理解、數(shù)學(xué)、推理等領(lǐng)域有出色表現(xiàn)，在多個(gè)公開測(cè)試集上得分達(dá)到了領(lǐng)先水平。
這四個(gè)模型的亮點(diǎn)在于 agent 和長(zhǎng)文能力，跟此前開源的 Hunyuan-A13B 模型一樣，技術(shù)上通過精心的數(shù)據(jù)構(gòu)建和強(qiáng)化學(xué)習(xí)獎(jiǎng)勵(lì)信號(hào)設(shè)計(jì)，提升了模型在任務(wù)規(guī)劃、工具調(diào)用和復(fù)雜決策以及反思等 agent 能力上的表現(xiàn)，讓模型實(shí)際應(yīng)用中可以勝任深度搜索、excel 操作、旅行攻略規(guī)劃等任務(wù)。
此外，模型原生長(zhǎng)上下文窗口達(dá)到了 256k，意味著模型可以一次性記住并處理相當(dāng)于 40 萬(wàn)中文漢字或 50 萬(wàn)英文單詞的超長(zhǎng)內(nèi)容，相當(dāng)于一口氣讀完 3 本《哈利波特》小說，并且能記住所有人物關(guān)系、劇情細(xì)節(jié)，還能根據(jù)這些內(nèi)容討論后續(xù)故事發(fā)展。
部署上，四個(gè)模型均只需單卡即可部署，部分 PC、手機(jī)、平板等設(shè)備可直接接入。并且，模型具有較強(qiáng)的開放性，主流推理框架（例如，SGLang，vLLM and TensorRT-LLM）和多種量化格式均能夠支持。
應(yīng)用層面，四款小尺寸模型都能夠滿足從端側(cè)到云端、從通用到專業(yè)的多樣化需求，并且已經(jīng)在騰訊多個(gè)業(yè)務(wù)中應(yīng)用：
依托模型原生的超長(zhǎng)上下文能力，騰訊會(huì)議 AI 小助手、微信讀書 AI 問書 AI 助手均實(shí)現(xiàn)對(duì)完整會(huì)議內(nèi)容、整本書籍的一次性理解和處理。
在端側(cè)應(yīng)用上，騰訊智能座艙助手通過雙模型協(xié)作架構(gòu)解決車載環(huán)境痛點(diǎn)，充分發(fā)揮模型低功耗、高效推理的特性。
在高并發(fā)場(chǎng)景中，搜狗輸入法基于模型的多模態(tài)聯(lián)合訓(xùn)練機(jī)制使嘈雜環(huán)境下提升識(shí)別準(zhǔn)確率；騰訊地圖采用多模型架構(gòu)，利用意圖分類和推理能力提升了用戶交互體驗(yàn)；微信輸入法「問 AI」基于模型實(shí)現(xiàn)輸入框與 AI 即問即答的無(wú)縫銜接。
在需求各異、約束嚴(yán)苛的垂直行業(yè)應(yīng)用中，金融 AI 助手通過 Prompt 優(yōu)化和少量數(shù)據(jù)微調(diào)實(shí)現(xiàn) 95%+ 意圖識(shí)別準(zhǔn)確率，展現(xiàn)出金融級(jí)的高可靠性；游戲翻譯和 QQ 飛車手游 NPC 充分利用模型的理解能力在多語(yǔ)言理解能力、方言翻譯和智能對(duì)話方面有突出表現(xiàn)。
在大語(yǔ)言模型領(lǐng)域，騰訊混元此前陸續(xù)開源了激活參數(shù)量達(dá) 52B 的 hunyuan large 和首個(gè)混合推理 MoE 模型 Hunyuan-A13B。
多模態(tài)方面，混元還開放了完整多模態(tài)生成能力及工具集插件，陸續(xù)開源了文生圖、視頻生成和 3D 生成能力，提供接近商業(yè)模型性能的開源基座，方便社區(qū)基于業(yè)務(wù)和使用場(chǎng)景定制，圖像、視頻衍生模型數(shù)量達(dá)到 3000 個(gè)。上周，騰訊發(fā)布并開源了混元 3D 世界模型 1.0。
IT之家附開源地址：
【Github】
Hunyuan-0.5B：https://github.com/Tencent-Hunyuan/Hunyuan-0.5B
Hunyuan-1.8B：https://github.com/Tencent-Hunyuan/Hunyuan-1.8B
【HuggingFace】
Hunyuan-0.5B：https://huggingface.co/tencent/Hunyuan-0.5B-Instruct
Hunyuan-1.8B：https://huggingface.co/tencent/Hunyuan-1.8B-Instruct
Hunyuan-4B：https://huggingface.co/tencent/Hunyuan-4B-Instruct
Hunyuan-7B：https://huggingface.co/tencent/Hunyuan-7B-Instruct
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。