IT之家 11 月 21 日消息，蘋果機(jī)器學(xué)習(xí)研究博客于 11 月 19 日發(fā)布博文，公布了 M5 芯片的最新性能數(shù)據(jù)，重點(diǎn)展示了其在運(yùn)行本地大語(yǔ)言模型（LLM）方面的顯著優(yōu)勢(shì)。
此次性能評(píng)估的核心平臺(tái)是蘋果此前推出的 MLX，這是一個(gè)專為 Apple Silicon 設(shè)計(jì)的開源機(jī)器學(xué)習(xí)框架，它利用統(tǒng)一內(nèi)存架構(gòu)，讓模型能夠在 CPU 和 GPU 之間高效運(yùn)行。
在核心的文本生成測(cè)試中，蘋果使用了 MLX LM 工具包對(duì)多款開源大模型進(jìn)行了基準(zhǔn)測(cè)試，包括不同參數(shù)規(guī)模的 Qwen 模型和 GPT OSS 模型。
測(cè)試結(jié)果顯示，M5 芯片在生成后續(xù)文本 token 時(shí)的速度比 M4 提升了 19% 至 27%。蘋果指出，這一性能飛躍主要得益于內(nèi)存帶寬的提升，M5 的內(nèi)存帶寬高達(dá) 153GB/s，相比 M4 的 120GB/s 增加了 28%，這對(duì)于內(nèi)存密集型的 token 生成任務(wù)至關(guān)重要。
報(bào)告進(jìn)一步解釋了 LLM 推理過程中的兩種不同負(fù)載。IT之家援引博文介紹，生成第一個(gè) token 主要受計(jì)算能力限制（compute-bound），而生成后續(xù) token 則更依賴于內(nèi)存速度（memory-bound）。
因此，M5 憑借其更高的內(nèi)存帶寬，在持續(xù)生成文本的場(chǎng)景中展現(xiàn)出明顯優(yōu)勢(shì)。蘋果還強(qiáng)調(diào)，配備 24GB 內(nèi)存的 MacBook Pro 能夠輕松運(yùn)行參數(shù)量達(dá) 300 億的 4-bit 量化混合專家模型（MoE），并將推理負(fù)載控制在 18GB 以內(nèi)。
| 第一個(gè) tokens 生成速度 | 后續(xù) tokens 生成速度 | 內(nèi)存 (GB) | |
|---|---|---|---|
| Qwen3-1.7B-MLX-bf16 | 3.57 | 1.27 | 4.40 |
Qwen3-8B-MLX-bf16 | 3.62 | 1.24 | 17.46 |
Qwen3-8B-MLX-4bit | 3.97 | 1.24 | 5.61 |
Qwen3-14B-MLX-4bit | 4.06 | 1.19 | 9.16 |
gpt-oss-20b-MXFP4-Q4 | 3.33 | 1.24 | 12.08 |
Qwen3-30B-A3B-MLX-4bit | 3.52 | 1.25 | 17.31 |
除了文本處理能力，M5 芯片在圖像生成方面的提升更為驚人。報(bào)告提到，M5 芯片中集成了全新的 GPU 神經(jīng)加速器，專門用于處理機(jī)器學(xué)習(xí)負(fù)載中至關(guān)重要的矩陣乘法運(yùn)算。
得益于此項(xiàng)硬件升級(jí)，M5 芯片執(zhí)行圖像生成任務(wù)的速度是 M4 芯片的 3.8 倍以上。這一巨大飛躍預(yù)示著，未來搭載 M5 芯片的 Mac 設(shè)備將在創(chuàng)意設(shè)計(jì)、內(nèi)容生成等視覺 AI 應(yīng)用領(lǐng)域提供遠(yuǎn)超以往的流暢體驗(yàn)。
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。