IT之家 7 月 17 日消息,“AI 為 AI 設(shè)計芯片”是芯片行業(yè)一個非常值得關(guān)注的方向,OpenAI 之所以能僅用時 9 個月就完成 Jalape?o 的設(shè)計離不開 AI 的輔助。
而在月之暗面發(fā)布的 Kimi K3 技術(shù)博客中,該企業(yè)也特別將 K3 模型芯片設(shè)計能力作為一個單獨章節(jié)列出。
月之暗面表示,作為早期概念驗證,Kimi K3 為基于自身架構(gòu)的 nano 模型打造了一款專用芯片:
在一次長達(dá) 48 小時的自主運行中,K3 利用開源 EDA 工具,基于 Nangate 45nm 庫完成了該芯片的構(gòu)建、優(yōu)化和驗證。
該芯片集成了 146 萬個標(biāo)準(zhǔn)單元、0.277MB SRAM 以及一個帶融合去量化功能的 INT4 MAC 陣列,面積僅為 4 mm2,在 100 MHz 頻率下滿足時序要求,在仿真中保持超過 8700 Token/s 的解碼吞吐量。
這款由模型設(shè)計、專為模型打造的芯片,體現(xiàn)了 K3 具備長遠(yuǎn)規(guī)劃的智能體能力。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。