IT之家 7 月 8 日消息，據(jù)美媒 The Information 當?shù)貢r間 7 日報道，AI 芯片巨頭 NVIDIA（英偉達）正與 ASIC 初創(chuàng)企業(yè) d-Matrix 合作，打造一個結(jié)合雙方硬件的混合型混合算力基礎設施，支持 AI 模型的運行。
IT之家注意到，d-Matrix 在一份美國當?shù)貢r間今日發(fā)布的新聞稿中表示，Neocloud 企業(yè) Parasail 通過將 NVIDIA 的 Hopper / Blackwell GPU 與 d-Matrix 的 Corsair ASIC 相結(jié)合，實現(xiàn)了 10 倍的 Token（詞元）生成速率。
d-Matrix 的 Corsair 采用 D-IMC（數(shù)字存內(nèi)計算）架構(gòu)，這顆臺積電 N6 制程 SoC 將計算單元和足量 SRAM 集成在同一芯片上，降低數(shù)據(jù)傳輸帶來的開銷，并通過片外 LPDDR5 進一步擴展內(nèi)存容量。
Parasail 將 NVIDIA GPU 用于 AI 推理工作負載前端的計算密集型預填充任務；與此同時，擁有大容量 SRAM 的 d-Matrix Corsair 非常適合推理后端的延遲敏感型解碼任務。
d-Matrix 創(chuàng)始人兼首席執(zhí)行官 Sid Sheth 表示：
Parasail 正在印證我們從一開始就堅信的觀點：推理的未來是異構(gòu)的。GPU 和專用推理加速器并非競爭對手，而是相輔相成。通過將 Corsair 與其 NVIDIA 產(chǎn)品線結(jié)合使用，Parasail 正在采用一種異構(gòu)推理方法，旨在優(yōu)化工作負載的每個階段。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。