IT之家 7 月 20 日消息，芯展速 (GenStorAIGE) 在 WAIC 2026 展出了其 AI90 軟硬件一體化 AI 推理加速方案。
其將高性能 SSD 納入 GPU 顯存體系，讓 KV Cache 卸載到更大容量的固態(tài)硬盤上，形成 HBM + DRAM + SSD 三級(jí)存儲(chǔ)體系。
這一方案可將首 Token（詞元）延遲從秒級(jí)降低至亞秒級(jí)，提速 50 倍；吞吐量提升 5.1 倍；顯存節(jié)省 39%。結(jié)合智能 P2P 多卡互聯(lián)技術(shù)，AI90 可讓 8 卡 NVIDIA GeForce RTX 5090 集群推理加速可達(dá) 5.8 倍、支持 128K+ 上下文。
而為了滿足 KV Cache 卸載帶來的高寫入負(fù)載，芯展速同步帶來了 PT200Z AI SSD。其基于 pSLC 閃存介質(zhì)，采用 PCIe Gen5 接口，DWPD 最高達(dá) 100，順序讀取 14.8GB/s、隨機(jī)讀取 3100KIOPS，讀取時(shí)延 54μs、寫入時(shí)延 10μs。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。