IT之家 5 月 7 日消息,中國臺灣地區(qū) AI IP 企業(yè) Skymizer 近日發(fā)布了其推理解碼階段加速器芯片 HTX301,這款芯片可與負責預填充階段的 GPU 結合加速推理結果輸出,提升算力系統(tǒng)的利用率和整體能效。

IT之家了解到,HTX301 基于該企業(yè)的 HyperThought 軟硬件協(xié)同設計平臺采用 LISA 語言指令集架構,專注帶寬密集型負載。
其采用了一種可擴展的設計方案,支持 SoC 與 PCIe AIC 部署形態(tài)。后者可在單卡上集成 6 顆 HTX301 芯片與合計 384GB 內存,滿足 700B 高參數(shù)大模型本地運行的需求,同時功耗僅有 240W。
廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。