IT之家 5 月 20 日消息，英偉達(dá)今日宣布推出 NVIDIA TensorRT for RTX，支持 Windows 11 系統(tǒng)，將為 GeForce RTX 全系顯卡提供 TensorRT AI 推理加速框架，速度相當(dāng)于 DirectML 方案兩倍。該框架將于 6 月通過開發(fā)者官網(wǎng)正式推送。

技術(shù)細(xì)節(jié)顯示，TensorRT 原生兼容 Windows ML 框架， ComfyUI 應(yīng)用在其中相比 DirectML 實(shí)現(xiàn)性能翻倍，而其他應(yīng)用也有 1.5~1.7 倍的性能表現(xiàn)。

此外，TensorRT 支持即時(shí) GPU 專屬優(yōu)化，推理庫文件體積縮減至原有 1/8。

IT之家從官方獲悉，英偉達(dá)目前已經(jīng)為超 150 個(gè) AI SDK 提供支持，并承諾本月還將推出 5 個(gè)全新的 ISV 集成，包括：

• LM Studio（最新 CUDA 性能提升 30%）

• Topaz Video AI（GenAI 視頻加速 CUDA）

• 嗶哩嗶哩（NVIDIA Broadcast Effects）

• AutoDesk VRED (DLSS 4)

• Chaos Enscape  (DLSS 4)

英偉達(dá)表示：“當(dāng)前 AI PC 軟件生態(tài)迫使開發(fā)者在廣泛硬件支持與高性能優(yōu)化間抉擇。全新 Windows ML 推理框架通過 ONNX Runtime 構(gòu)建，與各硬件廠商優(yōu)化的 AI 執(zhí)行層無縫銜接。針對(duì) RTX 顯卡，Windows ML 會(huì)自動(dòng)調(diào)用 TensorRT for RTX—— 專為高性能快速部署優(yōu)化的推理庫。相較 DirectML，TensorRT 可為 PC 端 AI 工作負(fù)載提供超 50% 的性能提升。”

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。