IT之家 6 月 30 日消息，據 The Information 報道，OpenAI 工程師在內部透露，公司已通過一系列全新的系統(tǒng)底層優(yōu)化，成功將 AI 模型的推理（運行）成本降低了 50% 以上。

據IT之家了解，推理成本指的是模型在實際運行并響應用戶請求時所消耗的計算資源。

此次優(yōu)化主要得益于現有服務器資源利用率的提升，而非依賴新增計算芯片的投入。這使得運行其 AI 系統(tǒng)所需的英偉達芯片更少，這些節(jié)省的成本可用于降低 API 定價或提高用戶使用限額。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。