IT之家 10 月 16 日消息,行業(yè)分析師 Ray Wang 昨日(10 月 15 日)在 X 平臺發(fā)布推文,報(bào)道稱英偉達(dá) AI 服務(wù)器功耗正以驚人速度增長,從 Ampere 架構(gòu)到未來的 Kyber 架構(gòu),其機(jī)架級解決方案的功耗在短短八年內(nèi)將飆升 100 倍。

IT之家援引博文介紹,分析師指出英偉達(dá)機(jī)架功耗大幅增長的背后,存在多種驅(qū)動(dòng)因素。其中,最核心的原因在于兩大層面:首先是每個(gè)機(jī)架集成的 GPU 數(shù)量大幅增加;其次是每一代 GPU 自身的熱設(shè)計(jì)功耗(TDP)也在不斷提升。
以具體產(chǎn)品為例,采用 Hopper 架構(gòu)的服務(wù)器機(jī)箱功耗約為 10 千瓦,而到了最新的 Blackwell 架構(gòu),由于集成了更多、更強(qiáng)的 GPU,該數(shù)值已飆升至近 120 千瓦。英偉達(dá)為了滿足行業(yè)對算力的無盡需求,在技術(shù)上持續(xù)突破,但其能耗增長速度也同樣驚人。
除了硬件本身,先進(jìn)的 NVLink / NVSwitch 互連技術(shù)、新一代機(jī)架設(shè)計(jì)以及持續(xù)高負(fù)載的運(yùn)行模式,都共同導(dǎo)致了超大規(guī)模數(shù)據(jù)中心運(yùn)營商的能耗以前所未有的速度攀升。
有趣的是,大型科技公司之間已卷入一場衡量標(biāo)準(zhǔn)為“吉瓦”(GW)的算力競賽。例如,OpenAI 和 Meta 等公司均計(jì)劃在未來幾年內(nèi)新增超過 10 吉瓦的計(jì)算能力,這標(biāo)志著 AI 基礎(chǔ)設(shè)施的規(guī)模已進(jìn)入新的量級。
“吉瓦級”的功耗意味著什么?據(jù)估算,一個(gè)超大規(guī)模數(shù)據(jù)中心消耗 1 吉瓦的電力,就足以供應(yīng)約 100 萬戶美國家庭的用電需求,并且該估算尚未計(jì)入散熱和電力傳輸?shù)拳h(huán)節(jié)的額外能耗。
當(dāng)這些巨型數(shù)據(jù)中心在全球各地建成后,單個(gè)設(shè)施的耗電量將相當(dāng)于一個(gè)中等規(guī)模國家或美國幾個(gè)大州的總和。
國際能源署(IEA)在其研究報(bào)告中預(yù)測,到 2030 年,僅人工智能一項(xiàng)就可能導(dǎo)致全球電力消耗翻倍,其增長速度幾乎是電網(wǎng)擴(kuò)張速度的四倍。更重要的是,這種大規(guī)模數(shù)據(jù)中心建設(shè)潮的直接后果之一,便是可能推高周邊地區(qū)的居民用電成本。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。