【ITBEAR】近期，一則關(guān)于“H100 GPU租賃價格驟降至2美元/小時”的報道在國內(nèi)引發(fā)了廣泛關(guān)注。據(jù)報道，英偉達H100 GPU自2023年3月上市后，因需求激增一度供不應(yīng)求，租賃價格從4.7美元/小時飆升至8美元/小時以上。然而，今年以來，H100市場出現(xiàn)“供過于求”現(xiàn)象，租賃價格大幅下跌至2美元左右。
價格下跌的原因多樣：部分公司完成模型訓(xùn)練后轉(zhuǎn)售閑置算力；許多企業(yè)轉(zhuǎn)而微調(diào)開放模型，降低了算力需求；新創(chuàng)公司專注于構(gòu)建大規(guī)模基礎(chǔ)模型的數(shù)量減少；以及H100替代品的出現(xiàn)，如AMD和英特爾的GPU。
追溯報道源頭發(fā)現(xiàn)，海外主流媒體及主要科技媒體尚未進行相關(guān)報道。原報道《$2 H100s: How the GPU Bubble Burst》出自Latent Space網(wǎng)站，作者為Eugene Cheah。Latent Space是一個聚焦于AI的內(nèi)容訊息、博客、社區(qū)平臺，由swyx及Alessio Fanelli主持，后者為早期風(fēng)投公司Decibel VC的合伙人和CTO。
Eugene Cheah是初創(chuàng)公司Featherless.Ai的CEO。據(jù)其介紹，F(xiàn)eatherless.Ai目前托管著全球最大的開源AI模型，提供每月10美元起的無限制請求服務(wù)。
報道中配有一幅法國藝術(shù)家讓-萊昂?熱羅姆1882年創(chuàng)作的油畫《郁金香狂熱》，描繪了17世紀荷蘭的“郁金香狂熱”投機泡沫。這一歷史事件是否會在AI領(lǐng)域重演，牽動著每一位AI投資者的心，也是此次報道引發(fā)關(guān)注的原因之一。
從算力租賃商Vast.ai的報價來看，1x H100的一小時租賃價格確實已降至2~3美元區(qū)間。
然而，H100租賃價格下跌是否真的意味著“GPU泡沫破滅”呢？一方面，Eugene Cheah指出，“H100價格下跌”更適用于“分化”這一描述，主要集中在小規(guī)模集群的租賃價格，而大規(guī)模算力集群的價格可能維持在較高水平。
另一方面，電子產(chǎn)品具有更新迭代周期，GPU芯片也不例外。盡管英偉達下一代GPU Blackwell系列曾傳出設(shè)計缺陷，但摩根士丹利報告稱，Blackwell的生產(chǎn)正在“按計劃進行”，且未來12個月左右的供應(yīng)已經(jīng)售罄。這意味著現(xiàn)在下訂單的客戶要到2025年底才能收到貨，將繼續(xù)推動對現(xiàn)有Hopper架構(gòu)產(chǎn)品的短期需求。
H100租賃價格的波動并非驟然暴跌，而是已有時日。從A100到H100，再到未來的Blackwell，新品出世勢必帶來前代產(chǎn)品的沒落。英偉達CEO黃仁勛也表示，英偉達的持續(xù)看漲與互聯(lián)網(wǎng)泡沫頂峰時期圍繞思科的狂熱完全不同。他認為，未來將是“高度機器學(xué)習(xí)”的時代。
“摩爾定律已經(jīng)基本宣告終結(jié)”，黃仁勛表示，為了提供必要的算力以跟上未來計算密集型軟件的步伐，未來4~5年內(nèi)，現(xiàn)有數(shù)據(jù)中心將需要價值約1萬億美元的GPU來實現(xiàn)升級。
必須承認的是，“AI泡沫”論的警鐘頻敲，“AI投資回報難達預(yù)期”的質(zhì)疑聲音此起彼伏。一邊是OpenAI抱怨算力上線不及時不夠用、英偉達新品售罄，另一邊是算力租賃價格不斷下降、還有公司“甩賣”GPU。然而，局部的、短期的算力過剩或短缺，似乎已難以代表AI的全盤局面。
