海外小作文襲擾AI信仰?GPU泡沫論甚囂塵上 真相是……
原創(chuàng)
2024-10-14 20:35 星期一
科創(chuàng)板日報 鄭遠方
①一則有關(guān)“2美元/小時出租H100:GPU泡沫破滅前夜”的報道引發(fā)國內(nèi)市場高度關(guān)注。
②大摩稱英偉達Blackwell系列GPU未來一年供應(yīng)已售罄;黃仁勛更表示現(xiàn)有數(shù)據(jù)中心需要1萬億美元GPU升級。
③H100租賃價格下跌,真的能和“GPU泡沫破滅”畫上等號嗎?

《科創(chuàng)板日報》10月14日訊 日前,一則有關(guān)“2美元/小時出租H100:GPU泡沫破滅前夜”的報道引發(fā)國內(nèi)市場高度關(guān)注。相關(guān)文章指出:

英偉達H100 GPU在2023年3月上市之后,因需求激增供不應(yīng)求,其租賃價格從最初的每小時4.7美元一度飆升至每小時8美元以上。但今年以來,H100開始“供過于求”,每小時租賃價格降至2美元左右。

價格下跌是由于多方面因素導(dǎo)致:1)有些長期預(yù)訂H100的公司完成模型訓(xùn)練之后,轉(zhuǎn)售閑置未使用的算力;2)許多公司不再從頭訓(xùn)練新模型,轉(zhuǎn)而微調(diào)開放模型,算力需求大幅降低;3)專注構(gòu)建大規(guī)?;A(chǔ)模型的新創(chuàng)公司數(shù)量大幅減少;4)H100的替代品出現(xiàn),如AMD和英特爾GPU,等等。

對這篇報道進行溯源后可以發(fā)現(xiàn),海外主流媒體及主要科技媒體暫未進行相關(guān)報道,原報道標(biāo)題為《$2 H100s: How the GPU Bubble Burst》(2美元H100:GPU泡沫是如何破滅的),來自于一個名為Latent Space的網(wǎng)站,原文作者為Eugene Cheah。

根據(jù)網(wǎng)站介紹,Latent Space主要聚焦于AI,形式集內(nèi)容訊息、博客、社區(qū)為一體,由swyx 及Alessio Fanelli共同主持,前者的社交平臺賬號并未給出具體身份自我介紹,后者則為早期風(fēng)投公司Decibel VC的合伙人和CTO。

image

原文作者Eugene Cheah,則為初創(chuàng)公司Featherless.Ai的CEO。

image

據(jù)Cheah在“GPU泡沫”一文原文末尾介紹,F(xiàn)eatherless.Ai目前托管著全球最大的開源AI模型,“每月10美元起,可立即訪問,無限制請求,價格固定;可通過無服務(wù)器方式即時推理,無需昂貴的專用 GPU”。

▌H100租賃價格下跌 = GPU泡沫破滅?

在“GPU泡沫”一文原文中有張配圖,那是法國藝術(shù)家讓-萊昂?熱羅姆在1882年創(chuàng)作的油畫《郁金香狂熱》(Le Duel à la tulipe)。

這幅畫描繪了有記錄以來歷史上第一次投機泡沫——17世紀(jì)荷蘭的“郁金香狂熱”,郁金香價格在1634年持續(xù)攀升,并于1637年2月崩盤,投機者手中只剩下最初投資額的5%。

image

三百多年前的投機泡沫會否再次上演?這個問題牽動著每一位AI投資者的神經(jīng),或許也是這一次“H100租賃價格下跌”一文引發(fā)高度關(guān)注的原因。

從算力租賃商Vast.ai網(wǎng)站報價可以看到,1x H100的一小時租賃報價確實已經(jīng)在2~3美元區(qū)間內(nèi)。

image

Vast.ai報價

但H100租賃價格下跌,真的能和“GPU泡沫破滅”畫上等號嗎?

一方面,從Eugene Cheah的文章來看,“H100價格下跌”可能用“分化”來形容更為合適——持續(xù)下降的主要集中在小規(guī)模集群的租賃價格,相較之下,大規(guī)模算力集群的價格則可能維持在較高水平。

而這些大規(guī)模算力集群背后,多是諸如特斯拉、微軟、OpenAI一類的科技巨頭。Omidia數(shù)據(jù)顯示,H100發(fā)布之后的那個2023年第三季度,其出貨量達到65萬張,其中僅Meta和微軟就分別拿下了15萬張,占比接近一半。

另一方面,電子產(chǎn)品都有著更新迭代周期,GPU芯片同樣如此。之前英偉達下一代GPU Blackwell系列傳出設(shè)計存在缺陷,可能延遲出貨。但摩根士丹利上周發(fā)布報告稱,Blackwell的生產(chǎn)正在“按計劃進行”,且未來12個月左右的供應(yīng)已經(jīng)售罄,這意味著現(xiàn)在下訂單的客戶要到2025年底才能收到貨,“這將繼續(xù)推動對現(xiàn)有Hopper架構(gòu)產(chǎn)品的強勁短期需求”。

H100租賃價格并非驟然暴跌,波動已有時日。從A100到H100,從H100到H200,再到未來的Blackwell,新品出世勢必帶來前代產(chǎn)品的沒落,更妄論Blackwell算力成本有望比Hopper進一步降低。

黃仁勛這位英偉達“掌舵人”也在日前現(xiàn)身說法。在接受Altimeter Capital采訪時他強調(diào),對英偉達的持續(xù)看漲與互聯(lián)網(wǎng)泡沫頂峰時期圍繞思科的狂熱完全不同。英偉達正在“重塑計算”,未來將是“高度機器學(xué)習(xí)”的時代。

“摩爾定律已經(jīng)基本宣告終結(jié)”,他表示,為了提供必要的算力以跟上未來計算密集型軟件的步伐,未來4~5年內(nèi),現(xiàn)有數(shù)據(jù)中心將需要價值約1萬億美元的GPU來實現(xiàn)升級。

必須承認(rèn)的是,“AI泡沫”論的警鐘敲了又敲,“AI投資回報難達預(yù)期”的質(zhì)疑聲音一浪高過一浪,一邊是OpenAI抱怨算力上線不及時不夠用、英偉達新品售罄,另一邊是算力租賃價格不斷下降、還有公司“甩賣”GPU。

但局部、短期的算力過?;蚨倘保坪跻央y以代表AI的全盤局面,對于供需兩方、多空兩邊來回博弈的AI領(lǐng)域來說,在硬件端之外,或許亟待更多新故事。

收藏
65.93W
我要評論
歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論
要聞
股市
關(guān)聯(lián)話題
8.49W 人關(guān)注
4.22W 人關(guān)注
8781 人關(guān)注