6月28日訊 當(dāng)?shù)貢r(shí)間周二，機(jī)器學(xué)習(xí)及人工智能領(lǐng)域開放產(chǎn)業(yè)聯(lián)盟MLCommons披露兩項(xiàng)MLPerf基準(zhǔn)評測的最新數(shù)據(jù)，其中英偉達(dá)H100芯片組在人工智能算力表現(xiàn)的測試中，刷新了所有組別的紀(jì)錄，也是唯一一個(gè)能夠跑完所有測試的硬件平臺。
（來源：英偉達(dá)、MLCommons）
MLPerf是由學(xué)術(shù)界、實(shí)驗(yàn)室和產(chǎn)業(yè)組成的人工智能領(lǐng)袖聯(lián)盟，是目前國際公認(rèn)的權(quán)威AI性能評測基準(zhǔn)。Training v3.0包含8種不同的負(fù)載，包括視覺（影像分類、生物醫(yī)學(xué)影像分割、兩種負(fù)載的物體偵測）、語言（語音識別、大語言模型、自然語言處理）和推薦系統(tǒng)。簡單來說，就是由不同的設(shè)備供應(yīng)商提交完成基準(zhǔn)任務(wù)所需要的時(shí)間。
（Training v3.0訓(xùn)練基準(zhǔn)，來源：MLCommons）
在投資者比較關(guān)注的“大語言模型”訓(xùn)練測試中，英偉達(dá)和GPU云算力平臺CoreWeave提交的數(shù)據(jù)為這項(xiàng)測試設(shè)定了殘酷的業(yè)界標(biāo)準(zhǔn)。在896個(gè)英特爾至強(qiáng)8462Y+處理器和3584個(gè)英偉達(dá)H100芯片的齊心協(xié)力下，僅僅花了10.94分鐘就完成了基于GPT-3的大語言模型訓(xùn)練任務(wù)。
除了英偉達(dá)外，只有英特爾的產(chǎn)品組合在這個(gè)項(xiàng)目上獲得評測數(shù)據(jù)。由96個(gè)至強(qiáng)8380處理器和96個(gè)Habana Gaudi2 AI芯片構(gòu)建的系統(tǒng)中，完成同樣測試的時(shí)間為311.94分鐘。橫向?qū)Ρ龋褂?68個(gè)H100芯片的平臺跑完這個(gè)測試也只需要45.6分鐘。
（芯片越多數(shù)據(jù)越好看，來源：英偉達(dá)）
對于這個(gè)結(jié)果，英特爾也表示仍有上升空間。理論上只要堆更多的芯片，運(yùn)算的結(jié)果自然會更快。英特爾AI產(chǎn)品高級主管Jordan Plawner對媒體表示，接下來Habana的運(yùn)算結(jié)果將會呈現(xiàn)1.5倍-2倍的提升。Plawner拒絕透露Habana Gaudi2的具體售價(jià)，僅表示業(yè)界需要第二家廠商提供AI訓(xùn)練芯片，而MLPerf的數(shù)據(jù)顯示英特爾有能力填補(bǔ)這個(gè)需求。
而在中國投資者更熟悉的BERT-Large模型訓(xùn)練中，英偉達(dá)和CoreWeave將數(shù)據(jù)刷到了極端的0.13分鐘，在64卡的情況下，測試數(shù)據(jù)也達(dá)到了0.89分鐘。BERT模型中的Transformer結(jié)構(gòu)正是目前主流大模型的基礎(chǔ)架構(gòu)。
【來源：財(cái)聯(lián)社】
