美國東部時(shí)間12月1日,國際權(quán)威AI基準(zhǔn)測試MLPerf™公布最新一期訓(xùn)練(Training)榜單V1.1。浪潮信息提交了AI服務(wù)器所有8項(xiàng)單機(jī)測試的固定任務(wù)(Closed Division)成績,并斬獲其中7項(xiàng)冠軍。
MLPerf™是影響力最廣的國際AI性能基準(zhǔn)評測,本次測試吸引谷歌、微軟云、英偉達(dá)、浪潮信息、百度、戴爾、聯(lián)想等14家公司及科研機(jī)構(gòu)參與,共提交180項(xiàng)固定任務(wù)成績,6項(xiàng)開放任務(wù)成績。固定任務(wù)要求參賽各方使用與參考模型等價(jià)的模型和限定的優(yōu)化器,對于實(shí)際用戶評測AI計(jì)算系統(tǒng)性能具備很強(qiáng)的參考意義,也一直是MLPerf™中角逐最激烈及主流廠商最關(guān)注的領(lǐng)域。
本次性能基準(zhǔn)評測涵蓋了8類極具代表性的機(jī)器學(xué)習(xí)任務(wù),分別為圖像分類(ResNet)、醫(yī)學(xué)影像分割(U-Net3D)、目標(biāo)物體檢測(SSD)、目標(biāo)物體檢測(Mask R-CNN)、語音識別(RNNT)、自然語言理解(BERT)、智能推薦(DLRM)以及強(qiáng)化學(xué)習(xí)(MiniGo)。
浪潮AI服務(wù)器在單機(jī)系統(tǒng)測試的全部8項(xiàng)固定任務(wù)中,獲得7項(xiàng)冠軍。其中,AI服務(wù)器NF5688M6獲得醫(yī)學(xué)影像分割、目標(biāo)物體檢測(Mask R-CNN)、自然語言理解、智能推薦4項(xiàng)冠軍;AI服務(wù)器NF5488A5獲得圖像分類、目標(biāo)物體檢測(SSD)、語音識別3項(xiàng)冠軍。
全棧AI能力 引領(lǐng)AI訓(xùn)練速度突破
憑借卓異的軟硬件系統(tǒng)優(yōu)化能力,浪潮AI服務(wù)器將MLPerf™訓(xùn)練基準(zhǔn)的單機(jī)效率進(jìn)一步提升至新的高度。相比半年前的MLPerf™ AI訓(xùn)練榜單V1.0,浪潮AI服務(wù)器將醫(yī)學(xué)影像識別、語音識別、智能推薦和自然語言處理任務(wù)的單機(jī)AI訓(xùn)練速度提升18%、14%、11%和8%。
MLPerf™作為國際最權(quán)威的AI性能基準(zhǔn)測試,不斷刷新業(yè)內(nèi)的AI訓(xùn)練速度。目前,浪潮信息是MLPerf™基準(zhǔn)測試中醫(yī)學(xué)影像分割、目標(biāo)物體檢測(Mask R-CNN)、自然語言理解、智能推薦、圖像分類、目標(biāo)物體檢測(SSD)、語音識別7項(xiàng)AI任務(wù)的單機(jī)最快訓(xùn)練速度保持者。浪潮AI服務(wù)器在圖像分類訓(xùn)練中每秒可處理27400張圖片、在目標(biāo)物體檢測訓(xùn)練中每秒可處理12600張圖片、在語音識別訓(xùn)練中每秒可處理8000段語音,引領(lǐng)全球AI訓(xùn)練速度突破,凸顯出頂級AI服務(wù)器在AI模型訓(xùn)練效率上的巨大價(jià)值。
浪潮AI服務(wù)器在MLPerf™基準(zhǔn)評測中的出色表現(xiàn),得益于在AI計(jì)算系統(tǒng)創(chuàng)新上卓越的系統(tǒng)設(shè)計(jì)能力和全棧優(yōu)化能力。在硬件層面,針對AI訓(xùn)練中常見的密集IO傳輸瓶頸,浪潮AI服務(wù)器以領(lǐng)先設(shè)計(jì)大幅降低通信延遲,極大提升了AI訓(xùn)練效率;同時(shí),針對高負(fù)載多GPU協(xié)同任務(wù)調(diào)度,對NUMA節(jié)點(diǎn)與GPU之間的數(shù)據(jù)傳輸進(jìn)行全面優(yōu)化和深度調(diào)校,確保訓(xùn)練任務(wù)中的數(shù)據(jù)IO無阻塞;在散熱層面,針對目前業(yè)界功率最高的A100-SXM-80GB(500W) GPU,浪潮率先開發(fā)的先進(jìn)冷板液冷系統(tǒng),確保GPU在全功率甚負(fù)載下依然穩(wěn)定工作,將AI計(jì)算系統(tǒng)的性能發(fā)揮到極致。
MLPerf™ 2021年度收官 浪潮信息共獲44項(xiàng)第一
MLCommons每年組織2次MLPerf™ 推理性能測試和2次MLPerf™ 訓(xùn)練性能測試。本次成績公布意味著MLPerf™ 2021年度4次性能測試正式收官。浪潮AI服務(wù)器共斬獲44項(xiàng)第一,名列MLPerfTM2021年度冠軍榜首。
2021年,浪潮AI服務(wù)器在MLPerfTM數(shù)據(jù)中心AI推理場景的總32項(xiàng)任務(wù)中斬獲17項(xiàng)冠軍,在邊緣AI推理場景的總31項(xiàng)任務(wù)中斬獲16項(xiàng)冠軍,從云到邊全面領(lǐng)先;在單機(jī)AI訓(xùn)練場景的16項(xiàng)任務(wù)中浪潮AI服務(wù)器共斬獲11項(xiàng)冠軍。
2021年,浪潮AI服務(wù)器NF5488A5、NF5688M6以及邊緣服務(wù)器NE5260M5參加到MLPerfTM競賽中,各斬獲18項(xiàng)、15項(xiàng)及11項(xiàng)冠軍。
NF5488A5是全球首批上市的A100服務(wù)器,在4U空間支持8顆第三代NVLink互聯(lián)的A100 GPU和2顆AMD Milan CPU,同時(shí)支持液冷和風(fēng)冷散熱技術(shù)。NF5688M6是面向大規(guī)模數(shù)據(jù)中心優(yōu)化設(shè)計(jì)的具備極致擴(kuò)展能力的AI服務(wù)器,支持8顆A100 GPU和兩顆Intel Ice Lake CPU,支持多達(dá)13張PCIe Gen4的IO擴(kuò)展卡。NE5260M5通過極致優(yōu)化的信號和電源等系統(tǒng)設(shè)計(jì),兼容高性能CPU和多種AI加速卡,通過減震降噪優(yōu)化和嚴(yán)苛的可靠性測試,機(jī)箱深度430mm較普通服務(wù)器縮短近二分之一,滿足空間受限的邊緣計(jì)算場景部署需求。
浪潮信息是全球領(lǐng)先的AI計(jì)算廠商,AI服務(wù)器市場份額全球第一,中國市場份額已連續(xù)五年穩(wěn)居第一。浪潮信息致力于AI計(jì)算平臺、資源平臺和算法平臺的研發(fā)創(chuàng)新,并通過元腦生態(tài)與AI領(lǐng)先企業(yè)共同推進(jìn)AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化進(jìn)程。
