當(dāng)前，各種新興技術(shù)層出不窮，數(shù)據(jù)呈現(xiàn)出快速增長(zhǎng)的態(tài)勢(shì)，算力已經(jīng)成為賦能行業(yè)發(fā)展的生產(chǎn)力。隨著人工智能的發(fā)展，智能語(yǔ)音、圖像識(shí)別等AI模型應(yīng)用也對(duì)AI服務(wù)器的訓(xùn)練和推理性能提出了更高的要求。浪潮作為全球領(lǐng)先的計(jì)算力提供商，一直致力于打造高性能的AI服務(wù)器產(chǎn)品，以促進(jìn)產(chǎn)業(yè)AI解決方案的開發(fā)與應(yīng)用。
在不久前的GTC元腦生態(tài)技術(shù)論壇上，中科極限元、趨動(dòng)科技、睿沿科技等元腦生態(tài)伙伴分享了多個(gè)場(chǎng)景下浪潮AI服務(wù)器NF5488A5的實(shí)測(cè)數(shù)據(jù)。數(shù)據(jù)顯示，浪潮NF5488A5可廣泛應(yīng)用于圖像視頻、語(yǔ)音識(shí)別、金融分析、智能客服等典型AI應(yīng)用場(chǎng)景，幫助AI用戶高效完成AI基礎(chǔ)設(shè)施和開發(fā)環(huán)境的構(gòu)建，縮短開發(fā)周期，顯著提升AI開發(fā)和應(yīng)用效率。
NF5488A5AI服務(wù)器是浪潮自主研發(fā)的產(chǎn)品，可為用戶提供高達(dá)5 PetaFLOPS的AI計(jì)算性能和超高速帶寬，在4U空間內(nèi)支持8顆第三代NVLink全互聯(lián)的A100芯片，為各類AI應(yīng)用場(chǎng)景提供強(qiáng)大的計(jì)算力支撐。另外，NF5488A5曾屢次打破全球權(quán)威AI測(cè)試榜單MLPerf的記錄，基于ImageNet的ResNet50基準(zhǔn)測(cè)試顯示，NF5488A5完成訓(xùn)練僅需33.37分鐘，單機(jī)性能高居第一；推理性能達(dá)到每秒54.9萬(wàn)張圖片，3倍于去年推理榜單的服務(wù)器最好性能。
NF5488A5服務(wù)器高性能、高帶寬、易部署的特性極大地促進(jìn)了智能語(yǔ)音模型訓(xùn)練及線上推理。本次中科極限開發(fā)的智能語(yǔ)音交互模型在浪潮AI服務(wù)器NF5488A5進(jìn)行加速。測(cè)試數(shù)據(jù)顯示，在相同準(zhǔn)確率下，與原有的系統(tǒng)相比，NF5488A5將模型訓(xùn)練速度提升了50%，單機(jī)最大推理路數(shù)提升88%，推理延遲提升65%。
NF5488A5服務(wù)器縮短訓(xùn)練時(shí)間，提升推理能力。睿沿科技推出的高山雨燕工業(yè)視覺(jué)平臺(tái)在計(jì)算層使用了浪潮AI服務(wù)NF5488A5加速訓(xùn)練和推理。實(shí)測(cè)結(jié)果顯示，在圖片視頻分辨率相同的情況下，模型原來(lái)的訓(xùn)練時(shí)間為140分鐘，使用NF5488A5之后，訓(xùn)練時(shí)間可縮短到105分鐘，速度提升25%。單機(jī)最大推理FPS（每秒傳輸幀數(shù)）由20800提高到28000，提升35%。
在未來(lái)，產(chǎn)業(yè)AI化將成為趨勢(shì)，AI客戶在語(yǔ)音、語(yǔ)義、圖像、視頻、搜索、網(wǎng)絡(luò)等方面的需求將越來(lái)越大，對(duì)AI服務(wù)器的訓(xùn)練和推理性能要求也將更為嚴(yán)格。對(duì)此，浪潮AI將繼續(xù)與人工智能領(lǐng)先科技公司保持在系統(tǒng)與應(yīng)用方面的深入緊密合作，幫助用戶在此方面取得數(shù)量級(jí)的應(yīng)用性能提升。
