12月17日, GTC China 2020大會(huì)上,阿里云異構(gòu)計(jì)算產(chǎn)品負(fù)責(zé)人潘岳表示,人工智能行業(yè)需求發(fā)生了明顯的變化,云上AI業(yè)務(wù)的推理需求占比首次超過(guò)50%,阿里云GPU云服務(wù)器從四年前的gn4到今年新發(fā)布的gn7,單實(shí)例異構(gòu)算力提升了100倍。
異構(gòu)計(jì)算是最能發(fā)揮AI效率的計(jì)算方式。潘岳介紹,阿里云提供了超大規(guī)模的云上異構(gòu)計(jì)算集群,每秒可支撐100億億次的異構(gòu)運(yùn)算,能夠在1秒內(nèi)看懂超過(guò)5.3億張圖片;識(shí)別3.3億秒/9.2萬(wàn)小時(shí)長(zhǎng)的語(yǔ)音,相當(dāng)于聽(tīng)寫(xiě)了1723本《紅樓夢(mèng)》長(zhǎng)篇小說(shuō)或者26萬(wàn)篇短篇小說(shuō);1秒內(nèi)可以翻譯4千萬(wàn)句話(huà),相當(dāng)于翻譯了42本《哈姆雷特》。
4年前,云上80%的AI需求來(lái)自訓(xùn)練業(yè)務(wù)。但在2020年,云上AI推理業(yè)務(wù)的占比已經(jīng)超過(guò)一半。潘岳表示,這也標(biāo)志著阿里云異構(gòu)計(jì)算進(jìn)入新的階段,即軟硬一體的云上異構(gòu)基礎(chǔ)設(shè)施。
具體來(lái)說(shuō),用戶(hù)不僅需要深度學(xué)習(xí)框架軟件,更需要與之適配的硬件來(lái)發(fā)揮GPU的算力,例如阿里云神龍AI加速器和FastGPU等極速部署工具,就通過(guò)池化算力帶來(lái)靈活的計(jì)算調(diào)度,云服務(wù)器從特定配置向serverless方向發(fā)展。這些可幫助客戶(hù)在訓(xùn)練場(chǎng)景下提升2倍到10倍的性能,在推理場(chǎng)景下提升2倍到4倍的性能,節(jié)省至少50%的成本。
以阿里云IoT的圖像分類(lèi)業(yè)務(wù)為例。阿里云神龍 AI 加速AIACC團(tuán)隊(duì),和IoT智能業(yè)務(wù)研發(fā)團(tuán)隊(duì)緊密合作,將大規(guī)模圖像分類(lèi)分布式訓(xùn)練性能提升5倍,讓算法研發(fā)效率得以顯著的提升,成本得以大幅下降。
“AI業(yè)務(wù)從最早的推理占比不到20%,到今天占比過(guò)半;原來(lái)只有人工智能初創(chuàng)公司探索,到落地各行各業(yè);云上異構(gòu)業(yè)務(wù)從單一深度學(xué)習(xí)訓(xùn)練場(chǎng)景,到今天的訓(xùn)練推理、云桌面、圖形圖像設(shè)計(jì)等多元化場(chǎng)景。阿里云異構(gòu)計(jì)算是企業(yè)數(shù)字化、智能化轉(zhuǎn)型的見(jiàn)證者,也是實(shí)踐者。”潘岳表示。
