在近日于北京舉辦的全球人工智能開發(fā)與應(yīng)用大會(huì)（AICon 北京 2024）上，英博數(shù)科隆重推出了其旗下品牌英博云的全新智算產(chǎn)品系列，該系列涵蓋了智算中心的建設(shè)與維護(hù)、GPU容器化服務(wù)、高性能算力實(shí)驗(yàn)室以及產(chǎn)業(yè)孵化器等四大核心領(lǐng)域。此次發(fā)布不僅展示了英博數(shù)科在智算領(lǐng)域的深厚積累，更以其首創(chuàng)的“單位有效算力成本”評(píng)估體系，為AI算力行業(yè)樹立了新的效率標(biāo)桿。
隨著生成式AI技術(shù)的蓬勃發(fā)展，大型模型已成為推動(dòng)AI技術(shù)不斷前進(jìn)的關(guān)鍵力量。然而，這一趨勢(shì)也對(duì)算力資源提出了前所未有的挑戰(zhàn)。智算行業(yè)正逐步從簡(jiǎn)單的規(guī)模擴(kuò)張轉(zhuǎn)向精細(xì)化運(yùn)營，并顯現(xiàn)出三大顯著趨勢(shì)：一是通用大模型的訓(xùn)練規(guī)模不斷攀升，從千卡級(jí)躍升至萬卡級(jí)乃至十萬卡級(jí)；二是垂直行業(yè)的算力需求日益動(dòng)態(tài)化，金融、零售、科研等領(lǐng)域?qū)`活算力配置的需求日益增長；三是推理場(chǎng)景的算力需求急劇增加，AI商業(yè)化應(yīng)用的加速使得推理負(fù)載逐漸成為主導(dǎo)。
面對(duì)算力成本高昂、資源利用效率低下等痛點(diǎn)，英博數(shù)科創(chuàng)新性地提出了“單位有效算力成本”的評(píng)估標(biāo)準(zhǔn)。這一標(biāo)準(zhǔn)摒棄了傳統(tǒng)上以設(shè)備采購和運(yùn)維支出為核心的算力成本評(píng)估方式，而是通過整合卡可用率、卡利用率以及模型算力利用率（MFU）等關(guān)鍵指標(biāo)，全面而精準(zhǔn)地衡量算力資源的實(shí)際使用效率。英博數(shù)科CTO李少鵬指出，這一標(biāo)準(zhǔn)的提出，為智算行業(yè)的高效化運(yùn)營提供了新的視角，有助于企業(yè)實(shí)現(xiàn)算力資源的最大化利用。
英博云的智算產(chǎn)品矩陣以其四大模塊全面賦能AI產(chǎn)業(yè)的發(fā)展。在智算中心建設(shè)與維護(hù)方面，英博云提供了模塊化、標(biāo)準(zhǔn)化的建設(shè)方案，確保萬卡級(jí)集群的穩(wěn)定運(yùn)行，并在京能智算中心項(xiàng)目中樹立了行業(yè)典范。針對(duì)垂直行業(yè)對(duì)靈活算力的需求，英博云推出了GPU容器服務(wù)，通過秒級(jí)容器啟停和按小時(shí)/分鐘計(jì)費(fèi)的方式，大幅提升了算力利用效率，降低了企業(yè)的算力成本。英博云的先進(jìn)算力實(shí)驗(yàn)室致力于硬件和軟件的深度評(píng)測(cè)與優(yōu)化，為企業(yè)提供持續(xù)的算力基礎(chǔ)設(shè)施升級(jí)建議。而產(chǎn)業(yè)孵化器則通過整合上下游資源，為AI初創(chuàng)企業(yè)提供資金、算力和技術(shù)支持，推動(dòng)AI生態(tài)的繁榮發(fā)展。
作為智算行業(yè)的領(lǐng)軍企業(yè)，英博數(shù)科通過其創(chuàng)新的“單位有效算力成本”標(biāo)準(zhǔn)和全面的智算產(chǎn)品矩陣，為AI企業(yè)提供了從算力資源配置到成本優(yōu)化的全方位解決方案。這一戰(zhàn)略布局不僅彰顯了英博數(shù)科在智算領(lǐng)域的深厚實(shí)力，更為全球智能算力行業(yè)的高效化、可持續(xù)發(fā)展注入了強(qiáng)勁動(dòng)力。
