為了滿(mǎn)足AI應(yīng)用的需求，各地都在積極上馬智算中心。區(qū)別于傳統(tǒng)的數(shù)據(jù)中心，智算中心的建設(shè)與運(yùn)維是一個(gè)新的課題，也面臨新的挑戰(zhàn)：智算中心投資規(guī)模巨大，平臺(tái)能力與運(yùn)營(yíng)效率將成為運(yùn)作的關(guān)鍵；從技術(shù)和運(yùn)營(yíng)的角度來(lái)看，智算中心的建設(shè)更加專(zhuān)業(yè)且復(fù)雜；從數(shù)據(jù)的隱私性和屬地性特征來(lái)看，智算中心建設(shè)更加分散，運(yùn)營(yíng)能力參差不齊；智算中心要更好地支持業(yè)務(wù)的多樣化。
解決上述問(wèn)題，關(guān)鍵是需要一個(gè)算力調(diào)度平臺(tái)。9月19日，青云科技AI算力調(diào)度平臺(tái)正式發(fā)布。AI算力調(diào)度平臺(tái)是智算中心運(yùn)營(yíng)者的核心工具，它主要面向智算中心現(xiàn)在的投資者和未來(lái)的運(yùn)營(yíng)者。“濟(jì)南超算這樣的成功案例已經(jīng)說(shuō)明，我們的AI算力調(diào)度平臺(tái)具備客戶(hù)所需的完整能力；三年前，我們就已經(jīng)具備了開(kāi)發(fā)AI算力調(diào)度平臺(tái)的能力；我們的AI算力調(diào)度平臺(tái)得到了實(shí)踐檢驗(yàn)，濟(jì)南超算不僅運(yùn)營(yíng)得很好，而且還實(shí)現(xiàn)了盈利。”林源表示，“這就是青云科技的新機(jī)會(huì)。作為一家中立的云服務(wù)商，青云科技會(huì)與生態(tài)伙伴緊密協(xié)作，站在用戶(hù)的背后，提供智算中心所需的產(chǎn)品和服務(wù)的支撐，為用戶(hù)提供更好的選擇。”
“我們將所有與AI、GPU相關(guān)的產(chǎn)品，獨(dú)立提出來(lái)，并結(jié)合以前的整體智算解決方案，最終打造出現(xiàn)在的AI算力調(diào)度平臺(tái)。”青云科技產(chǎn)品經(jīng)理苗慧介紹說(shuō)，“我們的AI算力調(diào)度平臺(tái)可以實(shí)現(xiàn)多區(qū)域、多地點(diǎn)，面向不同業(yè)務(wù)進(jìn)行算力調(diào)度。”
歸納來(lái)說(shuō)，青云科技AI算力調(diào)度平臺(tái)主要從以下四個(gè)維度進(jìn)行研發(fā)和優(yōu)化：為國(guó)內(nèi)外多種架構(gòu)的芯片提供支持和優(yōu)化；所有資源和產(chǎn)品一旦進(jìn)入云平臺(tái)，青云科技就會(huì)提供全生命周期的管理；面向AIGC，青云科技做了大量業(yè)務(wù)化的實(shí)踐；實(shí)現(xiàn)更多的自動(dòng)化，讓非計(jì)算機(jī)行業(yè)的用戶(hù)也能一鍵運(yùn)行其數(shù)據(jù)、業(yè)務(wù)和模型等。
本次發(fā)布的青云科技AI算力調(diào)度平臺(tái)具有九大關(guān)鍵能力：多區(qū)多業(yè)務(wù)資源整合、混合組網(wǎng)、容器推理服務(wù)平臺(tái)、分布式調(diào)度與管理、算法開(kāi)發(fā)支持、模型倉(cāng)庫(kù)（MaaS）、AI訓(xùn)練平臺(tái)、靈活調(diào)度、高速并行存儲(chǔ)。
相比其他的AI調(diào)度平臺(tái)，青云科技AI算力調(diào)度平臺(tái)的差異化具體表現(xiàn)在：針對(duì)大集群（比如上百臺(tái)機(jī)器的集群），青云科技研發(fā)了更加優(yōu)化的調(diào)度算法，比如在親和政策、反親和政策以及調(diào)度的鏈路標(biāo)簽上，做到盡可能地調(diào)度同一個(gè)交換機(jī)，讓數(shù)據(jù)少繞路; 在應(yīng)用環(huán)境上，青云科技采用Kubernetes和Slurm兩種調(diào)度平臺(tái)同時(shí)為客戶(hù)服務(wù)，并且是完全集成好的，在顆粒度和運(yùn)維傳統(tǒng)機(jī)器方面也有更多優(yōu)化。
