上海交通大學(xué)近日宣布，該校已成功實(shí)現(xiàn)了DeepSeek全系列模型在昇騰Atlas 800T A2算力集群上的本地化部署，這一壯舉標(biāo)志著該校成為國(guó)內(nèi)首個(gè)完成千億級(jí)大模型全棧國(guó)產(chǎn)化部署的高等學(xué)府。此次部署覆蓋了DeepSeek系列中的多個(gè)核心模型，如DeepSeek-R1和DeepSeek-V3，它們將廣泛應(yīng)用于教學(xué)、科研、管理以及服務(wù)等多個(gè)領(lǐng)域，為上海交通大學(xué)的人工智能基礎(chǔ)設(shè)施建設(shè)開啟了新的篇章。
此次成功的背后，離不開昇騰先進(jìn)架構(gòu)所提供的卓越性能以及原廠服務(wù)FAE的鼎力支持。這些關(guān)鍵因素共同為DeepSeek系列模型提供了強(qiáng)大的算力支撐。針對(duì)高校這一特殊應(yīng)用場(chǎng)景，上海交通大學(xué)與昇騰攜手實(shí)現(xiàn)了三大技術(shù)上的重大突破：
首先，在輕量化推理架構(gòu)方面，通過昇騰Ascend核間通信優(yōu)化技術(shù)，僅使用4臺(tái)Atlas 800服務(wù)器便能承載DeepSeek-R1和DeepSeek-V3這兩個(gè)擁有千億參數(shù)的模型進(jìn)行推理，硬件投入成本因此降低了65%。這一突破為高效利用資源、降低成本提供了有力保障。
其次，在動(dòng)態(tài)資源調(diào)度方面，借助昇騰AI原生算力平臺(tái)，上海交通大學(xué)實(shí)現(xiàn)了針對(duì)不同應(yīng)用場(chǎng)景的算力彈性分配。無論是教學(xué)、科研還是管理和服務(wù)場(chǎng)景，都能根據(jù)實(shí)際需求靈活調(diào)配算力資源，從而提高了資源利用率。
再者，在全棧自主可控方面，從昇騰處理器到MindSpore框架的深度適配，使得DeepSeek-V3在復(fù)雜數(shù)學(xué)推理任務(wù)中的端到端時(shí)延相比傳統(tǒng)方案有了顯著改善。這一突破進(jìn)一步增強(qiáng)了模型在處理復(fù)雜任務(wù)時(shí)的效率和穩(wěn)定性。
得益于華為昇騰的獨(dú)特優(yōu)勢(shì)，DeepSeek系列模型在推理效率上得到了顯著提升，同時(shí)成本也大幅降低。2025年2月4日，DeepSeek-V3、DeepSeek-R1以及Janus-Pro正式登陸華為昇騰社區(qū)，用戶只需一鍵操作即可獲取這些先進(jìn)的模型。
即日起，上海交通大學(xué)的師生們可通過網(wǎng)頁或APP申請(qǐng)?bào)w驗(yàn)“滿血版”的DeepSeek系列模型，無需再擔(dān)心深度思考功能受限或?qū)υ捥釂枱o響應(yīng)的問題。同時(shí)，上海交通大學(xué)鯤鵬昇騰科教創(chuàng)新卓越中心也將積極推動(dòng)DeepSeek系列模型與課程設(shè)計(jì)、科研創(chuàng)新等方面的深度融合，探索在AI技術(shù)加持下的全新學(xué)習(xí)與科研范式。
作為基于鯤鵬昇騰技術(shù)路線的校級(jí)生態(tài)合作平臺(tái)，鯤鵬昇騰科教創(chuàng)新卓越中心在校企合作、產(chǎn)教融合方面發(fā)揮著舉足輕重的作用。該卓越中心將持續(xù)推動(dòng)DeepSeek等重要AI創(chuàng)新成果在高校領(lǐng)域的落地應(yīng)用，進(jìn)一步將人工智能技術(shù)融入師生們的日常生活、學(xué)習(xí)和科研之中，引領(lǐng)他們勇攀世界科技高峰。
