近日，飛騰平臺宣布全面支持DeepSeek全系列大模型，這一舉措涵蓋了飛騰騰云S5000C與騰銳D3000處理器，廣泛適用于數(shù)據(jù)中心及終端應(yīng)用場景，展現(xiàn)出卓越的性能表現(xiàn)。
在DeepSeek-V3與R1版本面世后，飛騰迅速行動，在騰云S5000C與騰銳D3000平臺上進(jìn)行了詳盡的本地部署驗證，成功構(gòu)建了一整套端到端的國產(chǎn)平臺DeepSeek大模型智能計算環(huán)境。特別是在數(shù)據(jù)中心領(lǐng)域，騰云S5000C服務(wù)器與多款國產(chǎn)AI加速卡的協(xié)同工作，使得DeepSeek蒸餾版與全量版得以順利部署。
據(jù)官方實際測試數(shù)據(jù)揭示，飛騰騰云S5000C配合8張國產(chǎn)AI加速卡使用時，DeepSeek-R1-Distill-Llama-70B版本的推理速度驚人，每秒可處理22個tokens，其本地部署的推理效率與海外同類產(chǎn)品旗鼓相當(dāng)，整體性能達(dá)到了國外平臺性能的約80%。DeepSeek R1 671B的完整版模型也已在由四臺機(jī)器、32張AI加速卡組成的服務(wù)器集群上，通過分布式推理框架成功部署。
在用戶終端層面，基于騰銳D3000處理器與銀河麒麟V10操作系統(tǒng)的臺式機(jī)，同樣展現(xiàn)出了強(qiáng)大的本地部署能力。通過搭載DeepSeek-R1 7B蒸餾版模型及1張國產(chǎn)推理卡，這些臺式機(jī)已具備了AI PC的功能，為用戶提供了一個安全可靠的本地知識助手。
飛騰平臺此番對DeepSeek全系列大模型的全面支持，不僅進(jìn)一步拓寬了國產(chǎn)處理器在AI領(lǐng)域的應(yīng)用范圍，也為數(shù)據(jù)中心與終端用戶帶來了更為高效、智能的解決方案，標(biāo)志著國產(chǎn)平臺在AI技術(shù)領(lǐng)域的又一重大突破。
