飛騰信息技術(shù)有限公司近日宣布了一項(xiàng)重要技術(shù)突破，其旗下的騰云S5000C與騰銳D3000處理器已成功實(shí)現(xiàn)對(duì)DeepSeek全系列大模型的全面支持。這一成就覆蓋了數(shù)據(jù)中心和終端場(chǎng)景，且在本地部署的推理效率上，與國(guó)外同類產(chǎn)品架構(gòu)解決方案相媲美。
據(jù)悉，DeepSeek-V2.5 236B大模型已在飛騰騰云S5000C平臺(tái)上實(shí)現(xiàn)了穩(wěn)定運(yùn)行。在配備8塊國(guó)產(chǎn)AI卡的條件下，該平臺(tái)的整體性能接近國(guó)外平臺(tái)性能的80%。隨著DeepSeek-V3和R1版本的發(fā)布，飛騰技術(shù)團(tuán)隊(duì)迅速在騰云S5000C和騰銳D3000上進(jìn)行了本地部署驗(yàn)證，從而形成了一套完整的解決方案。
在數(shù)據(jù)中心方面，飛騰騰云S5000C服務(wù)器能夠與多款A(yù)I加速卡協(xié)同工作，實(shí)現(xiàn)DeepSeek蒸餾版和全量版的部署。飛騰AI實(shí)驗(yàn)室在單機(jī)8卡服務(wù)器平臺(tái)上進(jìn)行了DeepSeek-R1-Distill-Llama-70B版本的測(cè)試，推理速度達(dá)到了每秒22個(gè)tokens。而對(duì)于完整版DeepSeek R1 671B模型，采用分布式推理框架，基于四機(jī)32卡AI服務(wù)器集群成功部署。
在用戶終端方面，基于飛騰騰銳D3000的臺(tái)式機(jī)能夠本地部署DeepSeek-R1 7B蒸餾版模型。僅需搭配1張國(guó)產(chǎn)推理卡，即可實(shí)現(xiàn)AI PC功能，為用戶提供強(qiáng)大的終端計(jì)算能力。
關(guān)于飛騰騰云S5000C，這款處理器擁有64核、32核、16核三種形態(tài)，兼容ARMv8指令集，并支持硬件虛擬化。它適用于計(jì)算服務(wù)器、存儲(chǔ)服務(wù)器、AI服務(wù)器、高端網(wǎng)安以及大型互聯(lián)網(wǎng)數(shù)據(jù)中心等多種場(chǎng)景。
另一方面，飛騰騰銳D3000集成了8個(gè)飛騰自主研發(fā)的新一代高性能處理器核FTC862。它兼容64位ARMv8指令集，支持ARM64和ARM32兩種執(zhí)行模式，并具有單精度和雙精度浮點(diǎn)運(yùn)算指令以及ASIMD處理指令。主頻高達(dá)2.5GHz，同樣支持硬件虛擬化，適用于商業(yè)和工業(yè)分級(jí)。
