【ITBEAR科技資訊】4月14日消息，騰訊云宣布發(fā)布面向大模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群。該計算集群搭載NVIDIA H800 Tensor Core GPU，能夠提供高性能、高帶寬、低延遲的算力支撐。而針對大模型訓練，計算集群有著訓練框架AngelPTM，該框架對內支持了騰訊混元大模型的訓練，并在去年10的的萬億參數(shù)大模型訓練中，成功將時間縮短了80%。
據(jù)ITBEAR科技資訊了解，新的HCC計算集群能夠將大模型的訓練時間從上一代的11天壓縮至4天，有效節(jié)省了大量時間。該計算集群的整體性能比過去提升了3倍，堪稱國內目前性能最強的大模型計算集群。此外，騰訊用于AI推理的自研芯片紫霄已經完成量產，它采用自研存算架構與加速模塊，能夠提供高達3倍的計算加速性能，以及超過45%的整體成本節(jié)省。
騰訊云提供的大模型能力與工具箱，也能夠幫助企業(yè)根據(jù)具體需求和場景精調訓練，從而進一步提升效率，實現(xiàn)AI應用的快速部署。而針對大模型訓練，計算集群有著訓練框架AngelPTM，該框架對內支持了騰訊混元大模型的訓練，并在去年10的的萬億參數(shù)大模型訓練中，成功將時間縮短了80%。該計算集群搭載NVIDIA H800 Tensor Core GPU，能夠提供高性能、高帶寬、低延遲的算力支撐。
