在近日由中國信息通信研究院主辦的“GOLF+IT新治理領導力論壇”上，阿里云正式揭曉了其全棧AI負載高可用架構，這一創新方案旨在滿足AI大模型在企業級應用中對于云服務處理能力的嚴苛要求，特別是在大規模參數量、復雜結構以及高性能算力背景下，確保可擴展性、服務連續性、服務質量和快速故障恢復。
阿里云此次發布的架構，核心目標是為生成式AI提供持續卓越的用戶體驗。具體而言，該架構能夠實現GPU故障預測準確率高達92%，在千卡規模集群中，連續訓練的有效時長超過99%，同時支持秒級模型自動保存和分鐘級故障恢復。它還具備每分鐘擴展10000個pod的能力，實現分鐘級自動擴容，以及核心模型服務99.99%的API SLA，確保模型應用服務的全鏈路可觀測性。這些特性在大規模數據處理和訓推場景下，為Gen AI應用的業務連續性、響應速度、穩定性和安全性提供了全面保障。
在論壇期間，2025年中國數字化治理領域的最新評估結果也同步揭曉，阿里云憑借出色的表現，成為首批通過信通院“企業用云治理能力成熟度評估”的兩家企業之一，并榮獲該項評估的最高等級。這一榮譽不僅是對阿里云在云治理能力上的認可，也體現了其在推動企業數字化轉型方面的卓越貢獻。
隨著AI算力需求的不斷增長，以GenAI為代表的應用場景和技術正以前所未有的速度發展。云上企業需要處理的數據量呈指數級增長，AI驅動的應用在高負載環境下對業務連續性、響應速度、穩定性和安全性提出了更高要求。阿里云在升級云平臺技術服務能力的同時，將GPU、異構算力集群、容器集群、存儲、向量數據庫、機器學習平臺等全面融入云平臺架構設計，構建了全棧AI負載高可用架構。
在高可用模型訓練方面，阿里云將AI基礎設施的高可用能力融入云服務整體架構設計，通過基于AI算法的故障預測，實現訓推環節的性能瓶頸分析和潛在故障分析。GPU故障預測準確率高達92%，同時接入異常預測自愈鏈路，訓練恢復自愈率超過90%。CPFS高性能存儲集群在超大集群中具備20TB/s的吞吐能力，支持更大、更頻繁的Checkpoint讀寫，有效防止數據丟失，提升訓練的穩定性和可靠性。阿里云自研的高性能網絡則采用業界首創的雙平面高可用網絡架構，確保網絡Link和設備中斷時，訓練任務不中斷。
在推理資源方面，阿里云容器計算服務ACS的彈性擴展能力每分鐘可完成10000個pod的擴展，實現分鐘級自動擴容。PAI-EAS模型在線服務適用于多種AI推理場景，包括實時推理和近實時異步推理，能夠感知每個請求的執行進度，實現更公平的任務調度，提高擴縮容效率。同時，阿里云將跨區域的主動式重路由技術應用于數據中心間通信，達到跨域帶寬業界最高的99.995% SLA，實現秒級內重新路由，提供穩定的網絡通信延遲。
對于實時語音交互、實時AI搜索等高性能場景下的推理需求，阿里云百煉模型服務平臺基于預訓練模型為用戶提供模型推理與應用構建托管服務。核心模型服務API的SLA達到99.99%，高性能場景核心用戶用例中的首包延時小于300毫秒，有效解決應用開發、模型調用過程中的跨區域TPM限制和高并發需求下API響應變慢等問題，提升用戶體驗。
在數據高可靠方面，阿里云數據存儲與數據庫服務針對不同計算引擎和多種AI框架進行了深度集成，形成了承載PB級甚至EB級大規模數據的統一存儲底座。同城冗余容災能力高達99.995% SLA，數據多副本冗余、大文件斷點續傳、批量和多線程數據操作確保數據服務的高可靠性。這一架構支持面向單AZ、雙AZ、三AZ及跨Region的高可用服務，實現跨Region AI數據的就近讀寫和負載均衡，滿足AI數據多活的強一致性要求。
在AI時代的浪潮中，阿里云不僅通過全棧AI負載高可用架構為企業奠定了堅實的技術基礎，還致力于與用戶共同構建一個AI-Native的智能化、自動化和可持續的IT治理體系。阿里云推出的卓越架構Well-Architeched framework旨在幫助企業在云上構建一個安全、穩定、高效的應用環境。該框架根據云計算的彈性、實時交付和自助化等特點，進一步升級了用云企業運維管理和治理規則基線的最佳實踐。
阿里云開放平臺負責人表示，構建可靠的系統是云廠商與用戶共同的責任。云廠商負責提供云平臺的可靠性，確保云服務可用性符合或超過阿里云服務等級協議；用戶則需要根據業務需求選擇合適的產品服務，并根據云相關文檔的指導搭建高可用架構，確保云上應用的可靠性。在AI迅猛發展的背景下，企業應讓業務系統利用現代云平臺的基礎設施達到高可用，實現面向失敗的設計架構、面向精細的運維管控以及面向風險的應急快恢。
阿里云在企業用云治理能力方面取得了顯著成就。根據信通院發布的《企業用云治理能力成熟度分級要求》，阿里云測評結果為L4+，這是目前階段云服務提供商實際獲得的最高等級。此前，阿里云的企業用云治理能力已多次獲得信通院的認可，并聯合埃森哲發布了《云治理企業成熟度發展2024年度報告》。該報告基于400多家企業客戶的調研數據，旨在幫助用戶理解云治理概念、企業用云實踐的現狀及變遷趨勢，并為面向AI時代的IT新治理和云上架構優化提供參考與決策依據。
