智東西
作者 | ZeR0
編輯 | 漠影
智東西5月24日報道，作為加速計算的“守門員”，自ChatGPT引爆生成式AI熱潮后，NVIDIA（英偉達）憑借其旗艦計算芯片A100和H100 GPU在AI訓練領域無出其右的地位，在生成式AI賽道刷滿了存在感。今日，NVIDIA又接連宣布多個合作進展，進一步為企業提供加速AI應用的新工具。
在微軟Build開發者大會上，英偉達和微軟展示了采用英偉達RTX GPU的windows 11 PC和工作站的一系列改進，以滿足生成式AI的需求。此外，NVIDIA還宣布將NVIDIA AI Enterprise軟件套件集成到微軟的Azure機器學習中，以幫助企業加速推進AI計劃。
在戴爾科技集團全球大會上，戴爾科技集團與NVIDIA聯合發布用于安全、本地化部署生成式AI的Project Helix合作項目，旨在讓企業更方便在本地構建和使用生成式AI模型，從而實現快速、安全交付更好的客戶服務、市場情報、企業搜索等各種功能。
一、在Windows 11上輕松訓練和部署高級AI模型
NVIDIA和微軟今日展示的一系列進展，包括在Windows PC上開發AI的工具、優化和部署AI的框架、驅動程序性能和效率的改進。這些將使開發者能夠以生成式AI為核心，構建下一代Windows應用程序。
據介紹，超過400個Windows應用程序和游戲已經采用了AI技術，由RTX GPU上的Tensor Cores專用處理器加速。微軟Windows芯片和系統集成公司副總裁Pavan Davuluri說，通過與 NVIDIA在硬件和軟件優化方面的合作，微軟為開發人員提供了變革性的、高性能的、易于部署的體驗。
傳統上，AI開發在linux上進行，要求開發者要么雙啟動他們的系統，要么使用多臺PC在其AI開發操作系統中工作，同時仍然需要使用到Windows生態系統的資源。過去幾年，微軟一直在探索構建直接能在Windows操作系統中運行Linux的功能，并將該功能命名為Windows Subsystem for Linux（WSL）。
NVIDIA與微軟密切合作，為WSL內的整個NVIDIA AI軟件堆棧提供GPU加速和支持。開發者可使用Windows PC來滿足本地AI開發需求，并能用到WSL上GPU加速的深度學習框架。
由于NVIDIA RTX GPU在桌面工作站中提供了高達48GB的RAM，能滿足跑更大模型的需求。大內存也提高了AI模型局部微調的性能和質量。再加上相同的NVIDIA AI軟件堆棧在NVIDIA數據中心GPU上運行，開發者也能很方便地將他們的模型推送到微軟Azure云去進行大規模訓練。
微軟發布了優化PyTorch模型并將其轉換為ONNX的微軟Olive工具鏈，使開發者能自動利用RTX Tensor Cores等GPU硬件加速。開發者可以通過Olive或ONNX優化模型，將Tensor Core加速模型部署到PC或云端。
RTX Tensor Core可提供的AI推理算力高達1400 Tensor TFLOPS。去年NVIDIA一直致力于提高DirectML性能，以充分利用RTX硬件。NVIDIA將發布532.03版驅動程序中的最新優化，這些優化與Olive優化模型相結合，可大幅提升AI性能。使用Olive優化版本的Stable Diffusion文轉圖生成器和流行的Automatic1111發行版，新驅動程序的性能提高了2倍以上。
不久后，NVIDIA將推出新的Max-Q低功耗推理，用于RTX GPU上的AI工作負載。它優化了Tensor Core性能，同時保持GPU功耗盡可能低，延長電池壽命，保持系統涼爽、安靜。
NVIDIA和微軟正為開發人員提供多種資源，以便Windows PC上測試頂級生成式AI模型。Hugging Face上提供了Dolly 2.0大型語言模型的Olive優化版本。面向對話式AI的NVIDIA NeMo大型語言模型的PC優化版本也即將推出。開發者還可以學習如何端到端優化他們的應用程序，以通過NVIDIA AI充分利用GPU加速來加速應用程序開發人員站點。
微軟Windows平臺和NVIDIA動態AI硬件和軟件堆棧背后的互補技術將幫助開發者快速輕松地在Windows 11上開發和部署生成式AI。
二、NVIDIA AI企業軟件+Azure機器學習，加速企業就緒的生成式AI
除了方便開發者在PC上部署生成式AI應用外，NVIDIA還宣布將NVIDIA AI Enterprise軟件套件集成到微軟的Azure機器學習中，以創建一個安全、企業就緒的平臺，使全球Azure客戶能夠使用NVIDIA AI平臺的軟件層NVIDIA AI Enterprise全面支持的100多個NVIDIA AI框架和工具來快速構建、部署并管理應用程序。
通過Azure機器學習上集成的NVIDIA AI Enterprise，用戶還能夠訪問最高性能的NVIDIA加速計算資源，來加快AI模型的訓練和推理。NVIDIA AI Enterprise與Azure機器學習形成互補，同時還包括NVIDIA專家的幫助和支持。
微軟AI平臺副總裁John Montgomery說：“微軟Azure機器學習用戶期待的是性能最高、最安全的開發平臺。Azure機器學習與NVIDIA AI Enterprise軟件套件的集成使我們能夠滿足用戶的期望，讓企業和開發人員能夠輕松地訪問他們訓練和部署定制、安全的大型語言模型所需的一切。”
NVIDIA AI Enterprise包含100多個框架、預訓練模型和開發工具，例如NVIDIA RAPIDS用于加速數據科學負載，NVIDIA Metropolis可加速視覺AI模型開發，NVIDIA Triton Inference Server支持企業實現標準化的模型部署和執行，NVIDIA NeMo大型語言模型框架用于構建主題鮮明、安全可靠的生成式AI聊天機器人。
NVIDIA AI Enterprise與Azure機器學習的集成目前為有限技術預覽版，可通過在NVIDIA社區中注冊獲得。NVIDIA AI Enterprise還可在Azure Marketplace上使用，為全球企業提供了一個全面安全和完全支持的AI開發和部署的新選項。
此外，NVIDIA Omniverse Cloud平臺即服務現已在Microsoft Azure上提供面向企業的私有版本。Omniverse Cloud為開發者和企業提供了一個全棧云環境，用于大規模設計、開發、部署和管理工業元宇宙應用。
三、NVIDIA與戴爾聯手，讓企業安全本地化部署生成式AI
在戴爾科技集團全球大會上，戴爾科技集團與NVIDIA宣布了一個基于戴爾和NVIDIA基礎設施與軟件打造的合作項目Project Helix。
Project Helix將提供一系列包含技術專長和預構建工具的全棧式解決方案。通過戴爾提供的經過測試和優化的軟硬件產品組合，該項目極大簡化了企業生成式AI的部署，助力企業在保持數據隱私的同時，將數據轉化為更加智能和更高價值的成果，更輕松、負責任、準確地快速部署定制化的生成式AI應用。
戴爾科技集團副董事長兼聯席首席運營官Jeff Clarke說：“Project Helix為企業提供特制的AI模型，使企業可以更加快速、安全地從目前還未被充分利用的大量數據中獲得價值。通過高度可擴展的高效基礎設施，企業可以創造出新一批生成式AI解決方案，重塑他們所在的行業。”
NVIDIA創始人兼首席執行官黃仁勛談道，NVIDIA與戴爾科技集團一起設計出極具可擴展性的高效基礎設施，使企業能夠安全使用自己的數據來構建和運行生成式AI應用，從而推動業務的變革。
Project Helix將支持從基礎設施配置、建模、訓練、微調、應用開發和部署一直到部署推理和精簡結果等整個生成式AI的生命周期。
Dell PowerEdge服務器針對提升生成式AI訓練和AI推理性能做了優化，如采用NVIDIA H100 Tensor Core GPU和NVIDIA先進網絡技術的PowerEdge XE9680和PowerEdge R760xa。企業可將該基礎架構與Dell PowerScale和Dell ECS Enterprise Object Storage等具有彈性、可擴展的非結構化數據存儲搭配使用，進而使用戴爾服務器和存儲軟件中的企業功能，以及Dell CloudIQ軟件提供的可觀測能力。
Project Helix包含NVIDIA AI Enterprise軟件，可提供用于整個AI生命周期的工具；并將安全和隱私功能內置在基礎組件中，如Secured Component Verification。基于Project Helix項目的Dell Validated Designs將從今年7月起通過傳統渠道和APEX靈活的消費選項提供。
結語：生成式AI應用浪潮正加速推動企業創新
生成式AI正以AI聊天機器人、圖像生成應用、游戲渲染等形式迅速開創計算生產力的新時代。微軟Windows芯片和系統集成公司副總裁Pavan Davuluri認為，AI將成為未來幾年Windows客戶創新的最大推動力。
隨著生成式AI應用浪潮的到來，企業正在尋求安全的加速工具和服務，以推動創新。在NVIDIA創始人兼首席執行官黃仁勛看來，我們正處于一個歷史性時刻，生成式AI的驚人進步與企業對于事半功倍的需求彼此交織。
可以看到，NVIDIA今日宣布的一系列進展，都圍繞著企業在實際業務中構建與部署AI模型的切實需求。經過驗證的設計可以幫助企業快速大規模構建生成式AI基礎設施。在本地保護數據，可以降低固有風險，幫助企業滿足監管要求。
正如TECHnalysis Research總裁兼首席分析師Bob O’Donnell所言：“企業渴望探索生成式AI工具給自己的組織帶來的機會，但許多企業不清楚該從哪里入手。”
對于企業來說，NVIDIA與其生態伙伴們聯合推出的完善解決方案，相當于提供了一條能夠充分利用自己獨有資產、解決數據隱私問題、快速構建及運行定制化生成式AI的捷途。
