在 CPU 與加速卡之間，以及加速卡之間形成的芯片互聯(lián)技術(shù)被更多的采用，雖然 PCIe 有著非常通用的標準化設(shè)計，但帶寬有限將會產(chǎn)生瓶頸。以 CXL 和 Gen-Z 為代表的等下一代互聯(lián)技術(shù)取得快速發(fā)展，DPU 作為各種高速互聯(lián)協(xié)議融合的沙盒，最適合成為靈活的高速互聯(lián)載體，通過采用和擴展“以內(nèi)存為中心”的互聯(lián)協(xié)議，將帶來在單個機箱外部擴展亞微秒級延遲技術(shù)的機會，為下一代計算架構(gòu)創(chuàng)新創(chuàng)造可能性。
?DPU 發(fā)展有望進入快車道。DPU（數(shù)據(jù)處理芯片 Data Process Unit）被認為是繼 CPU 和 GPU 之后的“第三顆主力芯片”。得益于智能網(wǎng)卡方案的逐步成熟，疊加全球通用服務(wù)器出貨量的穩(wěn)定增長、L3 以上級別智能駕駛汽車的技術(shù)落地、工業(yè)控制領(lǐng)域的需求增加等原因，全球、國內(nèi) DPU 產(chǎn)業(yè)都有望實現(xiàn)快速發(fā)展。
全球 DPU 市場高景氣延續(xù)，國內(nèi) DPU 市場加速追趕。據(jù)賽迪顧問《??中國DPU行業(yè)發(fā)展白皮書??》，2020 年全球 DPU 產(chǎn)業(yè)市場規(guī)模達 30.5 億美元，預(yù)計到 2025 年全球 DPU 產(chǎn)業(yè)市場規(guī)模將超過 245.3 億美元，復(fù)合增速達 51.73%。
2020 年中國 DPU 產(chǎn)業(yè)市場規(guī)模達 3.9 億元，預(yù)計到 2025 年中國 DPU 產(chǎn)業(yè)市場規(guī)模將超過 565.9 億元，復(fù)合增速達 170.6%。
DPU 產(chǎn)業(yè)鏈分析：
DPU 中游環(huán)節(jié)（DPU 芯片廠商）：海外巨頭暫時領(lǐng)先，國產(chǎn)廠商蓄勢待發(fā)。根據(jù)頭豹研究院數(shù)據(jù)，2020 年國內(nèi) DPU 市場中，國際三大巨頭英偉達，博通，Intel 份額分別達到 55%、36%、9%。國內(nèi)廠商中，華為，阿里，百度，騰訊也在近幾年針對自身服務(wù)器進行自研與外購 DPU，針對的主要功能在于數(shù)據(jù)，存儲與安全方面。
DPU 上游環(huán)節(jié)：EDA、IP 等均為研發(fā)重要基礎(chǔ)。國內(nèi) EDA 市場長期由國際三大巨頭占據(jù)，未來有望迎來突破。供需合力孕育 IP 核產(chǎn)業(yè)，未來需求打開新增通道。半導(dǎo)體國產(chǎn)化持續(xù)演進，國內(nèi) IP 供應(yīng)商將占據(jù)稀缺性價值高地，包括寒武紀、芯原股份等。
DPU 下游應(yīng)用：多點開花，未來前景廣闊。DPU 核心市場圍繞數(shù)據(jù)中心展開，以服務(wù)器為硬件載體，下游場景覆蓋云計算，高性能計算，網(wǎng)絡(luò)安全，邊緣計算等多個領(lǐng)域。從我國范圍看，高新技術(shù)、數(shù)字化轉(zhuǎn)型及終端消費等多樣化算力需求場景不斷涌現(xiàn)，算力賦能效應(yīng)凸顯。
ChatGPT 等 AI 技術(shù)發(fā)展大趨勢下，算力需求凸顯，DPU 有望迎來黃金發(fā)展期，全球、國內(nèi) DPU 產(chǎn)業(yè)市場規(guī)模呈現(xiàn)逐年增長的趨勢，核心企業(yè)有望受益于行業(yè)發(fā)展趨勢。
DPU 有望成為“第三顆主力芯片”
DPU（數(shù)據(jù)處理芯片 Data Process Unit）被認為是繼 CPU 和 GPU 之后的“第三顆主力芯片”。DPU（Data Processing Unit）是新近發(fā)展起來的一種專用處理器。2020 年 NVIDIA 公司發(fā)布的 DPU 產(chǎn)品戰(zhàn)略中將其定位為數(shù)據(jù)中心繼CPU 和 GPU 之后的“第三顆主力芯片”。隨著芯片業(yè)制造工藝的不斷精進，以及數(shù)字化技術(shù)如 AI 的發(fā)展，芯片行業(yè)不斷推陳出新。DPU 作為新型芯片的一種，它的出現(xiàn)是異構(gòu)計算的一個階段性標志。
1、算力提升與數(shù)據(jù)增幅呈現(xiàn)剪刀差，DPU 需求凸顯
DPU 是以數(shù)據(jù)處理為核心的專用數(shù)據(jù)處理單元，是對傳統(tǒng)計算資源的網(wǎng)絡(luò)、安全和存儲的卸載平臺。傳統(tǒng)數(shù)據(jù)中心以 CPU 為主要數(shù)據(jù)處理單元，通常龐大的基礎(chǔ)架構(gòu)的運行已占據(jù)相當(dāng)一部分 CPU 核，給數(shù)據(jù)處理任務(wù)帶來非常大的挑戰(zhàn)。
DPU 其實在行業(yè)內(nèi)已經(jīng)孕育已久，從早期的網(wǎng)絡(luò)協(xié)議處理卸載，到后續(xù)的網(wǎng)絡(luò)、存儲、虛擬化卸載。
根據(jù)摩天輪數(shù)據(jù)，Amazon 的 AWS 早在 2013 年研發(fā)了 Nitro 產(chǎn)品，將數(shù)據(jù)中心開銷（為虛機提供遠程資源、加密解密、故障跟蹤、安全策略等服務(wù)程序）全部放到專用加速器上執(zhí)行。Nitro 架構(gòu)采用輕量化 Hypervisor 配合定制化的硬件，將虛擬機的計算（主要是 CPU 和內(nèi)存）和 I/O（主要是網(wǎng)絡(luò)和存儲）子系統(tǒng)分離開來，通過 PCIe 總線連接，節(jié)省了 30%的 CPU 資源。
2016-2017 年，阿里云就提出 X-Dragon 系統(tǒng)架構(gòu)，其核心是 MOC 卡，且有比較豐富的對外接口，也包括了計算資源、存儲資源和網(wǎng)絡(luò)資源。MOC 卡的核心 X-Dragon SOC，統(tǒng)一支持網(wǎng)絡(luò)，I/O、存儲和外設(shè)的虛擬化，為虛擬機、裸金屬、容器云提供統(tǒng)一的資源池。
根據(jù)網(wǎng)易、芯東西數(shù)據(jù)，2019 年，美國一家初創(chuàng)公司 Fungible 推出產(chǎn)品 F1DPU，第一次提出了 DPU 的概念。2020 年 10 月，英偉達將基于 Mellanox 方案的 Smart NIC 命名為 DPU，重新定義了 DPU 的概念。2020 年，英偉達公司發(fā)布的 DPU 產(chǎn)品戰(zhàn)略中將其定位為繼 CPU 和 GPU 之后數(shù)據(jù)中心的“第三顆主力芯片”，掀起了行業(yè)熱潮。
2、以降本增效為目標，DPU 直擊行業(yè)痛點
DPU 要解決的核心問題是基礎(chǔ)設(shè)施的“降本增效”，即將“CPU 處理效率低下、GPU 處理不了”的負載卸載到專用 DPU，提升整個計算系統(tǒng)的效率，降低整體系統(tǒng)的總體擁有成本（TCO）。
CPU 資源負載過大為行業(yè)痛點，智能網(wǎng)卡（Smart NIC）為 DPU 前身。在通信領(lǐng)域，伴隨著 5G、云網(wǎng)融合時代的到來，以及虛擬交換等技術(shù)的引入，基于服務(wù)器的網(wǎng)絡(luò)數(shù)據(jù)平面的復(fù)雜性急劇增加。海量的數(shù)據(jù)搬運工作被 CPU 承擔(dān)，導(dǎo)致網(wǎng)絡(luò)接口帶寬急劇增加，CPU 資源負載過大，大大影響了 CPU 將計算能力釋放到應(yīng)用程序中，為了提高主機 CPU 的處理性能，Smart NIC（智能網(wǎng)卡）將部分CPU 的網(wǎng)絡(luò)功能（如 IP 分片、TCP 分段等）轉(zhuǎn)移到網(wǎng)卡硬件中，起到了加速運算的目的，其可視為 DPU 的前身。新一代的 DPU 的優(yōu)勢在于不僅可以作為運算的加速引擎，還具備控制平面的功能，可以更高效的完成網(wǎng)絡(luò)虛擬化、I/O 虛擬化、存儲虛擬化等任務(wù)，并徹底將 CPU 的算力釋放給應(yīng)用程序。
功能方面，DPU 具備集成基礎(chǔ)業(yè)務(wù)、網(wǎng)絡(luò)數(shù)據(jù)加速、零信任保護、算存分離等多種功能?？捎行Ы鉀Q當(dāng)前 CPU 算力無法完全作用到應(yīng)用程序，數(shù)據(jù)處理速度慢，授信導(dǎo)致的數(shù)據(jù)泄露，存儲方案兼容性差等諸多問題。具體來說：
1.DPU 實現(xiàn)了業(yè)務(wù)與基礎(chǔ)設(shè)施的操作分離。DPU 將基礎(chǔ)設(shè)施任務(wù)從 CPU 轉(zhuǎn)移至 DPU，釋放 CPU 的資源，使更多的服務(wù)器 CPU 核可用于運行應(yīng)用程序，完成業(yè)務(wù)計算，從而提高服務(wù)器和數(shù)據(jù)中心的效率。
2.DPU 卸載網(wǎng)絡(luò)數(shù)據(jù)，實現(xiàn)性能提升。DPU 針對云原生環(huán)境進行了優(yōu)化，提供數(shù)據(jù)中心級的軟件定義和硬件加速的網(wǎng)絡(luò)、存儲、安全和管理等服務(wù)。根據(jù)程序員客棧數(shù)據(jù)，紅帽 Red Hat 的容器化云平臺即服務(wù)(PaaS)0penShift 上，借助 DPU優(yōu)化數(shù)據(jù)中心資源利用率，將網(wǎng)絡(luò)相關(guān)的數(shù)據(jù)處理（如 VxLan 和 IPSec 等）卸載到 DPU 加速執(zhí)行，在 25Gb/s 網(wǎng)絡(luò)條件下，Open Shift 部署 DPU 用來加速，可以只用 1/3 的 CPU 占用率來達到 25Gb/s 性能，而在 100Gb/s 網(wǎng)絡(luò)條件下，未部署 DPU 的場景將達不到 100Gb/s 網(wǎng)絡(luò)線速，DPU 可以帶來 10 倍的性能優(yōu)勢。
3.DPU 可以提供零信任安全保護，零信任(Zero Trust)是一種以安全性為中心的模型，其基于以下思想︰企業(yè)不應(yīng)對其內(nèi)外的任何事物授予默認信任選項。零信任可以減少數(shù)據(jù)泄露、拒絕未授權(quán)的訪問，因此在數(shù)據(jù)安全方面價值很大。
方式：DPU 通過將控制平面由主機下放到了 DPU，來為企業(yè)提供零信任保護，實現(xiàn)主機業(yè)務(wù)和控制平面的完全隔離，數(shù)據(jù)將無法進行穿透，保證安全性。
DPU 的出現(xiàn)相當(dāng)于為每個服務(wù)器配備了一臺“計算機前的計算機”，以提供獨立、安全的基礎(chǔ)設(shè)施服務(wù)，并與服務(wù)器應(yīng)用域安全隔離。如果主機遭受入侵，安全控制代理與被入侵主機之間的 DPU 隔離層可防止攻擊擴散至整個數(shù)據(jù)中心。這樣 DPU就解決了企業(yè)不愿直接在計算平臺上部署安全代理的情況。通過在完全隔離于應(yīng)用程序域的DPU 上部署安全代理，企業(yè)不僅能獲得對應(yīng)用程序工作負載的可見性，還能在其基礎(chǔ)設(shè)施中執(zhí)行一致的安全策略。
4.DPU 助力實現(xiàn)“算存分離”，BlueField SNAP 技術(shù)方案通過在服務(wù)器系統(tǒng)的數(shù)據(jù)入口處引入計算資源，在 DPU 上獨立實現(xiàn)面對應(yīng)用需求的存儲方案，幫助存儲廠商在數(shù)據(jù)中心中低成本地靈活部署、升級高級存儲協(xié)議，而完全不需要對現(xiàn)有軟件棧進行任何更改。存儲廠商可以把自家團隊為各行業(yè)應(yīng)用開發(fā)的開放系統(tǒng)的直連式存儲(DAS)、縱向擴展(Scale-up)、橫向擴展(Scale-out)、超融合架構(gòu)(Hyperconverged)等存儲解決方案，零開銷地推廣到各個應(yīng)用領(lǐng)域的現(xiàn)有業(yè)務(wù)處理平臺和數(shù)據(jù)中心基礎(chǔ)架構(gòu)中，而所有的安全加密、數(shù)據(jù)壓縮、負載均衡等復(fù)雜又必須的功能則完全由 DPU 透明地卸載。存儲行業(yè)的革新算法和實現(xiàn)，可以在 DPU架構(gòu)中，獨立于服務(wù)器操作系統(tǒng)進行部署。DPU 技術(shù)幫助存儲廠商實現(xiàn)真正的“算存分離”，完全發(fā)揮自家產(chǎn)品的技術(shù)優(yōu)勢，打通最高效服務(wù)應(yīng)用需求的通路。
3、依托智能網(wǎng)卡化繭成蝶，F(xiàn)PGA 及混合架構(gòu)路線為主流
Smart NIC 可以被看作 DPU 的前身，包含基于多個 CPU 內(nèi)核的 ASIC 和基于 FPGA 的智能網(wǎng)卡等類型。隨著技術(shù)的發(fā)展，F(xiàn)PGA、ASIC 和 SoC 也在相互融合，它們之間的界限越來越模糊。例如，隨著 FPGA 的發(fā)展，現(xiàn)在很多 FPGA 內(nèi)部集成了硬核，這種硬核就是傳統(tǒng)意義上的 ASIC；從硬件可編程的角度來看，SoC 與 FPGA 相反，它可以看作 ASIC，這里的 ASIC 主要指硬件不可編程，而不是單指特定功能芯片。
NIC 代表網(wǎng)絡(luò)接口卡。實際上，NIC 是一種插入服務(wù)器或存儲盒以連接到以太網(wǎng)網(wǎng)絡(luò)的 PCIe 卡?；?DPU 的 Smart NIC 超越了簡單的連接，在基礎(chǔ) NIC 的情況下，在 NIC 上實現(xiàn)了 CPU 必須執(zhí)行的網(wǎng)絡(luò)流量處理。
基于 DPU 的 Smart NIC 可以是基于 ASIC、FPGA 和 SoC 的。在這些不同的路線之間，在成本、編程的易用性和靈活性方面存在各種權(quán)衡。1）ASIC 具有成本效益，可能提供最佳性價比，但靈活性有限?；?ASIC 的 NIC，如 NVIDIA ConnectX-5，可以具有相對簡單的可編程數(shù)據(jù)路徑。最終，該功能基于 ASIC 中定義的功能而受到限制，這可能會阻止支持某些工作負載。2）相比之下，F(xiàn)PGA NIC（如 NVIDIA Innova-2 Flex）具有高度可編程性。只要有足夠的時間和精力，就可以在可用門的約束范圍內(nèi)相對高效地支持幾乎任何功能。然而，眾所周知，F(xiàn)PGA 編程困難且價格昂貴。3）對于更復(fù)雜的用例，SOC（如 Mellanox BlueField DPU–可編程智能網(wǎng)卡）提供了似乎是最好的基于 DPU 的 Smart NIC 實現(xiàn)。
4、DPU核心價值在于算力的卸載釋放與擴展，異構(gòu)算力互聯(lián)推動 DPU 多領(lǐng)域高速發(fā)展
1.算力卸載：即利用 DPU 集成一部分數(shù)據(jù)處理的基本功能，然后將這些功能從 CPU 中卸載下來，以提升 CPU 針對部分應(yīng)用的算力。DPU 的部分價值體現(xiàn)在節(jié)省這部分算力的成本-DPU 自身的成本。因此 DPU 節(jié)省的算力越多，或 DPU 的成本越低，其帶來的價值越高。與此同時，由于 DPU 的專用化，DPU 將部分涉及網(wǎng)絡(luò)、存儲、安全、管理相關(guān)的控制功能卸載之后，還將使得業(yè)務(wù)性能得以提升，因此 DPU 的另一部分價值在于其可為業(yè)務(wù)節(jié)省的時間與使用體驗。
根據(jù)技術(shù)鄰數(shù)據(jù)，在大型數(shù)據(jù)中心的場景之中，DPU 的算力卸載功能可用于減少數(shù)據(jù)中心稅。由于在數(shù)據(jù)中心流量處理占了計算 30%的資源，AWS 將這些還未運行業(yè)務(wù)程序，先接入網(wǎng)絡(luò)數(shù)據(jù)就要占去的計算資源稱為“數(shù)據(jù)中心稅（Data center Tax）”。
在數(shù)據(jù)安全場景中，DPU 由于其獨立、安全的架構(gòu)，可將部分加密、解密算法固化在 DPU硬件之中，以物理隔離的方式解決用戶在海量數(shù)據(jù)的數(shù)據(jù)安全問題，為外部網(wǎng)絡(luò)業(yè)務(wù)租戶之間提供額外的安全層。
2. 根據(jù)中國信通院數(shù)據(jù)，算力釋放：算力釋放無需 CPU 介入多次訪問內(nèi)存和外設(shè)，避免不必要的數(shù)據(jù)搬運，拷貝和上下文的切換，直接在網(wǎng)卡硬件上對數(shù)據(jù)完成處理并交付給最終消費數(shù)據(jù)的應(yīng)用。傳統(tǒng)以 CPU 為中心的計算機體系結(jié)構(gòu)在處理數(shù)據(jù)的過程中需要多次在內(nèi)核和應(yīng)用之間拷貝和訪問數(shù)據(jù)，帶來的是極大的性能損耗。以數(shù)據(jù)為中心的 DPU 架構(gòu)則可以有效改善 CPU 過度參與數(shù)據(jù)處理的問題，在數(shù)據(jù)處理的過程中不需要 CPU 參與，直接將數(shù)據(jù)送達應(yīng)用、相關(guān)的 GPU或者存儲設(shè)備，能夠有效避免性能瓶頸和由于 CPU 負載過大而引發(fā)的異常。
DPU 架構(gòu)和技術(shù)，使服務(wù)器上運行的業(yè)務(wù)應(yīng)用和操作系統(tǒng)內(nèi)核，用簡單的本地存儲訪問 API，就能實現(xiàn)對分布式、超融合或軟件定義存儲系統(tǒng)的高效透明訪問。存儲廠商可以把為各行業(yè)應(yīng)用開發(fā)的直連式存儲(DAS)、縱向擴展(Scale-up)、橫向擴展(Scale-out)、超融合架構(gòu)(Hyperconverged)等存儲解決方案，零開銷地推廣到各個應(yīng)用領(lǐng)域的現(xiàn)有業(yè)務(wù)處理平臺和數(shù)據(jù)中心基礎(chǔ)架構(gòu)中，而所有的安全加密、數(shù)據(jù)壓縮、負載均衡等復(fù)雜又必須的功能則完全由 DPU 透明地卸載。存儲行業(yè)的革新算法和實現(xiàn)，可以在 DPU 架構(gòu)中，獨立于服務(wù)器操作系統(tǒng)進行部署。
DPU 技術(shù)幫助存儲廠商實現(xiàn)真正的“算存分離”，完全發(fā)揮自家產(chǎn)品的技術(shù)優(yōu)勢，打通最高效服務(wù)應(yīng)用需求的通路。
3.算力擴展：算力擴展即通過有效避免擁塞消除跨節(jié)點的網(wǎng)絡(luò)通信瓶頸，顯著降低分布式應(yīng)用任務(wù)周期中的通信耗時占比，在大規(guī)模的集群維度提升計算集群的整體算力。為了提升算力，業(yè)界在多條路徑上持續(xù)演進。通用 CPU 已很難繼續(xù)通過提升單核單線程的性能和擴展片內(nèi)多核的方式來大幅提升算力。單核芯片的工藝提升至 3nm 后，發(fā)展放緩；通過疊加多核提升算力，隨著核數(shù)的增加，單位算力功耗也會顯著增長，當(dāng) 128 核增至 256 核時，總算力水平無法線性提升。在計算單元的工藝演進已經(jīng)逼近基線，為了滿足大算力的需求，通過分布式系統(tǒng)，擴大計算集群規(guī)模，提升網(wǎng)絡(luò)帶寬，降低網(wǎng)絡(luò)延遲成為提升數(shù)據(jù)中心集群算力的主要手段。
5、DPU 帶動異構(gòu)算力互聯(lián)，應(yīng)用市場涵蓋高新技術(shù)產(chǎn)業(yè)多領(lǐng)域
異構(gòu)算力互聯(lián)即為 GPU、FPGA、ASIC 或其它加速卡與 CPU 之間的數(shù)據(jù)連接。在 CPU 與加速卡之間，以及加速卡之間形成的芯片互聯(lián)技術(shù)被更多的采用，雖然 PCIe 有著非常通用的標準化設(shè)計，但帶寬有限將會產(chǎn)生瓶頸。以 CXL 和 Gen-Z 為代表的等下一代互聯(lián)技術(shù)取得快速發(fā)展，DPU 作為各種高速互聯(lián)協(xié)議融合的沙盒，最適合成為靈活的高速互聯(lián)載體，通過采用和擴展“以內(nèi)存為中心”的互聯(lián)協(xié)議，將帶來在單個機箱外部擴展亞微秒級延遲技術(shù)的機會，為下一代計算架構(gòu)創(chuàng)新創(chuàng)造可能性。
伴隨信息化建設(shè)與應(yīng)用的而深入，市場持續(xù)高漲，DPU 產(chǎn)業(yè)在電信、互聯(lián)網(wǎng)、智能駕駛、AI 服務(wù)器及其他行業(yè)應(yīng)用需求不斷增長。
1）在電信領(lǐng)域，三大運營商均積極布局，推動產(chǎn)品驗證，并提出與產(chǎn)業(yè)鏈上的廠商推動 DPU 產(chǎn)業(yè)發(fā)展的合作意愿。
2）在互聯(lián)網(wǎng)領(lǐng)域，隨著云計算、云原生等業(yè)務(wù)場景的發(fā)展需求，DPU 作為數(shù)據(jù)中心演進的焦點，受到各大云廠商的廣泛關(guān)注。頭部廠商紛紛投入資源嘗試自研或者戰(zhàn)略合作，降本增效，實現(xiàn)效益的最大化。
3）在智能駕駛領(lǐng)域，國內(nèi)外芯片廠商加速布局智能駕駛，不斷提升研發(fā)效率，為 DPU 的市場發(fā)展奠定基礎(chǔ)。
4）針對 AI 服務(wù)器及其他領(lǐng)域?qū)用?，在?shù)字經(jīng)濟和“東數(shù)西算”等政策影響下，中國 AI服務(wù)器、金融、終端政企及其他領(lǐng)域持續(xù)高速發(fā)展，對算力的需求不斷增加，傳統(tǒng)的技術(shù)已無法滿足當(dāng)前業(yè)務(wù)的發(fā)展需求，DPU 能夠提供成熟的硬件加速方案，提升整個系統(tǒng)的效率,為 AI 服務(wù)器、金融及其他領(lǐng)域的發(fā)展提供技術(shù)支撐，全面推進DPU 產(chǎn)業(yè)未來的發(fā)展進程。?
