來源：遠(yuǎn)川研究所
今年6月，AMD發(fā)布了一款專門針對AI需求的最新款芯片：Instinct MI300。
MI300將CPU、GPU和內(nèi)存封裝在了一起，晶體管數(shù)量高達(dá)1460億個，接近英偉達(dá)H100的兩倍。其搭載的HBM（高帶寬內(nèi)存）密度也達(dá)到了H100的2.4倍。也就是說，MI300在理論上可以運(yùn)行比H100更大的AI模型。
受益于AI訓(xùn)練的增長，GPU需求肉眼可見的從游戲市場向高性能計(jì)算領(lǐng)域傾斜，就連剛開啟GPU產(chǎn)品線的英特爾，也迫不及待的PPT首發(fā)了面向高性能計(jì)算場景的Falcon Shores架構(gòu)芯片。
伴隨英偉達(dá)一路沖向萬億美元市值，資本市場對GPU行業(yè)老二的期待值也達(dá)到了頂峰。今年以來，AMD股價(jià)累計(jì)上漲已經(jīng)超過90%。
英特爾的Falcon Shores，預(yù)計(jì)2024年推出
然而MI300發(fā)布會結(jié)束，AMD股價(jià)下跌3.6%，反倒是英偉達(dá)上漲3.9%。資本市場表達(dá)好惡，向來是這么冷酷無情。
原因可能在于，AMD沒有在發(fā)布會中透露這款芯片的客戶，這也是市場對英偉達(dá)以外的AI芯片最大的擔(dān)心。
長期以來，AMD在GPU市場一直被英偉達(dá)按在地上反復(fù)摩擦，Instinct產(chǎn)品線其實(shí)已經(jīng)迭代了好幾年，但相比英偉達(dá)的連戰(zhàn)連捷，AMD在高性能計(jì)算領(lǐng)域的存在感一直比較稀薄。
AI訓(xùn)練打開的市場空間，一度被市場視為AMD與英偉達(dá)拉進(jìn)距離的機(jī)會，但事情似乎沒那么簡單。
離不開CPU，但離得開英特爾
雖說在AI訓(xùn)練上，更擅長大規(guī)模并行計(jì)算的GPU承擔(dān)了大部分計(jì)算工作，而整個系統(tǒng)仍需要CPU進(jìn)行調(diào)度和統(tǒng)籌。也就是說，盡管GPU的需求量大幅度增加，但CPU仍是必需品。
作為一家同時(shí)擁有CPU和GPU設(shè)計(jì)能力的芯片公司，AMD被看好也不意外。更何況過去幾年，AMD在CPU市場連戰(zhàn)連捷。
AMD現(xiàn)任CEO蘇姿豐在2014年接手，時(shí)值推土機(jī)架構(gòu)性能孱弱，讓英特爾心安理得的擠牙膏。而在賣掉Imageon后，AMD和拒絕為蘋果設(shè)計(jì)iphone芯片的英特爾一起，完美錯過了智能手機(jī)的浪潮，公司一片風(fēng)雨飄搖。
面臨多條戰(zhàn)線的失血，蘇姿豐只能將有限的資源集中在核心的CPU業(yè)務(wù)上，從蘋果請回了架構(gòu)大師吉姆·凱勒，開始Zen架構(gòu)處理器的研發(fā)。
2017年，Zen架構(gòu)處理器橫空出世，把擠牙膏上癮的英特爾打了個措手不及。2019年，Zen處理器更換為臺積電7nm工藝，此時(shí)英特爾10nm工藝姍姍來遲。
雖然英特爾還占據(jù)著大部分市場份額，但AMD的反攻速度實(shí)在太快，尤其是在服務(wù)器市場，幾乎是從0殺到了接近20%的市占率。
2023年Q1，AMD的x86處理器市場份額達(dá)到了34.6%這一歷史峰值[2]，這也是AMD市值超過英特爾的重要背景。
今年5月，全球超級計(jì)算機(jī)Top500強(qiáng)公布：前500強(qiáng)中，使用AMD CPU進(jìn)行驅(qū)動的超算達(dá)到121臺，使用英特爾CPU的超算則從2016年的454臺下降至360臺，雖然看著不少，但其中很多是英特爾10年前的家底——至強(qiáng)（Xeon）處理器[3]。
但同一時(shí)期，AMD與英偉達(dá)差距也越來越大。
難以逾越的CUDA
英偉達(dá)不僅是一流的硬件公司，更是一流的軟件公司。
雖然在理論性能上，MI300的一些參數(shù)甚至領(lǐng)先于英偉達(dá)，但市場對英偉達(dá)對手們最大的擔(dān)心往往在于，就算硬件性能可以跟英偉達(dá)比肩，但是軟件解決方案仍難以與英偉達(dá)的CUDA對抗。
2006年，英偉達(dá)推出了CUDA平臺，讓開發(fā)者能夠給予GPU進(jìn)行編程和開發(fā)，最終形成了一個龐大穩(wěn)固的生態(tài)。在推出CUDA之前，全球能用GPU進(jìn)行編程的不足100人，目前CUDA的使用者超過400萬。
每一個成功的硬件公司背后，往往都有一個更強(qiáng)大的軟件團(tuán)隊(duì)，蘋果和英偉達(dá)都是如此。即便是光刻機(jī)制造商ASML也不例外，他們的官方網(wǎng)站上有這樣一段話：
您可能將ASML視為一家硬件公司，但實(shí)際上我們擁有世界上最大、最具開創(chuàng)性的軟件社區(qū)之一。如果沒有我們開發(fā)的軟件，我們的客戶就不可能制造出10納米或更小的尺寸的芯片。
想要芯片真正在具體場景的滿足各種需求，就需要開發(fā)者對硬件進(jìn)行編程以實(shí)現(xiàn)各種功能。如果說硬件編程的過程相當(dāng)于進(jìn)行各種復(fù)雜計(jì)算，那么CUDA就是提供給使用者的一部計(jì)算器。
無論對英偉達(dá)的刀法多么懷恨在心，都不能否認(rèn)黃仁勛對通用計(jì)算和人工智能的超前押注。
AMD顯然深知軟件和生態(tài)的重要性，但對標(biāo)CUDA的ROCm在2016年推出時(shí)，就已經(jīng)比英偉達(dá)晚了十年。
直到2023年4月，ROCm都僅支持linux平臺；而CUDA自問世以來，就提供windows和Linux兩個版本，后期還為蘋果用戶增設(shè)mac OS版本。
相比英偉達(dá)不遺余力的推廣和洗腦，AMD在生態(tài)建設(shè)上也顯得投入不足，據(jù)說早年英偉達(dá)對項(xiàng)目的GPU試用申請幾乎是有求必應(yīng)，動不動就去高校實(shí)驗(yàn)室發(fā)顯卡。深度學(xué)習(xí)杰夫·辛頓帶著學(xué)生訓(xùn)練Ale.NET模型，就用了三塊GTX 580。
另外，AMD的軟件能力也令人不安——AMD在今年6月發(fā)布了一份EPYC 7002 “Rome”服務(wù)器芯片指南，承認(rèn)由于時(shí)鐘倒計(jì)時(shí)器存在 BUG，導(dǎo)致第二代EPYC芯片運(yùn)行1044天后，會出現(xiàn)內(nèi)核卡死。如果有服務(wù)器使用這款芯片，需要每隔2.93年重新啟動一次。
原因也不難理解，直到推出ROCm的2016年，AMD甚至還沒擺脫虧損。在這期間，AMD只能把有限的資源都聚焦在CPU的研發(fā)上，無法為GPU部門投入太多資源，更不要說ROCm的軟件團(tuán)隊(duì)了。
而當(dāng)AMD在CPU市場收復(fù)失地，希望依靠AI卷土重來時(shí)，英偉達(dá)已經(jīng)慢慢補(bǔ)齊了短板。
英偉達(dá)的反攻
2020年9月，英偉達(dá)宣布準(zhǔn)備以400億美元的價(jià)格準(zhǔn)備收購移動CPU架構(gòu)商Arm，其背后意圖人盡皆知：一方面是整合移動端資源，另一方面則是入局CPU。
正如前文所說，盡管AI時(shí)代需要更多的GPU，但CPU仍不可或缺。當(dāng)CPU與GPU共同在服務(wù)器中的工作時(shí)，實(shí)際場景更像是一個大學(xué)生（CPU）帶領(lǐng)一群小學(xué)生（GPU）組隊(duì)完成各種任務(wù)。這個時(shí)候，配合就顯得尤為重要。
因此，英偉達(dá)之所以自己做CPU，并非完全因?yàn)橛⑻貭柣駻MD，而是從自身產(chǎn)品需求出發(fā)，使CPU和GPU緊密耦合，以發(fā)揮最大性能。比如CPU和GPU中，需要用到盡可能相似技術(shù)的一致內(nèi)存，以保證數(shù)據(jù)之間的無縫共享[8]。
雖然收購基本沒有成功的可能性，但英偉達(dá)依然按部就班的招兵買馬。2021年4月，黃仁勛在自家廚房里宣布，英偉達(dá)即將推出首款5nm制程工藝CPU Grace，基于Arm架構(gòu)，面向超大型 AI 模型的和高性能計(jì)算。
緊接著就是具體工作的有序展開：英偉達(dá)首先選定了根據(jù)地以色列，那里有全球第三多的納斯達(dá)克上市公司（僅次于美國和中國）；然后對外招聘600名硬件工程師、軟件工程師和芯片設(shè)計(jì)師，搭建CPU研發(fā)團(tuán)隊(duì)[7]。
最后，英偉達(dá)挖來了英特爾在以色列的CPU架構(gòu)專家Rafi Marom，后者曾參與10nm制程的Tiger Lake和Alder lake芯片開發(fā)工作。
在2022年3月的GTC大會上，英偉達(dá)對外宣布Grace CPU性能：擁有144個Arm內(nèi)核和1TB/s的內(nèi)存帶寬，性能較當(dāng)前最先進(jìn)的DGX A100搭載的雙CPU相比高1.5倍以上。
不過，原本預(yù)計(jì)在今年上半年可以開始供貨的Grace芯片，目前已推遲至下半年。
APU
Instinct MI300本質(zhì)上是一顆“APU”，這是AMD早在2009年提出的一個概念——將CPU和GPU集成在一起，使得二者高速互聯(lián)，實(shí)現(xiàn)1+1>2的效果。
在2006年收購了GPU公司ATI后，AMD成為了當(dāng)時(shí)唯一同時(shí)擁有CPU和GPU設(shè)計(jì)能力的芯片公司，而且在兩個市場都是行業(yè)老二——但壞消息是，市場主流玩家也就兩個。
在這種局面下，AMD希望借助APU打開市場局面。2011年，第一代APU推出后，AMD持續(xù)宣傳APU是“x86架構(gòu)三十年來的最大革命”，并向投資者強(qiáng)調(diào)，這款產(chǎn)品存在著“強(qiáng)勁且被壓抑”的需求。
市場最初也對APU概念充滿期待，結(jié)果2012年Q3財(cái)報(bào)出爐，AMD收入下滑25%，順便減記了1億美元的庫存——APU需求量并不高，芯片根本賣不出去[1]。緊接著，公司股價(jià)跌到1.86美元的歷史性低點(diǎn)，蘇姿豐臨危受命，開始掌舵風(fēng)雨飄搖中的AMD。
APU的優(yōu)勢在于，由于CPU和GPU集成在了一起，數(shù)據(jù)傳輸效率得到了大幅度提高。蘋果的M1 Ultra也采用了類似的“把幾個小芯片拼成一塊大芯片”的思路，換來了更強(qiáng)的數(shù)據(jù)吞吐能力。
但在2009年，APU的理念顯得過于超前。
一方面，APU涉及芯片的先進(jìn)封裝技術(shù)，在當(dāng)時(shí)既不成熟，成本也難以控制。另一方面，APU在需求高度多元化的消費(fèi)市場很難行得通。
比如10種型號的CPU和GPU，理論上有100種組合方案，這就導(dǎo)致做10種方案無法滿足市場需求，做100種方案難以收回生產(chǎn)成本。
因此在很長一段時(shí)間里，APU只能在PS4游戲機(jī)這類高度標(biāo)準(zhǔn)化的產(chǎn)品上才能找到市場。但深度學(xué)習(xí)的大爆發(fā)改變了這一點(diǎn)。
相比游戲和渲染，AI訓(xùn)練對算力和數(shù)據(jù)吞吐效率的需求成百上千倍的增加，目前針對AI市場推出的芯片產(chǎn)品，除了算力的堆砌，往往都采用3D堆疊和先進(jìn)封裝等方式，增加數(shù)據(jù)傳輸?shù)男剩@與APU的優(yōu)勢不謀而合。
英特爾尚未正式發(fā)布的Falcon Shores，同樣采用了將CPU、GPU、內(nèi)存封裝在一起的思路，只不過英特爾將其稱為“XPU”。
但目前來看，最接近這個目標(biāo)的反而是英偉達(dá)的Grace Hopper芯片。
英偉達(dá)的Grace Hopper將CPU和GPU集成在了一起
尾聲
在2009年APU的概念被提出時(shí)，AMD正經(jīng)歷公司歷史上的最低谷，APU多少有些畢功一役的憋大招成分。
但也正是因?yàn)樘幱诘凸龋瑢?dǎo)致AMD無法拿出足夠的資金與技術(shù)支持，讓APU的革命性理念真正落地，最終只變成了簡單的CPU+GPU的組合。
從商業(yè)角度看，最適合在2009年搞點(diǎn)革命性產(chǎn)品的反而是富可敵國的英特爾，但英特爾當(dāng)時(shí)在干什么呢——心安理得的擠牙膏，同時(shí)拒絕為iPhone設(shè)計(jì)芯片。
這似乎是高科技公司常常會出現(xiàn)的狀況——在鼎盛年代忽視新的技術(shù)浪潮，在低谷期如夢方醒倉促憋大招。
事實(shí)上，英特爾還嘗試過“聯(lián)A抗N”——2017年，英特爾宣布將在自家CPU上集成AMD的GPU，合作推出新的芯片。
結(jié)果沒過多久，英特爾就挖走了AMD的核心技術(shù)負(fù)責(zé)人之一：圖形主管Raja Koduri，為英特爾開發(fā)高端獨(dú)立GPU。
參考資料
[1] AMD: $30 Million Settlement Ends Llano Lawsuit，tom's Hardware
[2] AMD and Intel CPU Market Share Report: Recovery on the Horizon (Updated)，tom's Hardware
[3] AMD Now Powers 121 of the World's Fastest Supercomputers，tom's Hardware
[4] A Closer Look at Intel’s Coral Supercomputers Coming to Argonne，inside HPC
[5] Argonne’s 44-Petaflops ‘Polaris’ Supercomputer Will Be Testbed for Aurora, Exascale Era，HPC wire
[6] Top500: No Exascale, Fugaku Still Reigns, Polaris Debuts at #12，HPC wire
[7] 英偉達(dá)在以色列組芯片團(tuán)隊(duì)，發(fā)力CPU，半導(dǎo)體行業(yè)觀察
[8] 它們需要基于這兩種設(shè)備中盡可能相似技術(shù)的一致內(nèi)存，智能計(jì)算芯世界
編輯：李墨天
視覺設(shè)計(jì)：疏睿
責(zé)任編輯：李墨天
研究支持：何律衡
