【ITBEAR】作為人工智能的基礎(chǔ)設(shè)施,目前算力依舊處于供小于求的境地,算力缺口還在持續(xù)加大。除了GPU之外,行業(yè)也在迫切尋找其他的算力替代方案。
光芯片便是其中一項(xiàng)。
日前,由三位麻省理工學(xué)院(MIT)校友創(chuàng)立的AI算力獨(dú)角獸Lightmatter宣布獲得新一輪4億美元(約合28.5億元人民幣)D輪融資。本輪由普徠仕(T. Rowe Price)領(lǐng)投,老股東GV、富達(dá)等跟投。
此次融資后,Lightmatter累計(jì)融資已經(jīng)達(dá)到8.22億美元(約合58.6億元人民幣),估值達(dá)到44億美元(約合313.7億元人民幣),相比上一輪融資,估值直接翻了約3.7倍,這也使其成為目前估值最高的光芯片創(chuàng)業(yè)公司之一。
據(jù)悉,Lightmatter通過其研發(fā)的光學(xué)互連層技術(shù),能夠使數(shù)百個(gè)GPU協(xié)同工作,極大地簡化了AI模型訓(xùn)練的復(fù)雜流程,并大大降低了成本。
麻省理工三位校友組團(tuán)奪冠
開啟創(chuàng)業(yè)被谷歌連投五輪
這是一個(gè)三位MIT校友聯(lián)手創(chuàng)業(yè)的故事。
Nicholas Harris擁有MIT電氣工程和計(jì)算機(jī)科學(xué)的博士學(xué)位。后來,他成為了MIT的博士后研究員,研究光學(xué)量子計(jì)算和人工智能,在《自然》、《自然·光子》和《自然·物理》等期刊上發(fā)布過超過30項(xiàng)專利和70篇論文。
他還曾入選2021年《麻省理工科技評論》“35歲以下科技創(chuàng)新35人”,要知道獲得過這個(gè)獎(jiǎng)項(xiàng)的可是谷歌創(chuàng)始人拉里·佩奇和謝爾蓋·布林、Facebook創(chuàng)始人馬克·扎克伯格、蘋果公司前首席設(shè)計(jì)官喬尼·艾夫等重量級人物。
實(shí)際上,他還曾在半導(dǎo)體儲(chǔ)存巨頭美光科技干過兩年的研發(fā)工程師。也是這一經(jīng)歷使他認(rèn)識(shí)到,提高計(jì)算性能的傳統(tǒng)方法即在每個(gè)芯片上塞滿更多晶體管,已經(jīng)達(dá)到了極限。
Nicholas Harris說:“我看到算力的發(fā)展路線圖正在放緩,我想弄清楚通過什么方法才能繼續(xù)提升算力。量子計(jì)算和光子學(xué)就是其中的兩條途徑?!?/p>
這時(shí),他找到了MIT的物理學(xué)博士Darius Bunandar。
Darius Bunandar的研究方向是用納米光子電路進(jìn)行量子計(jì)算和通信。在德克薩斯大學(xué)奧斯汀分校讀本科時(shí),他還參與了加州理工學(xué)院-康奈爾大學(xué)的模擬極限時(shí)空(SXS)合作項(xiàng)目,開發(fā)了一種能夠可視化雙黑洞的軟件。在美國大片《星際穿越》中,就使用了他創(chuàng)建的黑洞圖像。
可以說,Nicholas Harris和Darius Bunandar兩人都是技術(shù)宅,對如何創(chuàng)業(yè)以及商業(yè)化運(yùn)作都知之甚少。因此,他倆決定去MIT的斯隆管理學(xué)院上一門創(chuàng)業(yè)課程,來好好惡補(bǔ)一下。
不巧不成書,在那里,他倆遇見了深諳商業(yè)運(yùn)作的Thomas Graham。彼時(shí),Thomas Graham正在攻讀MIT斯隆管理學(xué)院的MBA學(xué)位。
Thomas Graham不僅在摩根士丹利做過公司并購和融資方面的咨詢,還在谷歌做過產(chǎn)品經(jīng)理、運(yùn)營和商務(wù)方面的工作,可謂商業(yè)運(yùn)營的全才。
在商學(xué)院,Thomas Graham看到了他們使用光子來加速AI的視頻。他們開發(fā)出一種新的光子芯片架構(gòu),完全依靠光而不是電子作為計(jì)算中攜帶信息的媒介,這意味著芯片的工作速度比傳統(tǒng)的電子芯片要快得多,并且消耗更少的能源。
“這個(gè)項(xiàng)目非常棒”,Thomas Graham說道。
于是,他們決定組隊(duì)參加MIT $ 100K創(chuàng)業(yè)大賽。這個(gè)大賽被譽(yù)為世界范圍內(nèi)頂尖商學(xué)院的盛事,已經(jīng)持續(xù)了30 多年,孵化出的公司市值超過100億美元。
最終,他們贏得了2017年比賽的冠軍,擊敗了其他數(shù)十支隊(duì)伍,獲得了10萬美元的獎(jiǎng)金。
2017年9月,三位MIT校友共同創(chuàng)立了Lightmatter。Nicholas Harris成為了公司CEO,Darius Bunandar擔(dān)任首席科學(xué)家,Thomas Graham則發(fā)揮其運(yùn)營才能,擔(dān)任COO。
次年2月,他們就獲得了來自星火資本(Spark Capital)和經(jīng)緯創(chuàng)投(Matrix Patners)的1100萬美元A輪融資。
此后便一發(fā)不可收拾,睿獸分析顯示,Lightmatter共完成6輪融資,其中谷歌風(fēng)投(Google Ventures,GV)已經(jīng)從A+輪連投五輪,星火資本(Spark Capital)和經(jīng)緯創(chuàng)投(Matrix Patners)也都連投了三輪。
值得注意的是,2023年12月,Lightmatter宣布完成1.55億美元(約合28.5億元人民幣)C+輪融資,公司估值超過12億美元(約合85.6億元人民幣),正式躋身獨(dú)角獸。近日,公司更是獲得了4億美元(約合28.5億元人民幣)D輪融資,成為其有史以來最大一輪融資,估值達(dá)到44億美元(約合313.7億元人民幣),累計(jì)融資8.22億美元(約合58.6億元人民幣)。
“把電換成光”正成為一場算力革命
實(shí)際上,在AI革命背后,“把電換成光”正在成為一場芯片行業(yè)的潛在算力革命。
AI帶來的巨大計(jì)算需求正在推動(dòng)數(shù)據(jù)中心的發(fā)展,不過并不是直接插入一千個(gè)GPU那么簡單就能解決。
這其中,互連層是將 CPU 和 GPU 機(jī)架變成一臺(tái)巨型機(jī)器的關(guān)鍵。因此,互連速度越快,數(shù)據(jù)中心的速度就越快。
隨著摩爾定律接近極限,未來算力提升的空間很有可能在光子計(jì)算芯片技術(shù)上。數(shù)字芯片受限于底層元器件:CMOS晶體管,而光學(xué)信號(hào)和光學(xué)器件遵循不同的物理原理。
和傳統(tǒng)芯片不同,光芯片是通過光學(xué)技術(shù)而非電信號(hào)實(shí)現(xiàn)信息處理。而依靠光作為傳遞載體,讓光芯片擁有了更高的傳輸速度、更低的功耗、更大的帶寬。
經(jīng)過測算,理想狀態(tài)下,光芯片的端到端功耗僅僅為電子芯片的10%,延遲只有其1%,而同等條件下的算力卻能達(dá)到電芯片的100倍以上。
從下游趨勢而言,隨著生成式AI將海量的高質(zhì)量數(shù)據(jù)、大規(guī)模參數(shù)的模型推向市場,針對于大模型算力芯片的需求已達(dá)到非常高的水平,并仍在快速增長。這對未來的AI算力芯片提出了大算力、低功耗且成本可控的需求,而這些需求也恰好是光芯片的優(yōu)勢所在。
Lightmatter想要做的正是提升GPU或CPU芯片互聯(lián)層的效率,從而突破現(xiàn)代數(shù)據(jù)中心的瓶頸。通過光子技術(shù),可以讓數(shù)百個(gè)GPU同步工作,從而簡化復(fù)雜又極其燒錢的AI模型訓(xùn)練。
Lightmatter一直在開發(fā)的光子芯片,構(gòu)建了速度最快的互連層。
Nicholas Harris指出,“針對超大規(guī)模的數(shù)據(jù)中心,如果他們想要一臺(tái)擁有一百萬個(gè)節(jié)點(diǎn)的計(jì)算機(jī),無法使用思科傳統(tǒng)交換機(jī)來實(shí)現(xiàn)。一旦離開機(jī)架,高密度互連就變成了一根繩子上的杯子。”
因此,對于一百萬個(gè) GPU,你需要多層交換機(jī),這會(huì)增加巨大的延遲負(fù)擔(dān),Nicholas Harris說。
“你必須從電到光再到電再到光……你使用的電量和等待的時(shí)間都是巨大的。而且在更大的集群中,情況會(huì)變得更糟。”
那么,Lightmatter又是怎么做的呢?
其首款產(chǎn)品Envise是一款專門用于人工智能操作的芯片,另一款產(chǎn)品Passage則促進(jìn)芯片之間數(shù)據(jù)傳輸?shù)幕ミB,它們利用光子和電子來提高操作效率。
Lightmatter還研發(fā)了世界上第一個(gè)3D堆疊光子引擎Passage,能夠在超大規(guī)模數(shù)據(jù)中心以光速連接數(shù)千到數(shù)百萬個(gè)處理器,用于最先進(jìn)的人工智能和高性能計(jì)算工作負(fù)載。
具體來說,Passage提供了一個(gè)功能類似于OCS(光路交換機(jī))的通信層,該層位于基本和ASIC之間,幾乎可以實(shí)現(xiàn)全方位通信,這個(gè)通信層可以進(jìn)行動(dòng)態(tài)的配置。通過采用硅內(nèi)置光學(xué)(或光子)互連的形式,使其硬件能夠直接與GPU等硅芯片上的晶體管連接,這使得在芯片之間傳輸數(shù)據(jù)的帶寬是普通帶寬的100倍。
Passage是晶圓級可編程光子互連,使異構(gòu)芯片陣列能夠進(jìn)行通信,圖源:Lightmatter
“AI對于能源消耗方面的挑戰(zhàn)是前所未有的,數(shù)據(jù)中心產(chǎn)生的能源消耗會(huì)越來越多。據(jù)統(tǒng)計(jì),訓(xùn)練一個(gè)大型語言模型所消耗的能量大約比100個(gè)美國家庭一年的消耗總量還要多,除非改變現(xiàn)有的計(jì)算范式,否則到本世紀(jì)末,AI模型將消耗世界總電力的10%-20%。這也迫使我們改進(jìn)現(xiàn)有的計(jì)算基礎(chǔ)設(shè)施。”
Nicholas Harris相信,未來幾年,光子技術(shù)將改變生成式AI和超級計(jì)算。
又能提高運(yùn)算效率,又能節(jié)能降本,這也恰恰是科技巨頭所需要的。
Nicholas Harris指出,“這個(gè)市場非常巨大,從微軟到亞馬遜,再到xAI和OpenAI等新進(jìn)入者,每家擁有大型數(shù)據(jù)中心的科技公司都對光子計(jì)算表現(xiàn)出了極大的興趣?!?/p>
這其中,不少公司已經(jīng)是Lightmatter的客戶。目前,公司正在與芯片制造商和云服務(wù)提供商合作,以實(shí)現(xiàn)大規(guī)模部署。不過Nicholas Harris并沒有透露具體的客戶名稱。
他還表示,由于Lightmatter的設(shè)備是在硅上運(yùn)行的,因此可以由現(xiàn)有的半導(dǎo)體制造設(shè)施生產(chǎn),無需大規(guī)模改變工藝。
同時(shí),他還暗示到:“這很可能是公司最后一輪融資。”這也意味著,Lightmatter有可能正在準(zhǔn)備沖刺IPO。
實(shí)際上,今年7月,Lightmatter任命了英偉達(dá)前高管Simona Jankowski為CFO,進(jìn)一步表明了其上市的決心。
幾乎同時(shí),位于紐約的Xscape Photonics也獲得了4400萬美元A輪融資,由IAG Capital Partners領(lǐng)投,思科投資和英偉達(dá)等機(jī)構(gòu)跟投。其光子解決方案可優(yōu)化AI數(shù)據(jù)中心的網(wǎng)絡(luò)架構(gòu),將GPU的“逃逸帶寬”提升10倍,能耗降低10倍。
華為入局、VC哄搶
國內(nèi)光芯片賽道逐漸火熱
不僅是國外,國內(nèi)光芯片也正在成為一條火熱的賽道。
2024年3月,位于蘇州的光計(jì)算芯片公司光本位完成了近億元人民幣的天使+輪融資。這家成立于2022年的初創(chuàng)企業(yè)在半年內(nèi)完成了天使和天使+輪融資。
其聯(lián)合創(chuàng)始人&CEO程唐盛在牛津大學(xué)攻讀博士期間,選擇與高中時(shí)期好朋友熊胤江一起回國創(chuàng)建了光本位,并迅速獲得了資本和市場的肯定。
“光芯片不像硅基電芯片(集成電路)一般有著對先進(jìn)制程(光刻機(jī)在內(nèi))的強(qiáng)依賴。”熊胤江說到。
集成電路的性能提升符合摩爾定律,要提升性能必須加大晶體管密度,而隨著摩爾定律陷入瓶頸,這一性價(jià)比變低。而光芯片卻可以通過借助多個(gè)波長、頻段的光進(jìn)行并行計(jì)算,且彼此不會(huì)進(jìn)行干擾,更能夠成倍提升算力,這使得光芯片可以不依賴于制程的進(jìn)步完成迭代。
基于此,光計(jì)算芯片有極大可能成為中國在算力領(lǐng)域換道超車的絕佳機(jī)會(huì)。
熊胤江表示,目前光芯片領(lǐng)域的國產(chǎn)化替代率較高,國內(nèi)已經(jīng)擁有了成熟的芯片設(shè)計(jì)軟件,以及成熟的硅光工藝代工廠,國內(nèi)外先進(jìn)技術(shù)的差異不大。
80后MIT博士沈亦晨創(chuàng)立的曦智科技則已經(jīng)獲得三輪融資。其投資方包括真格基金、BV百度風(fēng)投、經(jīng)緯創(chuàng)投、祥峰投資、中科創(chuàng)星、招商局創(chuàng)投、中金資本等知名機(jī)構(gòu)。
實(shí)際上,在MIT時(shí)期,沈亦晨與Lightmatter的三位創(chuàng)始人還有一段交集。
當(dāng)時(shí),沈亦晨也是Lightmatter小組的成員,一同在MIT $ 100K創(chuàng)業(yè)大賽中獲得 10 萬美元獎(jiǎng)金。2017年,他們分別以一作、二作的身份,在頂級期刊 《自然·光子》發(fā)表了將光計(jì)算應(yīng)用于人工智能領(lǐng)域的關(guān)鍵論文。該論文累積引用超1400次,為納米光子領(lǐng)域近5年引用數(shù)最高的論文。
不過,當(dāng)時(shí)由于采用了不同的技術(shù)路徑,在2017年9月同時(shí)誕生了兩家公司——曦智科技和Lightmatter。
成立不到兩年,曦智科技便發(fā)布了全球首款光子芯片原型板卡,成功將當(dāng)時(shí)占據(jù)半個(gè)實(shí)驗(yàn)室的整個(gè)光子計(jì)算系統(tǒng)集成到了常規(guī)大小的板卡上,驗(yàn)證了以光子替代電子進(jìn)行高性能計(jì)算的開創(chuàng)性想法,并解決了光子芯片處理準(zhǔn)確性問題。
2021年,在此基礎(chǔ)上,曦智科技發(fā)布了高性能光子計(jì)算處理器PACE(光子計(jì)算引擎)。PACE成功驗(yàn)證了光子計(jì)算的優(yōu)越性,跨出了整個(gè)光子計(jì)算行業(yè)的一大步。2023年,其首款兼容PCIe和CXL(Compute Express Link)協(xié)議的數(shù)據(jù)中心計(jì)算光互連硬件產(chǎn)品Photowave亮相。
祥峰投資合伙人李偉指出,由于光芯片是一個(gè)全新革命性的技術(shù),并不是做某個(gè)國產(chǎn)替代的芯片,有比較明確的目標(biāo)客戶,因此會(huì)有一個(gè)市場發(fā)掘的過程。隨著產(chǎn)品的進(jìn)展順利,曦智科技在發(fā)展過程中也逐步找到了商業(yè)落地的場景,例如銀行間的高頻交易、滴滴的路徑導(dǎo)航規(guī)劃。
如今,光芯片已是全球通信廠商必爭之地。
近兩年,華為集中投資光電芯片,一度掀起國內(nèi)光芯片投資熱潮。據(jù)統(tǒng)計(jì),僅華為哈勃就已投資10余家光芯片相關(guān)企業(yè)。
國內(nèi)一眾VC、PE幾乎無人不投光芯片,國內(nèi)包括光本位、曦智科技在內(nèi)的縱慧芯光、鯤游光電、長光華芯、芯耘光電、微源光子等公司紛紛遭到VC哄搶。