【ITBEAR】近年來(lái)，隨著人工智能技術(shù)的迅猛發(fā)展，AI計(jì)算需求呈現(xiàn)出爆炸式增長(zhǎng)。為滿足這一需求，眾多公司和研究機(jī)構(gòu)紛紛投身于專用處理器的研發(fā)之中，其中，神經(jīng)網(wǎng)絡(luò)處理單元（NPU）因其出色的深度學(xué)習(xí)任務(wù)處理能力而備受矚目。
然而，盡管NPU在某些任務(wù)中表現(xiàn)出色，但其獨(dú)立發(fā)展的前景卻備受質(zhì)疑。近期，剛獲得巨額投資的Imagination決定放棄獨(dú)立開(kāi)發(fā)三代NPU IP，轉(zhuǎn)而將類似功能整合進(jìn)其GPU產(chǎn)品中。這一決定反映了NPU獨(dú)立發(fā)展的局限性。
Imagination新任創(chuàng)新和工程主管Tim Mamtora坦言，盡管公司看到了NPU的潛力，但在實(shí)際開(kāi)發(fā)過(guò)程中遭遇了諸多挑戰(zhàn)，如配套軟件堆棧的構(gòu)建、客戶和開(kāi)發(fā)人員的展示等。他認(rèn)為，AI軟件堆棧方面的挑戰(zhàn)是導(dǎo)致Imagination放棄NPU獨(dú)立開(kāi)發(fā)的主要原因。
NPU作為一種專為神經(jīng)網(wǎng)絡(luò)計(jì)算設(shè)計(jì)的處理器，具有高并行度和低功耗的特點(diǎn)。然而，其獨(dú)立工作時(shí)也暴露出一些問(wèn)題。NPU主要針對(duì)深度學(xué)習(xí)任務(wù)進(jìn)行優(yōu)化，在處理其他類型的計(jì)算任務(wù)時(shí)顯得力不從心，這限制了其在多樣化應(yīng)用場(chǎng)景中的適用性。NPU的生態(tài)系統(tǒng)相對(duì)較小，開(kāi)發(fā)者面臨的工具和框架選擇有限，這也阻礙了NPU的推廣和應(yīng)用。
相比之下，國(guó)內(nèi)IP供應(yīng)商芯原股份在NPU技術(shù)的發(fā)展上走出了一條不同的道路。芯原的NPU IP已被廣泛應(yīng)用于多款人工智能類芯片中，并在全球范圍內(nèi)實(shí)現(xiàn)了大規(guī)模出貨。芯原通過(guò)開(kāi)發(fā)GPU+GPGPU+NPU的可擴(kuò)展AI計(jì)算平臺(tái)，實(shí)現(xiàn)了不同計(jì)算資源的有機(jī)結(jié)合，彌補(bǔ)了彼此的短板。
在這種平臺(tái)中，NPU專注于執(zhí)行深度學(xué)習(xí)模型中的特定運(yùn)算，而GPU或GPGPU則負(fù)責(zé)處理圖形渲染和其他計(jì)算任務(wù)。這種資源互補(bǔ)使得系統(tǒng)能夠在多任務(wù)環(huán)境中表現(xiàn)更佳，提高了整體效率。同時(shí)，芯原還實(shí)現(xiàn)了NPU、GPGPU和GPU在指令級(jí)的融合，使得三者在硬件層面上能夠共享指令集，實(shí)現(xiàn)了更高效的協(xié)同工作。
芯原的成功經(jīng)驗(yàn)表明，NPU的發(fā)展需要與其他處理器協(xié)同工作，方能實(shí)現(xiàn)最佳的性能和效率。通過(guò)構(gòu)建一個(gè)包含多種計(jì)算資源的可擴(kuò)展AI計(jì)算平臺(tái)，芯原不僅提升了AI計(jì)算的整體性能，還為客戶提供了更大的靈活性和可擴(kuò)展性。
面對(duì)未來(lái)，隨著人工智能應(yīng)用的普及和數(shù)據(jù)隱私、實(shí)時(shí)處理需求的增加，邊緣計(jì)算將成為重要的發(fā)展趨勢(shì)。NPU可以在邊緣設(shè)備上提供高效的AI計(jì)算能力，滿足這些需求。同時(shí)，NPU還可以為特定的AI工作負(fù)載提供定制化的硬件加速，這對(duì)于執(zhí)行特定任務(wù)的邊緣設(shè)備來(lái)說(shuō)是一個(gè)重要的優(yōu)勢(shì)。
因此，NPU在未來(lái)的發(fā)展中需要更加注重生態(tài)系統(tǒng)的建設(shè)。這意味著不僅要在硬件上進(jìn)行創(chuàng)新，還要在軟件工具、開(kāi)發(fā)框架和支持服務(wù)上進(jìn)行投入。通過(guò)構(gòu)建一個(gè)健康、開(kāi)放的生態(tài)系統(tǒng)，NPU技術(shù)才能更好地融入各種應(yīng)用場(chǎng)景，滿足不同客戶的需求。
總之，NPU作為AI計(jì)算領(lǐng)域的重要參與者，其未來(lái)發(fā)展將更加依賴于與其他處理器的協(xié)同和生態(tài)系統(tǒng)的完善。只有在硬件、軟件和生態(tài)系統(tǒng)上實(shí)現(xiàn)全面優(yōu)化，NPU才能在AI計(jì)算的浪潮中脫穎而出。
