【ITBEAR科技資訊】6月7日消息,在2024年臺北國際電腦展上,邊緣運(yùn)算人工智能領(lǐng)域的佼佼者耐能(Kneron)帶來了令人矚目的新產(chǎn)品。耐能,這家由CEO劉峻誠和張懋中于2015年共同創(chuàng)立的公司,專注于為行業(yè)提供前沿的邊緣AI技術(shù)。此次展會,耐能隆重推出了其下一代AI產(chǎn)品——KNEO 330服務(wù)器,以及裝載了第三代NPU芯片KL830的PC設(shè)備。
據(jù)悉,耐能自創(chuàng)立以來就備受行業(yè)關(guān)注,其背后的投資者陣容亦十分強(qiáng)大,包括李嘉誠旗下的維港投資、高通、鴻海集團(tuán)、阿里巴巴創(chuàng)業(yè)者基金、中華開發(fā)資本等。這些知名集團(tuán)的支持無疑為耐能的發(fā)展注入了強(qiáng)大的動力。
據(jù)ITBEAR科技資訊了解,耐能CEO劉峻誠在發(fā)布會上強(qiáng)調(diào),目前眾多使用生成式AI的公司高度依賴微軟、亞馬遜等云服務(wù)巨頭,并從英偉達(dá)或AMD等公司大量采購芯片。然而,出于對數(shù)據(jù)隱私和安全的擔(dān)憂,許多企業(yè)可能不愿將核心數(shù)據(jù)交給外部公司處理。為此,耐能提供了一種替代方案,即利用其技術(shù)建設(shè)企業(yè)內(nèi)部服務(wù)器,以構(gòu)建專屬的AI應(yīng)用程序。
發(fā)布會上,耐能展示了兩款新品。其中,KNEO 330服務(wù)器以其48TOPS的強(qiáng)大AI計算能力脫穎而出,最多可支持8個并發(fā)連接,同時支持LLM和Stable Diffusion技術(shù)。該服務(wù)器在低硬件條件下實現(xiàn)了與云端解決方案相當(dāng)?shù)腞AG精度,為小型企業(yè)降低了30%~40%的整體AI成本。
另一款新品是搭載第三代NPU芯片KL830的PC設(shè)備。雖然具體細(xì)節(jié)尚未透露,但發(fā)布會上已使用惠普設(shè)備進(jìn)行了實地演示。耐能表示,他們正與幾家領(lǐng)先的PC OEM廠商緊密合作,這些廠商將成為其最新芯片的首批客戶。
KL830芯片,作為一種神經(jīng)處理單元(NPU),與CPU和GPU協(xié)同工作,以執(zhí)行AI任務(wù)。它提供了高達(dá)10eTOPS@8bit的綜合計算能力,而峰值功耗僅為2W,這使得它能夠支持眾多參數(shù)較低的大型語言模型。耐能還指出,KL830可通過USB AI加速棒使用,從而將各種設(shè)備,無論是寬帶路由器、物聯(lián)網(wǎng)攝像頭還是傳統(tǒng)電腦,轉(zhuǎn)變?yōu)檫吘堿I設(shè)備。