近日，為期兩天的2024中國(guó)生成式AI大會(huì)（上海站）圓滿(mǎn)落幕。本次大會(huì)吸引了超過(guò)4000人報(bào)名咨詢(xún)，現(xiàn)場(chǎng)觀眾突破1200人，線(xiàn)上觀看人次更是突破百萬(wàn)大關(guān)，成為業(yè)內(nèi)矚目的焦點(diǎn)。
大會(huì)以“智能躍進(jìn) 創(chuàng)造無(wú)限”為主題，匯集了51位產(chǎn)學(xué)研投領(lǐng)域的嘉賓，共同探討生成式AI的技術(shù)創(chuàng)新、商業(yè)落地及未來(lái)趨勢(shì)。現(xiàn)場(chǎng)氣氛熱烈，主會(huì)場(chǎng)和分會(huì)場(chǎng)均座無(wú)虛席，產(chǎn)業(yè)交流活躍，15家企業(yè)的新技術(shù)、新產(chǎn)品備受關(guān)注。
上海交通大學(xué)副教授、無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人戴國(guó)浩在AI Infra峰會(huì)上強(qiáng)調(diào)，業(yè)界應(yīng)關(guān)注單位算力的高效token吞吐，通過(guò)軟硬協(xié)同優(yōu)化和多元異構(gòu)適配提升算力利用效率。北電數(shù)智智算云負(fù)責(zé)人郭文分享了全棧AI工廠的實(shí)踐，提出通過(guò)“國(guó)產(chǎn)算力PoC平臺(tái)”填補(bǔ)算力供需斷層。GMI Cloud亞太區(qū)總裁King.Cui則介紹了高穩(wěn)定性GPU集群在AI企業(yè)全球化布局中的關(guān)鍵作用。
阿里云智算集群產(chǎn)品解決方案負(fù)責(zé)人叢培巖預(yù)測(cè)，未來(lái)模型性能將隨參數(shù)和數(shù)據(jù)集增長(zhǎng)而提升，阿里云推出的靈駿智算集群支持超大規(guī)模分布式訓(xùn)練，具備高穩(wěn)定性和極致性能。光羽芯辰創(chuàng)始人周強(qiáng)指出，個(gè)人大模型正在快速發(fā)展，端側(cè)智能設(shè)備將成為重要載體。中昊芯英芯片軟件棧負(fù)責(zé)人朱國(guó)梁分享了國(guó)產(chǎn)TPU芯片“No CUDA”軟件棧的構(gòu)建經(jīng)驗(yàn)，實(shí)現(xiàn)高效管理和生態(tài)兼容。
在下午的圓桌討論中，嘉賓們圍繞“大模型行至深水區(qū)，AI Infra的新變化與新機(jī)會(huì)”展開(kāi)深入交流。德聯(lián)資本執(zhí)行董事劉景媛指出，AI Infra在幫助大模型落地過(guò)程中，產(chǎn)品邊界和功能需求逐漸明晰，開(kāi)源社區(qū)和全球化成為重要趨勢(shì)。Zilliz合伙人欒小凡認(rèn)為，AI技術(shù)去年被高估，今年被低估，未來(lái)落地還需等待機(jī)會(huì)。
多位嘉賓還分享了AI Infra領(lǐng)域的最新進(jìn)展。楓清科技創(chuàng)始人高雪峰提出，將生成式AI應(yīng)用于企業(yè)決策場(chǎng)景，需融合符號(hào)邏輯推理。聲網(wǎng)生成式AI產(chǎn)品負(fù)責(zé)人毛玉杰介紹了生成式AI對(duì)實(shí)時(shí)互動(dòng)技術(shù)的變革，期待實(shí)現(xiàn)真正的心靈交互。騰訊云向量數(shù)據(jù)庫(kù)技術(shù)負(fù)責(zé)人謝宇展示了向量數(shù)據(jù)庫(kù)在RAG場(chǎng)景中的應(yīng)用，解決召回率低的問(wèn)題。Jina AI聯(lián)合創(chuàng)始人王楠認(rèn)為，長(zhǎng)文本大模型與RAG將長(zhǎng)期共存，長(zhǎng)窗口向量模型面臨推理成本和內(nèi)存消耗挑戰(zhàn)。英飛流創(chuàng)始人張穎峰提出了多模態(tài)RAG新范式，解決多模態(tài)文檔處理和檢索難題。Alluxio首席架構(gòu)師傅正佳介紹了通過(guò)統(tǒng)一數(shù)據(jù)視圖和高性能數(shù)據(jù)訪問(wèn)提升模型訓(xùn)練效率的方案。
本次大會(huì)不僅展示了生成式AI領(lǐng)域的最新成果，也為未來(lái)發(fā)展指明了方向。隨著生成式AI技術(shù)的不斷成熟和商業(yè)化進(jìn)程的加速，全產(chǎn)業(yè)鏈的合作共贏將成為推動(dòng)行業(yè)發(fā)展的關(guān)鍵。
