【ITBEAR科技資訊】8月22日消息，微軟公司最近發(fā)布了引人矚目的新工具——Microsoft Olive。該工具被設(shè)計用來加速搭載AMD GPU的顯卡在處理模型時的性能，據(jù)稱可以將性能提升高達(dá)9.9倍。
Microsoft Olive采用Python語言開發(fā)，旨在優(yōu)化AMD GPU在執(zhí)行大型語言模型時的效率。
據(jù)報道，當(dāng)Radeon RX 7900 XTX GPU啟用Microsoft Olive工具后，以Stable Diffusion模型為例，其在基于文本生成圖像的任務(wù)上取得了顯著的性能提升。
微軟表示，Microsoft Olive不僅可以對模型進(jìn)行轉(zhuǎn)換、優(yōu)化、量化，還能夠自動進(jìn)行調(diào)優(yōu)，以實現(xiàn)最大化的性能輸出。根據(jù)AMD的官方測試結(jié)果，使用默認(rèn)的PyTorch路徑進(jìn)行運(yùn)算時，AMD Radeon RX 7900 XTX每秒可以執(zhí)行1.87次迭代。然而，在應(yīng)用Microsoft Olive工具對模型進(jìn)行優(yōu)化后，該GPU的每秒迭代次數(shù)提升至18.59次。
據(jù)ITBEAR科技資訊了解，這一重大發(fā)布表明Microsoft Olive工具在提升AMD GPU運(yùn)行大型語言模型性能方面具有巨大潛力，預(yù)計將在機(jī)器學(xué)習(xí)和人工智能領(lǐng)域產(chǎn)生深遠(yuǎn)影響。不僅如此，該工具的推出也為科研人員和開發(fā)者提供了一個有力的工具，以便更高效地利用GPU在復(fù)雜任務(wù)上取得突破。這一創(chuàng)新有望推動人工智能應(yīng)用的發(fā)展，為未來的技術(shù)進(jìn)步開辟新的道路。
