近期，谷歌對外公布了一項關于其Gemini大模型能源消耗的技術細節(jié)，這一舉動在人工智能領域引起了廣泛關注。該報告不僅詳細披露了每次查詢所消耗的能源量，還被視為大型AI公司中最具透明度的一次估算。
谷歌在報告中指出，Gemini模型在提供文字回答時，平均每次消耗的能量為0.24瓦特小時，這一數(shù)值與微波爐運行一秒鐘所需的能量相當。同時，這次查詢還伴隨著0.03克二氧化碳當量的排放。這一數(shù)據(jù)公開后，不少研究人員對此表示期待已久。
除此之外，谷歌還發(fā)布了Gemini系列中的一個輕量級版本——Gemma 3 270M。這款模型擁有2.7億參數(shù)，專為端側部署設計，并具備指令遵循和文本結構化的能力。Gemma 3系列涵蓋了從270M到27B五種不同規(guī)模的模型，滿足了多樣化的應用需求。
在內存需求方面，Gemma 3系列在Q4_0量化格式下表現(xiàn)出色。具體而言，270M、1B、4B、12B和27B五種規(guī)模的模型所需的RAM內存分別為240MB、892MB、3.4GB、8.7GB和21GB。Gemma 3 270M在Pixel 9 Pro手機上運行25輪對話時，僅消耗了0.75%的電量，展現(xiàn)了其高效節(jié)能的特點。
Gemma 3 270M模型的應用場景廣泛，尤其適用于高頻率、任務明確的場景。它能夠處理個人隱私信息，如情感分析、實體識別和人生規(guī)劃等任務。該模型還為開發(fā)專用小型模型提供了有力支持。為了幫助開發(fā)者更好地利用這款模型，谷歌還同步提供了微調教學資源，包括基于Hugging Face Transformers的全模型訓練流程，支持分類、信息抽取、情感分析等多種任務的定制。
