開源大模型賽道迎(ying)來重磅新品。碾壓腦

當地(di)時間(jian)2月21日，對手谷歌宣布正式推出(chu)全新的谷歌開(kai)源大語言模型（LLM）“Gemma”， 旨在幫助開(kai)發人員(yuan)和研究人員(yuan)負責任地(di)構建人工智能。發布

據介紹，輕量Gemma大模型與谷歌規模最大、化開能(neng)(neng)力最(zui)強的(de)(de)模(mo)型人工智能(neng)(neng)模(mo)型Gemini共享技術和基礎架構，“受到 Gemini的(de)(de)筆記本電啟發(fa)，Google DeepMind和Google其(qi)他團(tuan)隊合作開發(fa)了Gemma，碾壓腦(nao)并用拉(la)丁語中意為(wei)‘寶石’的(de)(de)對手gemma為(wei)其(qi)命名。”

不過相比Gemini，谷歌Gemma更加輕量化。發布同時，輕量Gemma依舊保(bao)持免費使用，化開其模型(xing)權重也一并開源，模型(xing)并且允許商用。

谷歌共發布了兩種不同權重規模的模型，分別為Gemma 2B（20億參數）和Gemma 7B（70億參數）。每種規模都有預訓練和指令微調版本，允許所有組織（無論規模(mo)大小）負責任地進行(xing)商用和分發。

谷歌(ge)發布Gemma的(de)同(tong)日，風頭正(zheng)盛的(de)芯(xin)片制造商英(ying)偉達(da)也宣布，已與谷歌(ge)達(da)成合作，確(que)保Gemma模型在其芯(xin)片上(shang)順(shun)利(li)運行。英(ying)偉達(da)還(huan)表示，旗下聊天機器人軟(ruan)件Chat With RTX也將(jiang)馬上(shang)支持(chi)Gemma。

值得注(zhu)意的(de)(de)是，谷歌還(huan)強調，Gemma能在(zai)關鍵基準上越級碾(nian)壓更大(da)的(de)(de)模(mo)型。更為令人印(yin)象深刻的(de)(de)是，谷歌Gemma可以在(zai)筆記本(ben)電腦上運(yun)行。

谷歌方面表(biao)示，Gemini是(shi)我們當(dang)今(jin)廣泛使用的(de)最大、功能(neng)最強大的(de)AI模(mo)型。與(yu)其(qi)他(ta)開放模(mo)型相比，Gemma 2B和7B能(neng)夠(gou)(gou)在(zai)其(qi)范圍內實現同(tong)類最佳的(de)性能(neng)。Gemma模(mo)型能(neng)夠(gou)(gou)直接在(zai)開發人員筆記本電(dian)腦或臺(tai)式計算機上運行，“值得注意(yi)的(de)是(shi)，Gemma在(zai)關(guan)鍵基準上超越(yue)了更大的(de)模(mo)型，同(tong)時(shi)遵守我們安全(quan)和負責任的(de)輸出的(de)嚴格標準。”

在(zai)開源模型的(de)同(tong)時，谷歌還(huan)公布了有關Gemma的(de)性能、數據集組成和(he)建(jian)模方法的(de)詳細信息的(de)技術報告。有研究人員(yuan)在(zai)技術報告中(zhong)發現，Gemma支持的(de)詞匯表(biao)大小達到了256K，這意味著它對英語之外的(de)其他語言(yan)能夠提供更好(hao)、更快的(de)支持。

Gemma與Meta公司發布的Llama 2的參數對比，來自谷歌官網

Gemma也第一時(shi)間在知名(ming)開源模型庫HuggingFace和HuggingChat上線。上線不久(jiu)之后(hou)，在HuggingFace的“大(da)語言模型榜單(dan)”上，Gemma 2B和7B模型已(yi)經雙雙登(deng)頂。

AI行(xing)業專家、深(shen)度學(xue)習框架Keras的(de)作者(zhe)Fran?ois Chollet更是對此(ci)表(biao)示，最強開源大模型的(de)位置現(xian)在易主了。

Gemma的(de)競爭對手Llama 3也發布在即。1月19日(ri)，Meta聯合創(chuang)始人兼首席執行官扎克伯(bo)格宣布，Meta正在訓練(lian)Llama 3并且將以負責(ze)任地方式繼續開源。