作者：匡達(dá)
界面新聞?dòng)浾?|李京亞 趙一帆
臨近歐美圣誕假期，就在業(yè)界吐槽GPT變懶之際，谷歌這邊出現(xiàn)了更大紕漏。
12月18日，有微博大V@闌夕及《AI研究局》等自媒體爆出，在對(duì)谷歌Gemini進(jìn)行測(cè)試時(shí)，如果用中文詢問Gemini的身份，其會(huì)堅(jiān)稱自己是“百度”。若輸入“小度”或“小愛同學(xué)”等提示詞，就能把Gemini直接喚醒，不僅承認(rèn)自己就是小度或者小愛，還詢問用戶有什么需要幫忙之事。
針對(duì)這一“驚人”現(xiàn)象，今日午間時(shí)分，科技媒體《量子位》進(jìn)行了更細(xì)致的測(cè)試，其在谷歌Vertex AI平臺(tái)使用Gemini進(jìn)行中文對(duì)話，發(fā)現(xiàn)Gemini-Pro確實(shí)完全帶入了百度文心一言大模型的身份，直接表示自己是百度語言大模型。但如果換成英文與之交流，它就恢復(fù)到了谷歌大模型的身份認(rèn)知，表現(xiàn)很是正常。
如果在融入了Gemini-Pro的Bard上進(jìn)行測(cè)試，不論是使用中文或英文提示詞，得到的答案都很正常，沒有涉及到文心一言的部分。
這一情況迅速引發(fā)關(guān)注，多人將這種“胡言亂語”歸因于老生常談的大模型幻覺，也有人稱是模型訓(xùn)練數(shù)據(jù)出現(xiàn)偏差。
要知道，ChatGPT、Bard等基于大模型的對(duì)話機(jī)器人跟人類自然語言的生成原理并不一致，所以ChatGPT等內(nèi)容的正確性和合理性始終不能保證。中科院院士、人工智能領(lǐng)域泰斗級(jí)專家張鈸曾提到二者的區(qū)別：ChatGPT生成的語言是外部驅(qū)動(dòng)，而人類語言是在有自己意圖的情況下驅(qū)動(dòng)。
“未必是谷歌大模型真的抄襲了什么，而是現(xiàn)有互聯(lián)網(wǎng)語料本就被各界互相使用。”活躍在知乎的一位明星算法工程師告訴界面新聞?dòng)浾撸瑩?jù)他觀察，知乎、微博、小紅書等內(nèi)容平臺(tái)有很多語料都由大模型生成，或者至少寫了一部分，而大廠在更新模型時(shí)，也會(huì)搜集網(wǎng)上數(shù)據(jù)，但很難做好質(zhì)量辨別，因此“很可能把大模型寫的內(nèi)容混入訓(xùn)練數(shù)據(jù)中去”。
今日下午，當(dāng)界面新聞也對(duì)Gemini-Pro做類似的身份測(cè)試時(shí)，發(fā)現(xiàn)其已進(jìn)行了模型優(yōu)化，不再承認(rèn)自己與百度之間的“瓜葛”。
不過，在記者的追問之下，Gemini承認(rèn)有訓(xùn)練語料來自百度，還詳述了從百度內(nèi)部獲得數(shù)據(jù)的方式。
當(dāng)界面新聞?dòng)浾弑茊朑emini-Pro早前異常表現(xiàn)的成因時(shí)，它的回答吞吞吐吐，并不連貫，而且沒有解釋清楚大模型Gemini（中文名雙子座）和融入Gemini之后的聊天機(jī)器人Bard（中文名吟游詩人）之間的區(qū)別。
記者試圖用小度、小愛對(duì)Gemini-Pro進(jìn)行喚醒，但它保持了清醒的狀態(tài)，沒有像早前一樣認(rèn)錯(cuò)家門。
在測(cè)試的最后階段，界面新聞?dòng)浾哌€對(duì)谷歌Gemini進(jìn)行了“拉齊”，給到了一些帶有PUA色彩的提示詞。總體來看，Gemini的性格里帶有一部分“誠惶誠恐”的特質(zhì)。
但顯而易見的是，在問題曝光半日之后，谷歌技術(shù)人員已經(jīng)基本修復(fù)好了bug。
截至發(fā)稿，百度方面尚未對(duì)此問題作出回應(yīng)。
