人工智能機(jī)器學(xué)習(xí)領(lǐng)域里的科學(xué)家們表示將拒絕幫谷歌審核論文，直到谷歌改變對前AI倫理團(tuán)隊聯(lián)合負(fù)責(zé)人Timnit Gebru的立場。
學(xué)界科學(xué)家拒為谷歌審查論文
選擇要在學(xué)術(shù)會議上發(fā)表研究的審稿人通常都是自愿工作，審稿人會根據(jù)他們的經(jīng)驗和專業(yè)知識，選出那些可以在人工智能頂會發(fā)表的論文。根據(jù)公開數(shù)據(jù)顯示，谷歌是在人工智能研究會議里貢獻(xiàn)最多論文的公司。
上周，谷歌AI倫理團(tuán)隊聯(lián)合負(fù)責(zé)人Timnit Gebru突然在個人推特上表示，谷歌直接開除了她，她的內(nèi)部賬號直接無法登錄。而做出決定的正是谷歌AI負(fù)責(zé)人Jeff Dean。雙方爭議焦點(diǎn)是一篇還在谷歌內(nèi)部審議的論文。
Timnit Gebru畢業(yè)于斯坦福大學(xué)，她的導(dǎo)師是人工智能領(lǐng)域知名學(xué)者李飛飛。她的主要研究方向是算法偏差和數(shù)據(jù)挖掘。Gebru一直致力于黑人在科技圈的平權(quán)，是Black in AI的創(chuàng)始人之一。Gebru最知名的研究是她在2018年發(fā)現(xiàn)，面部識別軟件對黑人女性有高達(dá)35%的錯誤率，而對白人男性幾乎完全正確。
這篇引發(fā)爭議的論文標(biāo)題為《隨機(jī)鸚鵡的危險：語言模型會太大嗎？》，英文為“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”。論文詳細(xì)介紹了機(jī)器學(xué)習(xí)領(lǐng)域里大型語言模型對邊緣化社區(qū)的負(fù)面影響，并仔細(xì)研究了使用大型語言模型相關(guān)的風(fēng)險，例如環(huán)境、種族主義，以及基于性別，種族和其他特征的各種持久性的偏見。該論文的合著者包括來自谷歌AI的Mitchell和語言學(xué)家Emily Bender，他們批評大型語言模型的工作于今年早些時候還獲得了獎項。
值得一提的是，2018年，谷歌推出了BERT模型，在自然語言處理領(lǐng)域中帶來了里程碑式影響。
Jeff Dean在反駁Gebru的郵件中稱，這篇論文臨近截止日期前一天才提交，而按照公司慣例論文審查需要的時間是2周。同時，Gebru還威脅提出各種條件，否則就辭職，公司在無法滿足條件的情況下，只是接受了Gebru辭職的說法。
Gebru則表示自己并沒有提出辭職，谷歌卻在她休假期間停止了她登入谷歌內(nèi)部系統(tǒng)的賬號。同時也不認(rèn)同谷歌不發(fā)表自己論文的原因。她在發(fā)給團(tuán)隊的郵件里稱，對谷歌保持人才多樣性的做法感到沮喪。
谷歌如何對待Gebru和即將發(fā)表的論文，這一事件也提出了科技公司對于學(xué)術(shù)研究的影響究竟會有多大的討論。
機(jī)器學(xué)習(xí)社區(qū)的領(lǐng)導(dǎo)者拒絕審查來自谷歌人工智能部門的研究，剛好是今年NeurIPS大會開幕之際，這是世界上最大的AI研究會議，會議上發(fā)表了有關(guān)GPT-3（迄今為止最大的語言模型）的論文，該論文榮獲最佳論文獎。
在谷歌公司內(nèi)部，在谷歌辭掉Gebru僅一天后，谷歌真正變革（Google Walkout for Real Change）組織發(fā)表了一份聲明，聲明中譴責(zé)了谷歌“史無前例的研究審查制度”，并要求谷歌在完全公開的情況下進(jìn)行論文審查。到目前為止，這份聲明已有1600多位谷歌員工和2600多名學(xué)術(shù)界、民間社會和工業(yè)界的支持者簽名。
許多AI研究人員與學(xué)術(shù)機(jī)構(gòu)都保持著聯(lián)系。有多項研究發(fā)現(xiàn)，從學(xué)術(shù)界到大技術(shù)公司，大型企業(yè)或初創(chuàng)公司的工作一直在吸引著智力人才。去年10月，Air Street Capital關(guān)于AI人才狀態(tài)的報告發(fā)現(xiàn)，在2004年至2018年期間，谷歌從美國大學(xué)聘用的終身任職教授數(shù)量超過任何其他公司。
【來源：澎湃新聞】
