在OpenAI的帶領(lǐng)下，GPT一遍又一遍地沖破人們對(duì)于AI的預(yù)期。
而在對(duì)GPT-4進(jìn)行一系列實(shí)驗(yàn)后，微軟研究團(tuán)隊(duì)也在報(bào)告中承認(rèn)大模型背后的AI潛力：GPT-4是使用前所未有的計(jì)算和數(shù)據(jù)規(guī)模訓(xùn)練出來(lái)的，而除了對(duì)語(yǔ)言的掌握，GPT-4還能解決跨越數(shù)學(xué)、編碼、視覺(jué)、醫(yī)學(xué)、法律、心理學(xué)等領(lǐng)域的新穎而困難的任務(wù)，而不需要任何特殊的提示。
“此外，在所有這些任務(wù)中，GPT-4的表現(xiàn)都驚人地接近人類水平，而且往往大大超過(guò)了ChatGPT等現(xiàn)有模型。鑒于GPT-4能力的廣度和深度，我們認(rèn)為可以合理地將其視為通用人工智能（AGI）系統(tǒng)的早期（但仍不完整）版本。”微軟在研究報(bào)告中表示。
另一邊，在人們都在為AI的飛速進(jìn)化而歡呼雀躍時(shí)，研究機(jī)構(gòu)未來(lái)生命研究所（Future Life Institute）近日卻公布了一封公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。
“我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)，將決定委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。只有當(dāng)確保強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的才能繼續(xù)開(kāi)發(fā)。”該機(jī)構(gòu)在信中表示，而“未經(jīng)選舉的技術(shù)領(lǐng)袖”顯然是在內(nèi)涵占盡風(fēng)光的OpenAI。
截至目前，馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak和Stability AI創(chuàng)始人Emad Mostaque在內(nèi)的諸多科技大佬和AI專家已經(jīng)簽署公開(kāi)信，他們認(rèn)為，人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督。
當(dāng)AI開(kāi)始對(duì)齊甚至超越人類能力時(shí)，“對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)”就已經(jīng)不再是充滿科幻色彩的口號(hào)。
潘多拉魔盒
盡管GPT-3在2020年就已推出，但直到2022年，研究人員才發(fā)現(xiàn)預(yù)訓(xùn)練大模型產(chǎn)生了類似人類推理思維的能力。
當(dāng)用戶向語(yǔ)言大模型提問(wèn)的時(shí)候，可以在提示問(wèn)題（Prompt）里寫幾個(gè)示例，讓模型照著例子做生成，像ChatGPT就可以根據(jù)用戶演示的推理過(guò)程，來(lái)推導(dǎo)其它問(wèn)題的答案，這種模仿人類思維的推理能力不需要再進(jìn)行復(fù)雜的訓(xùn)練，只需要在提問(wèn)時(shí)給出提示，模型就能自動(dòng)學(xué)習(xí)，并做出相應(yīng)推理得到正確結(jié)果。
但問(wèn)題在于，通過(guò)“喂數(shù)據(jù)”得到的AI思維能力在原理上是如何實(shí)現(xiàn)的，以及繼續(xù)“大力出奇跡”之后，AI又會(huì)如何進(jìn)化？
日前，OpenAI CEO Sam Altman公開(kāi)坦誠(chéng)表示，GPT系列為何會(huì)出現(xiàn)推理能力，OpenAI的研究者自己也搞不明白，他們只知道，在不斷測(cè)試中，人們忽然發(fā)現(xiàn)，從ChatGPT開(kāi)始，GPT系列開(kāi)始出現(xiàn)了推理能力。
2022年6月15日，谷歌研究院聯(lián)合DeepMind和斯坦福大學(xué)發(fā)表了一篇論文：《大語(yǔ)言模型的突現(xiàn)能力》（Emergent Abilities of Large Language Models）。研究人員驚訝發(fā)現(xiàn)，AI的思維能力，并不是隨著模型參數(shù)大小的線性變化逐漸出現(xiàn)的，而是當(dāng)參數(shù)規(guī)模超過(guò)某一閾值后，模型的思維能力突然涌現(xiàn)出來(lái)，即所謂大模型的“突現(xiàn)能力”（Emergent Abilities）。
論文指出，大模型在參數(shù)規(guī)模達(dá)到某個(gè)臨界值之前，其性能是近乎隨機(jī)的，之后性能會(huì)忽然大幅增加，仿佛突然開(kāi)竅一般，參數(shù)規(guī)模的量變導(dǎo)致了質(zhì)變，而這種質(zhì)變會(huì)何時(shí)發(fā)生，卻充滿不確定性，參數(shù)量級(jí)夠大只是一個(gè)必要條件，一些大模型在大量“投喂”后卻并沒(méi)有表現(xiàn)出思維能力。
“我們一般認(rèn)為這個(gè)參數(shù)規(guī)模是在千億左右，但問(wèn)題在于，隨著投喂量進(jìn)一步擴(kuò)大，模型會(huì)再突現(xiàn)出什么能力是無(wú)法預(yù)測(cè)的。比如GPT-4已經(jīng)能夠依據(jù)命令設(shè)定自己的身份與人交流，如果再投喂下去，GPT-6或者GPT-8會(huì)不會(huì)進(jìn)化到可以自行設(shè)定身份，具備自我意識(shí)甚至主動(dòng)隱藏自己的某種‘價(jià)值觀’？”一位NLP領(lǐng)域?qū)I(yè)人士對(duì)21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示。
謹(jǐn)防AI危險(xiǎn)競(jìng)賽
技術(shù)的不確定性之外，另一個(gè)擔(dān)憂在于AI浪潮裹挾下，AI又會(huì)被帶向何方？
在AI所帶來(lái)的生產(chǎn)力革命以及顛覆傳統(tǒng)人機(jī)交互模式的巨大想象力下，微軟“梭哈”OpenAI；落后一步的谷歌越挫越勇、緊追不舍；賭對(duì)了的英偉達(dá)高喊“AI的iphone時(shí)刻”；國(guó)內(nèi)大小科技廠商更是直接將大模型奉為“政治正確”……
在這樣新一輪瘋狂的AI競(jìng)賽中，科技公司爭(zhēng)搶新時(shí)代的船票，無(wú)疑都希望用更短的時(shí)間開(kāi)發(fā)和部署更強(qiáng)大的AI，而這個(gè)過(guò)程中，是否會(huì)裹挾更多瘋狂，加劇未來(lái)AI技術(shù)進(jìn)化的不確定性。一個(gè)看上去不那么妙的信號(hào)是，大型科技公司在不斷提高對(duì)AI投入的同時(shí)，卻又一直在裁減致力于評(píng)估部署AI相關(guān)倫理問(wèn)題的團(tuán)隊(duì)員工。
根據(jù)公開(kāi)信息統(tǒng)計(jì)，微軟、Meta、谷歌、亞馬遜等公司都裁減了其“負(fù)責(zé)任的人工智能團(tuán)隊(duì)”（Responsible AI）的成員，這些團(tuán)隊(duì)負(fù)責(zé)為使用AI的消費(fèi)產(chǎn)品提供安全建議。
例如，今年1月，在微軟的萬(wàn)人級(jí)別大裁員行動(dòng)中，微軟解散了其所有的倫理道德與社會(huì)團(tuán)隊(duì)，在加速將OpenAI的技術(shù)整合到自家商業(yè)帝國(guó)每個(gè)角落的同時(shí)，卻不再設(shè)立專門的團(tuán)隊(duì)來(lái)確保AI原則和產(chǎn)品設(shè)計(jì)緊密相關(guān)。
此前，谷歌內(nèi)部也出現(xiàn)過(guò)關(guān)于AI技術(shù)的發(fā)展、影響和安全性之間的緊張關(guān)系，兩位AI倫理研究負(fù)責(zé)人Timnit Gebru和Margaret Mitchell在與該公司爆發(fā)了一場(chǎng)激烈爭(zhēng)吵后，分別于2020年和2021年離職。
在公認(rèn)機(jī)會(huì)與風(fēng)險(xiǎn)并存的情況下，科技巨頭們努力發(fā)出信號(hào)，證明自己正在認(rèn)真對(duì)待AI中的潛在風(fēng)險(xiǎn)。比如在社會(huì)道德倫理團(tuán)隊(duì)被解散之后，微軟表示仍有三個(gè)不同的團(tuán)隊(duì)在這個(gè)問(wèn)題上開(kāi)展工作。
盡管被裁減的道德團(tuán)隊(duì)員工也僅有幾十人，只是整個(gè)科技行業(yè)低迷而被裁掉的數(shù)萬(wàn)名員工中的冰山一角，在AI高速發(fā)展以及大型科技公司主導(dǎo)權(quán)越來(lái)越重的當(dāng)下，對(duì)有責(zé)任出于安全考慮給產(chǎn)品開(kāi)發(fā)速度踩剎車的道德團(tuán)隊(duì)進(jìn)行任何削減，似乎都值得注意。
公開(kāi)信在最后提到，如今，我們的社會(huì)已經(jīng)暫停其他可能造成災(zāi)難性影響的技術(shù)，對(duì)于人工智能也應(yīng)該如此，“讓我們享受一個(gè)漫長(zhǎng)的‘AI之夏’，而不是毫無(wú)準(zhǔn)備地進(jìn)入秋天”。
