圖源|Pexels
導(dǎo) 讀
未來(lái)三五年內(nèi)幾乎一定會(huì)發(fā)生的事情是:社交媒體、短視頻平臺(tái)上開(kāi)始大量出現(xiàn)普通人不容易分辨，完全由AI創(chuàng)作的“灌水”內(nèi)容。這些內(nèi)容既可以極大豐富社交媒體的內(nèi)容厚度，還可以根據(jù)AI對(duì)人類興趣愛(ài)好的學(xué)習(xí)追蹤，為不同人群打造更為龐大、牢固的“信息繭房”。
撰文 | 王詠剛
責(zé)編 | 邸利會(huì)
● ● ●
近日，ChatGPT火遍了全網(wǎng)。人工智能研究和部署公司OpenAI 發(fā)布的短短5天內(nèi)，就吸引了100萬(wàn)用戶。在官方描述中，稱其是一個(gè)“可以連續(xù)回答問(wèn)題、承認(rèn)自己的錯(cuò)誤、挑戰(zhàn)不正確的前提并拒絕不適當(dāng)?shù)囊?rdquo;的對(duì)話模型。從閑聊、回答問(wèn)題到寫(xiě)小說(shuō)、詩(shī)歌，幫程序員解決程序的Bug等等，ChatGPT表現(xiàn)出的能力讓不少人驚嘆。
編者也忍不住嘗試了一下，如下圖。
再比如，編者也想看看，它寫(xiě)詩(shī)的能力。
那么，在不少人看來(lái)，ChatGPT已經(jīng)足夠好了，但隨之而來(lái)的問(wèn)題是，它會(huì)不會(huì)被濫用產(chǎn)生危害？
帶著一系列的問(wèn)題，《知識(shí)分子》邀請(qǐng)創(chuàng)新工場(chǎng)人工智能工程院執(zhí)行院長(zhǎng)王詠剛帶來(lái)他的解讀。
01
ChatGPT是重大技術(shù)突破嗎？
簡(jiǎn)單回答，不是根本性的突破。
OpenAI的ChatGPT是“現(xiàn)象級(jí)”技術(shù)創(chuàng)新，但不是根本性的科研或工程突破。最近幾年AI生成內(nèi)容（AIGC）突飛猛進(jìn)，其中最為革命性的突破包括2017年提出的Transformer模型，2020年OpenAI發(fā)布的GPT-3，以及2022年替代GAN成為圖像、視頻生成主力的Diffusion模型家族。
ChatGPT是基于GPT-3的進(jìn)一步創(chuàng)新，是站在巨人肩膀上的明星技術(shù)。簡(jiǎn)單說(shuō)，ChatGPT是OpenAI原創(chuàng)性自動(dòng)問(wèn)答系統(tǒng)InstructGPT的延續(xù)，建立在GPT-3的后續(xù)改進(jìn)版本GPT-3.5基礎(chǔ)上，通過(guò)引入強(qiáng)化學(xué)習(xí)模型，大幅提高了AI在人機(jī)對(duì)話時(shí)的準(zhǔn)確度和可控性。
非專業(yè)人士可以這樣理解——OpenAI在2020年發(fā)布的GPT-3讓計(jì)算機(jī)第一次擁有了惟妙惟肖模仿人類“說(shuō)話”的能力，但此時(shí)的AI就像一個(gè)童言無(wú)忌的孩子，啥都會(huì)說(shuō)，也啥都不顧忌。GPT-3生成的文字內(nèi)容經(jīng)常腦洞大開(kāi)，觀點(diǎn)和邏輯跨度好比天馬行空，甚至屢屢輸出錯(cuò)誤觀點(diǎn)、車(chē)轱轆話、臟字臟話。很顯然，聰明但不懂事的“孩子”需要嚴(yán)加管教。
OpenAI引入了人類監(jiān)督員，專門(mén)“教”AI如何更好地回答人類問(wèn)題。AI的回答符合人類評(píng)價(jià)標(biāo)準(zhǔn)時(shí)，就給AI打高分，否則就給AI打低分。基于人類監(jiān)督員的評(píng)價(jià)，OpenAI圍繞GPT-3.5打造了一個(gè)強(qiáng)化學(xué)習(xí)模型，督促AI按照人類價(jià)值觀優(yōu)化數(shù)據(jù)和參數(shù)，最終開(kāi)發(fā)出效果驚艷，火爆出圈的ChatGPT。
02
如何看待ChatGPT？
概言之，我的感覺(jué)是，喜憂參半。
喜的是，依靠“暴力”學(xué)習(xí)幾乎所有人類知識(shí)內(nèi)容，建立無(wú)比復(fù)雜、龐大的神經(jīng)網(wǎng)絡(luò)，這條讓AI越來(lái)越“聰明”的路看來(lái)還能繼續(xù)走下去。GPT-3有1750億個(gè)參數(shù)用于“記憶”和“提煉”人類知識(shí)的規(guī)律，很快就要問(wèn)世的下一代模型GPT-4據(jù)說(shuō)擁有遠(yuǎn)超GPT-3的復(fù)雜度。
像ChatGPT一樣為這條路增加少量強(qiáng)化學(xué)習(xí)元素，更是能起到畫(huà)龍點(diǎn)睛的作用，將AI在應(yīng)用領(lǐng)域的潛力充分激活。超大模型，強(qiáng)化學(xué)習(xí)，領(lǐng)域優(yōu)化——這三件事可能意味著，AI在未來(lái)幾年內(nèi)比以前任何時(shí)候都更容易深入人類各個(gè)應(yīng)用場(chǎng)景，真正承擔(dān)起許多原本只有人類能完成的一些工作。
憂的是，今天的超大規(guī)模AI模型依然具備科研“黑盒子”的典型特征。
科學(xué)家和工程師知道如何建立這個(gè)“黑盒子”，但無(wú)法根據(jù)輸入數(shù)據(jù)準(zhǔn)確預(yù)測(cè)“黑盒子”的輸出結(jié)果，無(wú)法精密控制“黑盒子”工作時(shí)的行為邊界。這類似于我們知道如何掘開(kāi)堰塞湖的堤壩讓洪水泄出，卻無(wú)法準(zhǔn)確預(yù)測(cè)洪水會(huì)沿著怎樣的路徑向下游流淌。
OpenAI的超大規(guī)模預(yù)訓(xùn)練模型是深度學(xué)習(xí)誕生以來(lái)，AI在行為表現(xiàn)上最接近人類智慧的一個(gè)時(shí)期。但因?yàn)槿狈碚撝С郑茖W(xué)家和工程師并不知道這種依靠海量參數(shù)來(lái)記憶和擬合人類知識(shí)特征的模仿游戲是不是通向通用人工智能（AGI）的正確道路，也很難從科學(xué)邏輯的角度準(zhǔn)確判斷未來(lái)的AI會(huì)不會(huì)一直都是人類的幫手，而不會(huì)發(fā)展成影響人類進(jìn)步的負(fù)面技術(shù)。
03
最擔(dān)憂ChatGPT的哪種前景？
我最擔(dān)心類似技術(shù)被濫用在知識(shí)教育領(lǐng)域。
OpenAI在研發(fā)ChatGPT時(shí)，已經(jīng)想盡方法，讓AI在回答人類問(wèn)題時(shí)盡量保持謙虛、謹(jǐn)慎，不要用戲謔性的風(fēng)格回答問(wèn)題，更不要給出與人類價(jià)值觀不符的回答。這種謙虛、謹(jǐn)慎的態(tài)度，在ChatGPT的回答中幾乎隨處可見(jiàn)。例如，即便談起自己的缺點(diǎn)，ChatGPT也從不遮遮掩掩，如下圖所示。
但ChatGPT畢竟是建立在超大規(guī)模神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上。人類通過(guò)強(qiáng)化學(xué)習(xí)對(duì)AI行為的監(jiān)督，并不能完全杜絕AI在“不得已”的時(shí)候編造、杜撰答案。
這種編造和杜撰在有些領(lǐng)域可能是非常有用的。很多游戲開(kāi)發(fā)者、科幻作者、美術(shù)工作者就經(jīng)常用AI來(lái)啟發(fā)自己的思路。但是，在知識(shí)教育領(lǐng)域，任由AI一本正經(jīng)地“編造”知識(shí)型答案的前景是非常危險(xiǎn)的！
想象一臺(tái)內(nèi)容創(chuàng)作成本接近于零，正確度80%左右，對(duì)非專業(yè)人士的迷惑程度接近100%的巨型機(jī)器，用超過(guò)人類作者千百萬(wàn)倍的產(chǎn)出速度接管所有百科全書(shū)編撰，回答所有知乎問(wèn)題，負(fù)責(zé)孩子課外讀物的生成，甚至直接被既懶又壞的教程編撰者、科普作者用來(lái)代筆……
例如，以下是我用杜撰的學(xué)術(shù)概念“鏡像等離子規(guī)范場(chǎng)”向ChatGPT提問(wèn)的情形。看得出，對(duì)一個(gè)根本不存在的概念，AI是在不懂裝懂地賣(mài)弄“學(xué)識(shí)”：
ChatGPT的模仿能力和文筆越好，這個(gè)未來(lái)風(fēng)險(xiǎn)就越恐怖。
未來(lái)三五年內(nèi)幾乎一定會(huì)發(fā)生的事情是：社交媒體、短視頻平臺(tái)上開(kāi)始大量出現(xiàn)普通人不容易分辨，完全由AI創(chuàng)作的“灌水”內(nèi)容。這些內(nèi)容既可以極大豐富社交媒體的內(nèi)容厚度，還可以根據(jù)AI對(duì)人類興趣愛(ài)好的學(xué)習(xí)追蹤，為不同人群打造更為龐大、牢固的“信息繭房”，并幫助內(nèi)容平臺(tái)更精準(zhǔn)地投放廣告、提高廣告受益。
如果AI僅僅像這樣被用于“信息繭房”的自動(dòng)構(gòu)建，我們還可以說(shuō)這是一種不值得鼓勵(lì)，但也不算很壞的商業(yè)行為。但是，假如批量的“灌水”內(nèi)容進(jìn)入每個(gè)孩子都在學(xué)習(xí)的網(wǎng)絡(luò)百科全書(shū)里呢？加入這樣的AI被用于輔導(dǎo)孩子學(xué)習(xí)呢？
根本問(wèn)題在于，今天的AI生成理論沒(méi)辦法保證生成內(nèi)容的邏輯正確與合理。我覺(jué)得，建立更完善的，由人類領(lǐng)域?qū)＜覅⑴c的AI訓(xùn)練過(guò)程，發(fā)展與正確性相關(guān)的增強(qiáng)學(xué)習(xí)算法，必然會(huì)成為未來(lái)的一個(gè)AI科研熱點(diǎn)。就像我們討論所有新一代技術(shù)的社會(huì)倫理問(wèn)題一樣，對(duì)AI在知識(shí)教育領(lǐng)域的“灌水”風(fēng)險(xiǎn)，大家一定要有正確的認(rèn)知和足夠的心理準(zhǔn)備。
04
ChatGPT最好的應(yīng)用場(chǎng)景是什么？
也許是，所有重復(fù)性的語(yǔ)言文字工作，以及所有啟發(fā)性的藝術(shù)創(chuàng)作。
雖然擔(dān)憂ChatGPT被濫用在知識(shí)教育領(lǐng)域，但我依然看好類似ChatGPT的高水平人機(jī)對(duì)話技術(shù)在其他一些真實(shí)應(yīng)用場(chǎng)景里大放異彩。
首先，人類世界有太多重復(fù)性的語(yǔ)言文字工作，根本不需要復(fù)雜的邏輯思考或頂層決策判斷。接聽(tīng)電話或處理郵件以幫助客戶訂旅館、訂餐的語(yǔ)言文字工作，根據(jù)固定格式把數(shù)據(jù)、信息填入合同、財(cái)報(bào)、市場(chǎng)分析報(bào)告、事實(shí)性新聞報(bào)道內(nèi)的工作，在現(xiàn)有文字材料里提煉大綱、梳理要點(diǎn)的工作，將人類會(huì)議的實(shí)時(shí)文字記錄提煉成會(huì)以簡(jiǎn)報(bào)，幫助人類撰寫(xiě)一些流程性、程式化文章的工作……這些工作領(lǐng)域，會(huì)很快出現(xiàn)一大批基于GPT-3或其他大模型的應(yīng)用產(chǎn)品。上個(gè)月我在硅谷，就拜訪了許多這一類AI創(chuàng)業(yè)的熱點(diǎn)項(xiàng)目。
其次，無(wú)論是AI對(duì)話、AI寫(xiě)文章還是AI作畫(huà)，大規(guī)模預(yù)訓(xùn)練模型固有的非確定性、發(fā)散性、天馬行空的特點(diǎn)，恰好可以成為激發(fā)人類靈感的好幫手。需要?jiǎng)?chuàng)作廣告文案或商業(yè)展示的市場(chǎng)工作，需要發(fā)散性地探索不同故事路線的電影編劇工作，需要極大豐富視覺(jué)感受的游戲場(chǎng)景設(shè)計(jì)工作……在這些工作領(lǐng)域，使用AI已經(jīng)不是未來(lái)趨勢(shì)，而是真真切切發(fā)生的事實(shí)了。
我熟悉的很多藝術(shù)設(shè)計(jì)師，插畫(huà)師，廣告創(chuàng)意顧問(wèn)，游戲美術(shù)師，都已經(jīng)在日常工作中，將AI當(dāng)做輔助工具，坦然接受與AI協(xié)作的現(xiàn)實(shí)了。
05
如何看待AIGC的創(chuàng)業(yè)熱潮？
AIGC（AI-generated content，字面意思是AI生產(chǎn)內(nèi)容）的確火了，但AI和CS的專業(yè)人士必須保持冷靜。
上個(gè)月我在硅谷拜訪投資公司、科技公司、創(chuàng)業(yè)團(tuán)隊(duì)。科技圈里，幾乎人人都在談AIGC，似乎沒(méi)有AIGC包裝的創(chuàng)業(yè)項(xiàng)目就不是好項(xiàng)目，沒(méi)有AIGC概念的科研就發(fā)不出好論文。
有件事給我一個(gè)“當(dāng)頭棒喝”：因?yàn)樾袠I(yè)大佬的安排，我們有幸與OpenAI的兩位聯(lián)合創(chuàng)始人一起喝咖啡。期間，統(tǒng)領(lǐng)OpenAI科研的兩位科學(xué)工程大牛用非常技術(shù)化、務(wù)實(shí)的心態(tài)談他們的工作計(jì)劃和技術(shù)思考。但，讓我們無(wú)比詫異的是，兩位創(chuàng)始人竟然不知道AIGC是什么意思！
仔細(xì)想來(lái)：從科技上開(kāi)創(chuàng)AIGC這個(gè)新領(lǐng)域的OpenAI創(chuàng)始人，其實(shí)并不需要知道類似AIGC之類純粹用來(lái)包裝科技概念的新名詞；他們要研究的是大模型結(jié)構(gòu)、并行訓(xùn)練加速、神經(jīng)網(wǎng)絡(luò)優(yōu)化等等具體科學(xué)與技術(shù)。這樣的人才是真正的創(chuàng)建者和領(lǐng)航者。
在AIGC的概念下一擁而上，或創(chuàng)業(yè)，或投資，或把AIGC快速包裝成應(yīng)用產(chǎn)品的大多數(shù)，其實(shí)都是沒(méi)能力決定科技大方向的跟風(fēng)者。這世界上本來(lái)就跟風(fēng)者多，領(lǐng)航者少，一點(diǎn)兒也不奇怪。
我只是簡(jiǎn)單期望所有跟風(fēng)者在AIGC這個(gè)大舞臺(tái)上，不要過(guò)于頭腦發(fā)熱，還是要多判斷一下，自己構(gòu)建的所謂“產(chǎn)品”，到底是有益于人類進(jìn)步的，還是向已經(jīng)碎片化的內(nèi)容世界繼續(xù)灌水或傾倒垃圾的。
制版編輯 | 小圭月
