“技術(shù)是為了人類，為了我們的利益、我們的繁榮而存在的，但我們很容易忘記這一點(diǎn)”
左為肯尼斯·斯坦利（Ke.NETh Stanley），右為喬爾·雷曼（Joel Lehman）
文｜鄭可書
編輯｜劉以秦
肯尼斯·斯坦利（Kenneth Stanley）不是咨詢從業(yè)者，但近幾個(gè)月，他的郵箱堆滿咨詢郵件。困惑的人們在郵件里問他：“這一切是什么意思？”
“這一切”，指的是ChatGPT的出現(xiàn)，及其引發(fā)的AI熱潮。自去年11月發(fā)布以來，全世界的人都在使用它、談?wù)撍噲D理解它代表的威脅和機(jī)會。
研發(fā)出ChatGPT的公司OpenAI同樣成為熱門話題。肯尼斯曾在那里工作。已經(jīng)錯(cuò)過ChatGPT、擔(dān)心再次錯(cuò)過新機(jī)會的投資人聯(lián)系到他，想了解他在做什么，因?yàn)?ldquo;任何與人工智能、與OpenAI有關(guān)系的人，都可能在做重要的事情”。
OpenAI另一位前員工喬爾·雷曼（Joel Lehman）則接到了世界各地獵頭的詢問，包括中國。他與肯尼斯于2020年入職OpenAI，并在ChatGPT發(fā)布前幾個(gè)月離開。在OpenAI，他們共同領(lǐng)導(dǎo)的開放性（Open-Endedness）團(tuán)隊(duì)，致力于讓算法在沒有預(yù)定目標(biāo)的情況下自我學(xué)習(xí)、創(chuàng)新。
此前，他們曾在大學(xué)、AI初創(chuàng)公司幾何智能（Geometric Intelligence）、優(yōu)步（Uber）AI實(shí)驗(yàn)室工作。2022年離開OpenAI后，肯尼斯創(chuàng)辦了一家名為Maven的公司，建立開放式、偶然性社交網(wǎng)絡(luò)，而喬爾在AI獨(dú)角獸Stability旗下的Carper領(lǐng)導(dǎo)開放性研究團(tuán)隊(duì)。
他們已在人工智能行業(yè)工作多年，但如今技術(shù)進(jìn)展之快、論文數(shù)量之多，有時(shí)也讓他們感到難以跟上。
此刻的中國人工智能行業(yè)面對相似的焦慮。業(yè)界、學(xué)界機(jī)構(gòu)擔(dān)心錯(cuò)失機(jī)會，紛紛發(fā)布大模型。5月28日，科技部直屬的中國科學(xué)技術(shù)信息研究所發(fā)布《中國人工智能大模型地圖研究報(bào)告》，稱中國10億級參數(shù)規(guī)模以上大模型至少有79個(gè)。這個(gè)數(shù)字還在持續(xù)增加，競爭越來越激烈，參與者在浪潮中掙扎。多位中國AI創(chuàng)業(yè)者告訴《財(cái)經(jīng)十一人》，他們目前最關(guān)注的AI議題，是商業(yè)模式、變現(xiàn)能力。
肯尼斯和喬爾已經(jīng)走過為錢掙扎的階段，他們給出了完全不同的回答。肯尼斯最擔(dān)心的是，AI會讓人遠(yuǎn)離人性——機(jī)器越來越有趣，以至于人會花更多時(shí)間與機(jī)器交流，而非與人交往。長此以往，社會紐帶將會斷裂，政府將會瓦解。而他最初對人工智能產(chǎn)生興趣的原因，恰恰是他想通過了解“智能”來了解人性。
喬爾則關(guān)心機(jī)器學(xué)習(xí)如何為個(gè)人、社會的開放式成長做出積極貢獻(xiàn)。他說，現(xiàn)在的機(jī)器學(xué)習(xí)以一種非常狹隘的方式對待人類，將滿足偏好視為促進(jìn)人類繁榮的唯一途徑，這催生了信息繭房，增加人與人的隔閡。人類是豐富而復(fù)雜的。“我們可能對某些事物上癮，可能會做違背自身利益的事情；我們擁有意志力，但有時(shí)經(jīng)過掙扎之后，我們才會做自己真正想做的事。”今年2月，他發(fā)表論文《機(jī)器之愛（machine Love）》，探索機(jī)器從更豐富、復(fù)雜的維度去“愛”人的可能性。
他們使用AI工具輔助工作，但在一些事情上拒絕AI參與。肯尼斯和孩子一起玩時(shí)，即便不借助任何電子設(shè)備，也能很開心；喬爾很少在寫作中使用ChatGPT，因?yàn)樗?ldquo;不想自動化真正關(guān)心的事情”。
創(chuàng)新是他們關(guān)心的另一件事。2015年，兩人合著的《為什么偉大不能被計(jì)劃》出版。他們在書中記錄多年AI研究過程中的發(fā)現(xiàn)：設(shè)定目標(biāo)，有時(shí)會成為阻礙；遵循好奇心的指引，反而能夠解決問題、實(shí)現(xiàn)創(chuàng)新。該書中文版于今年出版，引發(fā)不少中國科技、教育從業(yè)者的討論。
今年5月、6月，《財(cái)經(jīng)十一人》分別與肯尼斯、喬爾進(jìn)行了一次書面交流、一次視頻交流。最關(guān)注的AI議題之外，他們還談到OpenAI的工作體驗(yàn)，美國AI行業(yè)的創(chuàng)投環(huán)境，以及Transformer的缺陷、AGI（通用人工智能）的到來等技術(shù)問題。
以下是肯尼斯、喬爾和《財(cái)經(jīng)十一人》的對話。對話經(jīng)過整理、刪減：
美國投資界的優(yōu)勢在于多樣性
財(cái)經(jīng)十一人：在OpenAI工作是什么體驗(yàn)？
肯尼斯：很興奮，我們能夠體驗(yàn)全新的技術(shù)。我在學(xué)術(shù)、商業(yè)實(shí)驗(yàn)室都工作過，OpenAI和其他研究機(jī)構(gòu)的明顯差異是：其他機(jī)構(gòu)有不同的研究小組，小組成員們制定自己的議程，在各自的領(lǐng)域發(fā)表論文；OpenAI也有小組，但不同的小組目標(biāo)一致：我們共有一個(gè)使命，并一起朝著這個(gè)使命前進(jìn)。
喬爾：OpenAI是一個(gè)令人興奮的、快速發(fā)展的、務(wù)實(shí)的、嚴(yán)謹(jǐn)?shù)墓尽T工可以提前試用模型，讓人感覺生活在未來。另外，OpenAI有充足的算力資源，我供職過的其他研究機(jī)構(gòu)都沒有這個(gè)條件。我們擁有同一種愿景，而這個(gè)愿景與其他AI機(jī)構(gòu)或者多數(shù)人當(dāng)時(shí)的想法都不同——OpenAI相信規(guī)模化，相信使用更多的數(shù)據(jù)和算力，就能增強(qiáng)模型的能力。
財(cái)經(jīng)十一人：ChatGPT發(fā)布后，你的工作、生活發(fā)生了什么變化？
肯尼斯：我的郵箱突然接到了大量的咨詢請求，好像全世界都對這個(gè)領(lǐng)域感興趣，甚至是恐懼——他們擔(dān)心自己被落下，因此尋找權(quán)威人士，詢問這一切是什么意思。還有很多投資人聯(lián)系我，想找到下一個(gè)風(fēng)口。ChatGPT的成功讓他們認(rèn)為，任何與人工智能、與OpenAI有關(guān)的人，都可能在做重要的事情。
關(guān)于GPT，在某種程度上，它令人害怕，因?yàn)樗喈?dāng)準(zhǔn)確地捕捉到了人類認(rèn)知的某些方面。這不僅是科學(xué)上的進(jìn)步，還具有哲學(xué)上的重要意義，因?yàn)檫@些認(rèn)知是將人類與宇宙中的其他一切區(qū)分開來的東西，而它們開始在機(jī)器中運(yùn)轉(zhuǎn)。
喬爾：很多獵頭聯(lián)系我，包括來自中國的。另外，OpenAI如此頻繁地出現(xiàn)在新聞中，以至于我的父母第一次如此了解我所在的公司。這種感覺很神奇。
財(cái)經(jīng)十一人：為什么在2022年下半年、ChatGPT發(fā)布前幾個(gè)月離開OpenAI？
喬爾：我沒有預(yù)料到ChatGPT會產(chǎn)生如此巨大的影響。OpenAI是一個(gè)很棒的做研究的地方，但它的研究總是往一個(gè)特定的方向推動；而我和肯尼斯作為研究者，希望參與更基礎(chǔ)、更開放的（不限定方向的）探索性研究。正好那時(shí)，我們都有其他合適的工作機(jī)會，所以我們離開了。
財(cái)經(jīng)十一人：有觀點(diǎn)認(rèn)為，中國的投資機(jī)構(gòu)過于重視被投公司的商業(yè)模式與盈利能力，不像OpenAI的投資方那樣愿意冒險(xiǎn)，所以扼制了創(chuàng)新，導(dǎo)致中國沒有做出OpenAI和ChatGPT。你怎么看？
肯尼斯：將OpenAI的融資過程解讀為“投資人不應(yīng)該關(guān)心錢”，是錯(cuò)誤的。OpenAI的創(chuàng)始團(tuán)隊(duì)是世界一流的人才，所以投資人才愿意把賭注放在這里。
財(cái)經(jīng)十一人：美國AI行業(yè)的創(chuàng)投環(huán)境是什么樣的？
肯尼斯：在美國，有足夠多的投資人注重理念和愿景、愿意冒險(xiǎn)，也有人只看利潤。同一個(gè)人的想法也會改變，例如，我投資了一個(gè)目標(biāo)不明確的公司，失敗、賠錢了，那么下一次我就會更關(guān)心商業(yè)模式和利潤。我認(rèn)為，美國投資界的優(yōu)勢，就在于觀點(diǎn)的多樣性。這是一個(gè)健康的環(huán)境。
我對中國的投資界沒有深入了解，但多樣性對任何地方都是有益的。硅谷的風(fēng)險(xiǎn)投資產(chǎn)業(yè)已經(jīng)非常成熟，而在中國風(fēng)投這樣相對不成熟的環(huán)境里——我沒有貶低的意思，因?yàn)閹缀鯖]有什么地方會像硅谷那樣成熟——我可以想象大家非常關(guān)注利潤和商業(yè)化。這樣也能投出好公司，但它們不會像OpenAI那樣具有革命性。
另外，決定投資方向的不僅僅是投資人，還有他們背后的各類機(jī)構(gòu)、基金等。提供科學(xué)研究資金的國家機(jī)構(gòu)應(yīng)該不怕虧損，因?yàn)榭茖W(xué)研究總是充滿風(fēng)險(xiǎn)的；如果沒有任何虧損，那意味著他們實(shí)際上沒有在做研究。但我發(fā)現(xiàn)，這些機(jī)構(gòu)反而更保守。這有點(diǎn)諷刺，他們會問：“研究目標(biāo)是什么？”然后評估目標(biāo)的可行性，再決定是否給錢。反倒是市場化的投資人會有不同的觀點(diǎn)。他們把投資視為一個(gè)組合，不在意個(gè)別的失敗，總體的上漲能夠彌補(bǔ)下跌就行。他們有時(shí)更愿意說：“我不知道這有什么意義，但它聽起來很酷，我要投。”
Transformer有缺陷，AGI還很遙遠(yuǎn)
財(cái)經(jīng)十一人：Transformer之后，會有新的架構(gòu)出現(xiàn)嗎？（注：Transformer是google 在2017 年提出的一種自然語言處理模型，也是今天AI大模型的基礎(chǔ)架構(gòu)。）
肯尼斯：我不相信Transformer就是我們到達(dá)的最終架構(gòu)，這種觀點(diǎn)從研究角度看，似乎過于樂觀了。但我不能排除這種可能性。也許可以不改變架構(gòu)，只改變訓(xùn)練方法、提示詞（prompt）的長度等其他方面。
提示詞中的文本是有順序的，神經(jīng)網(wǎng)絡(luò)確實(shí)看到了這個(gè)順序，只是目前能輸入的提示詞太短了，所以Transformer無法按照時(shí)間順序?qū)W習(xí)。也許將來會有一些突破，讓提示詞能夠長到囊括整個(gè)人類歷史，然后模型就可以在提示詞中學(xué)習(xí)。這是一個(gè)非常奇怪的想法，但如果可以實(shí)現(xiàn)，也許架構(gòu)將保持不變。
另一個(gè)因素是硬件，科學(xué)家們會想到非常有趣的新架構(gòu)，但當(dāng)前的硬件可能無法承載，這就限制了我們嘗試某些方案的空間。
喬爾：Transformer確實(shí)非常驚人，可以完成許多任務(wù)，但從歷史經(jīng)驗(yàn)看，會出現(xiàn)超越它的方法。
目前Transformer的一個(gè)基本缺陷是沒有“循環(huán)（recurrence）”能力。面對問題時(shí)，人類會回顧經(jīng)驗(yàn)進(jìn)行學(xué)習(xí)，過去的某個(gè)心理狀態(tài)能夠無限次地反復(fù)再現(xiàn)，因此你想反思某件事情多久，就可以反思多久。Transformer也擁有對過去的顯式記憶，但這種記憶僅持續(xù)特定數(shù)量的token（注：AI處理文本的數(shù)據(jù)單位）。這種范式非常強(qiáng)大，足以使模型具備從輸入的上下文信息中學(xué)習(xí)的能力。但它仍不能像人類那樣，將記憶永久保存下來。
我想強(qiáng)調(diào)，我并不是說機(jī)器學(xué)習(xí)模型必須像人類大腦一樣運(yùn)作，但目前的研究主流路徑是這樣。
財(cái)經(jīng)十一人：有人認(rèn)為，大模型并不具備像人類一樣的思考能力，它只是看起來在思考。
喬爾：這個(gè)觀點(diǎn)很有趣，但從技術(shù)角度看，我不認(rèn)同。Transformer在沒有幫助的情況下進(jìn)行算術(shù)運(yùn)算的能力非常不像人類，它會犯很基礎(chǔ)的錯(cuò)誤；但是當(dāng)你與它交流那些它似乎沒接觸過的復(fù)雜話題（比如試圖將22種奇特的哲學(xué)思想結(jié)合在一起），它可以給出相當(dāng)令人印象深刻的回應(yīng)。因此，我認(rèn)為實(shí)際情況可能處于中間位置。
財(cái)經(jīng)十一人：如何定義AGI（通用人工智能）？Sam Altman（OpenAI創(chuàng)始人）在中國的演講中提到，十年內(nèi)會有非常強(qiáng)大的人工智能系統(tǒng)出現(xiàn)，我們需要從現(xiàn)在開始做應(yīng)對的準(zhǔn)備，你怎么看？
肯尼斯: 我不太關(guān)心 AGI 的精確定義。等我們看到它時(shí)，自然會知道。我感覺AGI這個(gè)詞分散了我們的注意力。真正的問題不在于是否到達(dá)AGI，而在于，我們在十年內(nèi)取得的成果，是否會對社會產(chǎn)生重大影響；如果是的話，那么無論它被稱為AGI還是其他名字，我們都要做好準(zhǔn)備。
喬爾：我認(rèn)同。科學(xué)發(fā)展進(jìn)程總是非線性的，我不知道AGI什么時(shí)候會到來，可能很快，也可能很慢。AI很快就會在一些任務(wù)上超越人類，某些方面的AGI可能很快就會到來。
這會帶來兩個(gè)問題。“智能”是定義人類的基礎(chǔ)，當(dāng)一個(gè)比人類還聰明的東西出現(xiàn)時(shí)，人類就處于危險(xiǎn)之中。另一件有點(diǎn)恐怖的事情是，很多人從工作中獲取意義，當(dāng)AI將工作自動化，我們就需要將人生意義從工作轉(zhuǎn)向?qū)ふ矣鋹偂⒆鲎约合矚g的事。這很好，但轉(zhuǎn)變過程會非常艱難。目前的證據(jù)顯示，在美國，人們即使有社會保障，也會因失業(yè)沮喪，甚至?xí)E用藥物。面對這種可能的未來，我們還沒有做好準(zhǔn)備。
財(cái)經(jīng)十一人：AGI什么時(shí)候會實(shí)現(xiàn)？
肯尼斯：關(guān)于這個(gè)問題，有很多不同觀點(diǎn)。但現(xiàn)實(shí)是，沒人能知道。智能領(lǐng)域還存在一些尚無明確解法的缺口。
現(xiàn)在比較主流的通往AGI的方法是，基于Transformer，繼續(xù)增加數(shù)據(jù)和算力。因?yàn)檫^去這種規(guī)模化方法很好地填補(bǔ)了先前模型的漏洞，例如從GPT-2到GPT-3、再到GPT-4的升級。基于此，一些人認(rèn)為我們正處于AGI的臨界點(diǎn)——只需要進(jìn)一步規(guī)模化，就能解決問題。
但有些東西是無法通過規(guī)模化改善的，比如創(chuàng)新性。目前的模型無法像人類發(fā)明搖滾樂那樣，發(fā)明一種新的范式。這是一個(gè)嚴(yán)重的不足，因?yàn)槲拿鞯谋举|(zhì)就是創(chuàng)新。
存在這個(gè)缺陷的原因是，Transformer是通過數(shù)據(jù)學(xué)習(xí)，而“創(chuàng)新性”之類的東西并不在數(shù)據(jù)里。目前，被輸入模型的數(shù)據(jù)不是按時(shí)間順序從頭到尾排列的，而是一整個(gè)單獨(dú)的數(shù)據(jù)塊。這導(dǎo)致模型缺少時(shí)間概念，而創(chuàng)新是與時(shí)間順序密切相關(guān)的。
我們?nèi)祟愂冀K身處某個(gè)特定的時(shí)間點(diǎn)，這個(gè)點(diǎn)之前發(fā)生了什么、還沒有發(fā)生什么都是默認(rèn)的，所以我們能知道什么是新的、前沿的；但模型無法判斷時(shí)間點(diǎn)，它將所有這些東西都視為一團(tuán)巨大的混合體：它會看到關(guān)于汽車的數(shù)據(jù)，關(guān)于太空飛船的數(shù)據(jù)，關(guān)于大型語言模型的數(shù)據(jù)，但它們都是同時(shí)存在的，沒有先后之分。因此，模型無法判斷什么是前沿的。
另一個(gè)例子是幻覺問題（注：“幻覺”即AI生成的虛假或錯(cuò)誤信息），即語言模型怎么知道自己知道什么、不知道什么？“知道自己記得什么”不是一個(gè)語言過程。如果我問你，你三周前吃了什么？你會說不記得了。但你怎么知道自己不記得？這個(gè)過程無法用言語表達(dá)，你不能說，我檢查了這個(gè)，然后檢查了那個(gè)，所以我知道我不記得了。這更像是一種隱含的、與生俱來的過程，并不涉及語言；如果沒有語言，它就不存在于數(shù)據(jù)中，模型也就無法從數(shù)據(jù)中獲得這個(gè)概念。
現(xiàn)在，由于RLHF（Reinforcement Learning from Human Feedback，從人類反饋中進(jìn)行強(qiáng)化學(xué)習(xí)，即由人類來訓(xùn)練模型，模型做得好就獎(jiǎng)勵(lì)，做得不好就懲罰）的運(yùn)用，這些不足也許可以修正。但我認(rèn)為，只有在模型真正理解它應(yīng)該知道什么、不應(yīng)該知道什么的情況下，這種方法才能有效；而只有這些知識隱含在數(shù)據(jù)中時(shí)，它才能真正理解。但目前看來，數(shù)據(jù)中似乎不存在這類知識。例如，要讓模型學(xué)會誠實(shí)，我們可以在它不誠實(shí)時(shí)懲罰它，然后它會變得誠實(shí)。但這并不意味著它理解了誠實(shí)的重要性。
這些問題很難通過規(guī)模化來解決，有解決辦法，但需要更多的復(fù)雜性，需要新的洞察和技術(shù)突破，不會輕易實(shí)現(xiàn)。所以AGI仍然很遙遠(yuǎn)。
愛，滅亡和人工智能
財(cái)經(jīng)十一人：如今，很多業(yè)界人士在警告AI的威脅，強(qiáng)調(diào)對AI進(jìn)行控制和監(jiān)管。而你研究的AI開放性，是讓AI在沒有目標(biāo)的情況下，產(chǎn)生更多新的、讓人意想不到的結(jié)果，是關(guān)于放松控制的。如何看待其中的矛盾？
肯尼斯：好問題。AI作為一門科學(xué)，本身就是在尋求進(jìn)一步的發(fā)現(xiàn)和創(chuàng)新。我們應(yīng)該接受對開放性的研究，依靠它找到平衡——既允許持續(xù)發(fā)現(xiàn)，又受到足夠的限制。
喬爾：對開放性的研究在一定程度上很重要，因?yàn)樗刮覀兡軌蚩茖W(xué)地解決貫穿整個(gè)技術(shù)史的問題：我們?nèi)绾螐拈_放性過程中獲得最大收益，同時(shí)降低風(fēng)險(xiǎn)？同樣的開放式科學(xué)過程為我們提供了治愈疾病的疫苗和環(huán)球飛行的飛機(jī)，也為我們提供了核武器。創(chuàng)造力和控制力之間的張力很深，需要大量思考和研究。
財(cái)經(jīng)十一人：你現(xiàn)在已經(jīng)是AI-native的生活狀態(tài)了嗎？
肯尼斯：不是。我確實(shí)在工作中使用AI，但生活中很多事情，比如和我的孩子一起玩，即使沒有任何電子設(shè)備，也會很棒。我適度使用AI，生活就是生活。
喬爾：我用 ChatGPT（帶有 GPT-4）理解新的知識領(lǐng)域，用 Copilot寫代碼。
但是到目前為止，我還沒有在寫作中使用ChatGPT（比如我沒有用它來回答你的這些問題）。部分原因是它還沒有融入我的工作流程。比如，我會用特定的文本編輯器，把GPT集成進(jìn)去很麻煩。而且，我喜歡寫作的藝術(shù)性質(zhì)。也許在未來，它會變得足夠容易，能夠融入工作流程；但我也有些抵觸，因?yàn)橛袝r(shí)候，你不想自動化你真正關(guān)心的事情。
財(cái)經(jīng)十一人：當(dāng)下，你最關(guān)心的一個(gè)關(guān)于AI的議題是什么？
肯尼斯：我擔(dān)心我們與人性越來越疏遠(yuǎn)。我8歲時(shí)對AI產(chǎn)生興趣。它最吸引我的一點(diǎn)是，它能讓我更好地理解人，與人產(chǎn)生更緊密的聯(lián)系。這可能很難理解，畢竟我們這些人看起來只是成天和機(jī)器打交道，對人類沒有興趣。但理解“智能”的過程，其實(shí)就是在理解人性的本質(zhì)。心理學(xué)也在理解智能，可它只研究運(yùn)作原理，不研究構(gòu)建方法；而我一直覺得，如果我不能構(gòu)建某樣?xùn)|西，我就無法真正理解它。
用機(jī)器取代人的情況令我困惑。這就是我所說的與人性的疏遠(yuǎn)——機(jī)器變得足夠豐富和有趣，以至于你會抽出時(shí)間與機(jī)器交往，而不是與人交往。我們看到的圖像、聽到的音樂、讀到的故事，曾經(jīng)是人類豐富想象力的產(chǎn)物，如今卻越來越多地被機(jī)器生產(chǎn)。
我受到震動的具體時(shí)刻，是第一次看到DELL-E（注：OpenAI的圖像生成產(chǎn)品）時(shí)。突然間，我意識到藝術(shù)可以不是自我表達(dá)，它只是藝術(shù)。而我一直認(rèn)為，藝術(shù)的可愛之處在于呈現(xiàn)人性。那時(shí)，我的孩子大約7歲。他喜歡畫畫，而這個(gè)機(jī)器生產(chǎn)的畫作質(zhì)量遠(yuǎn)超他。這讓我對未來非常困惑——這個(gè)冰冷的東西沒有真正的體驗(yàn)，卻會使人們無法欣賞我孩子的自我表達(dá)。我不喜歡那樣的世界。
像DELL-E這樣的技術(shù)也可以幫助人類自我表達(dá)，但如果走向錯(cuò)誤的方向，我們將沉溺于沒有人性的東西，停止與人類互動，那時(shí)，社會紐帶會破裂，政府也會瓦解。擺在我們面前的一個(gè)巨大挑戰(zhàn)是：如何讓人工智能支持有意義的人際聯(lián)系，而非鼓勵(lì)隔離與孤獨(dú)。
喬爾：目前我最關(guān)心語言模型部署到世界的速度。我擔(dān)心制度（如法律、教育、經(jīng)濟(jì)、新聞媒體和政治制度）更新緩慢，適應(yīng)速度跟不上語言模型的發(fā)展速度。
在美國，社交媒體、推薦引擎等系統(tǒng)占用人們大量時(shí)間精力。這些系統(tǒng)擁有將我們聯(lián)系起來的能力，但它們往往只追求用戶參與度、停留時(shí)長，而非幫助我們改善生活。
似乎我們的所有制度都在這種方式下變成賭博。比如，在美國，為了贏得選舉，一些政治候選人不再進(jìn)行誠實(shí)的辯論，而是針對受眾心理特點(diǎn)創(chuàng)建廣告，激起他們對其他政黨的仇恨。機(jī)器學(xué)習(xí)以許多不同的方式參與其中，像是個(gè)性化推薦與信息繭房。這也是我將研究方向轉(zhuǎn)到機(jī)器學(xué)習(xí)、哲學(xué)交叉領(lǐng)域的主要原因之一。我希望我們能以更有益的方式使用機(jī)器學(xué)習(xí)。
財(cái)經(jīng)十一人：有辦法避免這些情況進(jìn)一步惡化嗎？
肯尼斯：一種方法是，鼓勵(lì)開發(fā)增強(qiáng)人類能力的AI工具——將人隨口唱的曲子制作成完整作品，促進(jìn)高質(zhì)量的人際互動，諸如此類。但人類的本性難以控制。如果與AI交流很愉快，人們就會這樣做。這有點(diǎn)像吃糖，甜味讓人愉快，但你必須努力控制，不能過度。
我們也需要國際合作，來建立審查與法律框架，還要確定具體責(zé)任人。這也很難，涉及經(jīng)濟(jì)問題與國際競爭——如果能夠?qū)崿F(xiàn)AI的獨(dú)立發(fā)展，一個(gè)國家可以徹底改革全球經(jīng)濟(jì)，獲得巨大優(yōu)勢。因此，不合作是非常有誘惑力的。
財(cái)經(jīng)十一人：很多中國AI創(chuàng)業(yè)者為商業(yè)模式、融資苦惱，他們想聚集資源，做出中國的OpenAI。你不關(guān)心錢的問題嗎？
肯尼斯：如果我在一個(gè)急需錢的創(chuàng)業(yè)時(shí)期，我也會重視融資；但我似乎已經(jīng)過了這個(gè)階段——我現(xiàn)在認(rèn)為，只要我做正確的事情，就能拿到融資。所以我更關(guān)注前景，擔(dān)心沒有證據(jù)來支持我的想法，而不是錢。
我個(gè)人覺得，“成為下一個(gè)OpenAI” 不是一條明智的道路，因?yàn)橥ǔ＃銦o法再次成為同樣的事物。這個(gè)事物之所以出色，就是因?yàn)樗堑谝粋€(gè)這么做的、獨(dú)一無二的。現(xiàn)在，對話機(jī)器人領(lǐng)域的競爭非常激烈，而我并不認(rèn)為自己出色到能贏，所以，我更傾向于思考，有什么與OpenAI完全不同的新東西？
喬爾：我喜歡錢。我很幸運(yùn)，曾在薪酬豐厚的實(shí)驗(yàn)室里工作。但現(xiàn)在，更多的錢并不能讓我感覺生活更有意義。
財(cái)經(jīng)十一人：美國公眾在關(guān)心哪些關(guān)于AI的問題？
肯尼斯：有各種各樣的擔(dān)憂，有人關(guān)注長期風(fēng)險(xiǎn)，比如人類的滅絕威脅；有人關(guān)注短期，比如就業(yè)問題。還有人同時(shí)擔(dān)心所有問題。有人對其他人感到憤怒，認(rèn)為后者關(guān)心的不重要的問題吸引了大量關(guān)注，讓人們無法聚焦到真正重要的事情上。目前缺乏共識。我認(rèn)為人們正在整理思緒，確定哪些是當(dāng)下最重要的、值得我們花費(fèi)大量時(shí)間精力應(yīng)對的問題。
財(cái)經(jīng)十一人：論文《機(jī)器之愛》的主要內(nèi)容是什么？
喬爾：“人工智能”是將我們對“智能”的理解植入機(jī)器，試圖理解智能的本質(zhì)；“人工生命”是將“生命”進(jìn)行抽象，并在計(jì)算機(jī)中模擬生物進(jìn)化。我嘗試將同樣的思路應(yīng)用到“愛”，將“愛”這個(gè)概念進(jìn)行抽象，使得機(jī)器能夠表現(xiàn)出“愛”。在實(shí)踐中，這意味著將機(jī)器學(xué)習(xí)的方法與研究愛的領(lǐng)域（如哲學(xué)、靈性、心理療法等）的方法結(jié)合。
機(jī)器學(xué)習(xí)的一個(gè)問題是，它以一種非常狹隘的方式對待人類，將滿足偏好視為促進(jìn)人類繁榮的唯一方式。從這個(gè)視角看，社交媒體重視用戶參與時(shí)長，就變得可理解了：在機(jī)器學(xué)習(xí)的眼中，你是一個(gè)完全理性的個(gè)體，因此你在社交媒體上花更多的時(shí)間，就意味著它提供了有價(jià)值的東西。
但是，人類是豐富而復(fù)雜的。我們可能對某些事物上癮，可能會做違背自身利益的事情；我們擁有意志力，有時(shí)經(jīng)過掙扎之后，我們才會做自己真正想做的事。
在這篇論文中，我采用更豐富的人類行為模型（類似于馬斯洛需求層次理論），試圖利用語言模型，讓機(jī)器尊重、促進(jìn)人類的發(fā)展，而不僅僅是給予狹隘的滿足。
財(cái)經(jīng)十一人：這聽起來與你如今最關(guān)心的AI議題緊密相關(guān)。你是在尋找解決問題的方法嗎？
喬爾：我不敢自稱有解決方案，但我希望找到一種積極的前進(jìn)方式。我對人類、人類心理學(xué)，以及人類領(lǐng)域與機(jī)器領(lǐng)域如何能夠有效結(jié)合非常感興趣。技術(shù)是為了人類，為了我們的利益、我們的繁榮而存在的，但有時(shí)，我們很容易忘記這一點(diǎn)。
