【ITBEAR科技資訊】7月6日消息，OpenAI，ChatGPT的背后開發(fā)團(tuán)隊(duì)，宣布將構(gòu)建全新的研究分支，以加大在AI安全性方面的投入。其目標(biāo)是建立一種AI監(jiān)督AI的機(jī)制，以提升AI技術(shù)對人類的安全性。
OpenAI聯(lián)合創(chuàng)始人伊利亞·蘇茨凱弗(Ilya Sutskever)與AI對齊項(xiàng)目負(fù)責(zé)人簡·萊克(Jan Leike)通過官方博客，對AI超級智能化帶來的可能危險(xiǎn)發(fā)出警告。他們指出，未來超級智能AI或可能使人類力量無法抗衡，而目前人類還無法控制這種潛在的超級智能AI。
據(jù)ITBEAR科技資訊了解，兩位負(fù)責(zé)人進(jìn)一步預(yù)見，未來十年內(nèi)有可能出現(xiàn)超越人類智能的AI。為防止AI失控，人類需要研發(fā)更先進(jìn)的技術(shù)，并在AI對齊的問題上取得重大突破。AI對齊是指AI系統(tǒng)的目標(biāo)應(yīng)與人類價(jià)值觀和意圖一致。
OpenAI預(yù)計(jì)，未來四年將把20%的計(jì)算能力投入到這一領(lǐng)域，同時(shí)還計(jì)劃組建一支專門的“超對齊”團(tuán)隊(duì)來進(jìn)行相關(guān)工作。這個(gè)新團(tuán)隊(duì)的主要任務(wù)，將是培養(yǎng)出達(dá)到“人類水平”的AI對齊研究員，然后用巨大的計(jì)算能力來推進(jìn)他們的發(fā)展。
這種“人類水平”的AI對齊研究員，將采用人工反饋進(jìn)行訓(xùn)練，然后協(xié)助人類進(jìn)行AI系統(tǒng)的評估，最后對AI系統(tǒng)進(jìn)行實(shí)際的對齊研究。
然而，AI安全倡導(dǎo)者康納·萊希(Connor Leahy)對OpenAI的這一計(jì)劃表示擔(dān)憂。他認(rèn)為，如果最初的人類水平AI失控，可能會造成無法挽回的后果，因此在開發(fā)人類水平的AI之前，必須首先解決AI對齊問題。
對于AI技術(shù)的安全性，公眾始終持謹(jǐn)慎態(tài)度。今年四月，一批AI行業(yè)領(lǐng)導(dǎo)者和專家簽署公開信，要求暫停開發(fā)比GPT-4更強(qiáng)大的AI系統(tǒng)六個(gè)月，原因正是其可能對社會造成的潛在風(fēng)險(xiǎn)。據(jù)益普索5月的調(diào)查顯示，超過三分之二的美國人對AI可能帶來的負(fù)面影響感到擔(dān)憂，其中61%的受訪者認(rèn)為AI可能會對人類文明產(chǎn)生威脅。在這種背景下，OpenAI加大對AI安全研究的投入顯得更為重要。
