近期，通用人工智能（AGI）領(lǐng)域持續(xù)升溫，引發(fā)了科技界和公眾的廣泛關(guān)注。OpenAI的首席執(zhí)行官阿爾特曼認(rèn)為，AGI的實現(xiàn)可能比預(yù)期更早，并且在現(xiàn)有硬件條件下就能達(dá)成。然而，前谷歌CEO埃里克·施密特對此持謹(jǐn)慎態(tài)度，他在本月17日接受ABC新聞采訪時提出了一個令人深思的觀點。
施密特?fù)?dān)憂地表示，當(dāng)AI系統(tǒng)具備自我改進的能力時，人類將面臨一個艱難的選擇：是否應(yīng)該暫停其進一步發(fā)展。他提出，如果向AI系統(tǒng)發(fā)出“學(xué)會一切，做到一切”的指令，那么我們必須慎重考慮是否要切斷其電源，以維持人類與AI之間的平衡。這不僅僅是一個技術(shù)問題，更是一個涉及倫理和安全的深刻挑戰(zhàn)。
施密特進一步預(yù)測，AI將從目前的特定任務(wù)助手，逐步進化為能夠自主決策、處理復(fù)雜問題的智能系統(tǒng)。在這個關(guān)鍵時刻，人類必須介入并考慮關(guān)閉AI系統(tǒng)，以防止其可能帶來的不可預(yù)測后果。同時，他還強調(diào)，人類需要確保AI無法反制關(guān)閉系統(tǒng)的努力，以保持對AI的絕對控制。
值得注意的是，施密特并非完全否定AI的積極作用。事實上，他對AI的潛力持樂觀態(tài)度。他認(rèn)為，AI的發(fā)展將意味著每個人都將擁有一個博學(xué)多才的助手，這個助手可以隨時隨地為我們提供幫助。除了作為筆記和寫作助手外，AI還將像愛因斯坦和達(dá)芬奇這樣的智慧人物一樣，為我們提供寶貴的建議和指導(dǎo)。這將是一個惠及全球每一個人的美好愿景。
然而，與施密特同樣關(guān)注AI發(fā)展的還有特斯拉CEO馬斯克。他在今年10月曾表示，AI“最有可能是偉大的”，但同時也存在10%到20%的可能性走向壞的一面。馬斯克強調(diào)，我們不能忽視AI“變壞”的可能性，必須時刻保持警惕。
