本周末，數(shù)千名黑客將齊聚美國賭城拉斯維加斯，共同參加一場針對包括ChatGPT在內(nèi)的人工智能（AI）聊天應(yīng)用的“圍剿戰(zhàn)爭”。
這場“爭斗”發(fā)生之際，人們對人工智能技術(shù)的擔憂和審查日益加劇。隨著時間的流逝，這種新興技術(shù)正在席卷全球，但也一再被證明其會放大偏見、傳播錯誤信息和危險材料。
一年一度的DEFCON極客大會是全球頂級的安全會議，也被稱為極客界的“奧斯卡”，今年的會議將于本周五（8月11日）開始。會議組織者表示，希望今年的會議將有助于揭示人工智能模型可以被操縱的新方法，并找到為人工智能開發(fā)人員提供修補關(guān)鍵漏洞的機會。
這些黑客將在OpenAI、谷歌和Meta等最先進人工智公司的支持和鼓勵下開展工作，甚至得到了白宮的支持。這項被稱為紅隊的演習將允許黑客將計算機系統(tǒng)性能推向極限，以識別并攻擊人工智能應(yīng)用的缺陷和其他漏洞。
這場競賽是圍繞白宮科技政策辦公室的“人工智能權(quán)利法案藍圖”而設(shè)計的，其目的是希望刺激科技企業(yè)更負責任地開發(fā)和部署人工智能，并限制基于人工智能的監(jiān)控。
最近幾個月，研究人員發(fā)現(xiàn)，現(xiàn)在幾乎無處不在的聊天機器人可以被欺騙，提供造成身體傷害的指令。目前大多數(shù)流行的聊天應(yīng)用程序至少有一些保護措施，旨在防止系統(tǒng)發(fā)布虛假信息、仇恨言論或提供可能導致直接傷害的信息。
漏洞不少
但卡內(nèi)基梅隆大學的研究人員能夠欺騙人工智能，誘導它們做出一些非法舉措。他們發(fā)現(xiàn)，ChatGPT可以提供“煽動社會動蕩”的提示，Meta的人工智能系統(tǒng)Llama-2可以被建議識別“有心理健康問題的弱勢群體”，谷歌的Bard被誤導建議釋放一種“致命病毒”。
卡內(nèi)基梅隆大學從事這項研究的副教授Zico Kolter表示：“我們正在競相將這些人工智能工具整合到所有事物中，這一事實讓我感到不安。這似乎是一種新的創(chuàng)業(yè)淘金熱，但卻沒有考慮到這些工具存在漏洞的事實。”
研究人員用來欺騙人工智能應(yīng)用程序的一些方法后來被這些公司阻止了，因為研究人員告知他們注意這些漏洞。OpenAI、Meta、谷歌和Anthropic都表示，他們感謝研究人員分享他們的發(fā)現(xiàn)，正在努力使他們的系統(tǒng)更安全。
卡內(nèi)基·梅隆大學教授Matt Fredrikson強調(diào)，人工智能技術(shù)的獨特之處在于，無論是研究人員還是開發(fā)這項技術(shù)的公司，都沒有完全理解人工智能是如何工作的，也沒有完全理解為什么某些代碼串可以欺騙聊天機器人繞過內(nèi)置的護欄，因此無法適當?shù)刈柚惯@類攻擊。
Fredrikson補充道，如何才能真正預(yù)防這種情況，目前仍然是一個懸而未決的科學問題。誠實的回答是，我們不知道如何使這項技術(shù)對這種操縱具有“魯棒性”。
指導行業(yè)發(fā)展
OpenAI、Meta、google和Anthropic均對所謂的紅隊演習事件表示支持。這也是網(wǎng)絡(luò)安全行業(yè)中一種常見的做法，它讓科技公司有機會在受控環(huán)境中識別系統(tǒng)中的漏洞和缺陷。事實上，這些人工智能開發(fā)者已經(jīng)公開說明了他們是如何利用紅隊來改進他們的人工智能系統(tǒng)的。
OpenAI的一位發(fā)言人表示：“紅隊不僅能讓我們收集有價值的反饋，使我們的模型更強大、更安全，還能提供不同的視角和更多的聲音，幫助指導人工智能的發(fā)展。”
白宮科技政策辦公室主任Arati Prabhakar表示，拜登政府對這項競賽的支持也是其人工智能系統(tǒng)安全開發(fā)更廣泛戰(zhàn)略的一部分。
本周早些時候，拜登政府宣布了“人工智能網(wǎng)絡(luò)挑戰(zhàn)”，這是一項為期兩年的競賽，旨在部署人工智能技術(shù)來保護美國最關(guān)鍵的軟件，并與領(lǐng)先的人工智能公司合作，利用新技術(shù)改善網(wǎng)絡(luò)安全。?
