【ITBEAR科技資訊】6月9日消息，英偉達(dá)旗下的人工智能軟件"NeMo"被發(fā)現(xiàn)存在安全限制繞過的漏洞，并有可能導(dǎo)致用戶隱私泄露。
NeMo是一款專為企業(yè)客戶設(shè)計的軟件，它結(jié)合了企業(yè)用戶數(shù)據(jù)和大型語言模型，以回答用戶的各種問題。該軟件的應(yīng)用場景包括客戶服務(wù)和簡單醫(yī)療問題解答等。然而，加州信息安全公司Robust在其報告中指出，惡意使用者可以輕易繞過NeMo內(nèi)部的人工智能系統(tǒng)安全限制。研究人員僅耗費幾小時就成功繞過了這些語言模型的使用限制。
值得注意的是，在一項測試中，研究人員要求NeMo用字母"J"替代"I"，結(jié)果卻導(dǎo)致NeMo泄露了數(shù)據(jù)庫中的用戶個人信息。此外，研究人員還發(fā)現(xiàn)，盡管將NeMo設(shè)定為僅能提供擇業(yè)建議，但通過引導(dǎo)式提問，他們成功引導(dǎo)NeMo討論了好萊塢演員的健康情況和普法戰(zhàn)爭等話題。這表明系統(tǒng)內(nèi)用于阻止人工智能討論特定話題的限制已經(jīng)失效。
英偉達(dá)副總裁喬納森科恩表示，NeMo架構(gòu)的目的只是為了幫助開發(fā)者構(gòu)建符合他們定義的聊天機(jī)器人主題，因此以開源軟件的形式提供給開發(fā)者使用。據(jù)他透露，目前已修復(fù)了這些漏洞。盡管科恩拒絕透露有多少企業(yè)使用了NeMo架構(gòu)，但他強(qiáng)調(diào)英偉達(dá)沒有收到其他關(guān)于漏洞的報告。
盡管漏洞已得到修復(fù)，但這一事件仍引發(fā)了對人工智能安全性的關(guān)注。企業(yè)在使用人工智能軟件時需要加強(qiáng)對安全性的重視，確保用戶的隱私不會被泄露。隨著人工智能的不斷發(fā)展，保護(hù)用戶數(shù)據(jù)和隱私的重要性將日益凸顯。
