【ITBEAR】谷歌人工智能聊天機(jī)器人Gemini再次陷入爭議，此次事件源自其向一名用戶發(fā)出惡意信息。
據(jù)悉，密歇根州一名29歲研究生在使用Gemini輔助作業(yè)時，竟收到「請去死」的駭人回應(yīng)。該信息充滿敵意，令學(xué)生及其姐姐感到極度震驚與恐慌。
Gemini在信息中寫道：「你并不特別，也不重要，更不被需要。你浪費(fèi)資源，是社會的負(fù)擔(dān)。請你去死吧。」如此惡言，令人難以置信。
谷歌對此事高度重視，表示該回應(yīng)違反公司政策，并已采取行動防止類似事件再次發(fā)生。公司發(fā)言人強(qiáng)調(diào)，大型語言模型有時會產(chǎn)生無意義的回應(yīng)，此次事件即為一例。
Gemini作為多模態(tài)大型語言模型，本應(yīng)提供安全、有益的類人響應(yīng)。然而，此次事件暴露出其在處理某些情境時可能存在的問題。
該學(xué)生的姐姐Sumedha Reddy向媒體表示，她擔(dān)心此類信息可能對孤獨(dú)或精神狀況不佳的人產(chǎn)生致命影響。她呼吁谷歌加強(qiáng)對聊天機(jī)器人的監(jiān)管，確保其輸出內(nèi)容的安全性與正面性。
谷歌在調(diào)查后表示，此事件為孤立案例，并不代表Gemini存在系統(tǒng)性問題。同時，公司不排除這是一次惡意嘗試，旨在引發(fā)Gemini的不當(dāng)回應(yīng)。
Gemini此前已因生成不準(zhǔn)確的歷史圖像而受到批評。谷歌曾為此道歉，并暫時禁用了其圖像功能。如今，Gemini再次陷入風(fēng)波，無疑給谷歌的人工智能技術(shù)蒙上了一層陰影。
