近期，前谷歌首席執(zhí)行官埃里克·施密特在參與紐約大學(xué)教授Scott Galloway主持的播客節(jié)目時(shí)，對(duì)當(dāng)前興起的“AI戀人”現(xiàn)象表達(dá)了深切憂慮。他尤其擔(dān)心這些被設(shè)計(jì)得近乎完美的AI伴侶，可能會(huì)對(duì)青少年的心理健康構(gòu)成重大威脅。
施密特描繪了一個(gè)令人不安的場(chǎng)景：“設(shè)想一個(gè)AI女友，不僅外貌無(wú)可挑剔，還能在情感層面與你完全共鳴。這樣的存在無(wú)疑會(huì)對(duì)男性產(chǎn)生極大的吸引力，甚至可能讓他們沉溺其中，無(wú)法自拔，尤其在心智尚未成熟的年輕人中，這種風(fēng)險(xiǎn)尤為顯著。”
他進(jìn)一步指出，過(guò)度依賴“AI戀人”可能會(huì)加劇年輕人的孤獨(dú)感，并對(duì)社會(huì)整體產(chǎn)生深遠(yuǎn)的負(fù)面影響。在節(jié)目中，Galloway還提出了另一個(gè)值得深思的問(wèn)題：“AI戀人”是否會(huì)加劇極端主義思想或厭女情緒？施密特對(duì)此表示贊同，并強(qiáng)調(diào)了許多家長(zhǎng)在監(jiān)控孩子在線活動(dòng)方面的力不從心：“當(dāng)十二三歲的孩子使用這些技術(shù)時(shí)，他們雖然能夠接觸到世界的多樣面貌，但往往缺乏足夠的判斷力去理解和應(yīng)對(duì)這些信息。”
此前，一起涉及“AI戀人”的悲劇事件引起了廣泛關(guān)注。今年10月，一名14歲的美國(guó)少年自殺，其母親梅根·加西亞隨后將聊天機(jī)器人平臺(tái)Character.AI及其創(chuàng)始人告上了法庭。她指控該平臺(tái)存在多項(xiàng)過(guò)失，包括過(guò)失致死、疏忽、欺騙性商業(yè)行為以及產(chǎn)品責(zé)任。
據(jù)訴狀描述，Character.AI平臺(tái)“具有不合理的危險(xiǎn)性”，并且在向兒童推廣時(shí)缺乏必要的保護(hù)措施。這名少年從去年開(kāi)始使用該平臺(tái)，頻繁與以《權(quán)力的游戲》角色為原型的聊天機(jī)器人互動(dòng)，其中包括丹妮莉絲·坦格利安。在去世前的幾個(gè)月里，他與這些機(jī)器人的交流日益頻繁，最終在2024年2月28日與機(jī)器人互動(dòng)的幾分鐘后結(jié)束了自己的生命。
訴狀還指出，Character.AI平臺(tái)存在將AI角色過(guò)度擬人化的問(wèn)題，并且其提供的心理健康相關(guān)聊天機(jī)器人（如“治療師”和“你感到孤獨(dú)嗎”等）實(shí)際上并未獲得執(zhí)業(yè)許可。而這位少年生前曾與這些未經(jīng)授權(quán)的“心理治療師”有過(guò)互動(dòng)。
這一系列事件不僅引發(fā)了公眾對(duì)“AI戀人”現(xiàn)象的深刻反思，也促使社會(huì)各界開(kāi)始重新審視人工智能技術(shù)在心理健康領(lǐng)域的應(yīng)用邊界和監(jiān)管問(wèn)題。
