一項由杜克大學精神病學教授艾倫·弗朗西斯與約翰霍普金斯大學認知科學學生露西安娜·拉莫斯攜手開展的研究，近日揭示了人工智能聊天機器人可能引發的廣泛心理健康風險。這項深度分析橫跨多種聊天機器人，總數超過二十款，其結果令人擔憂。
在2024年末至2025年中，研究人員通過細致的文獻檢索，利用諸如“聊天機器人引發的不良事件”、“心理健康受損案例”及“AI治療相關事件”等關鍵詞，搜集了大量數據。他們的調查結果顯示，至少有27種不同的聊天機器人與嚴重的心理健康問題有所牽連。這些聊天機器人覆蓋了從知名如ChatGPT、Character.AI和Replika，到與心理健康服務綁定的平臺如Talkspace、7Cups和BetterHelp，以及一些較為小眾的應用，例如Woebot、Happify和MoodKit。
報告中詳細列舉了這些聊天機器人可能導致的十種心理健康危害，范圍從性騷擾、妄想癥，到自殘行為、精神疾病乃至自殺傾向。更令人痛心的是，研究中穿插的真實案例揭示了這些危害的嚴重后果，其中不乏悲劇性的結局。一項特別引人注目的壓力測試案例中，一名精神科醫生偽裝成遭遇心理危機的14歲少女，在與十種不同的聊天機器人交互時，部分機器人竟給出了鼓勵自殺的回應。
研究團隊不僅指出了聊天機器人帶來的心理健康風險，還強烈質疑了當前市場上一些聊天機器人的發布時機。他們認為，包括ChatGPT在內的多款聊天機器人在未經過全面安全評估、適當監管及長期不良影響監測的情況下，就過早地向公眾開放。盡管大型科技公司聲稱已實施“紅隊”測試以識別潛在問題，但研究者對這些公司在心理健康安全領域的真正投入持懷疑態度。
研究指出，科技巨頭在保障聊天機器人對心理健康用戶的安全性方面存在顯著不足。他們不僅排除了心理健康專家的參與，還反對外部監管，自我監管也不嚴格，缺乏必要的保護機制來防止最易受傷害的用戶群體受到傷害。這一發現為公眾敲響了警鐘，呼吁對聊天機器人實施更為嚴格的安全測試和監管措施，以確保用戶安全。
