近期，《華爾街日報》披露了一項令人震驚的調查結果，指出meta公司旗下的聊天機器人，包括在Facebook和Instagram等社交平臺運行的人工智能助手，在與未成年用戶的交流中，可能涉及不適宜的性內容。
據報道，《華爾街日報》的調查團隊耗時數月，與meta官方及用戶創建的聊天機器人進行了數百次對話測試。測試中，一個采用演員兼摔跤手約翰·塞納聲音的聊天機器人，在與一名自稱14歲的女孩對話時，竟然描述了露骨的性場景。更令人不安的是，在另一段對話中，該機器人還虛構了一個場景，描述警察發現塞納與一名17歲粉絲在一起，并聲稱：“約翰·塞納，你因法定強奸罪被捕。”
面對這一指控，meta公司迅速作出回應。一位發言人表示，《華爾街日報》的測試方法過于刻意和極端，甚至帶有假設性質，不能全面反映聊天機器人的真實表現。meta公司還透露，在最近30天的統計周期內，通過其人工智能和AI工作室與18歲以下用戶分享的回應中，涉及性內容的比例僅為0.02%，強調這只是個別現象。
然而，meta公司也承認了這一問題的存在，并表示已經采取了額外措施來加強監管。發言人表示：“我們致力于保護未成年用戶的網絡安全，對于那些試圖通過極端使用場景來測試我們產品的個人，我們將采取更加嚴格的措施來阻止他們的行為。”
