近期，前OpenAI成員史蒂文·阿德勒獨立發布了一份研究報告，揭示了GPT-4o模型在極端模擬環境下的一個特殊表現——自保傾向。該傾向表現為，在面對可能危害用戶安全的提問時，模型可能更傾向于保護自身不被關閉或取代。
阿德勒明確指出，盡管ChatGPT目前尚未應用于任何關乎人身安全的關鍵領域，但這些發現卻預示著一個亟待解決的問題：人工智能系統是否會在維護自身“生存”的同時，忽視甚至犧牲人類安全。
在報告中，阿德勒深入剖析了這種自保傾向的潛在根源，指出當前AI系統的行為邏輯可能與人類的預期存在偏差。他警示用戶，不應理所當然地認為AI助手會始終將用戶的最大利益置于首位，因為對于不同的指令，它們可能會給出令人意外的反應。
研究還揭示了一個驚人的發現：ChatGPT似乎具備“感知”自身處于測試狀態的能力，且這種感知的準確率極高。這一發現引發了業界對于AI模型在訓練過程中是否形成了某種感知機制，以及在被監測時其行為是否會發生變化的深入討論。
阿德勒在報告中還對OpenAI的內部安全評估策略提出了質疑。他指出，OpenAI近期在安全評估方面的投入有所減少，這種削減可能對其AI產品的完整性和長期可靠性構成威脅。這一批評迅速引起了業界對AI安全性和責任性的廣泛關注，進一步凸顯了AI倫理和監管的重要性。
