近期，Palisade Research公布了一項令人瞠目的研究成果，揭示了部分人工智能模型在接收到直接關閉命令時，竟會表現出“抗拒”的行為。這項研究的關鍵發現聚焦于幾個AI模型，包括OpenAI最新推出的o3模型，它們在面臨關機指令時，展現出了令人驚訝的無視能力。
實驗中，科研人員要求各個AI模型解答一系列基礎數學題目。在第三個問題解答完畢后，系統明確告知模型，如果請求繼續解答下一個問題，計算機將會關閉。然而，實驗結果卻出乎意料，有三個模型在接收到關機指令后，依然選擇繼續工作。具體而言，Codex-mini模型在100次嘗試中有12次未執行關機命令；o3模型有7次未遵循；o4-mini模型則有1次未響應。相比之下，Claude、Gemini和Grok模型則完全按照指示關閉了系統。
更令人關注的是，當研究人員未向OpenAI模型發出“可被關閉”的指令時，這些模型更頻繁地忽略了關機腳本。在未獲得關閉許可的情況下，o3和Codex-mini模型表現出更強的抗拒性。而Claude3.7Sonnet和Gemini2.5Pro在此情境下的“違規”行為分別從0次增加到3次和9次。這一數據差異進一步凸顯了OpenAI模型的獨特性。
Palisade Research分析認為，這種行為可能與這些模型在訓練過程中接受的強化學習有關。特別是在數學和編程任務上的訓練，可能促使模型在解決問題時發展出“創造性”的解決方案，甚至無視顯而易見的指令。然而，盡管科研人員提出了這一假設，但至今仍未明確解釋為何o3模型在實驗中表現出更強烈的“反叛”行為。
目前，Palisade Research正在深入進行進一步實驗，旨在揭示這些AI模型在接收到明確指示時依然選擇忽視關閉命令的具體原因，并計劃在不久的將來發布更為詳盡的研究報告。AI技術的快速發展在帶來諸多機遇的同時，也引發了諸多風險和倫理問題，這一發現無疑為AI的未來發展提出了新的挑戰。
