近日，一起涉及先進人工智能技術的安全事件引發了廣泛關注。據報道，一位網名為“STS 3D”的海外工程師，利用ChatGPT技術，打造了一款能夠響應指令并自動瞄準射擊的步槍炮塔裝置。這一裝置在接收到“射擊”命令后，能夠迅速調整步槍，并使用空包彈對近距離的墻壁進行射擊。
在演示過程中，工程師向ChatGPT發出指令，模擬了左前方和右前方受到攻擊的場景，并要求系統做出相應反應。令人驚訝的是，步槍炮塔以極快的速度和極高的精確度，成功理解了指令并完成了動作。這一切的實現，得益于OpenAI提供的實時API接口，使ChatGPT能夠理解諸如“向左轉”等命令，并將其轉化為機器語言。
然而，這一創新并未得到OpenAI的認可。據OpenAI向媒體透露，公司已經主動發現并關閉了該開發者的賬號。OpenAI強調，其技術使用政策明確禁止將技術用于武器開發或使可能危及人身安全的系統自動化。OpenAI還表示，在接到媒體詢問之前，已經通知開發者停止相關活動。
值得注意的是，OpenAI的政策在過去一年中有所調整。去年初，OpenAI悄然從其使用政策中刪除了“明確禁止將其技術用于軍事目的”的條款。此前，其政策還明確禁止“具有高身體傷害風險的活動”，特別是武器開發、軍事和戰爭。然而，在新政策中，雖然保留了“不得使用其服務傷害自己或他人”的禁令，并以“開發或使用武器”為例，但“軍事和戰爭”這一更全面的禁令已被移除。
這一政策調整引發了關于人工智能倫理和安全的廣泛討論。隨著技術的不斷發展，如何確保人工智能技術的安全使用，防止其被用于危害人類的活動，成為了亟待解決的問題。此次事件也再次提醒人們，在追求科技創新的同時，必須時刻關注技術的倫理和社會影響。
