【ITBEAR科技資訊】5月22日消息，近日，一場匯聚了全球科技巨頭的“人工智能(AI)首爾峰會”在韓國首爾隆重舉行。據路透社報道，微軟、谷歌、OpenAI等16家業界領先的科技公司在此次會議上共同承諾，將致力于安全地開發AI模型，并在無法掌控最極端風險的情況下，果斷關閉其尖端系統。
此次參會的科技公司陣容強大，除了微軟、谷歌、OpenAI等國際知名企業，還包括中國的智譜AI，該公司曾得到騰訊、阿里、美團和小米的投資。同時，IBM、亞馬遜、meta以及三星等也均派代表出席了本次峰會。
據ITBEAR科技資訊了解，這些科技巨頭在峰會上提出的安全承諾，具體包括了發布一個詳細的框架，該框架將清晰闡述各公司將如何全面評估其AI模型潛在的風險。這一承諾的核心在于，一旦出現風險嚴重到“無法接受”的極端情況，且無法采取有效措施來降低這種風險時，相關的人工智能公司將立即啟動緊急停止開關，暫停相關AI模型的開發或部署工作。
這并不是人工智能企業首次作出類似的安全承諾。去年，亞馬遜、谷歌、meta以及微軟就曾在美國政府的推動下，簽署過一項自愿性的安全保障措施，旨在確保各自發布的AI產品是安全可靠的。
對于此次首爾峰會上的承諾，被譽為“人工智能教父”的著名計算機科學家約書亞·本吉奧表示了歡迎。然而，他也強調，這些自愿性的承諾必須配合有效的政府監管，才能確保其真正落到實處。
