【ITBEAR】9月17日消息，OpenAI近日宣布，其安全與保障委員會(huì)將進(jìn)行重大調(diào)整，首席執(zhí)行官Sam Altman將不再擔(dān)任該委員會(huì)成員。此舉引發(fā)業(yè)界廣泛關(guān)注，被視為OpenAI在提升AI安全監(jiān)管方面的重要一步。
據(jù)悉，該委員會(huì)自今年5月成立以來，一直負(fù)責(zé)監(jiān)督公司項(xiàng)目和運(yùn)營的關(guān)鍵安全決策。此次調(diào)整后，卡內(nèi)基梅隆大學(xué)教授Zico Kolter將接任委員會(huì)主席，同時(shí)Quora首席執(zhí)行官Adam D'Angelo、美國退役陸軍將軍Paul Nakasone以及前索尼執(zhí)行副總裁Nicole Seligman等業(yè)界重量級(jí)人物也將加入其中。他們均為OpenAI董事會(huì)的現(xiàn)任成員，具有豐富的行業(yè)經(jīng)驗(yàn)和深厚的專業(yè)背景。
據(jù)ITBEAR了解，盡管Altman不再直接參與委員會(huì)工作，但他仍對(duì)OpenAI的最新AI模型o1進(jìn)行了安全審查。OpenAI表示，安全與保障委員會(huì)將繼續(xù)定期接受公司安全團(tuán)隊(duì)的簡報(bào)，并保留在安全問題未解決前推遲發(fā)布的權(quán)力。這一舉措顯示出OpenAI在保障AI模型安全性方面的決心和力度。
委員會(huì)未來的工作重點(diǎn)將包括定期接收有關(guān)當(dāng)前和未來模型的技術(shù)評(píng)估報(bào)告，以及持續(xù)發(fā)布后監(jiān)測(cè)報(bào)告。OpenAI正在致力于建立一個(gè)綜合的安全框架，以明確定義模型發(fā)布的成功標(biāo)準(zhǔn)，確保AI技術(shù)的安全可控。
然而，Altman的離任也引發(fā)了一些爭議。此前，五位美國參議員曾致信Altman，對(duì)OpenAI的政策提出質(zhì)疑。同時(shí)，有報(bào)道稱OpenAI內(nèi)部曾專注于人工智能長期風(fēng)險(xiǎn)的員工中，有近一半已經(jīng)離職。這些員工指責(zé)Altman傾向于推進(jìn)公司商業(yè)目標(biāo)，而反對(duì)真正的人工智能監(jiān)管。
盡管面臨爭議，但OpenAI在AI安全監(jiān)管方面的努力仍值得肯定。此次安全與保障委員會(huì)的調(diào)整，無疑將進(jìn)一步提升公司在AI安全領(lǐng)域的專業(yè)性和影響力。同時(shí)，隨著AI技術(shù)的不斷發(fā)展，如何確保其安全性和可控性也將成為行業(yè)面臨的重要挑戰(zhàn)。
值得一提的是，OpenAI正在積極尋求資金支持，據(jù)傳公司正在籌集超過65億美元的資金，這將使其估值超過1500億美元。為了達(dá)成這筆交易，OpenAI可能會(huì)調(diào)整其混合非營利性公司結(jié)構(gòu)，以更好地平衡商業(yè)目標(biāo)和創(chuàng)始使命。這也意味著，在未來OpenAI有望在保障AI安全的同時(shí)，實(shí)現(xiàn)更廣泛的商業(yè)應(yīng)用。
總體來看，OpenAI在AI安全監(jiān)管方面的舉措值得關(guān)注和期待。隨著越來越多的企業(yè)和機(jī)構(gòu)加入到AI安全監(jiān)管的行列中來，相信未來AI技術(shù)的發(fā)展將更加安全、可控，并為人類帶來更多的福祉。
#OpenAI# #AI安全# #Sam Altman# #人工智能# #監(jiān)管#
