·七國集團(tuán)（G7）發(fā)布《開發(fā)先進(jìn)人工智能系統(tǒng)組織的國際行為準(zhǔn)則》，包括11點框架。同日，美國總統(tǒng)拜登發(fā)布一項關(guān)于“安全、可靠和值得信賴的人工智能”的行政命令。
·由英國牽頭的人工智能安全峰會即將于11月1日召開，科技公司的高管和政府官員等近百名代表將出席，包括OpenAI首席執(zhí)行官山姆·奧特曼、特斯拉創(chuàng)始人埃隆·馬斯克等科技領(lǐng)袖。中國代表也在受邀名單之列。
今年5月，七國集團(tuán)在日本廣島舉行峰會，宣布“廣島人工智能進(jìn)程”。
全球政府或權(quán)力機構(gòu)監(jiān)管人工智能的行動密集展開。
當(dāng)?shù)貢r間10月30日，七國集團(tuán)（G7）發(fā)布《開發(fā)先進(jìn)人工智能系統(tǒng)組織的國際行為準(zhǔn)則（International Code of Conduct for Organizations Developing Advanced AI Systems）》。該自愿指南以5月宣布的“廣島人工智能進(jìn)程”為基礎(chǔ)，旨在促進(jìn)安全、可靠、值得信賴的人工智能。
同一天，美國總統(tǒng)拜登發(fā)布一項關(guān)于“安全、可靠和值得信賴的人工智能”的行政命令。同時，歐盟正在最終確定具有財務(wù)約束力的《人工智能法案》。
幾天前，聯(lián)合國成立新的人工智能咨詢委員會，由39名全球政府、技術(shù)和學(xué)術(shù)領(lǐng)袖組成，有兩名來自中國的專家入選，分別是中國科學(xué)院自動化研究所研究員、類腦智能研究中心副主任曾毅，以及中國政法大學(xué)數(shù)據(jù)法治研究院教授、博士生導(dǎo)師張凌寒。
由英國牽頭的人工智能安全峰會即將于11月1日召開，科技公司的高管和政府官員等近百名代表將出席，包括OpenAI首席執(zhí)行官山姆·奧特曼、特斯拉創(chuàng)始人埃隆·馬斯克、微軟總裁布拉德·史密斯、和谷歌DeepMind首席執(zhí)行官德米斯·哈薩比斯等科技領(lǐng)袖。中國代表也在受邀名單之列。
“非詳盡”原則清單
由美國、歐盟（非正式成員）、英國、加拿大、法國、德國、意大利和日本組成的七國集團(tuán)在一份聲明中表示：“我們……強調(diào)先進(jìn)人工智能系統(tǒng)的創(chuàng)新機會和變革潛力，特別是基礎(chǔ)模型和生成式人工智能。”“我們還認(rèn)識到需要管理風(fēng)險并保護(hù)個人、社會和我們的共同原則，包括法治和民主價值觀，以人類為中心。”七國領(lǐng)導(dǎo)人稱，應(yīng)對這些挑戰(zhàn)需要為人工智能“塑造包容性治理”。
七國集團(tuán)發(fā)布了新的11點框架，以幫助指導(dǎo)開發(fā)人員負(fù)責(zé)任地創(chuàng)建和部署人工智能。該團(tuán)體呼吁各組織致力于遵守行為準(zhǔn)則，同時承認(rèn)“不同的司法管轄區(qū)可能會采取自己獨特的方法來實施這些指導(dǎo)原則。”
這11點框架包括：
第一，在整個開發(fā)過程中采取適當(dāng)?shù)拇胧﹣碜R別、評估和減輕風(fēng)險。這可以包括紅隊（測試）、測試和緩解措施，以確保可信性、安全性和保障性。開發(fā)人員應(yīng)該啟用與數(shù)據(jù)集、流程和決策相關(guān)的可追溯性。
第二，識別并減少部署后的漏洞、事件和誤用模式。這可以包括監(jiān)控漏洞、事件和新出現(xiàn)的風(fēng)險，并促進(jìn)第三方和用戶的發(fā)現(xiàn)和事件報告。
第三，公開報告先進(jìn)人工智能系統(tǒng)的功能、局限性以及適當(dāng)和不適當(dāng)使用的領(lǐng)域。這應(yīng)該包括由“強大的文檔流程”支持的透明度報告。
第四，致力于負(fù)責(zé)任的信息共享和事件報告。這可以包括評估報告，有關(guān)安保和安全風(fēng)險、有意或無意規(guī)避保障措施的能力的信息。
第五，制定、實施和披露人工智能治理和風(fēng)險管理政策。這適用于個人數(shù)據(jù)、提示和輸出。
第六，投資并實施安全控制，包括物理安全、網(wǎng)絡(luò)安全和內(nèi)部威脅防護(hù)措施。這可能包括保護(hù)模型權(quán)重和算法、服務(wù)器和數(shù)據(jù)集，包括操作安全措施和網(wǎng)絡(luò)/物理訪問控制。
第七，開發(fā)和部署可靠的內(nèi)容身份驗證和來源機制，例如水印。來源數(shù)據(jù)應(yīng)包括創(chuàng)建內(nèi)容的服務(wù)或模型的標(biāo)識符，免責(zé)聲明還應(yīng)告知用戶他們正在與人工智能系統(tǒng)進(jìn)行交互。
第八，優(yōu)先開展研究以減輕社會、安全和安保風(fēng)險。這可以包括實施與投資研究和開發(fā)緩解工具，并促進(jìn)合作。
第九，優(yōu)先開發(fā)人工智能系統(tǒng)，以應(yīng)對“世界上最大的挑戰(zhàn)”，包括氣候危機、全球健康和教育。各機構(gòu)還應(yīng)支持?jǐn)?shù)字素養(yǎng)計劃。
第十，推動國際技術(shù)標(biāo)準(zhǔn)的制定和采用。這包括促進(jìn)國際技術(shù)標(biāo)準(zhǔn)和最佳實踐的開發(fā)和使用。
第十一，對個人數(shù)據(jù)和知識產(chǎn)權(quán)實施適當(dāng)?shù)臄?shù)據(jù)輸入措施和保護(hù)。這應(yīng)包括訓(xùn)練數(shù)據(jù)集的適當(dāng)透明度。
七國集團(tuán)強調(diào)，人工智能組織必須尊重法治、人權(quán)、正當(dāng)程序、多樣性、公平和非歧視、民主和“以人為本”。先進(jìn)系統(tǒng)的引入不應(yīng)有害、破壞民主價值觀、助長恐怖主義、助長犯罪濫用，“或?qū)Π踩脖：腿藱?quán)構(gòu)成重大風(fēng)險”。
該組織還承諾引入監(jiān)控工具和機制，以追究組織的責(zé)任。
為了確保其適合目的和具有響應(yīng)能力，行為準(zhǔn)則將根據(jù)政府、學(xué)術(shù)界和私營部門的意見進(jìn)行必要的更新。“非詳盡”原則清單將“作為一份動態(tài)文件進(jìn)行討論和闡述”。
七國集團(tuán)領(lǐng)導(dǎo)人進(jìn)一步聲稱，他們的努力旨在營造一個使人工智能效益最大化的環(huán)境，同時減輕其“為全球共同利益帶來的風(fēng)險”。這應(yīng)該包括發(fā)展中經(jīng)濟(jì)體和新興經(jīng)濟(jì)體，“以縮小數(shù)字鴻溝并實現(xiàn)數(shù)字包容性”。
白宮行政命令“執(zhí)行困難”
歐盟委員會發(fā)表聲明對這一自愿性行為準(zhǔn)則表示歡迎，稱“這些原則和自愿行為準(zhǔn)則將在國際層面補充歐盟共同立法者目前根據(jù)歐盟《人工智能法案》最終確定的具有法律約束力的規(guī)則”。
歐盟憑借其要求嚴(yán)厲的《人工智能法案》一直處于監(jiān)管新興技術(shù)的最前沿，而日本、美國和東南亞國家則采取了更趨向于不干涉的方式來促進(jìn)經(jīng)濟(jì)增長。
其中，美國國會距離制定監(jiān)管生成式人工智能的立法還有相當(dāng)長的距離，但拜登10月30日簽署行政命令，推出了白宮有關(guān)生成式人工智能的首套監(jiān)管規(guī)定，部分原因是希望在明年美國總統(tǒng)選舉前遏制人工智能帶來的一些現(xiàn)實問題。
“深度造假利用人工智能生成的音頻和視頻來抹黑聲譽、傳播虛假新聞并實施欺詐。”拜登在白宮簽署該命令時表示，工作人員向他展示的一項實驗表明，一個構(gòu)建良好的人工智能系統(tǒng)可以令人信服地創(chuàng)建一份從未發(fā)生過的總統(tǒng)聲明，從而引發(fā)一場政治或國家安全危機。“我說，‘我到底什么時候這么說過？’”
行政命令要求美國多個政府機構(gòu)制定標(biāo)準(zhǔn)，對人工智能產(chǎn)品進(jìn)行測試，尋求“水印”等內(nèi)容驗證的最佳方法，擬定網(wǎng)絡(luò)安全計劃，吸引技術(shù)人才，以保護(hù)隱私，促進(jìn)公平和公民權(quán)利，維護(hù)消費者和勞動者的利益，促進(jìn)創(chuàng)新和競爭，提升美國的領(lǐng)導(dǎo)地位等。
美國媒體對行政命令作出了一些評價。“盡管拜登擁有監(jiān)管聯(lián)邦政府如何使用人工智能的廣泛權(quán)力，但他接觸私營部門的能力卻較差。盡管他說他的命令‘代表了大膽的行動’，但他承認(rèn)‘我們?nèi)匀恍枰獓鴷扇⌒袆?rsquo;。”《紐約時報》評論道，并援引專家的話稱，該命令中的許多指令將很難執(zhí)行。
“如果沒有國會的行動，拜登政府所能取得的成就是有限的。除了提名對硅谷有敵意歷史的主要執(zhí)行者之外，白宮在科技問題上幾乎沒有采取任何行動。與此同時，盡管多年來國會試圖制定有關(guān)隱私、網(wǎng)絡(luò)安全和新興技術(shù)的規(guī)則，但國會尚未通過任何重大科技立法。”《華盛頓郵報》評論稱。
作為外交努力的一部分，美國副總統(tǒng)哈里斯將出席在倫敦舉行的人工智能安全峰會。這場峰會旨在實現(xiàn)英國首相蘇納克希望讓英國成為人工智能監(jiān)管“地理中心”的計劃，討論議題將包括人工智能發(fā)展的未來方向、如何加劇全球不平等、對選舉和教育的影響等。蘇納克表示，英國將建立“全球首個”人工智能安全研究所。
英國科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾·唐蘭（左）與英國首相蘇納克。
在為期兩天的峰會中，第一天將由英國科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾·唐蘭主持，大多數(shù)科技公司和政府官員將出席首日活動。第二天的會議則由蘇納克主持，只會邀請小部分政治領(lǐng)導(dǎo)人和科技高管討論具體應(yīng)對措施。
會議的全部嘉賓名單尚未公布，但在國家領(lǐng)導(dǎo)人方面，美國總統(tǒng)拜登、法國總統(tǒng)馬克龍、德國總理朔爾茨和加拿大總理特魯多都將不會出席，只有歐盟委員會主席馮德萊恩確認(rèn)參會。與會專家包括現(xiàn)代人工智能3位“教父”中的兩位：杰弗里·辛頓和約書亞·本吉奧。
【來源：澎湃新聞】
