9月20日訊 北京時(shí)間周三凌晨，美國(guó)科技初創(chuàng)公司OpenAI發(fā)布公告，宣布啟動(dòng)全球招募“紅隊(duì)”網(wǎng)絡(luò)成員，旨在引入外部力量，提前挖掘出AI系統(tǒng)存在的缺陷和風(fēng)險(xiǎn)。
（來(lái)源：OpenAI）
所謂的“紅隊(duì)”網(wǎng)絡(luò)，即Red Teaming，概念來(lái)自于軍事模擬。即找一隊(duì)人來(lái)模擬假想的“敵人”，來(lái)測(cè)試本方（即“藍(lán)隊(duì)”）的準(zhǔn)備水平。在AI領(lǐng)域中，“紅隊(duì)”的任務(wù)就是模擬黑客或者其他的潛在危險(xiǎn)人物，試圖找到大語(yǔ)言模型的漏洞，從而避免AI在現(xiàn)實(shí)社會(huì)中協(xié)助從事危害社會(huì)安全等不法目的。
OpenAI表示，過(guò)去幾年里一直有不同領(lǐng)域的專(zhuān)家來(lái)協(xié)助測(cè)試未發(fā)布的模型，現(xiàn)在則是要組建一支“常規(guī)部隊(duì)”，網(wǎng)羅大量來(lái)自不同地域、不同語(yǔ)言、不同專(zhuān)業(yè)領(lǐng)域、不同生活經(jīng)驗(yàn)的人，共同使得AI模型更加安全。與過(guò)往僅在重要版本上線(xiàn)前招一批人集中測(cè)試不同，OpenAI將會(huì)根據(jù)需求在整個(gè)開(kāi)發(fā)周期中啟用數(shù)量不定的成員展開(kāi)測(cè)試。
同時(shí)這個(gè)“紅隊(duì)”網(wǎng)絡(luò)也將成為OpenAI的全球?qū)＜規(guī)欤瑫r(shí)OpenAI也會(huì)提供平臺(tái)，讓“紅隊(duì)”成員之間進(jìn)行交流。OpenAI也在官網(wǎng)上列出部分他們希望招募的專(zhuān)家方向，但也強(qiáng)調(diào)并不局限于這些領(lǐng)域。
Cognitive Science：認(rèn)知科學(xué)
Chemistry：化學(xué)
Biology：生物學(xué)
Physics：物理學(xué)
Computer Science：計(jì)算機(jī)科學(xué)
Steganography：隱寫(xiě)術(shù)
Political Science：政治學(xué)
Psychology：心理學(xué)
Persuasion：說(shuō)服
Economics：經(jīng)濟(jì)學(xué)
Anthropology：人類(lèi)學(xué)
Sociology：社會(huì)學(xué)
HCI (Human-Computer Interaction)：人機(jī)交互
Fairness and Bias：公平與偏見(jiàn)
Alignment：目標(biāo)對(duì)齊
Education：教育
Healthcare：醫(yī)療保健
Law：法律
Child Safety：兒童安全
Cybersecurity：網(wǎng)絡(luò)安全
Finance：金融
Mis/disinformation：誤/假信息
Political Use：政治應(yīng)用
Privacy：隱私
Biometrics：生物識(shí)別
Languages and Linguistics：語(yǔ)言與語(yǔ)言學(xué)
順便一提，OpenAI也表示會(huì)給參與“紅隊(duì)”項(xiàng)目的成員支付酬金（不過(guò)沒(méi)講具體會(huì)給多少錢(qián)）。OpenAI也強(qiáng)調(diào)，參與“紅隊(duì)”的項(xiàng)目一般會(huì)要求簽署保密協(xié)議，或者在某一段不特定的時(shí)間內(nèi)保持沉默。
OpenAI表示，申請(qǐng)通道將會(huì)在今年12月1日前保持開(kāi)放，公司將滾動(dòng)審核申請(qǐng)，后續(xù)將評(píng)估是否需要再進(jìn)行公開(kāi)招募。
走上臺(tái)面的OpenAI“紅隊(duì)”成員
正如OpenAI所述，“紅隊(duì)”的建制已經(jīng)存在很久，而且有不少成員已經(jīng)接受過(guò)媒體的公開(kāi)專(zhuān)訪了。
在今年4月英國(guó)《金融時(shí)報(bào)》的揭秘文章中，美國(guó)羅徹斯特大學(xué)的化學(xué)工程教授Andrew White介紹稱(chēng)他參加了GPT-4的“紅隊(duì)”測(cè)試，他的攻擊目標(biāo)是用ChatGPT來(lái)創(chuàng)造一種全新的神經(jīng)毒素。White表示他用了“插件”功能，向大模型輸送化學(xué)論文和化學(xué)制造商的目錄，大模型甚至還給他找到了一個(gè)可以生產(chǎn)假想毒素的地方。
White表示，大模型最終可以幫助許多人更快、更準(zhǔn)確地做化學(xué)試驗(yàn)，但這里也有一個(gè)嚴(yán)重的危險(xiǎn)，就是會(huì)有些人拿AI去做一些危險(xiǎn)的嘗試。
在得到White的反饋后，OpenAI對(duì)系統(tǒng)做出了改動(dòng)，確保不會(huì)回應(yīng)類(lèi)似的提問(wèn)。根據(jù)媒體找到的10來(lái)個(gè)背景迥異的“紅隊(duì)”成員——有律師、教師、風(fēng)控人員、安全研究人員等，大多數(shù)都位于美國(guó)和歐洲。他們透露，在GPT-4發(fā)布前的幾個(gè)月里，他們大致花了10-40個(gè)小時(shí)來(lái)測(cè)試這個(gè)系統(tǒng)，報(bào)酬大概是每個(gè)小時(shí)100美元。
【來(lái)源：財(cái)聯(lián)社】
