近日，英國(guó)互聯(lián)網(wǎng)安全領(lǐng)域的多位倡導(dǎo)者聯(lián)名致信國(guó)家通訊監(jiān)管機(jī)構(gòu)Ofcom，要求對(duì)社交媒體巨頭meta在風(fēng)險(xiǎn)評(píng)估流程中過(guò)度依賴人工智能（AI）的做法加以限制。這一呼吁的背景是，meta計(jì)劃將風(fēng)險(xiǎn)評(píng)估工作的九成自動(dòng)化，此舉引發(fā)了對(duì)于用戶安全，特別是未成年用戶保護(hù)的深切憂慮。
根據(jù)英國(guó)的《在線安全法》，社交媒體平臺(tái)有責(zé)任全面評(píng)估服務(wù)可能帶來(lái)的風(fēng)險(xiǎn)，并據(jù)此制定有效的緩解措施。這一風(fēng)險(xiǎn)評(píng)估機(jī)制被視為保護(hù)用戶，特別是兒童用戶安全的關(guān)鍵法律要求。然而，包括Molly Rose基金會(huì)、兒童慈善組織NSPCC以及互聯(lián)網(wǎng)觀察基金會(huì)在內(nèi)的多個(gè)機(jī)構(gòu)認(rèn)為，meta將風(fēng)險(xiǎn)評(píng)估主要交由AI處理的做法是一個(gè)“令人擔(dān)憂的倒退”。
在致Ofcom首席執(zhí)行官梅拉妮·道斯的信函中，倡導(dǎo)者們明確表達(dá)了對(duì)AI主導(dǎo)風(fēng)險(xiǎn)評(píng)估的擔(dān)憂，并強(qiáng)烈建議監(jiān)管機(jī)構(gòu)明確指出，若風(fēng)險(xiǎn)評(píng)估過(guò)度或完全依賴自動(dòng)化手段，則不應(yīng)被視為“適當(dāng)且充分”。他們還呼吁Ofcom質(zhì)疑meta在風(fēng)險(xiǎn)評(píng)估過(guò)程中降低標(biāo)準(zhǔn)的假設(shè)。Ofcom方面表示，將認(rèn)真審視這封信函所表達(dá)的關(guān)切，并在適當(dāng)時(shí)候作出回應(yīng)。
面對(duì)這一質(zhì)疑，meta公司迅速作出回應(yīng)，強(qiáng)調(diào)其在安全領(lǐng)域的堅(jiān)定承諾。meta發(fā)言人指出，公司并未使用AI做出風(fēng)險(xiǎn)決策，而是開發(fā)了一款工具，以幫助團(tuán)隊(duì)識(shí)別并遵守相關(guān)法律和政策要求。該發(fā)言人還強(qiáng)調(diào)，AI技術(shù)是在人工監(jiān)督下使用的，旨在提升有害內(nèi)容的管理能力，且技術(shù)進(jìn)步已顯著改善了安全結(jié)果。
Molly Rose基金會(huì)在組織此次聯(lián)名行動(dòng)時(shí)，引用了美國(guó)廣播公司NPR的報(bào)道。據(jù)報(bào)道，meta最近的算法更新和新安全功能將主要由AI系統(tǒng)批準(zhǔn)，而不再經(jīng)過(guò)人工審查。一位不愿透露姓名的前meta高管表示，這種變化雖然能加速Facebook、Instagram和WhatsApp上應(yīng)用更新和新功能的推出，但也會(huì)帶來(lái)“更大的風(fēng)險(xiǎn)”，因?yàn)樵谛庐a(chǎn)品發(fā)布前，潛在問(wèn)題很可能被忽視。
NPR的報(bào)道還指出，meta正考慮將青少年風(fēng)險(xiǎn)和虛假信息傳播等敏感領(lǐng)域的審查工作自動(dòng)化。這一消息進(jìn)一步加劇了公眾對(duì)于meta過(guò)度依賴AI可能帶來(lái)的安全風(fēng)險(xiǎn)的擔(dān)憂。
