剛上線(xiàn)的換臉軟件“ZAO”一夜爆紅，同時(shí)也帶來(lái)很多爭(zhēng)議。除容易想到的版權(quán)、肖像權(quán)問(wèn)題之外，還引發(fā)人們對(duì)用戶(hù)隱私和數(shù)據(jù)安全的擔(dān)憂(yōu)。而隱私和個(gè)人數(shù)據(jù)安全出問(wèn)題的話(huà)，又會(huì)產(chǎn)生社會(huì)管理問(wèn)題。剛開(kāi)始大家可能更多關(guān)注的是它對(duì)用戶(hù)產(chǎn)生的影響，而用戶(hù)使用軟件過(guò)程中又可能對(duì)第三方產(chǎn)生大規(guī)模侵權(quán)，并引發(fā)更多的社會(huì)管理問(wèn)題。
雖然目前它已經(jīng)修改了用戶(hù)協(xié)議中過(guò)度使用“肖像權(quán)”的內(nèi)容，但這并不能解決它所存在的安全問(wèn)題。換句話(huà)說(shuō)，能不能有效保護(hù)消費(fèi)者的隱私和數(shù)據(jù)安全不是通過(guò)用戶(hù)協(xié)議來(lái)實(shí)現(xiàn)的，用戶(hù)協(xié)議只是一個(gè)方面，更關(guān)鍵的問(wèn)題是用戶(hù)協(xié)議如何落實(shí)。用戶(hù)數(shù)據(jù)的使用方式和保護(hù)方式，也非常重要。如果不對(duì)其進(jìn)行有效監(jiān)管，很可能會(huì)出現(xiàn)數(shù)據(jù)被非法使用并對(duì)消費(fèi)者產(chǎn)生更多次生災(zāi)害的情況。此外，隨著平臺(tái)用戶(hù)和數(shù)據(jù)的增多，平臺(tái)網(wǎng)絡(luò)安全措施是否足以應(yīng)對(duì)用戶(hù)激增以后產(chǎn)生的管理風(fēng)險(xiǎn)，也是一個(gè)問(wèn)題。
社會(huì)管理的有效進(jìn)行，建立在可以對(duì)行為的實(shí)施者進(jìn)行識(shí)別并對(duì)之進(jìn)行追蹤的基礎(chǔ)上的。政府可以運(yùn)用社會(huì)的認(rèn)證體系提升行為人的責(zé)任意識(shí)，可以利用證據(jù)等找到真正的罪犯或者說(shuō)實(shí)施者，這是社會(huì)管理得以運(yùn)行的基礎(chǔ)。這類(lèi)App很容易產(chǎn)生深度偽造(deepfake)的現(xiàn)象，以假亂真的視頻、音頻挑戰(zhàn)了公眾“眼見(jiàn)為實(shí)”認(rèn)知，也挑戰(zhàn)著現(xiàn)有社會(huì)管理的基礎(chǔ)。從這個(gè)軟件使用的情況來(lái)看，如果不嚴(yán)格限定其使用范圍和使用方式，它完全有可能為各種各樣的違法者提供技術(shù)上的便利，并給政府的有效監(jiān)管帶來(lái)意想不到的挑戰(zhàn)。
實(shí)際上，對(duì)于類(lèi)似的新技術(shù)新應(yīng)用我們國(guó)家是有相關(guān)規(guī)定的，國(guó)家互聯(lián)網(wǎng)信息辦公室對(duì)新技術(shù)新應(yīng)用，尤其是具有新聞屬性和社會(huì)動(dòng)員功能的新技術(shù)新應(yīng)用，需要在上線(xiàn)之前進(jìn)行安全評(píng)估。這個(gè)軟件具有很明確的社交功能和社交訴求，將其納入評(píng)估范圍是沒(méi)有任何問(wèn)題的。不清楚這個(gè)軟件有沒(méi)有進(jìn)行安全評(píng)估，如果沒(méi)有評(píng)估，非常有必要對(duì)其啟動(dòng)安全評(píng)估程序。
當(dāng)然我們也不必過(guò)于悲觀(guān)，通過(guò)監(jiān)管部門(mén)的嚴(yán)格監(jiān)管和企業(yè)社會(huì)責(zé)任的認(rèn)真履行，“ZAO”所引發(fā)的擔(dān)憂(yōu)，是可以得到緩解甚至從根本上解決的。將新技術(shù)真正納入到法治、人文、倫理的框架內(nèi)，是能更好地服務(wù)于社會(huì)的。
