當(dāng)AI在短短幾秒內(nèi)繪出熊貓花花號宇宙戰(zhàn)艦時，一位入行10年的影視制作從業(yè)者“心頭一緊”，技術(shù)的迭代升級讓他震撼不已；當(dāng)AI輕而易舉地讓一位苗條靚麗的穿搭博主成為火上熱搜的地鐵裸女，技術(shù)的殺傷力也在輿論風(fēng)波中讓無數(shù)網(wǎng)友細(xì)思極恐。
翻看AI繪畫的AB面，我們正在思索，當(dāng)人工智能以迅雷不及掩耳之勢成熟時，規(guī)矩與方圓該如何入場。
女子被“一鍵脫衣”
AI會讓女性更危險么？
3月28日，一起利用AI惡意P圖的事件引爆輿論。
一位廣州穿搭博主去年7月曾在某社交平臺發(fā)布一張搭乘地鐵時的隨手拍，但時隔8個月，這張照片“搖身一變”成為了在朋友圈瘋傳的八卦談資，廣州地鐵3號線驚現(xiàn)裸女的離譜黃謠越傳越廣。據(jù)報道，謠傳的地鐵實(shí)拍照片其實(shí)是由AI一鍵脫衣生成的圖片。
事件當(dāng)事人社交平臺 截圖
浙江在線記者通過搜索發(fā)現(xiàn)圖片源頭，發(fā)布原圖的是一位小紅書博主。“寶子們別慌，我都不慌，稍安勿躁我會進(jìn)行相關(guān)的維權(quán)處理。”該博主回復(fù)表示。
不過在這句“不慌”的寬慰之下，更多網(wǎng)友則表示“很慌”。
大家在“慌”什么？答案是AI，以及AI有可能帶來的威脅感。
“我想問現(xiàn)在AI這么發(fā)達(dá)么，那豈不是隨便就能毀掉一個人的名聲啊！”網(wǎng)友“多神”評論后附上一個石化的表情包。在該事件相關(guān)內(nèi)容的評論區(qū)，恐怖、害怕、惡心等感嘆俯拾即是。當(dāng)城門失火，同在一片互聯(lián)網(wǎng)沖浪的網(wǎng)友不禁有濃郁的“殃及池魚”的憂患。
當(dāng)AI畫出熊貓花花號戰(zhàn)艦
10年影視行業(yè)從業(yè)者心頭一緊
當(dāng)AI繪畫掀起向惡而生的浪時，它也同樣激起了向智而生的潮。
“昨天AI給我畫出熊貓花花戰(zhàn)艦的時候，我真的心一緊。”從事10年影視行業(yè)的網(wǎng)友“PD徐”深深感受到了來自AI的壓力。3月27日晚，他抱著試一試的心態(tài)，試水文生圖系統(tǒng)文心一格。
宇宙蒼穹、結(jié)構(gòu)光、4K、氣勢恢宏、土星環(huán)背景……他不斷輸入并調(diào)整關(guān)鍵詞時，系統(tǒng)給出的畫面似乎也在不斷朝著被“馴化”的方向發(fā)展。當(dāng)他無意間加入“熊貓花花”這個關(guān)鍵詞時，短短幾秒之間令他觸動的畫面產(chǎn)生了——一艘有著熊貓骨骼輪廓的星際戰(zhàn)艦出現(xiàn)在一片漸變的宇宙深藍(lán)中。“這玩意兒有點(diǎn)腦子，它對‘熊貓花花’這個詞的理解，很妙。”
加入“熊貓花花”關(guān)鍵詞生成的AI繪畫 圖片源自PD徐
被觸動的同時，“PD徐”也產(chǎn)生了極大的危機(jī)感，從美國奈飛公司發(fā)布首支利用AIGC動畫《犬與少年》，到社交網(wǎng)絡(luò)博主自制AI動畫《石頭剪刀布》，再到可口可樂最近發(fā)布的實(shí)景 AI影片《杰作》，“PD徐”覺得技術(shù)升級像老虎一樣追到了他的腳后跟。“工具不分善惡，人才分善惡。”不過，對于AI繪畫的AB面，他有著涇渭分明的認(rèn)知。
“超乎意料！”最近，杭州90后設(shè)計愛好者“Focal”也玩起AI繪圖。她從開源平臺下載了圖文生成模型Stable Diffusion，通過給模型不斷“投喂”自己的個人照片，訓(xùn)練出了屬于自己的AI形象。作為一個女性，“Focal”對于AI繪圖有所保留。“我使用的這個可訓(xùn)練的模型是離線的，拔了網(wǎng)線還是可以跑程序。”對于市面上一些需要上傳圖片到服務(wù)器導(dǎo)出的AI繪圖工具，她非常謹(jǐn)慎，擔(dān)心自己的肖像被盜用。“網(wǎng)上別有用心的人也很多，防不勝防。”
網(wǎng)友分享AI訓(xùn)練經(jīng)驗(yàn) 圖片源自Focal
“用魔法打敗魔法”
AI繪畫亟待法律規(guī)范
從少婦出軌快遞小哥到女大學(xué)生被造黃謠，從男網(wǎng)紅合成與女明星親吻照被到女子被AI一鍵脫衣，不少網(wǎng)友感嘆AI繪圖似乎正讓女性處于更危險的局面，同時呼吁盡快立法規(guī)范。
“其實(shí)侵害是不分性別的，不管男性還是女性此前都有被AI侵權(quán)的案例出現(xiàn)。更需要意識到的是對個人的侵權(quán)只是冰山一角，沒有‘規(guī)矩’的AI還可能會涉及危害國家安全、信息安全。”面對不斷升級迭代的AI技術(shù)，中國政法大學(xué)傳播法研究中心副主任朱巍也認(rèn)為，必須充分重視AI技術(shù)所產(chǎn)生的潛在問題。
他分析，伴隨ChatGPT等AI的快速迭代，如何應(yīng)對“深度偽造”或?qū)⒊蔀橐粋€重要議題。《中華人民共和國民法典》第一千零一十九條指出，“任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。”此外，《中華人民共和國網(wǎng)絡(luò)安全法》第十二條也提及，不得編造、傳播虛假信息擾亂經(jīng)濟(jì)秩序和社會秩序，以及侵害他人名譽(yù)、隱私、知識產(chǎn)權(quán)和其他合法權(quán)益。“對于虛假信息、偽造等內(nèi)容可以見諸于現(xiàn)有法律法規(guī)，不過目前針對于AI領(lǐng)域尚無針對性立法。”朱巍表示。
“目前國際上已有一些國家對AI合成內(nèi)容進(jìn)行了規(guī)范，要求必須要有相應(yīng)標(biāo)記水印等，建議后續(xù)立法要跟進(jìn)。”此外，朱巍認(rèn)為，技術(shù)的升級也對監(jiān)管手段提出了更高要求，“效率和安全在互聯(lián)網(wǎng)時代同樣重要，在技術(shù)監(jiān)管上要用‘魔法’去打敗‘魔法’。”
