智東西
編譯 | Glu
編輯 | 李水青
智東西6月15日消息，近日，著名科學期刊Nature在一篇社論中重磅宣布：出于研究的誠信、許可、隱私和知識產權保護等方面的考慮，該期刊將不會刊登包含AI創作圖像或視頻的投稿。
Nature創刊于1869年11月，主要發表科學和技術領域各個學科的重要突破，是世界上被引用最多、最具影響力的科學期刊之一。事實上，這也不是Nature第一次限制AIGC（生成式AI）了，今年1月，Nature就規定大模型（LLM）不可以成為作者，此次的要求則是延展到了視覺元素。
文章鏈接：https://www.nature.com/articles/d41586-023-01546-4
一、4大難題，讓Nature拒絕AIGC視覺元素
面對來勢洶洶并不斷迭代升級的各類AIGC工具，尤其是ChatGPT、Midjourney，Nature經過數月的討論與協商，終于明確了AIGC視覺作品的發表規定：“未來，除了針對AI的文章，Nature不會發表任何完全或部分使用AIGC進行創作的照片、視頻或插圖。”
其一，Nature認為AI創作的藝術作品無法滿足學術規范中的誠信準則：
“為什么我們不允許在視覺內容中使用生成AI？歸根到底，這是一個誠信問題。就科學和藝術而言，學術作品的出版過程需要堅持誠信原則，誠信的考量包括過程和方法的透明，研究人員、編輯和出版商都需要知道數據和圖像的來源，這樣才能驗證這些數據的準確性和真實性。現有的AIGC工具無法訪問其來源，因此無法進行此類驗證。”
因此，Nature雜志要求：所有需要發表作品的藝術家、電影制作人、插畫家和攝影師，都要提前確認他們提交的所有作品均未使用AIGC工具。
▲這位藝術家的圖片不是AI 生成的，因此被Nature允許發布
其二，歸屬權問題，AIGC作品的歸屬權不明確，這些圖像通常是由輸入AI模型的數百萬張圖像合成而成。
其三，同意與許可問題，尤其是與個人身份或知識產權有關的同意與許可。如果涉及知識產權的內容，必須獲得同意與許可后才能使用，但AIGC常在未獲得必要許可的情況下使用受版權保護的作品進行訓練。
▲由圖像合成模型Stable Diffusion生成的機器人肖像，每個都結合了從不同藝術家那里學到的元素
其四，深度偽造（DeepFake）問題，Nature認為AIGC內容的深度偽造會加速虛假信息的傳播。
▲美總統候選人Ron DeSantis競選視頻的屏幕截圖顯示了真實和虛假圖像的拼貼畫。
二、Nature態度強硬：等法規完善了再說
Nature雖然對AIGC生成的視覺內容不予采用，但并不完全反對使用AI工具。該期刊仍允許投稿包含ChatGPT等AIGC工具生成的文本，前提是這些LLM的使用必須明確記錄在論文的方法或致謝部分中。
此外，所有數據的來源，即使是那些在AI幫助下生成的數據，也必須由作者提供。不過，正如前文所說的，該期刊早已明確聲明，任何LLM工具都不會被視為論文作者。
許多出版物偶爾也會為了完善文章整體閱讀與傳播效果而使用AI生成的圖像或視頻，但Nature堅定地認為：“許多國家的監管和法律體系仍在制定應對AIGC興起的措施，在合適的應對措施出臺前，Nature作為研究和創意作品的出版商，我們將持續拒絕那些使用AIGC創建視覺內容的作品。”
然而，隨著AIGC不斷融入Photoshop等傳統圖像編輯工具，像Nature這樣的傳統出版物可能最后會發現：它們很難在AI與非AI藝術之間劃清界限。就在最近，Adobe將AIGC工具引入了 Photoshop測試版，由其Adobe Firefly引擎提供支持。在此之前，Adobe幾十年來一直使用AI算法為其許多內置工具提供支持。
▲Apple Lisa計算機1983年文件照片的示例（左），通過Adobe Photoshop測試版中新的“生成填充”AI工具得到顯著增強。
結語：Nature嚴禁AIGC視覺元素，謹慎保護科研人員權益
世界正處于人工AI革命的邊緣，這場革命前景廣闊，但AI，尤其是AIGC也在迅速顛覆科學、藝術、出版等領域長期確立的慣例與規矩。
科學家們需要建立一個保護科學完整性、保護科研人員權益的規定與條例，但新條例可能需要很長時間才能完善。在這期間，則需要更為小心謹慎地處理AI問題，否則，過往的那些收益都有可能化為泡影，這也是Nature選擇保守面對AIGC直到相關規定成型的最大原因。
來源：Ars Technica、Nature官網
