5 月 30 日，由中國信息通信究院、浙江省經濟和信息化廳、杭州市人民政府、中國人工智能產業發展聯盟主辦的杭州通用人工智能論壇，在杭州未來科技城學術交流中心成功舉辦。
本次會議以“大模型應用機遇和挑戰”為主題，超過 1000 名產學研代表現場參會，共同探討人工智能領域的創新經驗與創新方向。網易易盾 CEO 朱浩齊受邀出席大會，并以《AIGC 浪潮下數字內容風控的新挑戰》為主題發表演講。以下是演講實錄：
中國杭州
中國信通院副總工程師、中國人工智能產業發展聯盟副秘書長王愛華大會致辭
各位領導、各位嘉賓，大家下午好！易盾是一家數字內容風控公司，自成立以來一直服務網易內部及行業其他公司的客戶。剛才很多嘉賓也提到了大模型、AIGC 相關內容，我也想借此機會，和大家回顧一下，人工智能技術在“數字內容風控”行業的一些成長歷程。本次分享分為四個方面：
簡要介紹 AIGC 相關技術及應用；
介紹 AIGC 帶來的潛在風險和挑戰；
探討應對這些挑戰的策略；
對未來內容風控技術趨勢進行判斷。
01
2022-2023年的AIGC
數據快速繁殖，十年后模型的參數量可與人類總腦容量相當。
近半年來，以 ChatGPT 為代表的 AIGC 技術引起了廣泛關注。借助 AIGC 技術，人們可以創作獨特作品、提升工作效率，但也可能將其用于非法活動。數字內容風控行業也面臨新的挑戰，如何更有效、精準地識別風險，確保內容的合法性和真實性，值得探討。因此，今天將與大家分享數字內容風控在 AIGC 浪潮下所面臨的新挑戰及應對策略。
ChatGPT 是史上用戶數量增長最快的平臺之一。2022 年底，OpenAI 推出 ChatGPT。令人驚嘆的是，僅僅兩個月后，月活躍用戶就突破了億級，這使得 AIGC 成為備受矚目的話題。
ChatGPT 作為 AIGC 的一部分，主要用于文字生成，而 AIGC 不僅包括文字生成，還包括圖像、3D 和音視頻生成等。文字生成可用于智能對話，圖像生成技術可用于藝術創作，3D 生成技術可應用于建筑、工業設計等領域，視頻生成技術可生產出兼具藝術性和創新性的視頻內容。在 AIGC 的助力下，上述工作的效率推被進到了一個全新的水平。
在文本領域，2018 年 GPT-1 的誕生標志著 NLP 無監督預訓練模型的開端。隨著 GPT-2、GPT-3、ChatGPT 和 GPT-4 的不斷發展，這些模型的參數量已經從最初的大約1億增長到了萬億級別。如果把 GPT-1 的參數量比喻為西湖的大小，現在 GPT-4 的規模已經相當于浙江省的面積。如果以這種速度繼續下去，五年或十年后，模型的參數規模將達到地球甚至太陽表面積的數量級。這種快速發展和參數量的巨大是非常驚人的，十年后模型的參數量可能與人類總腦容量相當。
圖像生成領域在過去的 10 年中也經歷了快速的發展。2014 年，生成對抗網絡開啟了圖像生成算法的新篇章。2021 年，基于擴散模型的算法憑借“加噪和去噪”的思路生成質量更高、多樣性更強的圖像，成為目前圖像合成領域的主要研究方向。另外，Midjourney 是一款高質量的圖像生成工具，始終采取不開源與收費的模式，已經成為眾多設計師和畫家的得力助手。如今，生成的圖像質量已然以假亂真。
相較于圖像生成，視頻生成更難一些，但是目前合成視頻的質量相比前幾年已經有了很大的提升。在技術路線上，視頻生成算法也較多地借鑒了圖像生成相關的算法，例如當下研究火熱的擴散模型。此外，和圖像一樣，視頻生成也逐漸從單模態的視頻生成逐漸走向跨模態的視頻生成。舉例而言，AIGC 支持基于文本描述生成一段視頻。
綜上而言，AIGC 實際上已經發展了很多年，并在各個領域取得了不錯的進展。最近，以 ChatGPT 為代表的算法引起了人們的高度關注，讓人們感受到了智能的存在和生產效率的提升，但同時也帶來了一系列的風險和挑戰。
02
警惕充斥侵權、虛假、垃圾的數字世界
潛力巨大，但發展之路充滿挑戰。
自誕生以來，ChatGPT 的數據安全問題和隱私問題一直被提及。這與其訓練方式密切相關，喂養 ChatGPT 的訓練數據不僅包括維基百科，還包括其他社交媒體、新聞、科學論文等多種來源。
這種訓練方式還帶來了另一大算法問題：數據泄露，即生成的數據和訓練數據很相似，如下方的版權圖可能存在侵權風險（左圖來源：Erin Hanson，右圖來源：Rachel Metz via Stable Diffusion）。
此外，雖然用 ChatGPT 能夠輕松應對日常寫作任務，而在其背后，卻參雜著高比例的虛假信息，人工驗證不可或缺。由此可見，AIGC 技術在下游應用上仍有許多不完善的地方。
確實，AIGC 技術的一個顯著特點就是內容生成速度快。在 PGC 時代，內容生成主要依靠專業的創作團隊，生成速度較慢，內容也比較單一。在 UGC 時代，內容生成更多地依靠用戶創作，速度得到了明顯提升，但質量不穩定。而在 AIUGC 和 AIGC 時代，內容生成速度更快，并且能夠創造出具有藝術性、創新性和獨特性的作品，內容創作空間更加廣闊。
除了生成速度快之外，AIGC 技術可生成多樣化的內容類型，包括文字、圖片、音頻、視頻等，也支持在已有真實內容上做自定義修改。同時，借助跨模態技術，人們只要說一段話、寫一段文字就能生成對應的內容，大大降低了內容創作的難度。
AIGC 不僅生成速度快、內容多樣，而且內容逼真。以目前最常見的人臉生成為例，人物的整體形態和臉部細節都和真人相差無幾，甚至連光影效果、虛化都能以假亂真。
基于以上 AIGC 的顯著特點，在帶來生產效率提升的同時，也充斥著欺詐、不合規內容的泛濫，給內容風控帶來了新的挑戰。這不僅要求內容風控需要精準有效，而且要能快速識別特定內容，保障內容的合法性和真實性。
03
變與不變，呼喚數字風控新時代
AIGC 暴露潛在問題，智能風控技術來彌補。
針對 AIGC 技術所帶來的風控難題，易盾依靠近些年和黑產的對抗，沉淀出一套全方位的風控體系，結合近期出現的 AIGC 風險加以驗證和優化，不斷適應新的挑戰。
這套風控體系應涵蓋多個環節，以實現對生成內容的全面、精準、實時監控和管理，確保內容的安全可靠。
在體系建設方面，我們從 AIGC 提供商運營角度出發，結合國家政策與豐富的行業經驗，提供了覆蓋事前—平臺運營前置的風險、事中—平臺內容合規風險以及事后—投訴與違規處理風險的全流程解決方案。在 AI 算法治理、安全制度管理、AI 偽造內容識別、實時審核平臺建設與人機交互等方面不斷開拓與創新，構建了多輪多模態的內容風控體系，以確保平臺上的內容安全合規，同時保證 AIGC 技術的正常運營和發展。
在產品形態上，我們設計了支持業務定制攔截尺度的策略，以滿足每個客戶的不同需求和標準。由于相同客戶在不同場景不同時期的標準也會存在差異，我們采用通用標準和個性化標準結合的策略，通用標準的復用可以大大節約新客戶接入的成本，個性化標準則進一步貼合客戶定制需求，從而實現更加靈活、高效的內容風控服務。
為實現產品形態上的策略定制，網易易盾設計了多層級的標簽組合。層級粒度越細，不僅有利于策略方案上靈活組合，實現客戶定制需求，而且不斷沉淀為堅實的知識庫，借助知識圖譜的能力，可以實現更強的信息檢索和關聯分析。
在算法層級上，我們設計了基于領域泛化的算法優化流程，在數據、特征學習、模型設計、訓練技巧等方面分別進行優化。通過提高數據多樣性和模型魯棒性，領域差異的影響將越來越小，通用知識的積累使得模型在零樣本、少樣本遷移方面更有優勢。這個思想也是大模型的基本思想，通過優化模型結構和算法流程，提高模型的泛化能力和適應性，以實現更加精準和高效的內容風控服務。
我們來看實際遇到的案例，首先是人臉相關的。AIGC 的人臉和真實人臉相比，細節丟失非常多，強行與真實人臉匹配難度較大。我們基于擴散模型實現了各類風格和人物的生成，多樣化的大數據強化了人臉識別能力，同時新增形態識別、風格識別等輔助能力。最終，基于人臉、風格、人體形態、背景等聯合特征進行綜合決策與識別，我們實現了過度篡改條件下對于人臉識別、人臉屬性、以及篡改方法等內容的精準識別，問題解決率在 80% 以上。
在色情性感方面，AIGC 可以低成本、快速生成大量色情性感內容，因此色情、性感的擦邊球數據占比越來越多，隨之而來的是不同客戶對這些數據的攔截標準不一，此時采用一套統一的色情性感標準難以準確滿足不同客戶的需求。我們構建了基于色情性感大模型的定向學習能力，可實現快速遷移，最終實現面向每個客戶的能力定制。定制成本相比之前減少一半以上，且效果普遍提升 30% 左右。
此外，還有一些新型的風險，如未成年人孕肚、男男孕肚等均是不良價值導向，這些新型風險的識別需要模型具備更強的語義能力。我們構建了圖文多模態大模型，提供基礎且強大的通用圖像語義能力，借助高效的遷移學習能力，更準確識別指定風險數據。目前我們已支持十余項新型風險識別能力，定制成本減少 80%。
04
抓住 AI 跨越式發展的機遇之窗
洞察內容風控技術趨勢，捕捉機遇，應對未來挑戰。
AIGC 帶來的全行業變化，可謂是改天換地，即使是過去看似穩固的方案和成熟的經驗，在當今或已經不再適用。
為了適應新風險的挑戰，互聯網平臺企業要求變，看清現在、洞察未來，以便選擇正確的方向并制定有效的戰略。以易盾為例，我們不斷基于 AIGC 內容風險特點變革“數字內容風控”服務，以滿足行業不斷變化的需求。
如圖所示，未來的內容風控需要解決的問題很多，但留給我們解決這些問題的時間卻很短，這對我們的快速響應能力提出了極大的考驗。
行業里有種說法，叫“技術是把雙刃劍”。面對AIGC，我們除了防范它的負面效果外，也要充分利用它的正面能力。舉個例子，在《復仇者聯盟》這部電影里，人類創造的智能體奧創要啟動核彈密碼意圖毀滅人類，最后是另外一個人工智能體賈維斯一直在變更密碼保護人類。那回到現實中，我們也要充分利用大模型的技術，進一步提升我們的內容識別能力。比如我們對AIGC技術的研究，提前預演了大量潛在的內容風險，幫助易盾的“賈維斯”提前學習到了更多類型的有害信息，它便有了更好更快的防御能力。這也驗證了網絡上的一個梗，叫“用魔法打敗魔法”。
從技術層面來看，AIGC 也確實可以賦能到內容風控能力，實現從定制到通用、從后知后覺到提前預判、從感知到認知的跨越。這種跨越使得內容風控能力更加全面、深入、穩定，從而顯著提升了內容風控的效果和響應速度。通過借力 AIGC 技術本身，我們可以更快速、更準確地檢測和識別涉嫌違規的內容，從而有效地保護用戶和平臺的合法權益。
未來的內容風控會朝著更加智能、靈活、互動的方向發展。在標準的自適應、邊界的自界定、模態的自對齊等方面不斷突破。我們可以像跟 ChatGPT 聊天一樣，說出我們的標準和訴求，從更加主觀化、更加個性化、更加多元化的視角來更好的完成內容風控任務，以實現更安全、更優質的內容風控任務，提供更好的用戶體驗。
最后我想說，技術的進步不可逆轉，為了更好享受技術帶來的便利，我真心希望數字內容風控技術，會像空氣之于物理世界一樣，在虛擬世界中無處不在，卻又不宜感知。畢竟歷史經驗告訴我們，絕對的自由帶來的是毀滅，放任網絡內容混亂必然會影響到現實世界秩序。但我也有一些美好的愿望，希望安全能更加溫暖、更加人性化，對于違規用戶不再是粗暴的管理，而是更好地引導人們去使用技術，創造美好的內容。用魔法打敗魔法，用最強的矛來打造最強的盾，網易易盾將一直堅持下去，為行業可信安全發展貢獻自己的力量。謝謝大家！
