9月15日,網(wǎng)易智企主辦的“智啟 AI • AIGC 產(chǎn)業(yè)賦能大會”在中國烏鎮(zhèn)盛大開幕,多位在 AI 領域具備深刻理解的大咖圍繞 AI 賦能行業(yè)的趨勢、AI 催生的商業(yè)機遇、AI 驅動企業(yè)轉型的策略等話題進行了探討。網(wǎng)易智企分享了 AIGC 在組織效能提升的實踐經(jīng)驗,以及智企各業(yè)務線 AI 落地的最新進展與成果,并發(fā)布了聚焦于客服領域的行業(yè)大模型“商河”。
大會同期,作為網(wǎng)易智企旗下的新一代數(shù)字內容風控領軍者,網(wǎng)易易盾發(fā)布《生成式人工智能(AIGC)內容安全合規(guī)指引》。該指引旨在闡述AIGC趨勢下,開展數(shù)字化業(yè)務的企業(yè)如何建立內容安全合規(guī)體系,以確保AIGC相關業(yè)務健康長效地發(fā)展。
01.AIGC,數(shù)字內容風控的“矛”與“盾”
在愛分析聯(lián)合網(wǎng)易易盾發(fā)布的數(shù)字內容風控行業(yè)首本白皮書——《2023數(shù)字內容風控行業(yè)白皮書》中提到,自2022年開始,從引爆AI作畫領域的DALL-E 2、Stable Diffusion等AI模型,到以ChatGPT為代表的接近人類水平的對話機器人,AIGC技術逐漸走入人們的視野和日常生活,也逐漸成為內容生產(chǎn)的新引擎,其強大的內容生產(chǎn)能力更是給人們帶來了極大的震撼。
一方面,AIGC提升了內容生產(chǎn)效率,成為數(shù)字內容生產(chǎn)的“利器”,另一方面也要看到,AIGC的內容生產(chǎn)方式給黑灰產(chǎn)也提供了更加便利的工具,提升了數(shù)字內容風控的難度,包括虛假信息問題、惡意內容問題、網(wǎng)絡欺詐問題等。
在當前的AIGC環(huán)境下,虛假信息、惡意內容以及網(wǎng)絡欺詐等問題已成為待解決的難題。因此,AIGC平臺廠商需要建立完整的閉環(huán)風控體系,以實現(xiàn)全面的防范和處置。該體系應從事前防控開始,通過數(shù)據(jù)標注、數(shù)據(jù)治理等方法手段,將風險防控前置化;接著,在事中階段,應精準審核各種內容,利用先進的人工智能算法進行快速篩選和判定是否存在違規(guī)行為,最后,在事后處置優(yōu)化階段,應采取有效的措施對違規(guī)行為進行處理,并通過持續(xù)的監(jiān)控和反饋機制,不斷完善和優(yōu)化風控體系,確保 AIGC應用的安全穩(wěn)定運營。
易盾本次發(fā)布《生成式人工智能(AIGC)內容安全合規(guī)指引》,即意在確保AIGC這一人類歷史上的突破性科技成果,“矛”為人類所用,“盾”護自身安全。
02.在效率之前的命題:安全合規(guī)
生成式人工智能(AIGC)的安全與合規(guī),并不是某一家企業(yè)或某一個平臺需要面對的命題,而是一個社會在面對一項時代進步時所需要共同面對的。
國家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務管理暫行辦法》(以下稱“辦法”),對生成式人工智能進行專項監(jiān)管,于2023年8月15日正式施行。這也是我國首個針對生成式人工智能產(chǎn)業(yè)的規(guī)范性政策。
根據(jù)中國日報網(wǎng)解讀,在落實規(guī)范細則同時,《辦法》也進一步鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用,支持各類組織在生成式人工智能技術創(chuàng)新、數(shù)據(jù)資源建設、轉化應用、風險防范等方面開展協(xié)作,推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設。
此外,《辦法》在優(yōu)化監(jiān)管細則,支持企業(yè)級生成式人工智能技術進一步發(fā)展同時,也鼓勵生成式人工智能在不同行業(yè)、領域的應用,構建應用生態(tài)體系,加速生成式人工智能應用生態(tài)發(fā)展。
《辦法》實施的不久之后,百度、字節(jié)跳動、商湯、中科院旗下紫東太初、百川智能、智譜華章等8家企業(yè)/機構的大模型位列首批通過《生成式人工智能服務管理暫行辦法》備案的名單,可正式上線面向公眾提供服務。
在看到監(jiān)管的同時,更應該看到安全合規(guī)帶來的長期利好。縱觀歷史各項對人類發(fā)展有著重大意義的科技成果,每項成果在大規(guī)模造福人類時都需要在“安全合規(guī)”的前提下——這不是一種負擔,而是一種長期主義下的重要保障。
03.得《指引》者得安全,得安全者得長效
在此次發(fā)布的《生成式人工智能(AIGC)內容安全合規(guī)指引》中,易盾團隊首先闡述了生成式人工智能內容安全的重要性,后以人工智能行業(yè)合規(guī)發(fā)展為出發(fā)點,重點探討了生成式人工智能全生命周期的安全風險與合規(guī),最后進行總結并提出幾點建議,幫助生成式人工智能服務提供商在合乎規(guī)范的前提下為用戶提供服務,促進生成式人工智能健康蓬勃發(fā)展。
《指引》通過AIGC生命周期風險、風險應對、內容安全的檢測標準、內容安全檢測工具及實例分析、AIGC企業(yè)合規(guī)要點5大章節(jié)近2萬字給出了詳細且完善的AIGC內容安全合規(guī)方法論與案例參考。同時易盾研究團隊向社會與行業(yè)免費公開此《指引》,這也是網(wǎng)易易盾作為數(shù)字內容風控行業(yè)領軍者的行業(yè)擔當、社會擔當。
在給出具體合規(guī)要點與方法的同時,《指引》還在最后向AIGC服務提供商真誠地提出如下建議:
(1)積極響應國家政策,以網(wǎng)信辦等主管部門發(fā)布的相關文件為指引,做好算法備案、安全自評估等工作;
(2)加強對合規(guī)標準的自主探索,建立企業(yè)層面的評價體系,堅持以公平、公開、向善的原則開展有關技術的研究和應用工作,加強AIGC全生命周期合規(guī)工作的監(jiān)督意識,確保訓練階段不脫節(jié)、應用階段不違法;
(3)加強企業(yè)安全管理制度建設,用制度規(guī)范行為,做到安全管理常態(tài)化;
(4)加強科技創(chuàng)新,著重解決現(xiàn)有技術中存在的難題,突破算法透明度、健壯性、歧視與偏見等技術局限,打破行業(yè)發(fā)展瓶頸;
(5)主動承擔社會責任,加強正面宣傳,幫助廣大人民群眾了解AIGC技術的現(xiàn)狀和發(fā)展趨勢,引導大眾正確使用相關技術服務,助力AIGC真正造福社會、造福人類。
網(wǎng)易副總裁、網(wǎng)易智企總經(jīng)理阮良表示:可以說,幾乎所有的業(yè)務都適合用AI重做一遍,所有的效益都值得被AIGC放大一遍。作為網(wǎng)易智企旗下的新一代數(shù)字內容風控領軍者,網(wǎng)易易盾基于豐富的內容安全行業(yè)經(jīng)驗積累,為企業(yè)提供算法備案等安全專家咨詢服務,以數(shù)字化的方式幫助企業(yè)客戶用AIGC放大效益,用《生成式人工智能(AIGC)內容安全合規(guī)指引》與AIGC內容安全解決方案與所有擁抱AIGC的企業(yè)伙伴們奔向長效、奔向未來。
