7月，特斯聯(lián)“九章人工智能算法賦能平臺”計算機視覺基礎(chǔ)模型核心算法，在國際頂級會議——2021國際計算機視覺大會(ICCV 2021)賽事中，擊敗眾多強敵，躋身賽事排名前10%。競逐者包括：字節(jié)跳動人工智能實驗室、中國移動研究院、日本最大移動通信運營商NNT DOCOMO，以及清華大學(xué)、武漢大學(xué)、中國科技大學(xué)、墨爾本大學(xué)等69家國際大型企業(yè)、頂尖高校及研究機構(gòu)。
堅持深耕、不斷開拓人工智能最前沿算法，是特斯聯(lián)斬落豪強，載譽而歸的秘笈。本期“先鋒科技場”將首次揭秘該行業(yè)領(lǐng)先算法。
大勢所趨
隨著全球人工智能產(chǎn)業(yè)高速發(fā)展， 人工智能(AI)近年被抽象成多種算法應(yīng)用于不同領(lǐng)域。AI已全面進(jìn)入機器學(xué)習(xí)時代。AI未來發(fā)展將是關(guān)鍵技術(shù)與產(chǎn)業(yè)的深入結(jié)合——單純算法已無法滿足更細(xì)分領(lǐng)域及行業(yè)對AI的需求，尤其在萬物互聯(lián)的AIoT（人工智能+物聯(lián)網(wǎng)）時代，越來越多的訂制化AI需求亟需解決。
原有開發(fā)模式實際已成為新形勢下AI發(fā)展的瓶頸。當(dāng)前，用戶AI訂制通常遵循“找公司-對需求-交付研究-算法產(chǎn)品化編碼-上線使用”流程。這往往導(dǎo)致研發(fā)周期長、研發(fā)成本高，難以滿足AIoT時代各行業(yè)用戶AI產(chǎn)品開發(fā)需求。
對此，AI開放平臺應(yīng)運而生。其能集成AI算法、算力與開發(fā)工具，通過接口調(diào)用，使企業(yè)、個人或開發(fā)者高效使用平臺AI能力，實現(xiàn)AI產(chǎn)品開發(fā)及賦能。隨著大量AI廠商高速崛起，中國在技術(shù)平臺領(lǐng)域已逐漸擺脫對海外廠商的依賴，涌現(xiàn)出多家AI開放平臺。
雖然我國目前AI開放平臺發(fā)展勢頭良好，但現(xiàn)有平臺在用戶規(guī)模、使用場景、用戶技術(shù)基礎(chǔ)等多個方面，仍然受限。這些平臺均主要針對專業(yè)AI開發(fā)者設(shè)計，對AI零基礎(chǔ)用戶開發(fā)人工智能產(chǎn)品“不甚友好”。
此背景下，特斯聯(lián)核心算法研究團隊開發(fā)出普適性AI算法開放平臺——“九章AI算法賦能平臺”。它力克半監(jiān)督、標(biāo)簽內(nèi)容以及“聯(lián)邦學(xué)習(xí)”(Federated Learning)等方面的核心技術(shù)難點，實現(xiàn)了CV（計算機視覺）、NLP（自然語言處理）、推薦預(yù)測、知識圖譜算法的自訓(xùn)練。
九章平臺可針對多場景及各規(guī)模用戶（尤其可針對AI零基礎(chǔ)用戶），進(jìn)行零代碼、低代碼自有算法孵化，顛覆已有AI研發(fā)人員開發(fā)模式，顯著降低AI研發(fā)成本及周期。
在業(yè)界備受矚目的校企合作方面，近年來各方努力已獲成效，但仍有較大提升空間。目前，企業(yè)對高校研究成果頗感興趣，需求較大；高校亦希望其研究能夠解決實際行業(yè)問題，故十分渴望行業(yè)課題導(dǎo)入。但是，高校研究成果進(jìn)行行業(yè)落地時，往往水土不服；高校產(chǎn)學(xué)研課題亦往往隨著學(xué)生畢業(yè)被迫中斷，持續(xù)性堪憂。
特斯聯(lián)“九章AI算法賦能平臺“可在弱監(jiān)督體系下，能夠?qū)崿F(xiàn)平臺和訓(xùn)練模型算法有效對接。使基于訓(xùn)練算法模式的校企需求對接，取代“向企業(yè)提供推理算法代碼”這一傳統(tǒng)模式。不僅如此，該平臺可實現(xiàn)算法積累與深化。
本期“先鋒科技場”就將揭秘九章AI算法賦能平臺的核心技術(shù)之一——基于半監(jiān)督的CV自訓(xùn)練學(xué)習(xí)算法。
甄選模型
監(jiān)督學(xué)習(xí)技術(shù)通過學(xué)習(xí)大量訓(xùn)練樣本，構(gòu)建預(yù)測模型。其中每一訓(xùn)練樣本均被貼上明確標(biāo)簽，顯示其真值輸出。盡管當(dāng)前技術(shù)已取得巨大成功，高數(shù)據(jù)標(biāo)注成本常導(dǎo)致諸多任務(wù)無法獲得強監(jiān)督信息（如“全部真值標(biāo)簽”等）。因此，采用半監(jiān)督學(xué)習(xí)，通常是執(zhí)行實際任務(wù)的更佳方案。
半監(jiān)督分為三類——不完全監(jiān)督、不確切監(jiān)督、不準(zhǔn)確監(jiān)督。特斯聯(lián)九章AI賦能平臺致力于讓AI能力偏弱或“貧乏”用戶，也能擁有AI算法孵化服務(wù)能力。因此，弱化人工參與算法訓(xùn)練尤為重要。
但不同半監(jiān)督類型亦存在自身短板。不完全監(jiān)督若只擁有少量被標(biāo)注數(shù)據(jù)，不足以訓(xùn)練出優(yōu)秀模型。不確切監(jiān)督僅能滿足已給定監(jiān)督信息、但信息不夠精確的場景。不準(zhǔn)確監(jiān)督在監(jiān)督過程中，會出現(xiàn)被標(biāo)注數(shù)據(jù)存在錯誤監(jiān)督信息的情形。三類半監(jiān)督模式人工干預(yù)較大，無法形成自訓(xùn)練學(xué)習(xí)算法體系，無法達(dá)到普適性AI算法開放平臺需求。
為構(gòu)建基于半監(jiān)督的自訓(xùn)練學(xué)習(xí)算法，特斯聯(lián)核心算法研究團隊主要采用基于Transformer模型的Swin Transformer作為骨干模型，以此搭建特征學(xué)習(xí)基礎(chǔ)算法，進(jìn)而構(gòu)建自訓(xùn)練體系。此外，團隊通過參加國際計算機視覺大會(ICCV)等國際頂級會議，有效驗證了基于半監(jiān)督的CV自訓(xùn)練學(xué)習(xí)算法在實際產(chǎn)業(yè)應(yīng)用中的貼合度，并載譽而歸。
深耕算法
特斯聯(lián)核心算法團隊針對上述三大半監(jiān)督類型難題，將主動學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、多示例學(xué)習(xí)、帶噪學(xué)習(xí)等技術(shù)引入自訓(xùn)練體系，最大限度從已知標(biāo)簽樣本特征中，挖掘潛在內(nèi)嵌信息，反哺至未知標(biāo)簽數(shù)據(jù)，從而減少人工干預(yù)。
特斯聯(lián)以Swin Transformer為骨干模型，針對半監(jiān)督，設(shè)計可學(xué)習(xí)樣本全局及局部“特征學(xué)習(xí)模塊”。
而選用Transformer為骨干網(wǎng)絡(luò)，則可使輸出的全局特征信息更為豐富，使“全局特征相似度學(xué)習(xí)模塊”從樣本特征中挖掘出更多信息。此外，“局部特征細(xì)粒度學(xué)習(xí)模塊”聚焦樣本局部特征，可與Transformer形成互補，統(tǒng)一對外提供基準(zhǔn)骨干網(wǎng)絡(luò)。
特征學(xué)習(xí)模塊方面，特斯聯(lián)基于BNNeck，采用“全局+局部”模式展開研究。全局層面，通過度量學(xué)習(xí)(Circle Loss + Center Loss）提取全局特征。局部細(xì)粒度特征學(xué)習(xí)層面，則首先計算每一局部模型間相關(guān)性，隨后交叉融合局部模塊相關(guān)性較高的特征，輸入至各局部細(xì)粒度分類器，學(xué)習(xí)相應(yīng)局部細(xì)粒度特征。如圖所示，交叉融合可分為如下四種：
接下來的重點，為構(gòu)建自訓(xùn)練體系。其主要分為兩個階段。第一階段——強監(jiān)督訓(xùn)練：利用少部分?jǐn)?shù)據(jù)，對以上特征學(xué)習(xí)算法作初步強監(jiān)督訓(xùn)練，降低后期自訓(xùn)練難度，提高自訓(xùn)練性能。第二階段——標(biāo)簽內(nèi)容生成：通過主動學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、帶噪學(xué)習(xí)等技術(shù)，充分利用余下的大部分?jǐn)?shù)據(jù)。
在此，將不再贅述強監(jiān)督訓(xùn)練。標(biāo)簽內(nèi)容生成工作，則會從主動學(xué)習(xí)/無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)兩個方面展開。
主動學(xué)習(xí)/無監(jiān)督學(xué)習(xí)分為四個步驟。旨在通過“挖掘小部分?jǐn)?shù)據(jù)，帶動大部分?jǐn)?shù)據(jù)”，解決半監(jiān)督下不完全監(jiān)督短板。在有限的平臺資源上，令大部分未標(biāo)注數(shù)據(jù)高效得到相應(yīng)標(biāo)簽。
半監(jiān)督學(xué)習(xí)方面，通過以上無監(jiān)督學(xué)習(xí)能夠獲得可靠性強，且具有標(biāo)簽的Query子集和Gallery子集G*。但兩者均僅有缺少局部細(xì)粒度標(biāo)簽的弱標(biāo)簽信息。通過半監(jiān)督學(xué)習(xí)實現(xiàn)L、G*，以及帶有局部細(xì)粒度標(biāo)簽的訓(xùn)練集數(shù)據(jù)T，可對特征學(xué)習(xí)模型作全量調(diào)優(yōu)。隨后，在S=[L,G*,T]上尋找更優(yōu)局部細(xì)粒度學(xué)習(xí)器；并利用訓(xùn)練集數(shù)據(jù)分布上的局部細(xì)粒度子模型，建立多個局部細(xì)粒度學(xué)習(xí)器，對未標(biāo)簽樣例加注標(biāo)簽。局部細(xì)粒度學(xué)習(xí)器可基于其未更新前對L、G*所生成的局部細(xì)粒度標(biāo)簽，以及更新后所預(yù)測的結(jié)果，計算損失值進(jìn)行學(xué)習(xí)。這一方面使L、G*在某種層面上，補充了T可能缺失的潛在信息；另一方面可通過學(xué)習(xí)器，幫助模型在L、G*上挖掘局部特征。
多輪、細(xì)致的實驗結(jié)果證明：主動學(xué)習(xí)、半監(jiān)督學(xué)習(xí)在解決半監(jiān)督下的不完全監(jiān)督問題中，表現(xiàn)穩(wěn)定；多示例學(xué)習(xí)方法在不確切監(jiān)督問題中表現(xiàn)穩(wěn)定；帶噪學(xué)習(xí)方法在不精確監(jiān)督問題中表現(xiàn)穩(wěn)定。
