5月18日-19日,“第八屆亞太銀行數(shù)字化創(chuàng)新峰會(huì)”暨華鷹獎(jiǎng)?lì)C獎(jiǎng)典禮在上海盛大啟幕。峰會(huì)以“數(shù)據(jù)&技術(shù)雙驅(qū)動(dòng)銀行高質(zhì)量發(fā)展”為主題,特邀30+金融行業(yè)頭部大咖亮相,超300位優(yōu)秀銀行代表匯集一堂。Aloudata憑借金融科技領(lǐng)域領(lǐng)先的技術(shù)實(shí)力榮獲“華鷹獎(jiǎng)—金融行業(yè)Data Fabric解決方案杰出服務(wù)商”,Aloudata聯(lián)合創(chuàng)始人&CTO 周泉受邀分享,主題《Data Fabric最佳實(shí)踐:基于算子級(jí)血緣實(shí)現(xiàn)主動(dòng)數(shù)據(jù)治理 》。
“亞太銀行數(shù)字化創(chuàng)新峰會(huì)”已連續(xù)舉辦八屆,是金融行業(yè)最活躍、影響力最大的盛會(huì)之一。組委會(huì)面向銀行業(yè)發(fā)起的“BDI華鷹獎(jiǎng)評(píng)選”活動(dòng)主題包含技術(shù)實(shí)力、創(chuàng)新應(yīng)用、行業(yè)影響力等維度,評(píng)選周期長(zhǎng)達(dá)半年,上百家參評(píng)企業(yè)經(jīng)由初審、線上投票、專家評(píng)審等環(huán)節(jié)層層篩選。此次獲獎(jiǎng)是金融客戶對(duì)Aloudata Data Fabric方案與技術(shù)實(shí)力的一致認(rèn)可;Aloudata聯(lián)合創(chuàng)始人&CTO 周泉在主題演講中針對(duì)Data Fabric及主動(dòng)數(shù)據(jù)治理等面向未來(lái)的頂級(jí)技術(shù)趨勢(shì)深度闡述了Aloudata的獨(dú)到見(jiàn)解,引發(fā)現(xiàn)場(chǎng)熱議。
圖:多家頭部金融機(jī)構(gòu)代表駐足Aloudata展位了解方案詳情
主動(dòng)元數(shù)據(jù):Data Fabric落地關(guān)鍵能力
作為新興的熱門(mén)話題,Data Fabric自誕生之日起就備受關(guān)注。2022年,全球著名咨詢機(jī)構(gòu) Gartner 發(fā)布的頂級(jí)戰(zhàn)略技術(shù)趨勢(shì)中,Data Fabric(數(shù)據(jù)編織)入選為工程信任主題的關(guān)鍵技術(shù)趨勢(shì),它不僅首先被提及,甚至被定義為“面向未來(lái)的數(shù)據(jù)管理架構(gòu)思想”。近年來(lái),先驅(qū)企業(yè)尋求技術(shù)突破與增長(zhǎng)的背后,基于主動(dòng)元數(shù)據(jù)、知識(shí)圖譜、數(shù)據(jù)虛擬化、AI等技術(shù)的Data Fabric理念已經(jīng)成為應(yīng)對(duì)數(shù)據(jù)類型多樣化及數(shù)據(jù)量激增的最佳解決方案。
Aloudata聯(lián)合創(chuàng)始人&CTO 周泉在演講中表示,Data Fabric的核心觀點(diǎn)是通過(guò)數(shù)據(jù)管理模式的升級(jí),實(shí)現(xiàn)更主動(dòng)、智能、持續(xù)的數(shù)據(jù)治理,而主動(dòng)元數(shù)據(jù)是實(shí)現(xiàn)智能數(shù)據(jù)管理的基礎(chǔ),也是實(shí)現(xiàn)Data Fabric的關(guān)鍵能力。Gartner認(rèn)為,未來(lái)的數(shù)據(jù)管理就像是“具備自動(dòng)駕駛能力的汽車(chē)”,數(shù)據(jù)管理策略在人的監(jiān)視下自動(dòng)運(yùn)行,然而數(shù)據(jù)管理策略的有效性絕大部分取決于主動(dòng)元數(shù)據(jù)建設(shè)的好壞——可見(jiàn),主動(dòng)元數(shù)據(jù)是企業(yè)落地Data Fabric和主動(dòng)數(shù)據(jù)治理的重要基石。
那么何謂主動(dòng)元數(shù)據(jù)?周泉解釋道:
-首先,主動(dòng)元數(shù)據(jù)強(qiáng)調(diào)更深度更持續(xù)的數(shù)據(jù)理解,過(guò)去我們?cè)诠芾碓獢?shù)據(jù)時(shí),更多是收集元數(shù)據(jù)并且把它呈現(xiàn)出來(lái),但主動(dòng)元數(shù)據(jù)更多是強(qiáng)調(diào)我們對(duì)元數(shù)據(jù)做持續(xù)的分析和理解,不光是理解數(shù)據(jù)的Schema、產(chǎn)出時(shí)間等常規(guī)信息,更多是要理解數(shù)據(jù)背后的加工口徑、業(yè)務(wù)主體、匯總粒度以及如何正確使用等;
-其次,主動(dòng)元數(shù)據(jù)強(qiáng)調(diào)更主動(dòng)的元數(shù)據(jù)服務(wù),主動(dòng)元數(shù)據(jù)的‘主動(dòng)’在于用戶遇到數(shù)據(jù)使用及管理問(wèn)題時(shí),平臺(tái)不再被動(dòng)等待用戶去數(shù)據(jù)目錄檢索信息,而是主動(dòng)提供設(shè)計(jì)建議,抑或是可被系統(tǒng)執(zhí)行的指令;
-最后,主動(dòng)元數(shù)據(jù)更強(qiáng)調(diào)與數(shù)據(jù)工具主動(dòng)集成,在數(shù)據(jù)生產(chǎn)、消費(fèi)和協(xié)作的各個(gè)環(huán)節(jié)為用戶提供完整的元數(shù)據(jù)上下文以及智能建議,以實(shí)施更主動(dòng)的數(shù)據(jù)管理策略。
算子級(jí)血緣:支撐實(shí)現(xiàn)更深度的數(shù)據(jù)理解
Aloudata 之所以能夠成為國(guó)內(nèi)領(lǐng)先的Data Fabric方案提供商,核心在于其獨(dú)有的關(guān)鍵技術(shù)——算子級(jí)血緣,能夠?qū)崿F(xiàn)對(duì)全域數(shù)據(jù)字段口徑的精細(xì)刻畫(huà),支撐企業(yè)構(gòu)建一份“精準(zhǔn)、全面、語(yǔ)義化的元數(shù)據(jù)知識(shí)圖譜”,大幅提升數(shù)據(jù)管理效率。
相對(duì)于列血緣、表血緣,算子級(jí)血緣具備以下優(yōu)勢(shì):
-字段口徑一目了然:無(wú)需人工層層分析 SQL 代碼,算子級(jí)血緣能自動(dòng)、精確地抽取兩個(gè)字段之間的加工口徑,讓字段口徑一目了然;
-精細(xì)刻畫(huà)依賴關(guān)系:算子級(jí)血緣能精細(xì)刻畫(huà)字段與字段之間的依賴關(guān)系,不論是上游庫(kù)、表、列、schema變更還是加工口徑變更,都可將變更影響評(píng)估到行級(jí)別,從而大幅降低變更影響評(píng)估面;
-端到端列級(jí)依賴可視:上至業(yè)務(wù)系統(tǒng)源端,下到BI、AI工具的每一個(gè)指標(biāo)和圖表,算子級(jí)血緣能更精細(xì)地刻畫(huà)每一條數(shù)據(jù)鏈路,實(shí)現(xiàn)更精細(xì)的數(shù)據(jù)治理。
圖:算子級(jí)血緣讓復(fù)雜數(shù)據(jù)鏈路纖毫畢現(xiàn)
目前,Aloudata算子級(jí)血緣經(jīng)過(guò)多家頭部金融機(jī)構(gòu)的嚴(yán)苛驗(yàn)證,能夠做到SQL解析準(zhǔn)確率99%以上,支持絕大多數(shù)的主流 SQL 方言(Gauss、Hive、Spark、Presto、Oracle)、并可在1周內(nèi)完成SQL方言擴(kuò)展,讓復(fù)雜數(shù)據(jù)鏈路纖毫畢現(xiàn),讓數(shù)據(jù)治理更精細(xì)、更主動(dòng)、更智能。
基于主動(dòng)元數(shù)據(jù):Aloudata構(gòu)建全鏈路數(shù)據(jù)治理解決方案
Aloudata 創(chuàng)始團(tuán)隊(duì)自2019年起開(kāi)始以 “用數(shù)據(jù)治理數(shù)據(jù)”的工作理念在螞蟻集團(tuán)推進(jìn)全域數(shù)據(jù)治理,在構(gòu)建全面、精細(xì)、準(zhǔn)確、實(shí)時(shí)的主動(dòng)元數(shù)據(jù)能力上進(jìn)行了大量實(shí)踐,在 EB 級(jí)數(shù)據(jù)體量上實(shí)現(xiàn)了安全合規(guī)治理、計(jì)存成本治理和數(shù)據(jù)質(zhì)量治理等領(lǐng)域的自動(dòng)化和智能化。2021年5月 Aloudata成立后,Aloudata團(tuán)隊(duì)結(jié)合業(yè)界先進(jìn)的Data Fabric架構(gòu)理念,基于獨(dú)有的算子級(jí)數(shù)據(jù)血緣技術(shù),正式推出了BigMeta主動(dòng)數(shù)據(jù)治理平臺(tái)。BigMeta 能在復(fù)雜度爆炸性增長(zhǎng)的數(shù)據(jù)生態(tài)體系下為企業(yè)提供全面、精細(xì)、準(zhǔn)確和實(shí)時(shí)的元數(shù)據(jù)基座,并基于企業(yè)數(shù)據(jù)資產(chǎn)盤(pán)點(diǎn)、主動(dòng)模型治理、數(shù)據(jù)可觀測(cè)性、安全合規(guī)治理等真實(shí)場(chǎng)景,構(gòu)建全鏈路產(chǎn)品&場(chǎng)景解決方案:
·自動(dòng)盤(pán)點(diǎn)全域數(shù)據(jù),百萬(wàn)數(shù)據(jù)資產(chǎn)1天厘清
BigMeta可從紛繁復(fù)雜的數(shù)據(jù)網(wǎng)絡(luò)中,快速厘清全域指標(biāo)口徑、盤(pán)清主數(shù)據(jù)模型、準(zhǔn)確識(shí)別隱私敏感數(shù)據(jù)(準(zhǔn)確率>95%),同時(shí)還可對(duì)全域數(shù)據(jù)資產(chǎn)進(jìn)行實(shí)時(shí)分類打標(biāo),進(jìn)而實(shí)施分類分級(jí)的數(shù)據(jù)資產(chǎn)管理策略。
·實(shí)時(shí)在線的建模助手,10倍提升模型研發(fā)效率
BigMeta能夠自動(dòng)識(shí)別重復(fù)數(shù)據(jù)資產(chǎn)、主動(dòng)發(fā)現(xiàn)數(shù)據(jù)鏈路問(wèn)題,并在模型研發(fā)時(shí)提供高置信 SQL 編寫(xiě)建議、在模型變更前精準(zhǔn)分析模型變更影響、在模型上線后真實(shí)量化模型收益。
·精準(zhǔn)歸因數(shù)據(jù)異常,5分鐘完成根因定位
在數(shù)據(jù)質(zhì)量監(jiān)控之外,BigMeta做到讓數(shù)據(jù)鏈路可觀測(cè),自動(dòng)掃描數(shù)據(jù)資產(chǎn)、收集統(tǒng)計(jì)數(shù)據(jù)并監(jiān)控這些統(tǒng)計(jì)數(shù)據(jù)的變化。一旦出現(xiàn)異常,BigMeta可基于算子級(jí)血緣追溯全鏈路所有歷史變更,分鐘級(jí)完成數(shù)據(jù)異常根因定位。
··隱私敏感數(shù)據(jù)實(shí)時(shí)追蹤,秒級(jí)感知用數(shù)合規(guī)風(fēng)險(xiǎn)
BigMeta可實(shí)時(shí)追蹤隱私敏感數(shù)據(jù)的應(yīng)用、流轉(zhuǎn)和導(dǎo)出事件,并基于用戶隱私授權(quán)協(xié)議和應(yīng)用場(chǎng)景標(biāo)識(shí),秒級(jí)完成對(duì)數(shù)據(jù)應(yīng)用隱私合規(guī)風(fēng)險(xiǎn)的精準(zhǔn)判斷和主動(dòng)預(yù)警,防范風(fēng)險(xiǎn)于未然。
圖:Aloudata Data Fabric方案落地某頭部險(xiǎn)企
目前,Aloudata已為多家金融頭部機(jī)構(gòu)提供Data Fabric方案,并在極高復(fù)雜度的數(shù)據(jù)環(huán)境中完成實(shí)地驗(yàn)證。未來(lái),Aloudata將持續(xù)致力于為客戶提供業(yè)界最先進(jìn)的技術(shù)與產(chǎn)品,消除最困難的數(shù)據(jù)治理技術(shù)瓶頸,幫助企業(yè)實(shí)現(xiàn)數(shù)據(jù)管理效率百倍提升。