低代碼指標(biāo)平臺,構(gòu)建人人可用的敏捷指標(biāo)工具(低代碼啥意思)
低代碼指標(biāo)平臺,構(gòu)建人人可用的敏捷指標(biāo)工具(低代碼啥意思)
導(dǎo)讀 在現(xiàn)代數(shù)據(jù)服務(wù)體系中,指標(biāo)平臺或者說基于指標(biāo)的服務(wù)和應(yīng)用是其中關(guān)鍵的要素之一。麥肯錫《2025數(shù)據(jù)驅(qū)動企業(yè)》報告當(dāng)中有一個重要觀點:到 2025 年,絕大多數(shù)人將會使用數(shù)據(jù)來優(yōu)化他們工作的幾乎各個方面。這里的“絕大多數(shù)人”,不僅包括業(yè)務(wù)決策人員,也有數(shù)據(jù)分析師和工程師等,而大家所在的行業(yè)領(lǐng)域以及相關(guān)的背景、經(jīng)驗和技術(shù)程度都有所不同,因此低代碼和低代碼所衍生出的自動化就有著重要的價值。本文將從指標(biāo)平臺應(yīng)用建設(shè)的角度,分享如何發(fā)揮低代碼的作用,去構(gòu)建人人可用的敏捷指標(biāo)工具。
主要內(nèi)容包括以下幾大部分:
1. 數(shù)字化轉(zhuǎn)型與指標(biāo)建設(shè)的挑戰(zhàn):低效價值轉(zhuǎn)化
2. Kyligence Zen 一站式指標(biāo)平臺
3. 低代碼指標(biāo)服務(wù)的核心價值
4. 從數(shù)據(jù)驅(qū)動到指標(biāo)驅(qū)動
分享嘉賓|宗正 Kyligence 資深技術(shù)布道師
編輯整理|楊文鑄 哈爾濱理工大學(xué)
出品社區(qū)|DataFun
01
數(shù)字化轉(zhuǎn)型與指標(biāo)建設(shè)的挑戰(zhàn):低效價值轉(zhuǎn)化
很多行業(yè)和領(lǐng)域的企業(yè)都在建設(shè)自身的指標(biāo)平臺或以指標(biāo)為核心的數(shù)據(jù)應(yīng)用,在此過程中不可避免地會遇到一些問題。
我們先轉(zhuǎn)到數(shù)據(jù)治理的視角來看,指標(biāo)其實是一個通用的數(shù)據(jù)語言,可以跨越人和人之間以及人和數(shù)據(jù)之間的溝通。
(1)數(shù)倉/數(shù)據(jù)湖的架構(gòu)范式
無論是數(shù)倉還是云上數(shù)據(jù)湖的建設(shè),已經(jīng)從數(shù)據(jù)歸集轉(zhuǎn)變?yōu)閿?shù)據(jù)聯(lián)結(jié)的模式。首先,數(shù)據(jù)采集可能來自于不同的源頭如各種傳感器等;另外,各種上云的業(yè)務(wù)受制于數(shù)據(jù)傳輸?shù)脑埔?guī)范或合規(guī)要求,因此各個平臺之間或者說各個數(shù)據(jù)應(yīng)用之間需要有一個通用的溝通方式。這種溝通方式不僅僅是跨越數(shù)據(jù)應(yīng)用的,也是在不同角色之間的一個通用交流方式。這種交流方式其實是為了我們更好地聚焦到指標(biāo)上。
(2)聚焦指標(biāo)
過去的溝通更多的是以報表為載體,但對于業(yè)務(wù)人員來說,可能對一張表或者一份數(shù)據(jù)并沒有特別的感知。而以指標(biāo)形式呈現(xiàn)出來的數(shù)字立刻就會有一種親切感,助力相關(guān)人員更快更準(zhǔn)確地做出決策。
(3)可信和效率
如果以指標(biāo)作為通用數(shù)據(jù)語言,那么可信和效率就會變得尤為關(guān)鍵。因為對于指標(biāo)來說,最終是以單個或者多個數(shù)字來呈現(xiàn)的,這些數(shù)字背后的計算邏輯、計算口徑、是否來自于可信數(shù)據(jù)源、整個數(shù)據(jù)處理鏈路是不是被各方接受等等,是這個最終指標(biāo)結(jié)果數(shù)值是否可信的基礎(chǔ)。而整個協(xié)作和數(shù)據(jù)鏈路中的效率也是非常關(guān)鍵的,有很多指標(biāo)具有一定的時效性,過期之后就失去了其作用。
接下來就回頭看一下數(shù)字化轉(zhuǎn)型和指標(biāo)建設(shè)中所面臨的挑戰(zhàn)。
1. 指標(biāo)孤島
我們經(jīng)常會聽到數(shù)據(jù)孤島,實際上指標(biāo)也會存在孤島的情況。
從上圖左邊可以看到,過去大量的指標(biāo)建設(shè)和應(yīng)用的過程都會直接把指標(biāo)落在 BI 報表/數(shù)據(jù)應(yīng)用分析工具上,或者說大量的指標(biāo)會散落在整個 ETL 處理鏈路上。在不同的分析工具如 SaaS、自研 BI 應(yīng)用之中存在著很多相同的指標(biāo),但這些指標(biāo)可能來自于不同的數(shù)據(jù)源,其計算口徑可能不一樣,計算邏輯可能跨越了多個寬表,一些計算方式可能會因為維護(hù)不到位而丟失,最終就很難判定在哪個平臺上的指標(biāo)是最可信的。
而整個趨勢就是從指標(biāo)孤島轉(zhuǎn)變?yōu)榻ㄔO(shè)統(tǒng)一指標(biāo)目錄:這個指標(biāo)目錄就類似于圖中右側(cè)所展示的,對于終端應(yīng)用或平臺所使用的指標(biāo),抽取其定義和計算口徑,統(tǒng)一放在一個指標(biāo)目錄中。
2. 低效價值轉(zhuǎn)化
剛才的問題是在一個切面上,現(xiàn)在我們把視角拉到整個數(shù)據(jù)處理的鏈路上。過去從業(yè)務(wù)方提出需求開始,到最終一些有價值的內(nèi)容可以回饋給業(yè)務(wù)方,會經(jīng)歷一個相當(dāng)長的過程,數(shù)據(jù)價值轉(zhuǎn)化的效率很低,而且很可能會發(fā)生復(fù)用不足、成本居高不下的情況。
下面以一個實際的例子來說明,這是我們和一家頭部股份制銀行開展的基于用戶行為分析的場景建設(shè)指標(biāo)平臺的過程。
圖中可以看到,上下兩個流程中參與的角色都是類似的,有業(yè)務(wù)方和 IT 方。在過去常規(guī)的流程下,業(yè)務(wù)方提出指標(biāo)需求,IT 方需要去做大量的需求溝通,接下來是很長一段時間的指標(biāo)開發(fā),最終呈現(xiàn)的載體是報表,將來有新的指標(biāo)開發(fā)又會是一張新的報表。整個過程的復(fù)用性和效率都很低。
換一種方式,在業(yè)務(wù)方提出需求后,如果有一個指標(biāo)目錄作為載體,基礎(chǔ)指標(biāo)已經(jīng)存在,衍生指標(biāo)可以通過對基礎(chǔ)指標(biāo)二次加工得到,所以可能實際只有極少數(shù)的指標(biāo)需要開發(fā),這樣就可以很好地控制成本。而最終的產(chǎn)出從報表回到了指標(biāo)目錄上,也就是說,大家集中精力不斷迭代更新當(dāng)前的指標(biāo)目錄,從而使其可以滿足更多的業(yè)務(wù)要求。上層的消費端不管是 BI 工具、表、報表還是 SaaS 等都可以直接調(diào)取指標(biāo)目錄中統(tǒng)一管理的指標(biāo)。這樣業(yè)務(wù)也可以很好地參與進(jìn)來,也就是我們常常聽到的“人人都是分析師”。
在這樣的平臺建設(shè)下,經(jīng)過兩年左右的時間已經(jīng)取得了非常顯著的成果,以指標(biāo)為基礎(chǔ),可以看到活躍指標(biāo)數(shù)、分析維度有了顯著的提升。最終指標(biāo)的開發(fā)周期明顯縮短、查詢性能有效提高,同時也通過指標(biāo)復(fù)用等大幅提升了整體工作效率。
02
Kyligence Zen 一站式指標(biāo)平臺
基于前文中提到的問題和挑戰(zhàn),我們一起來看一下什么樣的指標(biāo)平臺可以做到很好的承接。
1. 指標(biāo)平臺的介紹
指標(biāo)平臺通過指標(biāo)來驅(qū)動管理與決策,它是集業(yè)務(wù)模型、指標(biāo)管理、指標(biāo)加工和數(shù)據(jù)服務(wù)于一體的完整解決方案。
指標(biāo)平臺可以分為兩大部分:第一部分是指標(biāo)應(yīng)用,包括指標(biāo)定義、口徑計算管理等,這部分是以界面的形式開放出來的,通過自助的、低代碼的形式;第二部分是計算引擎,指標(biāo)模型涉及的數(shù)據(jù)計算、加工等都需要計算引擎來承擔(dān),以自動化、無感知的形式呈現(xiàn)。即在界面上對指標(biāo)進(jìn)行定義和管理時,平臺自動化地完成了大量背后的建模動作。
Kyligence Zen 一站式指標(biāo)平臺就具備了這樣的核心要素。從下圖可以看到,第一部分就是前面提到的指標(biāo)目錄,在指標(biāo)目錄之下可以做到指標(biāo)自動化、指標(biāo)治理,從而實現(xiàn)了以低代碼自助式的形式開放給業(yè)務(wù)用戶以及數(shù)據(jù)工程師。
2. Kyligence Zen 關(guān)鍵能力和核心價值
(1)指標(biāo)目錄
下圖是 Kyligence Zen 的主體界面,可以看到,它不再是以表的形式呈現(xiàn),而是通過業(yè)務(wù)人員直接可以感知到的指標(biāo)名稱、指標(biāo)數(shù)值、以及簡單圖例來呈現(xiàn)。在右邊的列表中可以看到一些基礎(chǔ)指標(biāo),也有基于基礎(chǔ)指標(biāo)的衍生指標(biāo),整個指標(biāo)目錄聚焦于指標(biāo)之上,自動化地呈現(xiàn)和管理一個指標(biāo)體系,這樣的指標(biāo)體系對業(yè)務(wù)人員是非常友好的,能夠高效地賦能業(yè)務(wù)自主用數(shù)。
(2)歸因分析
當(dāng)然,指標(biāo)目錄只是一個載體。不同的指標(biāo)可以做不同維度的洞察,而這些洞察中很關(guān)鍵的就是當(dāng)指標(biāo)有異動的時候需要去做歸因分析。過去我們做歸因分析需要和業(yè)務(wù)溝通、進(jìn)而由數(shù)據(jù)工程師去建模、多維度的匹配判定、以及繁瑣的取數(shù)計算等,一旦關(guān)注的維度、時間周期發(fā)生變化,整套流程就需要重新構(gòu)建。
現(xiàn)在在下圖界面中可以看到,比如對于關(guān)注的凈利潤指標(biāo),只需給出時間區(qū)間和關(guān)注的維度等,平臺就可以快速自動化地為業(yè)務(wù)方給出按不同維度的歸因分析報告,幫助他們更精準(zhǔn)、更快速地決策。
(3)指標(biāo)自動化
再來看一下活躍客戶數(shù)的例子。統(tǒng)計活躍客戶數(shù)需要做去重的操作,當(dāng)數(shù)據(jù)量較大時會是非常耗時的。這里我們可以引入緩存,對非常關(guān)注的、有價值的、可能經(jīng)常使用相對熱門的指標(biāo)進(jìn)行自動加速,這個加速過程是通過計算引擎來實現(xiàn)的,包括對應(yīng)模型建立、索引匹配和優(yōu)化等。而在界面上只需要進(jìn)行相應(yīng)的點選就可以,這也是低代碼的重要體現(xiàn)。
(4)目標(biāo)管理
上面更多是為業(yè)務(wù)分析師、數(shù)據(jù)工程師服務(wù)的一些能力,接下來從決策方的角度來看下。決策方更關(guān)注的是指標(biāo)帶來的價值是否與業(yè)務(wù)目標(biāo)相匹配。
Kyligence Zen 中引入了目標(biāo)管理,這也是我們認(rèn)為非常重要的指標(biāo)管理的方向。因為指標(biāo)需要和業(yè)務(wù)目標(biāo)關(guān)聯(lián)起來,并且能夠去主動識別它的狀態(tài)、風(fēng)險,并進(jìn)行相應(yīng)的預(yù)警,這樣的指標(biāo)應(yīng)用才能發(fā)揮其在決策層面的價值。
(5)開放 APIs
指標(biāo)平臺如果要和內(nèi)部其它應(yīng)用實現(xiàn)鏈路上的打通、做集成,就需要非常良好的開放能力。這種開放能力不僅包括界面上所展示的,所有功能以標(biāo)準(zhǔn) API 形式開放,也包括與已經(jīng)形成固有習(xí)慣的消費端的融合,比如對接 Excel、WPS 等,在充分保留習(xí)慣的基礎(chǔ)上去增強(qiáng)現(xiàn)有的分析方式。
(6)總結(jié)
通過以上介紹可以看到,涉及到的功能和場景在 Kyligence Zen 指標(biāo)平臺上都是通過自助式的方式去完成,實現(xiàn)了以低代碼的服務(wù)去賦能指標(biāo)平臺,助力提升從數(shù)據(jù)到?jīng)Q策的時效性。其優(yōu)勢可以總結(jié)為:
① 高效率交付指標(biāo):對于數(shù)據(jù)生產(chǎn)方,比如數(shù)據(jù)工程師角色,門檻可以大幅降低,IT 團(tuán)隊和業(yè)務(wù)方之間的溝通是以更形象的數(shù)據(jù)指標(biāo)目錄的形式來實現(xiàn),可以更快地將價值交付于業(yè)務(wù)方,整個數(shù)據(jù)加工鏈路也可以大幅簡化;
② 自助式消費指標(biāo):業(yè)務(wù)團(tuán)隊可以自助式的消費指標(biāo),大幅減少對數(shù)據(jù) IT 團(tuán)隊的依賴,快速高效輸出可信洞察和決策;
③ 體系化管理指標(biāo):從運(yùn)維和管理的角度,通過體系化的數(shù)據(jù)指標(biāo)目錄進(jìn)行統(tǒng)一口徑管理及復(fù)用,避免重復(fù)建設(shè)和資源耗費,提升數(shù)據(jù)價值轉(zhuǎn)化率。
03
低代碼指標(biāo)服務(wù)的核心價值
通過上述內(nèi)容,我們看到了非常多的低代碼和自動化的呈現(xiàn),接下來我們繼續(xù)深入探討這兩方面。
1. 低代碼服務(wù)
指標(biāo)平臺通常對應(yīng)多方角色:
(1)一方是業(yè)務(wù),包括決策人員、一線業(yè)務(wù)人員和業(yè)務(wù)分析師等;
(2)一方是數(shù)據(jù)團(tuán)隊,包括數(shù)據(jù)工程師等。
指標(biāo)平臺通過低代碼的服務(wù),將技術(shù)表達(dá)轉(zhuǎn)換到了業(yè)務(wù)表達(dá)。過去我們以表、報表為基礎(chǔ),需要手工處理大量模型;現(xiàn)在則聚焦于指標(biāo)。過去我們以表、報表來作為數(shù)據(jù)運(yùn)作中的核心要素;而現(xiàn)在更細(xì)粒度地去看,指標(biāo)才是數(shù)據(jù)處理鏈路上最核心的資產(chǎn)。
指標(biāo)對業(yè)務(wù)人員來說更具親和力,可以讓決策層基于數(shù)據(jù)感知更快地做出決策,幫助業(yè)務(wù)團(tuán)隊提升數(shù)據(jù)解讀能力;而對于數(shù)據(jù)團(tuán)隊而言,可以減少重復(fù)性生產(chǎn),降低建模門檻,充分發(fā)揮生產(chǎn)力,降低數(shù)據(jù)開發(fā)成本,從而為業(yè)務(wù)和數(shù)據(jù)團(tuán)隊帶來“雙贏”。
2. 自動化服務(wù)
前面提到,指標(biāo)平臺的上層是指標(biāo)應(yīng)用,下層是計算引擎。在 Kyligence Zen 上所對接的是以 Apache Kylin 為核心的商用化的 Kyligence OLAP 引擎。
如下圖所示,左邊以數(shù)據(jù)團(tuán)隊為源頭進(jìn)行數(shù)據(jù)的加工,右邊業(yè)務(wù)團(tuán)隊去消費指標(biāo)。中間過程實際上是業(yè)務(wù)和數(shù)據(jù)團(tuán)隊最多的聯(lián)動點,通過低代碼、自動化的方式,業(yè)務(wù)人員可以以熟悉的方式看到指標(biāo),并通過自助點選基礎(chǔ)指標(biāo)去生成衍生、復(fù)合指標(biāo),而不需要再把需求二次給到數(shù)據(jù)團(tuán)隊;而數(shù)據(jù)團(tuán)隊通過多維 OLAP 引擎來承載指標(biāo)目錄的建設(shè),包括指標(biāo)相關(guān)的建模、歸因分析需要的模型加工、模型關(guān)聯(lián)等、以及根據(jù)主動元數(shù)據(jù)分析熱門指標(biāo)、高價值指標(biāo)和低效指標(biāo)等的優(yōu)化管理,這些都可以通過簡單配置方式來實現(xiàn),從而有效降低重復(fù)的、低附加值的工作,提高生產(chǎn)力。
04
從數(shù)據(jù)驅(qū)動到指標(biāo)驅(qū)動
我們很有幸和大家一起看到這個時代經(jīng)歷的非常多的變化,這也包括在數(shù)據(jù)服務(wù)體系中,指標(biāo)服務(wù)正在從以表和報表為基礎(chǔ)的數(shù)據(jù)驅(qū)動轉(zhuǎn)向為指標(biāo)驅(qū)動。
下圖中可以看到數(shù)據(jù)驅(qū)動和指標(biāo)驅(qū)動的對比。面對表,業(yè)務(wù)人員可能并不知道下一步要做什么,對數(shù)據(jù)分析師來說要做大量的建模、ETL 工作;而基于 Kyligence Zen 一站式指標(biāo)平臺,業(yè)務(wù)人員可以輕松使用指標(biāo),完成業(yè)務(wù)決策。
我們聚焦在指標(biāo)之上,因為指標(biāo)是從數(shù)據(jù)到業(yè)務(wù)洞察、決策的最佳通道,是對于業(yè)務(wù)團(tuán)隊最親切的數(shù)據(jù)呈現(xiàn)形式,最終通過指標(biāo)平臺的驅(qū)動以低代碼、自助化的方式對接到計算引擎,充分發(fā)揮數(shù)據(jù)和 IT 團(tuán)隊生產(chǎn)力,高效挖掘數(shù)據(jù)價值。
以上就是本次分享的內(nèi)容,也歡迎大家來試用和體驗 Kyligence Zen,謝謝大家!