- 產品
- 產品解決方案
- 行業解決方案
- 案例
- 數據資產入表
- 賦能中心
- 伙伴
- 關于
時間:2022-02-27來源:宛童瀏覽數:410次
導讀:數據中臺要想成功,靠的是3分工具、7分實施、12分運營。

《關于構建更加完善的要素市場化配置體制機制的意見》《關于加快推進國有企業數字化轉型工作的通知》《“十四五”國家信息化規劃》等政策落地實施,數字化轉型已步入了一個全新的階段,數據中臺(后文單說“中臺”時,特指“數據中臺”)作為數字化建設的基本設施,在其中發揮了重要的作用。
縱觀數據中臺產業的發展,自成長之初,就具備了“天時地利人和”多重利好條件。
在技術架構層面,隨著云計算、大數據的技術發展,數據中臺在技術上逐漸走向成熟。在資源型平臺方面,從Hadoop體系開始,到Spark、Flink;從傳統的OLTP,到OLAP、HTAP;從一般批調度,到Lambda架構、流批一體;從數據倉庫到湖倉一體……琳瑯滿目的技術體系,足以支持數據中臺的存儲及技術上不同的架構。
在建設工具層面,數據中臺所需的開發體系、數據體系、管理體系、運營體系、服務體系,在各頭部互聯網企業、獨立中臺開發商的競爭下,也不乏選擇。在應用服務層面,數據分析查詢、數據可視化、BI等通用型服務工具也在高速發展。在業務價值層面,數據智能應用也給原來傳統軟件解決方案帶來新的思路。
站在技術發展成熟度的視角,數據中臺這座大廈理應拔地而起,高速成長。但在實際市場中,數據中臺還是各互聯網大廠、傳統龍頭企業的專屬,大部分企業還是只能觀望。為什么呢?
01 建設困境:基于建設路徑、技術選擇、組織支撐視角
1.?數據中臺的實現方式
首先從數據中臺的實現方式說起,一般來說,建設數據中臺有著獨立建設數據中臺、附屬于業務(業務中臺)建設數據中臺、業務中臺和數據中臺結合共建三種模式。它們各有優缺點,不同企業不同目的,應該選擇不同建設方式,短時間建設是不能做到殊途同歸的。
獨建中臺,受業務干預少,所以在基礎設施上比較自由,總體建設難度小。但由于通用性或單一性,業務接入難度大(或者說效率低),中臺價值很難最大化。這種方式比較適合業務數據相對集中,數據有統一性的價值出口,比如ToC帶有互聯網屬性的企業。
依附業務,有明確的價值輸出點,在建設初期可以根據業務來確定數據相關體系標準,工具交互可以有強業務邏輯,總體建設難度適中,而且一定程度(業務沒有大變化的情況下)中臺價值能最大化。但這樣的中臺不利于其他業務接入,不能適應業務的快速變化。這種方式比較適合沒有足夠規模的技術團隊支撐數據中臺全面發展的中小型企業。
相互共建,有高度統一性,能持續發展,平臺價值能最大化。但實現難度十分大,需要有完整規劃,以及全方位的人才投入,建設周期長。這種方式比較適合政府機構、大型集團性企業。
其次,再來看看技術層面的影響。技術一般不是影響數據中臺建設的重要原因,但很多時候是阻礙其建設的重要因素。主要影響可能是以下三點:
1)存儲及計算引擎選擇
因為這塊的變動需要做大量的遷移工作(如:阿里由Hadoop轉成自有技術MaxCompute),所以前期選型工作要做深遠的考慮。但現行大數據技術還在不斷迭代中,過去的選擇當前可能有更好的替代品。
2)成本效益的考慮
數據中臺的一個核心是數據的“復用”,這個“復用”的效果很多程度上反映在數據使用的效率上。這里面具體有兩方面問題。
一方面,性能的效率,如存儲成計算成本等。在數據量上去后,這塊成本是十分可觀的,往往會影響上層決策;另一方面,工具串聯下來的所能帶來的工作效率的提升,以及入手門檻的降低,這塊往往是中臺是否能能長期發展的一個重要影響因素。
3)技術使用慣性
相對中大規模中臺建設的公司,一般都會有自己的技術團隊,他們已經有存在一些技術使用的慣性,技術的選擇是考慮業務的長足發展還是要兼顧當前的研發成本和效率,也是一個重要的考量。
2.?組織支持
接著,我們說組織支持方面的原因。數據中臺構建方法論中,重點提到組織文化在其中的重要作用(單純的引入行業領先數據文化并強制執行一定是不可取的,要培養數據文化不能局限于技術專業人員,更要讓業務部門深入參與共創,并有意識的培養員工在數據認知的突破,通過數據賦能業務的落地實踐,可進一步拉動企業組織對“數據素養”的人才需求)。
在IBM《數據治理能力成熟度模型》中,組織結構和文化也是數據治理工作的重要支撐部分。

▲IBM《數據治理成熟度評估模型》
組織結構與文化是描述業務、IT、數據之間的相互責任和組織結構,針對組織不同層級上的管理提出受托責任且做出承諾。很多時候,負責承建數據中臺是其中一個業務部門,或者是IT部門。特別是IT部門的情況下,是很難拉通全局來調度資源的,作為下游的業務部門如果不參與進來,很多時候中臺就是一個架子,不能發揮實際作用徒增成本。
這樣的問題不是技術層面或者獨立部門就能解決的事情,需要組織層面的權力操作。
另外,在組織支撐下建立的數據相關體系,如:信息生命周期、數據安全和隱私管理等,是建設中臺的重要支撐。這些體系準則不是特意為數據中臺準備的,就是沒有數據中臺這樣的機制,這些體系準則也會依附其他工具或流程運轉。
所以說,這些是數據中臺運轉的一個基礎,是為平臺工具注入靈魂的所在,中臺的形態也會根據注入的內容會有所不同。
3.?社會認知
最后,說說大環境上原因。在確立數據作為第五類生產要素后,政府企業的數字轉型的步伐陡然加快。整個社會對數據平臺的認知,有質的改變。從過去任務中臺只是一個生產工具,到現在一套完整的運作機制,政企在建設中臺廣度上跳出了技術范疇,調度更多的資源配合。
數據中臺的建設,已經從應用工具的建設,到整套數字化轉型機制轉變。也正是因為這個原因,對建設中臺的期待也更大。然而這種期待放大和投入變大不一定是正比的,也就導致中臺建設難度就更大了。
02 建設路徑:從組織認知提升到標準化體系建設
基于困境,我們接下來談談數據中臺建設在當前階段有哪些重點要去關注。
目前,數據的價值屬性已經獲得業界的廣泛認可,但是選擇觀望的企業依舊占據大多數,數據中臺在認知和推廣上仍然面臨著多方面的挑戰。
政府企業在組織層面,如何支撐數據中臺的落地或者支撐數據中臺良性運營,業界上也給出了些標準答案。比如數據中臺的建設方法論、IBM的數據治理成熟度模型、信通院的數據管理能力成熟度管理模型。這些都定義了組織上需要做哪些事情讓數據中臺建設得到足夠的支撐。

▲數據中臺一般建設路徑
其次是體系建設,這是數據中臺落地最困難的部分。一般在數據上,我們會從數據體系、資產體系、生命周期管理、風險管理、安全及隱私、數據運營(業務價值)等方面來構建完整的數據流轉的體系。但要完整構建這些體系是一個漫長的過程,而且不同企業/政府著重建設的點也不一樣。
數據體系、資產體系是中臺使用的基礎。數據體系是在全域數據資源的基礎上,進行標準定義及分層建模,最終呈現的結果是一套完整、規范、標準、準確的數據體系,可以方便支撐數據應用。
資產體系是指規劃、控制和提供數據及信息資產的一組業務職能,包括開發、執行和監督有關數據的計劃、政策、方案、項目、流程、方法和程序,從而控制、保護、交付和提高數據資產的價值。
數據資產管理需要充分融合業務、技術和管理,以確保數據資產保值增值。這兩塊一般按公司實際業務情況來落地,沒有最好,只有最合適。
對于中大型企業來說,可量化來衡量數據及數據中臺的價值是十分重要,畢竟數據中臺是長期的投入,它的ROI是怎樣會直接影響中臺投入的資源,因此會十分關注數據運營來實現業務價值。
而對政務組織而言,情況又不太一樣。數據安全性是他們當前要重點考慮的事情。根據《大數據藍皮書:中國大數據發展報告No.5》數據顯示:在二十國(G20)之中,除數字安全外,中國在其他指標都排行前列的。
所以,國家在近兩年公布了大量相關的法制、法規,加強數字法治性的發展。當前研究熱點,多集中在數據安全、數權、個人信息保護及權利行使等領域,所以數據中臺建設要更多考慮安全及隱私。
03 技術維度:從DataOps能力看數據中臺建設
上面已經說過中臺的能力,但它們過于復雜,現在我們把它縮小,單單套用在技術層面的能力,也就是DataOps能力,來討論數據中臺成功的一些必要條件。
在DataOps數據工程化、數據集成、數據質量、數據安全及隱私這四個能力下,數據應該應該要做到Process->Analyze->Learn->Re-Use這個閉環。
DataOps的常見定義:
DataOps(數據運營)是以一種敏捷的方法,用來設計、實施和維護分布式數據架構,支持廣泛的開源工具和框架,數據運營的目的是從大數據中獲取業務價值。
DataOps是一個自動的、面向流程的方法論,被數據和分析團隊使用,從而提高質量縮短數據分析的周期。
DataOps是在一個組織中控制數據旅程從而產生價值的一個職能。
DataOps對開發,測試和部署代碼進行了嚴格的管理,這些代碼管理數據流并創建分析解決方案。
簡單來說,數據中臺是實現DataOps的一種方法,他的成功應該要滿足DataOps該有的條件,但數據中臺不僅僅是DataOps,DataOps的成功不代表數據中臺的成功,因為DataOps往往只決定技術價值,但數據中臺更多時候要考慮業務價值。
當前很多數據中臺,只考慮集成、質量的問題,而忽略工程化、安全/隱私的問題。但DataOps上最重要的是工程化部分,也是數據中臺中”復用“的關鍵所在(ERP系統能成功,就是把核心業務都標準化、工程化掉,任何人操作都是由準則和流程可依的)。工程化本質是建立執行標準的事情,難度是十分大,而且在后期改動比較困難。
所以我們經常會見到,數據中臺建成后,前期參與的團隊使用比較順暢,后期加入的使用的團隊就有可能不適用,這就是工程化做的不好的結果。在實現中臺是只考慮了當前參與團隊處理數據流程的,而不是一個標準自動化過程。比如數據智能應用上工程化流程比一般數倉數據分析要復雜的多。
數據中臺能否被高效用起來,工程化問題就是核心,這個做好了,至少中臺的作用就在了。

▲數據工程化的一個樣例
當前數據中臺還是處于發展初期階段,可能也像ERP需要10年甚至更長時間沉淀,才能形成一套產品、服務的行業標準。但不可否認的是,它是具備成為數字化轉型必備的基礎設施的潛力。現在可能沒有一套構建數據中臺的標準答案,但套用ERP實施的老話——“數據中臺要想成功,靠的是3分工具、7分實施、12分運營。”