終於有人把不同標籤的加工內容與落庫講明白了丨DTVision分析洞察篇

語言: CN / TW / HK

上一篇文章詳細給大家介紹了標籤的設計與加工,在標籤生命週期流程中,標籤體系設計完成後,便進入標籤加工與上線執行階段,一般來說資料開發團隊會主導此過程,但我們需要關心以下幾個問題:

·標籤如何快速建立和實現標籤邏輯的線上化管理

·業務人員怎麼參與到標籤建設流程中

·百萬級別的標籤如何落表

一、加工方式:傳統VS線上

當企業無標籤系統時,一般由資料開發在離線數倉中完成標籤的加工和執行,運營或市場同學需要某個標籤需要通過產品經理向資料開發提需求,這個過程存在很多問題:

· 標籤資產不可見:標籤是存在於表裡的欄位,業務人員不清楚現在有多少標籤;標籤的加工邏輯與業務邏輯是否一致只能檢視SQL程式碼;新上線的標籤只有部分人知道,標籤價值散發慢等

· 標籤資產不可管:加工好的標籤,有多少在真正被使用,有多少沒人用,完全黑盒,不用的標籤每天繼續執行浪費計算與儲存資源

· 標籤加工效率低:當業務人員需要某個簡單標籤時,也需要提交需求給資料開發,加工到上線基本需要2-3天流程

基於以上這些問題,標籤的線上化建立與管理顯得尤為重要,線上化主要包含以下內容:

· 標籤線上化加工

· 標籤線上化管理

· 標籤線上化更新

其讓標籤加工過程以及有哪些標籤變得透明,業務人員也可以參與進標籤建設的流程中。

二、各型別標籤加工

標籤型別的區分在此處便不再贅述了。在袋鼠雲智慧標籤產品——「客戶資料洞察」中,我們按照標籤加工邏輯,將標籤分為以下型別,各型別標籤的加工層次如下圖:

file 接下來,我們來看看具體各型別標籤的加工。

1、原子標籤

該類標籤由資料開發在數倉加工中完成,一般基於數倉DWD、DWS層的明細表與彙總表加工而來,處理邏輯較為複雜,同時維表中的一些欄位也可以作為原子標籤。這類標籤一般包含哪些內容呢?

● 建立使用者的標籤體系:

使用者維表中的使用者基礎屬性:性別、年齡、置業、會員等級、手機號、身份證號等資訊,一般使用者系統會有該類資訊。

● 基於交易表加工的交易指標

最近30天購買次數、最近30天交易金額、最近7天購買次數、最近7天交易金額。這部分標籤也建議放在數倉中實現,有以下幾點原因:

·因為其本身也是一個指標,除後續作為標籤進行畫像分析外,也常用於在資料門戶、BI報表中分析,可作為對外服務的指標放在ADS層中,並且市場上也會有專門指標管理的產品,來實現該指標的加工

· 這類標籤若屬於同一個統計維度(如都計算最近7天),資料開發可以在一個SQL片段中計算多個標籤,節約計算成本

· 若業務人員直接基於DWS層的輕度彙總表(每天彙總的交易次數、交易金額)、或DWD層的明細表(每條交易記錄一行資料)來加工最近30天購買次數這個標籤,需要針對對應的欄位進行求和,稍微涉及到一點SQL理解,有一些難度

故該類使用場景多、對於業務人員有計算難度,可在數倉中合併加工降低成本的標籤,可在數倉中作為原子標籤加工。

● 基於行為表加工的行為指標

可經過數倉加工成如下表格式,加工行為類的標籤,便於後續業務人員去衍生。

file 原子標籤在數倉加工好後,可匯入到標籤系統中,進行線上化管理。

2、規則標籤

該類標籤配置可由資料開發或資料分析師來完成,可基於單張表或關聯表中的欄位進行線上化加工,可設定統計週期、資料過濾條件,其內建常用的聚合函式(求和、均值、計數、去重技術、最大值、最小值等)、操作符(大於、小於、區間、有值、無值、包含等),通過規則化的線上配置完成標籤加工。配置介面如以下:

file

根據上面的描述,該類標籤可以將指標的型別的標籤在數倉或指標平臺加工好,匯入至標籤平臺作為原子標籤,再基於這些原子標籤取操作符更好。但在實際場景中,基於不同考慮,有的客戶也會在標籤平臺直接加工此型別標籤,如以下場景:

· 數倉無對應的基礎標籤,但業務人員很著急需要該標籤某標籤,走正常的排期、數倉加工、測試,上線到使用基本2天以上了,基於這種情況可以通過該類標籤在標籤系統直接配置,5分鐘即可配置、更新完成,業務人員便可以使用了

· 客戶方想把標籤的加工邏輯線上化呈現、方便查詢與追溯,通過視覺化的方式線上配置

3、SQL標籤

SQL標籤主要由資料開發、資料分析師使用,主要解決通過規則標籤無法表達的邏輯,如用到排序函式、字元轉化函式、子查詢等內容,可以通過標準SQL語法靈活完成標籤加工。

file

4、模型標籤

模型標籤可由業務人員建立。系統整合常見的使用者分層RFM模型,使用者營銷AIPL模型、使用者生命週期模型,使用者輸入對應的指標值區間,便可定義對應的標籤值。

以RFM模型舉例,基於該模型生成“客戶價值”標籤。可基於最近一次購買時間、最近一年消費金額、最近一年消費頻率等幾個原子標籤,進行不同區間的取值,給使用者打上“重要價值客戶”、“重要發展客戶”、“重要發展客戶”、“重要挽留客戶”等。

5、組合標籤

模型標籤可由業務人員建立。基於已生成的原子、規則、SQL、模型標籤等,進行規則衍生,生成組合標籤。如組合標籤“高收入低購買”使用者,可通過“收入水平”衍生標籤,與“最近3年消費金額區間”衍生標籤組合加工,如下圖:

file

6、自定義標籤

自定義標籤可由業務人員建立。手動為某些使用者打上標籤,該類標籤手動匯入,常見場景如下:

· 客服人員和使用者ID為1001的使用者溝通後,給該使用者打上”性格:溫和、有耐心”標籤

· 如監管機構提供的一些信貸黑名單使用者,該類標籤可直接匯入進標籤系統,為使用者打上新的標籤

7、演算法標籤

演算法標籤由演算法開發同學建立,該類標籤可在演算法平臺完成,將算好的結果儲存至Hive表中,標籤系統可獲取演算法標籤的元資料,拿到演算法標籤的中文名、英文名,註冊至標籤系統中,在標籤系統中完成演算法標籤的標籤資訊檢視、標籤查詢等。

如利用機器學習模型加工預測類的演算法標籤,如根據使用者的特徵,預測哪些使用者是否即將流失,流失的概率等,從而在使用者流失之前做一些措施來挽留。

8、實時標籤

實時標籤由資料開發同學建立,該類標籤可在流計算平臺完成,實時行為資料打入到kafka中,用FlinkSQL消費,再輸出到Kafka、或資料表中,下游直接訂閱或查詢。

三、標籤更新與落庫

標籤配置完成後,便需要進行標籤更新與落庫,即將標籤打到物件(如使用者)的身上,這樣業務同學就可以根據標籤圈選目標群組啦。在此處我們需要說明以下幾個問題:

1、技術選型

首先說明一下標籤加工的技術選型,在袋鼠雲智慧標籤產品「客戶資料洞察」中我們用的 Trino(Presto)高效能分析引擎讀寫 Hive 表的方式,標籤表儲存在Hive中。主要有以下幾點原因:

· 隨著國家對數字化轉型的支援,從金融、政府到小企業都在建設數倉,進行數字化應用,在這個過程中,大多采用的是分散式的Hadoop系統作為計算儲存引擎(不論是開源Hadoop,還是發行版的CDH、TDH、FusionInsight等),Hive表便是最常用的儲存形式。標籤是基於數倉模型搭建出來的,與數倉用同一種儲存可以節省儲存資源以及不用兩種儲存之間進行資料交換

· 而用Trino(Presto)的原因是其首先是一個分析型引擎,讀寫速度均可;其次是其SQL語法完備、函式豐富、靈活,可以處理絕大多是業務場景的需求;並且支援跨庫同時讀取,如Trino可以同時取Hive與MySQL的資料進行資料處理

但沒有一種完美的技術選型,只能貼合企業自己的業務,選取最合適的技術。在這裡我們就不分析各種標籤的技術選型了。

2、落表方式

上面我們介紹了有各種型別的標籤,那麼標籤如何落表呢,大家看下面這個圖:

file 在業務場景中,存在有的標籤需要每天更新,如最近30天消費金額區間;而有的標籤周更新、月更新即可,更新頻率不高,如活動型別偏好。

這樣,便需要支援每個標籤有不同的更新頻率,但hive2.x版本不支援單列更新,為了解決該問題,我們將每個標籤先在臨時表存一下(就包含2列,1列使用者ID,1列標籤)該臨時表即建即用即刪,每個標籤只有一個臨時表(非分割槽表),每個標籤佔用的佔用不大,又能解決標籤更新週期不一致的問題。

但如果後續的標籤圈群、群組畫像分析,我們基於這些單獨表的去做聯合查詢,那效率會很低。

因為每個用營銷活動,我們需要5個標籤圈選出來一批人群,並查詢出這群人的性別、年齡、月消費、會員等級、是否活躍使用者等資訊,加起來用到了10個標籤左右,會涉及到10個表的join操作,客戶叢集資源不豐裕的情況,查詢速度慢。

所有我們便將多個臨時表通過聚合任務,將所有的臨時表join到一張標籤大寬表中,進行固化,這張表是一個分割槽表,可以每天儲存一份全量使用者標籤資訊,當然可以自行設定該表的更新週期與儲存多少個分割槽。

這樣,業務人員進行圈群和分析就可以一張表查詢資料,查詢效率大大提升。通過標籤跑批時間的消耗換取業務的查詢速度。

但會遇到有些企業標籤數量在500-1000個之間,使用者量在千萬、億級別,這樣的話,用一張表去存所有的標籤會遇到標籤大寬表跑批時間過長或跑不出來的情況,所以便需要分表,可以根據標籤數量分表。

綜上,以上加工儲存方式,有缺點的地方便是大寬表加工時,需要join多個臨時表,消耗記憶體,跑批時間長。

四、寫在最後的話

為解決該問題,袋鼠雲智慧標籤產品「客戶資料洞察」在引入資料湖Iceberg進行標籤表的儲存,其可以實現單列更新,每個標籤可以單獨更新,這樣,便不需要那些臨時表了,解決加工效率的問題。

標籤加工與落庫是標籤體系完成後重要的步驟,本篇文章向大家分享了標籤加工與落庫過程中需要關注的注意點,講述了不同標籤的加工內容以及標籤的更新與落庫等內容。

歡迎大家留言與我們討論,也可以分享下自己見到的一些好的標籤加工方式,我們共同進步。

袋鼠雲開源框架釘釘技術交流群(30537511),歡迎對大資料開源專案有興趣的同學加入交流最新技術資訊,開源專案庫地址:https://github.com/DTStack

「其他文章」