緩慢變化維定義
Wikipedia中的定義:
Dimension is a term in data management and data warehousing that refers to logical groupings of data such as geographical location, customer information, or PRoduct information.
Slowly Changing Dimensions (SCD) are dimensions that have data that slowly changes.
大意是說數(shù)據(jù)會發(fā)生緩慢變化的維度就叫”緩慢變化維”。
舉個例子就清楚了:
在一個零售業(yè)數(shù)據(jù)倉庫中,事實表保存著各銷售人員的銷售記錄,某天一個銷售人員從北京分公司調(diào)到上海分公司了,那么如何來保存這個變化呢?也就是說銷售人員維度要怎么恰當?shù)奶幚磉@一變化。先來回答一個問題,為什么要處理,或保存這一變化?如果我們要統(tǒng)計北京地區(qū)或上海地區(qū)的總銷售情況的時候,這個銷售人員的銷售記錄應(yīng)該算在北京還是算在上海?當然是調(diào)離前的算在北京,調(diào)離后的算在上海,但是如標記這個銷售人員所屬區(qū)域?這里就需要處理一下這個維度的數(shù)據(jù),即我們緩慢變化維需要做的事情。
處理緩慢變化維一般按不同情況有以下幾種解決方案:
一. 新數(shù)據(jù)覆蓋舊數(shù)據(jù)
此方法必須有前提條件,即你不關(guān)心這個數(shù)劇的變化。例如,某個銷售人員的英文名改了,如果你不關(guān)心員工的英文名有什么變化則可直接覆蓋(修改)數(shù)據(jù)倉庫中的數(shù)據(jù)。
二. 保存多條記錄,并添加字段加以區(qū)分
這種情況下直接新添一條記錄,同時保留原有記錄,并用單獨的專用的字段保存區(qū)別。如:
(以下表格中Supplier_State表示上面例子中所屬區(qū)域,為描述清晰,不用代理鍵表示)
Supplier_key Supplier_Code Supplier_Name Supplier_State Disable
001 ABC Phlogistical Supply Company CA Y
002 ABC Phlogistical Supply Company IL N
或:
Supplier_key Supplier_Code Supplier_Name Supplier_State Version
001 ABC Phlogistical Supply Company CA 0
002 ABC Phlogistical Supply Company IL 1
以上兩種是添加數(shù)據(jù)版本信息或是否可用來標識新舊數(shù)據(jù)。
下面一種則是添加記錄的生效日期和失效日期來標識新舊數(shù)據(jù):
Supplier_key Supplier_Code Supplier_Name Supplier_State Start_Date End_Date
001 ABC Phlogistical Supply Company CA 01-Jan-2000 21-Dec-2004
002 ABC Phlogistical Supply Company IL 22-Dec-2004
空的End_Date表示當前版本數(shù)據(jù),或者你也可一用一個默認的大時間 (如: 12/31/9999)來代替空值, 這樣數(shù)據(jù)還能被索引識別到.
三. 不同字段保存不同值
Supplier_key Supplier_Name Original_Supplier_State Effective_Date Current_Supplier_State
001 Phlogistical Supply Company CA 22-Dec-2004 IL
這種方法用不同的字段保存變化痕跡.但是這種方法不能象第二種方法一樣保存所有變化記錄,它只能保存兩次變化記錄.適用于變化不超過兩次的維度。
四. 另外建表保存歷史記錄
即另外建一個歷史表來表存變化的歷史記錄,而維度只保存當前數(shù)據(jù)。
Supplier:
Supplier_key Supplier_Name Supplier_State
001 Phlogistical Supply Company IL
Supplier_History:
Supplier_key Supplier_Name Supplier_State Create_Date
001 Phlogistical Supply Company CA 22-Dec-2004
這種方法僅僅記錄一下變化歷史痕跡,其實做起統(tǒng)計運算來還是不方便的。
五. 混合模式
這種模式是以上幾種模式的混合體,相對而言此種方法更全面,更能應(yīng)對錯綜復(fù)雜且易變化的用戶需求,也是較為常用的。
Row_Key Supplier_key Supplier_Code Supplier_Name Supplier_State Start_Date End_Date Current Indicator
1 001 ABC001 Phlogistical Supply Company CA 22-Dec-2004 15-Jan-2007 N
2 001 ABC001 Phlogistical Supply Company IL 15-Jan-2007 1-Jan-2099 Y
此中方法有以下幾條優(yōu)點:
1. 能用簡單的過濾條件選出維度當前的值。
2. 能較容易的關(guān)聯(lián)出歷史任意一時刻事實數(shù)據(jù)的值。
3. 如果事實表中有一些時間字段(如:Order Date, Shipping Date, Confirmation Date),那么我們很容易選擇哪一條維度數(shù)據(jù)進行關(guān)聯(lián)分析。
其中Row_Key和 Current Indicator字段是可有可無的,加上去更方便,畢竟維度表的數(shù)據(jù)都不大,多點冗余字段不占太大空間但能提高查詢效率。
這種設(shè)計模式下事實表應(yīng)以Supplier_key為外鍵,雖然這個字段不能唯一標識一條維度數(shù)據(jù),從而形成了事實表與維表多對多的關(guān)系,因此在做事實和維度做關(guān)聯(lián)時應(yīng)加上時間戳字段(或Indicator字段)。
六. 非常規(guī)混合模式
上面說到第五種實現(xiàn)方式有點弊端,那就是事實表和維表不是多對一關(guān)系,而是多對多關(guān)系,這種關(guān)系不能在建模時解決只能在報表層面,在報表運行時解決,且在BI語意層建模時需要添加時間過濾條件,比較繁瑣。
下面這種解決方案可以解決此多對多關(guān)系,但是得修改一下事實表:
Supplier Dimension:
Version_Number Supplier_key Supplier_Code Supplier_Name Supplier_State Start_Date End_Date
1 001 ABC001 Phlogistical Supply Company CA 22-Dec-2004 15-Jan-2007
0 001 ABC001 Phlogistical Supply Company IL 15-Jan-2007 1-Jan-2099
Fact Delivery: (為描述清晰,同樣不使用代理鍵標識維度)
Delivery_Key Supplier_key Supplier_version_number Quantity Product Delivery_Date Order_Date
1 001 0 132 Bags 22-Dec-2006 15-Oct-2006
2 001 0 324 Chairs 15-Jan-2007 1-Jan-2007
此方案中向維表中的當前數(shù)據(jù)版本號始終為0,即插入維度數(shù)據(jù)時先將老版本的數(shù)據(jù)的version_number改成1(遞增),然后再插入當前數(shù)據(jù),此時才能保持當前數(shù)據(jù)版本號始終為0。
事實表中插入數(shù)據(jù)時所有的維度數(shù)據(jù)版本號始終全部為0。
因此此方案完全可解決事實表和維表多對多關(guān)系問題,另外還有個優(yōu)點是能保證事實表和維表的參照完整性,而且我們在用ERwin,PowerDesigner等建模工具建模時,Version_Number和Supplier_key可作為復(fù)合主鍵在兩實體間建立鏈接。
新聞熱點
疑難解答
圖片精選