當前位置:首頁 » 存儲配置 » 存儲數據分層

存儲數據分層

發布時間: 2024-10-16 15:43:20

Ⅰ 各位大神,數據倉庫分層 DWD DWB DWS 分別是什麼縮寫啊

數據倉庫領域中,存在幾種不同的層次縮寫,它們分別為:

DW,代表數據倉庫,是存儲和管理企業歷史數據的集中存儲區域。

數據倉庫的分層設計有助於提高效率和靈活性。從底層到上層,我們有:

DWD,即Data Warehouse Detail,也稱作ODS層,它作為業務層與數據倉庫之間的隔離層,主要存儲詳細且有時是實時的數據。

DWB,即Data Warehouse Base,作為基礎數據層,它存儲的是客觀、標准化的數據,通常作為中間層,包含大量的度量指標。

DWS,即Data Warehouse Service,是基於DWB構建的,服務於特定主題分析的層,通常呈現為寬表,便於數據分析和報告。

數據倉庫分層的主要原因包括:提高數據處理效率,減少冗餘;適應業務規則變化,簡化數據清洗過程;通過分層管理實現任務分步處理,降低復雜性;空間換時間,提供多層次模型便於高效訪問;分解復雜問題,便於維護和應對業務變化。

標準的分層架構可能包括ODS(臨時存儲層)、PDW(數據倉庫層)、MID(數據集市層)和APP(應用層),但這並不是固定不變的,實際應用中可根據需求進行調整。

Ⅱ 數據分層的目的在於

數據分層的目的在於提高數據處理的效率與精準度、簡化數據處理過程、優化數據存儲空間等。

一、提高數據處理的效率與精準度

數據分層可以將大量的數據劃分為不同的層,每層都包含了具有相似特徵的數據,從而方便對數據進行批量處理。

對於某些特殊的數據,可以將其單獨劃分一層,以避免對其他數據造成干擾。通過數據分層,可以對數據集進行更精細的劃分,從而提高數據處理的精準度。

3、大數據存儲與處理領域

在面對大規模數據處理時,數據分層可以幫助實現數據的分布式存儲和計算,提高系統的可擴展性和性能,並降低存儲成本。

4、數據安全與隱私保護領域

通過將數據按照不同敏感級別進行分層,可以實施差異化的安全策略和許可權控制措施,從而保護重要數據的機密性和完整性,降低數據泄漏和濫用的風險。

Ⅲ 什麼是數據倉庫,數據倉庫如何分層

數據倉庫分層的原因
1通過數據預處理提高效率,因為預處理,所以會存在冗餘數據
2如果不分層而業務系統的業務規則發生變化,就會影響整個數據清洗過程,工作量巨大
3通過分層管理來實現分步完成工作,這樣每一層的處理邏輯就簡單了

標準的數據倉庫分層:ods(臨時存儲層),pdw(數據倉庫層),mid(數據集市層),app(應用層)
ods:歷史存儲層,它和源系統數據是同構的,而且這一層數據粒度是最細的,這層的表分為兩種,一種是存儲當前需要載入的數據,一種是用於存儲處理完後的數據。
pdw:數據倉庫層,它的數據是干凈的數據,是一致的准確的,也就是清洗後的數據,它的數據一般都遵循資料庫第三範式,數據粒度和ods的粒度相同,它會保存bi系統中所有歷史數據
mid:數據集市層,它是面向主題組織數據的,通常是星狀和雪花狀數據,從數據粒度將,它是輕度匯總級別的數據,已經不存在明細的數據了,從廣度來說,它包含了所有業務數量。從分析角度講,大概就是近幾年
app:應用層,數據粒度高度匯總,倒不一定涵蓋所有業務數據,只是mid層數據的一個子集。

數據倉庫的目的是構建面向分析的集成化數據環境,為企業提供決策支持。數據倉庫的context也可以理解為:數據源,數據倉庫,數據應用

數據倉庫可以理解為中間集成化數據管理的一個平台
etl(抽取extra,轉化transfer,裝載load)是數據倉庫的流水線,也可以認為是數據倉庫的血液。
數據倉庫的存儲並不需要存儲所有原始數據,因為比如你存儲冗長的文本數據完全沒必要,但需要存儲細節數據,因為需求是多變的,而且數據倉庫是導入數據必須經過整理和轉換使它面向主題,因為前台資料庫的數據是基於oltp操作組織優化的,這些可能不適合做分析,面向主題的組織形式才有利於分析。
多維數據模型就是說可以多維度交叉查詢和細分,應用一般都是基於聯機分析處理(online analytical process OLAP),面向特定需求群體的數據集市會基於多位數據模型構建
而報表展示就是將聚合數據和多維分析數據展示到報表,提供簡單和直觀的數據。
元數據,也叫解釋性數據,或者數據字典,會記錄數據倉庫中模型的定義,各層級之間的映射關系,監控數據倉庫的數據狀態和etl的任務運行狀態。一般通過元數據資料庫來統一存儲和管理元數據。

熱點內容
存儲空間不足某些系統功能 發布:2024-10-16 17:59:24 瀏覽:240
你是怎麼做資產配置的 發布:2024-10-16 17:58:46 瀏覽:869
南京社保原始密碼是什麼 發布:2024-10-16 17:58:00 瀏覽:917
為什麼叫波斯密碼 發布:2024-10-16 17:42:16 瀏覽:371
linux文件共享samba 發布:2024-10-16 17:41:30 瀏覽:825
有密碼的壓縮文件 發布:2024-10-16 17:28:19 瀏覽:726
115瀏覽器視頻緩存 發布:2024-10-16 17:22:59 瀏覽:674
家裡密碼鎖忘記了如何設置新密碼 發布:2024-10-16 17:21:28 瀏覽:98
如何清除微信瀏覽器緩存 發布:2024-10-16 17:07:19 瀏覽:596
安卓轉蘋果為什麼要付99塊錢 發布:2024-10-16 16:43:57 瀏覽:121