典型存儲架構
資料庫的存在對於任何一個軟體的運行以及網站信息的存儲都是非常有必要的。但是並不是所有的存儲方式都能滿足需求,我們需要根據不同的情況進行調整。下面IT培訓http://www.kmbdqn.cn/就從案例分析的角度出發來了解一下,不同的資料庫存儲結構的優劣性。
從讀/寫工作負載平衡、一致性需求、延遲和訪問模式等方面看,應用是各異的。如果我們能對資料庫和存儲內部設施架構決策瞭然於胸,那麼將有助於我們理解系統行為模式的原因所在,一旦在問題時能解決問題,並能根據工作負載調優資料庫。
B樹和LSM樹結構上的大差別之一,在於優化的目的,以及優化的意義。
下面對B樹和LSM樹做一個對比。總而言之,B樹具有如下屬性:
B樹是可變的,這支持通過引入一些空間開銷,以及更為關聯的寫路徑,實現就地更新。B樹並不需要完全的文件重寫或多源合並。
B樹是讀優化的。即B樹不需要從多個源讀取(因此也不需要此後的合並操作),這簡化了讀路徑。
寫可能會觸發節點的級聯分割,這會使一些寫操作更昂貴。
B樹是針對分頁(塊存儲)環境優化的,其中不存在位元組地址。(blockstorage),.
雖然也需要重寫,但是通常情況下B樹存儲要比LSM樹存儲需要更少的維護。
並發訪問需要讀/寫隔離,其中一系列的鎖和閂(latch)。
LSM樹具有如下特性:
LSM樹是不可寫的。SSTable是一次性寫入磁碟的,永不更新。緊縮操作通過從多個數據文件移除條目,並合並具有相同鍵的數據,實現空間的整合。在緊縮過程中,已合並的SSTable將被丟棄,並在成功合並後移除。不可寫提供的另一個有用特性,就是刷新後的表可並發訪問。
LSM是寫優化的。這意味著寫入操作將被緩存,並順序地刷新到磁碟中,潛在地支持磁碟上的空間本地性。
讀操作可能需要從多個數據源訪問數據。因為不同時間寫入的具有相同鍵的數據,可能會落在不同的數據文件中。記錄在返回給客戶前,必須經過合並過程。
LSM樹需要做維護和緊縮,因為緩存的寫入操作將被刷新到磁碟。
2. 存儲管理的存儲知識結構
1、系統管理:UNIX/linux/Windows操作系統管理。2、開發技術:C/C++,網路編程,多進程/多線程,進程間通信。3、存儲基礎:磁碟、RAID陣列、文件系統等存儲相關硬體和軟體的安裝、配置、調試。4、存儲系統:RAID, DAS, SAN, NAS, CAS等。5、存儲協議:TCP/IP, SCSI, iSCSI, NFS/CIFS等。6、文件系統:VFS, EXTx/NTFS/FAT32等磁碟文件系統, NFS/CIFS網路文件系統, Lustre/GFS/AFS等分布式文件系統。7、存儲技術:Deplication, SSD, HSM, Virtualization, Snapshot, Replication, CDP, VTL, Thin Provision等等。8、存儲架構:掌握不同行業的存儲需求,能夠根據實際需求提出存儲解決方案,並進行存儲系統架構、設計和實現 。
3. 存儲的架構有哪些
目前市場上的存儲架構如下:
(1)基於嵌入式架構的存儲系統
節點NVR架構主要面向小型高清監控系統,高清前端數量一般在幾十路以內。系統建設中沒有大型的存儲監控中心機房,存儲容量相對較小,用戶體驗度、系統功能集成度要求較高。在市場應用層面,超市、店鋪、小型企業、政法行業中基本管理單元等應用較為廣泛。
(2)基於X86架構的存儲系統
平台SAN架構主要面向中大型高清監控系統,前端路數成百上千甚至上萬。一般多採用IPSAN或FCSAN搭建高清視頻存儲系統。作為監控平台的重要組成部分,前端監控數據通過錄像存儲管理模塊存儲到SAN中。
此種架構接入高清前端路數相對節點NVR有了較高提升,具備快捷便利的可擴展性,技術成熟。對於IPSAN而言,雖然在ISCSI環節數據並發讀寫傳輸速率有所消耗,但其憑借擴展性良好、硬體平台通用、海量數據可充分共享等優點,仍然得到很多客戶的青睞。FCSAN在行業用戶、封閉存儲系統中應用較多,比如縣級或地級市高清監控項目,大數據量的並發讀寫對千兆網路交換提出了較大的挑戰,但應用FCSAN構建相對獨立的存儲子系統,可以有效解決上述問題。
(3)基於雲技術的存儲方案
當前,安防行業可謂「雲」山「物」罩。隨著視頻監控的高清化和網路化,存儲和管理的視頻數據量已有海量之勢,雲存儲技術是突破IP高清監控存儲瓶頸的重要手段。雲存儲作為一種服務,在未來安防監控行業有著客觀的應用前景。
與傳統存儲設備不同,雲存儲不僅是一個硬體,而是一個由網路設備、存儲設備、伺服器、軟體、接入網路、用戶訪問介面以及客戶端程序等多個部分構成的復雜系統。該系統以存儲設備為核心,通過應用層軟體對外提供數據存儲和業務服務。
4. hadoop集群的存儲架構一般適宜採用das,nas,san或其他什麼架構
數據局部性(data locality):這是Hadoop的主要特性,指的是直接在存儲數據的節點上做CPU密集型計算。顯然,SAN/NAS不適用於任何形式的CPU密集型計算。
RAID:SAN/NAS採用RAID磁碟陣列進行存儲,而Hadoop框架通過復本來確保數據的可靠性和容錯性。
DAS採用JBOD磁碟數組進行存儲,如果Hadoop節點的內置存儲容量較小,可以採用DAS做擴展。如果只是想通過Hadoop做數據歸檔,沒有計算,好吧,SAN/NAS是個選擇。
5. 大數據時代下的三種存儲架構
大數據時代下的三種存儲架構_數據分析師考試
大數據時代,移動互聯、社交網路、數據分析、雲服務等應用的迅速普及,對數據中心提出革命性的需求,存儲基礎架構已經成為IT核心之一。政府、軍隊軍工、科研院所、航空航天、大型商業連鎖、醫療、金融、新媒體、廣電等各個領域新興應用層出不窮。數據的價值日益凸顯,數據已經成為不可或缺的資產。作為數據載體和驅動力量,存儲系統成為大數據基礎架構中最為關鍵的核心。
傳統的數據中心無論是在性能、效率,還是在投資收益、安全,已經遠遠不能滿足新興應用的需求,數據中心業務急需新型大數據處理中心來支撐。除了傳統的高可靠、高冗餘、綠色節能之外,新型的大數據中心還需具備虛擬化、模塊化、彈性擴展、自動化等一系列特徵,才能滿足具備大數據特徵的應用需求。這些史無前例的需求,讓存儲系統的架構和功能都發生了前所未有的變化。
基於大數據應用需求,「應用定義存儲」概念被提出。存儲系統作為數據中心最核心的數據基礎,不再僅是傳統分散的、單一的底層設備。除了要具備高性能、高安全、高可靠等特徵之外,還要有虛擬化、並行分布、自動分層、彈性擴展、異構資源整合、全局緩存加速等多方面的特點,才能滿足具備大數據特徵的業務應用需求。
尤其在雲安防概念被熱炒的時代,隨著高清技術的普及,720P、1080P隨處可見,智能和高清的雙向需求、動輒500W、800W甚至上千萬更高解析度的攝像機面市,大數據對存儲設備的容量、讀寫性能、可靠性、擴展性等都提出了更高的要求,需要充分考慮功能集成度、數據安全性、數據穩定性,系統可擴展性、性能及成本各方面因素。
目前市場上的存儲架構如下:
(1)基於嵌入式架構的存儲系統
節點NVR架構主要面向小型高清監控系統,高清前端數量一般在幾十路以內。系統建設中沒有大型的存儲監控中心機房,存儲容量相對較小,用戶體驗度、系統功能集成度要求較高。在市場應用層面,超市、店鋪、小型企業、政法行業中基本管理單元等應用較為廣泛。
(2)基於X86架構的存儲系統
平台SAN架構主要面向中大型高清監控系統,前端路數成百上千甚至上萬。一般多採用IPSAN或FCSAN搭建高清視頻存儲系統。作為監控平台的重要組成部分,前端監控數據通過錄像存儲管理模塊存儲到SAN中。
此種架構接入高清前端路數相對節點NVR有了較高提升,具備快捷便利的可擴展性,技術成熟。對於IPSAN而言,雖然在ISCSI環節數據並發讀寫傳輸速率有所消耗,但其憑借擴展性良好、硬體平台通用、海量數據可充分共享等優點,仍然得到很多客戶的青睞。FCSAN在行業用戶、封閉存儲系統中應用較多,比如縣級或地級市高清監控項目,大數據量的並發讀寫對千兆網路交換提出了較大的挑戰,但應用FCSAN構建相對獨立的存儲子系統,可以有效解決上述問題。
面對視頻監控系統大文件、隨機讀寫的特點,平台SAN架構系統不同存儲單元之間的數據共享冗餘方面還有待提高;從高性能伺服器轉發視頻數據到存儲空間的策略,從系統架構而言也增加了隱患故障點、ISCSI帶寬瓶頸導致無法充分利用硬體數據並發性能、接入前端數據較少。上述問題催生了平台NVR架構解決方案。
該方案在系統架構上省去了存儲伺服器,消除了上文提到的性能瓶頸和單點故障隱患。大幅度提高存儲系統的寫入和檢索速度;同時也徹底消除了傳統文件系統由於供電和網路的不穩定帶來的文件系統損壞等問題。
平台NVR中存儲的數據可同時供多個客戶端隨時查詢,點播,當用戶需要查看多個已保存的視頻監控數據時,可通過授權的視頻監控客戶端直接查詢並點播相應位置的視頻監控數據進行歷史圖像的查看。由於數據管理伺服器具有監控系統所有監控點的錄像文件的索引,因此通過平台CMS授權,視頻監控客戶端可以查詢並點播整個監控系統上所有監控點的數據,這個過程對用戶而言也是透明的。
(3)基於雲技術的存儲方案
當前,安防行業可謂「雲」山「物」罩。隨著視頻監控的高清化和網路化,存儲和管理的視頻數據量已有海量之勢,雲存儲技術是突破IP高清監控存儲瓶頸的重要手段。雲存儲作為一種服務,在未來安防監控行業有著客觀的應用前景。
與傳統存儲設備不同,雲存儲不僅是一個硬體,而是一個由網路設備、存儲設備、伺服器、軟體、接入網路、用戶訪問介面以及客戶端程序等多個部分構成的復雜系統。該系統以存儲設備為核心,通過應用層軟體對外提供數據存儲和業務服務。
一般分為存儲層、基礎管理層、應用介面層以及訪問層。存儲層是雲存儲系統的基礎,由存儲設備(滿足FC協議、iSCSI協議、NAS協議等)構成。基礎管理層是雲存儲系統的核心,其擔負著存儲設備間協同工作,數據加密,分發以及容災備份等工作。應用介面層是系統中根據用戶需求來開發的部分,根據不同的業務類型,可以開發出不同的應用服務介面。訪問層指授權用戶通過應用介面來登錄、享受雲服務。其主要優勢在於:硬體冗餘、節能環保、系統升級不會影響存儲服務、海量並行擴容、強大的負載均衡功能、統一管理、統一向外提供服務,管理效率高,雲存儲系統從系統架構、文件結構、高速緩存等方面入手,針對監控應用進行了優化設計。數據傳輸可採用流方式,底層採用突破傳統文件系統限制的流媒體數據結構,大幅提高了系統性能。
高清監控存儲是一種大碼流多並發寫為主的存儲應用,對性能、並發性和穩定性等方面有很高的要求。該存儲解決方案採用獨特的大緩存順序化演算法,把多路隨機並發訪問變為順序訪問,解決了硬碟磁頭因頻繁尋道而導致的性能迅速下降和硬碟壽命縮短的問題。
針對系統中會產生PB級海量監控數據,存儲設備的數量達數十台上百台,因此管理方式的科學高效顯得十分重要。雲存儲可提供基於集群管理技術的多設備集中管理工具,具有設備集中監控、集群管理、系統軟硬體運行狀態的監控、主動報警,圖像化系統檢測等功能。在海量視頻存儲檢索應用中,檢索性能尤為重要。傳統文件系統中,文件檢索採用的是「目錄-》子目錄-》文件-》定位」的檢索步驟,在海量數據的高清視頻監控,目錄和文件數量十分可觀,這種檢索模式的效率就會大打折扣。採用序號文件定位可以有效解決該問題。
雲存儲可以提供非常高的的系統冗餘和安全性。當在線存儲系統出現故障後,熱備機可以立即接替服務,當故障恢復時,服務和數據回遷;若故障機數據需要調用,可以將故障機的磁碟插入到冷備機中,實現所有數據的立即可用。
對於高清監控系統,隨著監控前端的增加和存儲時間的延長,擴展能力十分重要。市場中已有友商可提供單純針對容量的擴展櫃擴展模式和性能容量同步線性擴展的堆疊擴展模式。
雲存儲系統除上述優點之外,在平台對接整合、業務流程梳理、視頻數據智能分析深度挖掘及成本方面都將面臨挑戰。承建大型系統、構建雲存儲的商業模式也亟待創新。受限於寬頻網路、web2.0技術、應用存儲技術、文件系統、P2P、數據壓縮、CDN技術、虛擬化技術等的發展,未來雲存儲還有很長的路要走。
以上是小編為大家分享的關於大數據時代下的三種存儲架構的相關內容,更多信息可以關注環球青藤分享更多干貨
6. 網路化存儲的三種主要類型
1)DAS
將存儲設備通過SCSI線纜或FC通道直接連接到伺服器上。
2)NAS
一種文件共享服務。擁有自己的文件系統,通過NFS或CIFS對外提供文件訪問服務。
NAS,包括存儲器件和專用伺服器,專用伺服器上裝有專門的操作系統,通常是簡化的unix/linux操作系統,或者是一個特殊的win2000內核。它為文件系統管理和訪問做了專門優化。專用伺服器NFS或CIFS,充當遠程文件伺服器,對外提供文件級的訪問。
3)SAN
一種通過網路方式連接存儲設備和伺服器的存儲架構。
這個網路用於存儲設備和伺服器之間的訪問。當有數據存取請求時,數據可以通過存儲區域網路在伺服器和後台存儲設備之間高速傳輸。
NAS和SAN結合中出現了NAS網關這個部件。NAS網關主要由專為提供文件服務而優化的操作系統和相關硬體組成,可以看成是一個專門的文件管理器。
NAS網關連接到後端的SAN上,使的SAN的大容量存儲空間可以為NAS使用。因此,NAS網關後面的存儲空間可以根據環境的需求擴展到非常大的容量。
主要就是在NAS一端增加了與SAN連接的「介面」,系統對外只有一個用戶介面。
7. SDS的軟體定義存儲 vs.傳統存儲架構
雖然沒有官方的定義,但軟體定義存儲就是將存儲硬體中的典型的存儲控制器功能抽出來放到軟體上。這些功能包括卷管理、RAID、數據保護、快照和復制等。軟體定義存儲允許用戶不必從特定廠商采購存儲控制器硬體如硬碟、快閃記憶體等存儲介質。並且,如果存儲控制器功能被抽離出來,該功能就可以放在基礎架構的任何一部分。它可以運行在特定的硬體上,在hypervisor內部,或者與虛機並行,形成真正的融合架構。
那麼,軟體定義存儲的哪些功能是我們不能從傳統存儲中獲得的? 換句話說,它並不需要放置到特定的硬體中。當前的趨勢是將軟體的存儲控制器放置在虛擬伺服器架構中,借用架構中主機的計算能力。這樣做可以大幅削減費用,同時創建了一個更加簡單的可擴展架構。如果每次架構中增加一台主機就增加一個虛擬存儲控制器的話,存儲的處理能力和空間就會隨伺服器的增加獲得擴展。
相對傳統存儲來說,大幅降低成本並與現有的虛擬架構緊密結合是軟體定義存儲的最主要優勢。
8. 網路存儲的常見架構有哪些
你好,網路存儲(Network Storage)是基於數據存儲的一種,網路存儲結構大致分為三種:直連式存儲(DAS:Direct Attached Storage)、網路存儲設備(NAS:Network Attached Storage)和存儲網路(SAN:Storage Area Network),由於NAS對於普通消費者而言較為熟悉,所以一般網路存儲都指NAS。
9. 2.固態硬碟按快閃記憶體架構分,可分為哪幾類
主要分為slc,mlc,tlc
在固態硬碟中,NAND快閃記憶體因其具有非易失性存儲的特性,即斷電後仍能保存數據,被大范圍運用。
根據NAND快閃記憶體中電子單元密度的差異,又可以分為SLC(單層次存儲單元)、MLC(雙層存儲單元)以及TLC(三層存儲單元),此三種存儲單元在壽命以及造價上有著明顯的區別。
SLC(單層式存儲),單層電子結構,寫入數據時電壓變化區間小,壽命長,擦寫次數在10萬次以上,造價高,多用於企業級高端產品。
MLC(多層式存儲),使用高低電壓的而不同構建的雙層電子結構,壽命長,造價可接受,多用民用中高端產品,擦寫次數在5000左右。
TLC(三層式存儲),是MLC快閃記憶體延伸,TLC達到3bit/cell。存儲密度最高,容量是MLC的1.5倍。 造價成本最低, 使命壽命低,擦寫次數在1000~2000左右,多用民用低端產品