存儲非同步復制帶寬
Ⅰ 如何使用虛擬化軟體實現雙活災備系統
災備雙活如何實現數據同步?
問題1:金融系統中同城災備如何實現數據實時同步(兩地是異構存儲),請軟體推薦和方法?
問題2:如果是遠距離(1000KM)異地災備雙活,如何較好的實現數據同步?
希望獲得:具體解決, 注意事項, 實例參考
問題1:金融系統中同城災備如何實現數據實時同步(兩地是異構存儲),請軟體推薦和方法
問題2:如果是遠距離(1000KM)異地災備雙活,如何較好的實現數據同步?
A1:數據實時同步復制有兩種大的分類:
1)存儲復制 - 即使異構存儲也能,只不過效果差點。利用虛擬化網關集群設備(比如VPLEX)。但是有一個缺點,存儲層面的塊兒復制,解決不了邏輯校驗的問題,有可能同步過去的塊兒數據,資料庫無法識別。
2)資料庫層面的復制,Oracle、db2都有。是基於日誌的復制,數據復制量很小。很安全。但是災難時刻拉起資料庫的時間也不是很理想。有條件的做一下自動化開發。
wangj0923技術經理 , 工行
存儲復制最大的問題是,復制過去的磁碟對資料庫來講突然下宕後掛上的,有可能不識別,即便識別了,也要進行一致性校驗,那個時間是無法忍受的。
資料庫復制的問題是同步模式對主庫的影響較大,備庫出問題容易hang主庫,而非同步模式無法確保RPO為零。
需要各種技術組合起來用。
shenxzh系統工程師 , Nanjing Securities
同城災備,如果是ORACLE資料庫,可以使用遠距離RAC,實現同城雙活數據中心(通過ORACLE ASM實現異構存儲雙活,或者存儲虛擬設備VPLEX,SVC等)
遠距離異地災備,最好使用主備模式,採用dataguard利用非同步模式(或採用12C的far sync功能),保證數據安全
else_xie系統運維工程師 , PICC
cz_doctor、xk2008贊同了此回答
首先要確定,實現要異地實時同步,生產環境答應嗎?
另外帶寬,速度的壓力,成本投入能答應嗎?
每一個數據的修改交互,都需要問1000KM外的,是否OK了。然後才下一步?那多累的,估計某些應用可以,同步數據少的,對業務性能不敏感的。
現在很多存儲的復制技術,非同步效果也趨於同步效果,只要業務壓力在可接受范圍內,就能及時傳送數據過去,只要自己明白,如果遇到業務高峰時,是要承受數據傳輸滯後比較明顯的結果而已。
另外,對復制同步的數據,如果不是在線進行使用的,要定期的驗證檢查,反正數據已經是「帶病」的,還一直在同步,哪天真的要用,才發現,那就遲了。
zhoujia8218(提問者)
你的這些反問點,都是我要關注的和不明確的地方,謝謝提醒
nitkey系統架構師 , ECT
xiaoyaozi贊同了此回答
問題1:異構存儲要實現同城實時同步有幾種實現方式:1.存儲前面加一層虛擬網關,通過虛擬網關來實現兩個存儲的數據同步;2.操作系統層面,通過LVM或者veritas的卷管理軟體實現;3.通過應用層自己實現數據同步,比如ORACLE的DG,DB2的HADR。同城實時同步一般對架構環境的要求都較高,如果再加上是異構存儲,要特別注意兩個存儲的性能是否匹配,否則會出現短板
問題2:1000KM以上我認為基本上只有靠存儲的非同步復制,通過資料庫的復制方式在遠距離的案例上不是太多。
孔再華資料庫運維工程師 , 中國民生銀行
同城災備可以做到對等雙活。相當於雙中心不差別提供服務。資料庫技術有DB2 GDPC和Oracle Extended RAC。DB2 GDPC集群底層通過GPFS集群文件系統完成數據同步,支持異構的存儲。
遠距離災備如果需要雙活肯定是有很大限制的。首先數據不可能實時同步,代價太大。因此對一致性要求高的系統幾乎不可能。但是如果使用非同步的方式,例如DB2的HADR技術,或者是CDC等數據邏輯同步技術,能夠做到同步數據,但是災備伺服器只能用來做查詢分析等作用。
zhoujia8218(提問者)
CDC遠距離復制時有沒有需要注意的嗎?我們只用過同城的,遠距離的沒有嘗試過
Ⅱ 雲計算災備:災備通識
目錄
一、災備的定義
災備指的是用現有的科學技術手段和方法,提前建立起可靠的應急方式,來應對突發事件的發生。
災備包括容災系統和備份系統。
備份: 保障數據的安全性 ,備份指的是將全部或部分數據集合從生產主機硬碟或陣列中保存到其他的存儲介質的過程。
容災: 保障業務的連續性 ,容災指的是在較遠的異地建立兩套或者多套相同的、包含完整基礎設施(計算、網路、存儲、電力製冷等)的IT系統,通過網路的方式實現數據的傳輸,當主數據中心發生故障,可以利用備數據中心快速恢復業務。
保護對象 :備份保護的是 數據 ,容災保護的是 業務連續性 。
實現方式 :備份採用備份軟體技術實現,而容災通過復制或者鏡像軟體實現。
時間周期: 數據保護的周期不一致,復制或者鏡像的時間周期更短。
補充:歸檔使用纖缺尺的是備份。
只有備份:
如果只有備份,業務無法快速恢復,數據恢復需要時間,這段時間對某些行業帶來的損失是無法估量的。另外,備份一般是周期性執行的,一旦發生數據丟失,從恢復復時間到上次備份時間之間的數據就會丟失。
只有容災:
如果只有容災,業務可以快速恢復,數據也可以被保護,但是生產段有錯誤的操作,或者系統升級失敗之類的,也會被同步到容災端,從而造成業務的中斷。
(數據是無價的,丟了的話問題很大哇!)
雲伺服器備份服務(CSBS): Cloud Server Backup Service,為雲伺服器提供整機備份功能,支持基於多雲硬碟一致性快照技術的本地備份,以及對備份數據的遠程復制,並支持利用備份數據恢復雲伺服器數據,最大限度保障用戶數據的安全性和正確性,確保業務安全。
雲硬碟備份服務(VBS): Volume Backup Service,基於雲硬碟的備份服務。用戶可為雲硬碟創建備份,利用備份數據回滾雲硬碟,以最大限度保證用戶數據正確性和安全扮吵性。
同步復制: 實時同步進行復制。
異毀高步復制: 非同步復制數據,數據一致性有待商榷。
本地生產中心:
同城容災方案(<100km):
異地容災方案(>100km):
優點:
本地高可用: 本地高可用通常為近距離的同一個機房內,使用 實時鏡像 和 同步復制 的方案,由於帶寬和距離很近,通常要求RPO=0。
優點:
關鍵技術: HyperReplication
優點:
關鍵技術: HyperMetro
補充:
備份窗口 :它指用戶正常使用業務系統不受影響的情況下,能夠對業務系統中的業務數據進行數據備份的時間間隔,或者說是用於備份的時間段。
完全備份: 又叫全量備份,對某一時間點上的所有數據的一個完全拷貝。備份發起後變更的數據將在下一次進行備份,又稱為全量備份。
累積增量式備份: 以上一次完全備份為基準 進行備份,若之前從未進行過備份,則備份所有數據。
差異增量式備份: 以上一次備份為基準 進行備份,若之前從未進行過備份,則備份所有文件。
恢復點目標(RPO): 當業務發生故障時,可以容忍 數據丟失的數量 ,單位為時間。
舉例:8點進行備份,9點丟數據,RPO=1小時,丟了一個小時的數據。
恢復時間目標(RTO): 當業務發生故障時,可以容忍 業務中斷的時間 ,單位為時間。
舉例:比如災難發生後半天內需要恢復數據,那麼RTO就是12小時。
RTO/RPO 與災難恢復能力等級關系(GB/T 20988-2007)
這個在備份組網那一塊再詳細補充...
這里參考:圖解三種備份方式(LAN,LAN free,Server free)_star&storage的技術博客_51CTO博客
LAN-Base,這種方式很簡單,直接在生產伺服器上安裝備份代理,部署一台備份伺服器,這樣即可完成備份,不過這種方式不適合數據量非常大的環境。因為如果備份數據量非常大,會佔用乙太網的帶寬,雖然說備份操作一般在晚上進行。但是這種方式還是不適合大數據量的情況。因此有了LAN-Free備份。
LAN-Free,顧名思義,即釋放了LAN的壓力。如上圖所示,數據流直接從File server經過FC switch備份到Tape,而不經過Lan,這樣就不會佔用主網路的帶寬。但是數據仍然會通過文件伺服器的本地磁碟--內存—FC switch這步,因此仍然會消耗File server的資源。因此有了下面的Server Free備份來盡可能的減少生產伺服器的壓力。
Server-Free,即備份時數據不流經伺服器的匯流排和內存,如上圖,文件伺服器使用SAN的File Server Storage空間,現在需要備份文件伺服器,則只需將File Server Storage的數據直接備份到Tape。此時文件伺服器只需要發出SCSI擴展復制命令,剩下的事情就是File Server Storage和Tape之間的事情了,這樣就減輕了文件伺服器的很多壓力,使它可以專注於對外提供文件服務,而不需要再消耗大量CPU、內存、IO在備份的事情上了。
或者還有一種方式即NDMP,Network Data Management Protocol,網路數據管理協議。它是一種支持智能數據存儲設備、磁帶庫設備及備份應用程序之間互相通信以完成備份過程的通信協議。伺服器只要向支持NDMP協議的存儲設備發送NDMP指令,即可讓存儲設備將其自己的數據直接發送到其他設備上,而不需要流經伺服器主機。
主機層數據復制: 在生產中心和災備中心的伺服器上安裝專用的數據復制軟體,如卷復制軟體,以實現遠程復制功能。兩中心間必須有網路連接作為數據通道。可以在伺服器層增加應用遠程切換功能軟體,從而構成完整的應用級容災方案。這種數據復制方式相對投入較少,主要是軟體的采購成本;兼容性較好,可以兼容不同品牌的伺服器和存儲設備,較適合硬體組成復雜的用戶。但這種方式要在伺服器上通過軟體來實現同步操作,佔用主機資源和網路資源非常大。
網路層數據復制: 在生產中心和災備中心的伺服器上安裝專用的數據復制軟體,如卷復制軟體,以實現遠程復制功能。兩中心間必須有網路連接作為數據通道。可以在伺服器層增加應用遠程切換功能軟體,從而構成完整的應用級容災方案。這種數據復制方式相對投入較少,主要是軟體的采購成本;兼容性較好,可以兼容不同品牌的伺服器和存儲設備,較適合硬體組成復雜的用戶。但這種方式要在伺服器上通過軟體來實現同步操作,佔用主機資源和網路資源非常大。
存儲層數據復制: 要實現數據的復制需要在生產中心和災備中心都部署一套這樣的存儲系統,數據復制功能由存儲系統實現。如果距離比較近(幾十公里之內),之間的鏈路可由兩中心的存儲交換機通過光纖直接連接;如果距離在200公里內,可通過增加DWDM等設備直接進行光纖連接;超過200公里,則可增加存儲路由器進行協議轉換途徑WAN或Internet實現連接。因此,從理論上可實現無限制連接。在存儲層實現數據復制功能是很成熟的技術,而且對應用伺服器的性能基本沒有影響。目前,這種容災方案穩定性高、對伺服器性能基本無影響,是容災方案的主流選擇。
本文作者:SkyBiuBiu
本文鏈接:https://www.cnblogs.com/Skybiubiu/p/14992848.html
Ⅲ 存儲器有哪些主要技術指標
主存儲器的主要有以下技術指標:
1、存儲容量:在一個存儲器中可以容納的存儲單元總數、存儲空間的大小、字數、位元組數。
2、存取時間:啟動到完成一次存儲器操作所經歷的時間、主存的速度。
3、存儲周期:連續啟動兩次操作所需間隔的最小時間、主存的速度。
4、存儲器帶寬:單位時間里存儲器所存取的信息量,、數據傳輸速率技術指標。
主存儲器的性能指標主要是存儲容量、存取時間、存儲周期和存儲器帶寬。
字存儲單元即存放一個機器字的存儲單元,相應的地址稱為字地址。一個機器字可以包含數個位元組,所以一個存儲單元也可包含數個能夠單獨編址的位元組地址。
下面列出主存儲器的主要幾項技術指標:
主存儲器的主要幾項技術指標指標 含義 表現 單位 存儲容量 在一個存儲器中可以容納的存儲單元總數 存儲空間的大小 字數,位元組數 存取時間 啟動到完成一次存儲器操作所經歷的時間 主存的速度 ns 存儲周期 連續啟動兩次操作所需間隔的最小時間 主存的速度 ns 存儲器帶寬 單位時間里存儲器所存取的信息量, 數據傳輸速率技術指標 位/秒,位元組/秒 主存儲器的性能指標主要是存儲容量、存取時間和存儲周期。
存放一個機器字的存儲單元,通常稱為字存儲單元,相應的單元地址叫字地址。而存放一個位元組的單元,稱為位元組存儲單元,相應的地址稱為位元組地址。如果計算機中可編址的最小單位是字存儲單元,則該計算機稱為按字編址的計算機。如果計算機中可編址的最小單位是位元組,則該計算機稱為按位元組編址的計算機。一個機器字可以包含數個位元組,所以一個存儲單元也可以包含數個能夠單獨編址的位元組地址。例如,PDP-11系列計算機,一個16位二進制的字存儲單元可存放兩個位元組,可以按字地址定址,也可以按位元組地址定址。當用位元組地址定址時,16位的存儲單元占兩個位元組地址。
在一個存儲器中容納的存儲單元總數通常稱為該存儲器的存儲容量。存儲容量用字數或位元組數(B)來表示,如64K字,512KB,10MB。外存中為了表示更大的存儲容量,採用MB,GB,TB等單位。其中1KB=2B,1MB=2B,1GB=2B,1TB=2B。B表示位元組,一個位元組定義為8個二進制位,所以計算機中一個字的字長通常為8的倍數。存儲容量這一概念反映了存儲空間的大小。
存儲時間有稱存儲器訪問時間,是指從啟動一次存儲器操作到完成該操作所經歷的時間。具體講,從一次讀操作命令發出到該操作完成,將數據讀入數據緩沖寄存器為止所經歷的時間,即為存儲器存取時間。
存儲周期是指連續啟動兩次獨立的存儲器操作(如連續兩次讀操作)所需間隔的最小時間。通常,存儲周期略大於存儲時間,其時間單位為ns
Ⅳ 高端存儲和低端存儲怎麼樣劃分
一般存儲分為直連存儲(DAS的)、IP SAN、光纖存儲,前2個都屬於低端存儲,到了光纖存儲才能叫中高端存儲。在高端存儲裡面又根據對各種介面的支持、磁碟擴展的能力、產品的性能、以及各種高級數據保護的功能來劃分存儲的檔次。一般上了純光纖級別這個檔次的磁碟陣列擴展能力都在200塊硬碟以上。
伺服器的檔次劃分大體就分PC伺服器、小型機、中型機、大型機了。一般指的伺服器是指的X86架構下的PC伺服器,PC伺服器又分為單路、雙路、多路以及純64位的安騰伺服器(安騰伺服器不屬於PC伺服器范疇)。
性能上單路就是個工作組級別的伺服器,雙路伺服器差不多是個部門級的,一個不大的網站一台雙路的就差不多可以跑起來,多路的一半作為資料庫伺服器應用(有四路和8路以及16路的產品),安騰的伺服器性能基本上跟小型機是一個檔次的。中型機和大型機的應用只有超大規模的單位才可以用得到,估計到大型機,全國也沒有多少台。老外在這些方面是很黑的,一套大型機操作系統都可以賣我們3000多萬美金甚至上億。
磁碟陣列的高端或低端不能單靠容量的多少作為判定條件。
高端存儲特徵,內部帶寬至少在1600MB以上,提供緩存保護的技術、可同時支持多個光纖/IP/SAS介面,硬碟類型也可以同時支持SSD/FC/SAS/SATA等等,可擴展200以上硬碟,提供存儲和存儲之間的鏡像、數據快照、隔離、雙向復制等等技術。存儲到了高端之後,實際上不是拼的硬體指標,而是看的軟體功能。EMC的存儲為什麼是世界第一的,就是這個原因,他們拼的是技術。
Ⅳ 請教下:網路數據傳輸的原理
數據在網路上是以"幀"為單位進行傳輸。
幀由多個部分組成,不同的部分對應不同的信息,從而實現相應的功能。
幀是根據通信所使用的協議,由網路驅動程序按照一定規則生成的,然後通過網卡發送到網路中,通過網線傳送到目的主機。
在目的主機一端按照同樣的通信協議執行相反的過程。接收端機器的網卡捕獲到這些幀,並告訴操作系統有新的幀到達,然後對其進行存儲。
在正常情況下,網卡讀入一幀並進行檢查。
如果幀中攜帶的目的地址(這里的目的地址是指物理地址而非IP地址,該地址是網路設備的唯一標志)和自己的物理地址一致,或者是廣播地址(被設定為一次性發送到網路所有主機的特殊地址,當目標地址為該地址時,所有的網卡都會接收該幀),網卡通過產生一個硬體中斷引起操作系統注意,然後將幀中所包含的數據傳送給系統進一步處理;否則就將這個幀丟棄。