存储异步复制带宽
Ⅰ 如何使用虚拟化软件实现双活灾备系统
灾备双活如何实现数据同步?
问题1:金融系统中同城灾备如何实现数据实时同步(两地是异构存储),请软件推荐和方法?
问题2:如果是远距离(1000KM)异地灾备双活,如何较好的实现数据同步?
希望获得:具体解决, 注意事项, 实例参考
问题1:金融系统中同城灾备如何实现数据实时同步(两地是异构存储),请软件推荐和方法
问题2:如果是远距离(1000KM)异地灾备双活,如何较好的实现数据同步?
A1:数据实时同步复制有两种大的分类:
1)存储复制 - 即使异构存储也能,只不过效果差点。利用虚拟化网关集群设备(比如VPLEX)。但是有一个缺点,存储层面的块儿复制,解决不了逻辑校验的问题,有可能同步过去的块儿数据,数据库无法识别。
2)数据库层面的复制,Oracle、db2都有。是基于日志的复制,数据复制量很小。很安全。但是灾难时刻拉起数据库的时间也不是很理想。有条件的做一下自动化开发。
wangj0923技术经理 , 工行
存储复制最大的问题是,复制过去的磁盘对数据库来讲突然下宕后挂上的,有可能不识别,即便识别了,也要进行一致性校验,那个时间是无法忍受的。
数据库复制的问题是同步模式对主库的影响较大,备库出问题容易hang主库,而异步模式无法确保RPO为零。
需要各种技术组合起来用。
shenxzh系统工程师 , Nanjing Securities
同城灾备,如果是ORACLE数据库,可以使用远距离RAC,实现同城双活数据中心(通过ORACLE ASM实现异构存储双活,或者存储虚拟设备VPLEX,SVC等)
远距离异地灾备,最好使用主备模式,采用dataguard利用异步模式(或采用12C的far sync功能),保证数据安全
else_xie系统运维工程师 , PICC
cz_doctor、xk2008赞同了此回答
首先要确定,实现要异地实时同步,生产环境答应吗?
另外带宽,速度的压力,成本投入能答应吗?
每一个数据的修改交互,都需要问1000KM外的,是否OK了。然后才下一步?那多累的,估计某些应用可以,同步数据少的,对业务性能不敏感的。
现在很多存储的复制技术,异步效果也趋于同步效果,只要业务压力在可接受范围内,就能及时传送数据过去,只要自己明白,如果遇到业务高峰时,是要承受数据传输滞后比较明显的结果而已。
另外,对复制同步的数据,如果不是在线进行使用的,要定期的验证检查,反正数据已经是“带病”的,还一直在同步,哪天真的要用,才发现,那就迟了。
zhoujia8218(提问者)
你的这些反问点,都是我要关注的和不明确的地方,谢谢提醒
nitkey系统架构师 , ECT
xiaoyaozi赞同了此回答
问题1:异构存储要实现同城实时同步有几种实现方式:1.存储前面加一层虚拟网关,通过虚拟网关来实现两个存储的数据同步;2.操作系统层面,通过LVM或者veritas的卷管理软件实现;3.通过应用层自己实现数据同步,比如ORACLE的DG,DB2的HADR。同城实时同步一般对架构环境的要求都较高,如果再加上是异构存储,要特别注意两个存储的性能是否匹配,否则会出现短板
问题2:1000KM以上我认为基本上只有靠存储的异步复制,通过数据库的复制方式在远距离的案例上不是太多。
孔再华数据库运维工程师 , 中国民生银行
同城灾备可以做到对等双活。相当于双中心不差别提供服务。数据库技术有DB2 GDPC和Oracle Extended RAC。DB2 GDPC集群底层通过GPFS集群文件系统完成数据同步,支持异构的存储。
远距离灾备如果需要双活肯定是有很大限制的。首先数据不可能实时同步,代价太大。因此对一致性要求高的系统几乎不可能。但是如果使用异步的方式,例如DB2的HADR技术,或者是CDC等数据逻辑同步技术,能够做到同步数据,但是灾备服务器只能用来做查询分析等作用。
zhoujia8218(提问者)
CDC远距离复制时有没有需要注意的吗?我们只用过同城的,远距离的没有尝试过
Ⅱ 云计算灾备:灾备通识
目录
一、灾备的定义
灾备指的是用现有的科学技术手段和方法,提前建立起可靠的应急方式,来应对突发事件的发生。
灾备包括容灾系统和备份系统。
备份: 保障数据的安全性 ,备份指的是将全部或部分数据集合从生产主机硬盘或阵列中保存到其他的存储介质的过程。
容灾: 保障业务的连续性 ,容灾指的是在较远的异地建立两套或者多套相同的、包含完整基础设施(计算、网络、存储、电力制冷等)的IT系统,通过网络的方式实现数据的传输,当主数据中心发生故障,可以利用备数据中心快速恢复业务。
保护对象 :备份保护的是 数据 ,容灾保护的是 业务连续性 。
实现方式 :备份采用备份软件技术实现,而容灾通过复制或者镜像软件实现。
时间周期: 数据保护的周期不一致,复制或者镜像的时间周期更短。
补充:归档使用纤缺尺的是备份。
只有备份:
如果只有备份,业务无法快速恢复,数据恢复需要时间,这段时间对某些行业带来的损失是无法估量的。另外,备份一般是周期性执行的,一旦发生数据丢失,从恢复复时间到上次备份时间之间的数据就会丢失。
只有容灾:
如果只有容灾,业务可以快速恢复,数据也可以被保护,但是生产段有错误的操作,或者系统升级失败之类的,也会被同步到容灾端,从而造成业务的中断。
(数据是无价的,丢了的话问题很大哇!)
云服务器备份服务(CSBS): Cloud Server Backup Service,为云服务器提供整机备份功能,支持基于多云硬盘一致性快照技术的本地备份,以及对备份数据的远程复制,并支持利用备份数据恢复云服务器数据,最大限度保障用户数据的安全性和正确性,确保业务安全。
云硬盘备份服务(VBS): Volume Backup Service,基于云硬盘的备份服务。用户可为云硬盘创建备份,利用备份数据回滚云硬盘,以最大限度保证用户数据正确性和安全扮吵性。
同步复制: 实时同步进行复制。
异毁高步复制: 异步复制数据,数据一致性有待商榷。
本地生产中心:
同城容灾方案(<100km):
异地容灾方案(>100km):
优点:
本地高可用: 本地高可用通常为近距离的同一个机房内,使用 实时镜像 和 同步复制 的方案,由于带宽和距离很近,通常要求RPO=0。
优点:
关键技术: HyperReplication
优点:
关键技术: HyperMetro
补充:
备份窗口 :它指用户正常使用业务系统不受影响的情况下,能够对业务系统中的业务数据进行数据备份的时间间隔,或者说是用于备份的时间段。
完全备份: 又叫全量备份,对某一时间点上的所有数据的一个完全拷贝。备份发起后变更的数据将在下一次进行备份,又称为全量备份。
累积增量式备份: 以上一次完全备份为基准 进行备份,若之前从未进行过备份,则备份所有数据。
差异增量式备份: 以上一次备份为基准 进行备份,若之前从未进行过备份,则备份所有文件。
恢复点目标(RPO): 当业务发生故障时,可以容忍 数据丢失的数量 ,单位为时间。
举例:8点进行备份,9点丢数据,RPO=1小时,丢了一个小时的数据。
恢复时间目标(RTO): 当业务发生故障时,可以容忍 业务中断的时间 ,单位为时间。
举例:比如灾难发生后半天内需要恢复数据,那么RTO就是12小时。
RTO/RPO 与灾难恢复能力等级关系(GB/T 20988-2007)
这个在备份组网那一块再详细补充...
这里参考:图解三种备份方式(LAN,LAN free,Server free)_star&storage的技术博客_51CTO博客
LAN-Base,这种方式很简单,直接在生产服务器上安装备份代理,部署一台备份服务器,这样即可完成备份,不过这种方式不适合数据量非常大的环境。因为如果备份数据量非常大,会占用以太网的带宽,虽然说备份操作一般在晚上进行。但是这种方式还是不适合大数据量的情况。因此有了LAN-Free备份。
LAN-Free,顾名思义,即释放了LAN的压力。如上图所示,数据流直接从File server经过FC switch备份到Tape,而不经过Lan,这样就不会占用主网络的带宽。但是数据仍然会通过文件服务器的本地磁盘--内存—FC switch这步,因此仍然会消耗File server的资源。因此有了下面的Server Free备份来尽可能的减少生产服务器的压力。
Server-Free,即备份时数据不流经服务器的总线和内存,如上图,文件服务器使用SAN的File Server Storage空间,现在需要备份文件服务器,则只需将File Server Storage的数据直接备份到Tape。此时文件服务器只需要发出SCSI扩展复制命令,剩下的事情就是File Server Storage和Tape之间的事情了,这样就减轻了文件服务器的很多压力,使它可以专注于对外提供文件服务,而不需要再消耗大量CPU、内存、IO在备份的事情上了。
或者还有一种方式即NDMP,Network Data Management Protocol,网络数据管理协议。它是一种支持智能数据存储设备、磁带库设备及备份应用程序之间互相通信以完成备份过程的通信协议。服务器只要向支持NDMP协议的存储设备发送NDMP指令,即可让存储设备将其自己的数据直接发送到其他设备上,而不需要流经服务器主机。
主机层数据复制: 在生产中心和灾备中心的服务器上安装专用的数据复制软件,如卷复制软件,以实现远程复制功能。两中心间必须有网络连接作为数据通道。可以在服务器层增加应用远程切换功能软件,从而构成完整的应用级容灾方案。这种数据复制方式相对投入较少,主要是软件的采购成本;兼容性较好,可以兼容不同品牌的服务器和存储设备,较适合硬件组成复杂的用户。但这种方式要在服务器上通过软件来实现同步操作,占用主机资源和网络资源非常大。
网络层数据复制: 在生产中心和灾备中心的服务器上安装专用的数据复制软件,如卷复制软件,以实现远程复制功能。两中心间必须有网络连接作为数据通道。可以在服务器层增加应用远程切换功能软件,从而构成完整的应用级容灾方案。这种数据复制方式相对投入较少,主要是软件的采购成本;兼容性较好,可以兼容不同品牌的服务器和存储设备,较适合硬件组成复杂的用户。但这种方式要在服务器上通过软件来实现同步操作,占用主机资源和网络资源非常大。
存储层数据复制: 要实现数据的复制需要在生产中心和灾备中心都部署一套这样的存储系统,数据复制功能由存储系统实现。如果距离比较近(几十公里之内),之间的链路可由两中心的存储交换机通过光纤直接连接;如果距离在200公里内,可通过增加DWDM等设备直接进行光纤连接;超过200公里,则可增加存储路由器进行协议转换途径WAN或Internet实现连接。因此,从理论上可实现无限制连接。在存储层实现数据复制功能是很成熟的技术,而且对应用服务器的性能基本没有影响。目前,这种容灾方案稳定性高、对服务器性能基本无影响,是容灾方案的主流选择。
本文作者:SkyBiuBiu
本文链接:https://www.cnblogs.com/Skybiubiu/p/14992848.html
Ⅲ 存储器有哪些主要技术指标
主存储器的主要有以下技术指标:
1、存储容量:在一个存储器中可以容纳的存储单元总数、存储空间的大小、字数、字节数。
2、存取时间:启动到完成一次存储器操作所经历的时间、主存的速度。
3、存储周期:连续启动两次操作所需间隔的最小时间、主存的速度。
4、存储器带宽:单位时间里存储器所存取的信息量,、数据传输速率技术指标。
主存储器的性能指标主要是存储容量、存取时间、存储周期和存储器带宽。
字存储单元即存放一个机器字的存储单元,相应的地址称为字地址。一个机器字可以包含数个字节,所以一个存储单元也可包含数个能够单独编址的字节地址。
下面列出主存储器的主要几项技术指标:
主存储器的主要几项技术指标指标 含义 表现 单位 存储容量 在一个存储器中可以容纳的存储单元总数 存储空间的大小 字数,字节数 存取时间 启动到完成一次存储器操作所经历的时间 主存的速度 ns 存储周期 连续启动两次操作所需间隔的最小时间 主存的速度 ns 存储器带宽 单位时间里存储器所存取的信息量, 数据传输速率技术指标 位/秒,字节/秒 主存储器的性能指标主要是存储容量、存取时间和存储周期。
存放一个机器字的存储单元,通常称为字存储单元,相应的单元地址叫字地址。而存放一个字节的单元,称为字节存储单元,相应的地址称为字节地址。如果计算机中可编址的最小单位是字存储单元,则该计算机称为按字编址的计算机。如果计算机中可编址的最小单位是字节,则该计算机称为按字节编址的计算机。一个机器字可以包含数个字节,所以一个存储单元也可以包含数个能够单独编址的字节地址。例如,PDP-11系列计算机,一个16位二进制的字存储单元可存放两个字节,可以按字地址寻址,也可以按字节地址寻址。当用字节地址寻址时,16位的存储单元占两个字节地址。
在一个存储器中容纳的存储单元总数通常称为该存储器的存储容量。存储容量用字数或字节数(B)来表示,如64K字,512KB,10MB。外存中为了表示更大的存储容量,采用MB,GB,TB等单位。其中1KB=2B,1MB=2B,1GB=2B,1TB=2B。B表示字节,一个字节定义为8个二进制位,所以计算机中一个字的字长通常为8的倍数。存储容量这一概念反映了存储空间的大小。
存储时间有称存储器访问时间,是指从启动一次存储器操作到完成该操作所经历的时间。具体讲,从一次读操作命令发出到该操作完成,将数据读入数据缓冲寄存器为止所经历的时间,即为存储器存取时间。
存储周期是指连续启动两次独立的存储器操作(如连续两次读操作)所需间隔的最小时间。通常,存储周期略大于存储时间,其时间单位为ns
Ⅳ 高端存储和低端存储怎么样划分
一般存储分为直连存储(DAS的)、IP SAN、光纤存储,前2个都属于低端存储,到了光纤存储才能叫中高端存储。在高端存储里面又根据对各种接口的支持、磁盘扩展的能力、产品的性能、以及各种高级数据保护的功能来划分存储的档次。一般上了纯光纤级别这个档次的磁盘阵列扩展能力都在200块硬盘以上。
服务器的档次划分大体就分PC服务器、小型机、中型机、大型机了。一般指的服务器是指的X86架构下的PC服务器,PC服务器又分为单路、双路、多路以及纯64位的安腾服务器(安腾服务器不属于PC服务器范畴)。
性能上单路就是个工作组级别的服务器,双路服务器差不多是个部门级的,一个不大的网站一台双路的就差不多可以跑起来,多路的一半作为数据库服务器应用(有四路和8路以及16路的产品),安腾的服务器性能基本上跟小型机是一个档次的。中型机和大型机的应用只有超大规模的单位才可以用得到,估计到大型机,全国也没有多少台。老外在这些方面是很黑的,一套大型机操作系统都可以卖我们3000多万美金甚至上亿。
磁盘阵列的高端或低端不能单靠容量的多少作为判定条件。
高端存储特征,内部带宽至少在1600MB以上,提供缓存保护的技术、可同时支持多个光纤/IP/SAS接口,硬盘类型也可以同时支持SSD/FC/SAS/SATA等等,可扩展200以上硬盘,提供存储和存储之间的镜像、数据快照、隔离、双向复制等等技术。存储到了高端之后,实际上不是拼的硬体指标,而是看的软件功能。EMC的存储为什么是世界第一的,就是这个原因,他们拼的是技术。
Ⅳ 请教下:网络数据传输的原理
数据在网络上是以"帧"为单位进行传输。
帧由多个部分组成,不同的部分对应不同的信息,从而实现相应的功能。
帧是根据通信所使用的协议,由网络驱动程序按照一定规则生成的,然后通过网卡发送到网络中,通过网线传送到目的主机。
在目的主机一端按照同样的通信协议执行相反的过程。接收端机器的网卡捕获到这些帧,并告诉操作系统有新的帧到达,然后对其进行存储。
在正常情况下,网卡读入一帧并进行检查。
如果帧中携带的目的地址(这里的目的地址是指物理地址而非IP地址,该地址是网络设备的唯一标志)和自己的物理地址一致,或者是广播地址(被设定为一次性发送到网络所有主机的特殊地址,当目标地址为该地址时,所有的网卡都会接收该帧),网卡通过产生一个硬件中断引起操作系统注意,然后将帧中所包含的数据传送给系统进一步处理;否则就将这个帧丢弃。