文件分块存储

1. 一个文件如何被分块存储在磁盘上

数据存储在硬盘的时候都以簇位单位簇的配置Windows9x/Me系统中常用的文件簇通常为FAT16或者FAT32格式比如一个256M的硬盘空间可以有数种配置簇的方式：簇大小＝4KB：256MB/4KB＝655356个簇簇大小＝8KB：256MB/8KB＝32768个簇簇大小＝16KB：256MB/16KB＝16384个簇簇大小＝32KB：256MB/32KB＝8192个簇对于WindowsNT/2000/XP特有的NTFS文件系统来说，虽然也是采用簇方式来存储数据，但它却和FAT16/FAT32有着明显的不同。当分区空间大于2GB的时候，无论硬盘有多大，簇的大小一律维持在4KB。由于簇容量小，所以无论存储何种类型的文件都不会浪费太多的硬盘空间，这也使得整个硬盘的空间利用率得到了极大的提高。

2. 对象存储、文件存储和块存储的区别是什么

对象存储、文件存储和块存储的区别如下：

1、速度不同

块存储：低延迟（10ms），热点突出；

文件存储：不同技术各有不同；

对象存储：100ms-1s，冷数据；

2、可分步性不同

块存储：异地不现实；

文件存储：可分布式，但有瓶颈；

对象存储：分步并发能力高；

3、文件大小不同

块存储：大小都可以，热点突出；

文件存储：适合大文件；

对象存储：适合各种大小；

4、接口不同

块存储：Driver，kernel mole ；

文件存储：POSIX；

对象存储：Restful API ；

5、典型技术不同

块存储：SAN；

文件存储： HDFS，GFS；

对象存储：Swift，Amazon S3；

6、适合场景不同

块存储：银行；

文件存储：数据中心；

对象存储：网络媒体文件存储。

(2)文件分块存储扩展阅读：

对象存储、文件存储和块存储的联系：

通常来讲，磁盘阵列都是基于Block块的存储，而所有的NAS产品都是文件级存储。

1. 块存储：DAS SAN

a) DAS(Direct Attach Storage): 是直接连接于主机服务器的一种存储方式，每台服务器有独立的存储设备，每台主机服务器的存储设备无法互通，需要跨主机存取资料室，必须经过相对复杂的设定，若主机分属不同的操作系统，则更复杂。

应用：单一网络环境下且数据交换量不大，性能要求不高的环境，技术实现较早。

b) SAN(Storage Area Network): 是一种高速(光纤)网络联接专业主机服务器的一种存储方式，此系统会位于主机群的后端，它使用高速I/O联接方式，如：SCSI,ESCON及Fibre-Channels.特点是，代价高、性能好。但是由于SAN系统的价格较高，且可扩展性较差，已不能满足成千上万个CPU规模的系统。

应用：对网速要求高、对数据可靠性和安全性要求高、对数据共享的性能要求高的应用环境中。

2. 文件存储

通常NAS产品都是文件级存储。

NAS(Network Attached Storage)：是一套网络存储设备，通常直接连在网络上并提供资料存取服务，一套NAS储存设备就如同一个提供数据文件服务的系统，特点是性价比高。

它采用NFS或CIFS命令集访问数据，以文件为传输协议，可扩展性好、价格便宜、用户易管理。目前在集群计算中应用较多的NFS文件系统，但由于NAS的协议开销高、带宽低、延迟大，不利于在高性能集群中应用。

3. 对象存储：

总体上讲，对象存储同时兼具SAN高级直接访问磁盘特点及NAS的分布式共享特点。

核心是将数据通路(数据读或写)和控制通路(元数据)分离，并且基于对象存储设备(OSD)，构建存储系统，每个对象存储设备具备一定的职能，能够自动管理其上的数据分布。

对象储存结构组成部分(对象、对象存储设备、元数据服务器、对象存储系统的客户端)

3. 对象存储、文件存储和块存储有什么区别

对象存储、文件存储和块存储区别为：存储设备不同、特点不同、缺点不同。

一、存储设备不同

1、对象存储：对象存储的对应存储设备为swift，键值存储。

2、文件存储：文件存储的对应存储设备为FTP、NFS服务器。

3、块存储：块存储的对应存储设备为cinder，硬盘。

二、特点不同

1、对象存储：对象存储的特点是具备块存储的高速以及文件存储的共享等特性。

2、文件存储：文件存储的特点是一个大文件夹，大家都可以获取文件。

3、块存储：块存储的特点是分区、格式化后，可以使用，与平常主机内置硬盘的方式完全无异。

三、缺点不同

1、对象存储：对象存储的缺点是不兼容多种模式并行。

2、文件存储：文件存储的缺点是传输速率低。

3、块存储：块存储的缺点是不能共享数据。

4. 存储服务分类：块存储、文件存储、对象存储

1、关于文件存储
文件储存最具代表性的NAS，对于大多数用户来说，NAS就类似于一个共享文件夹，用户可以直接将数据放在NAS上，用于传输。同时，NAS是通过网络达成储存的目的，依附于TCP/IP网络协议栈，这也就是NAS存储于上文的DAS和SAN存储最大的不同点。
2、关于块储存
块储存我们可以将其看成裸盘，但是裸盘是不能被系统访问，不过，可以格式化为你指定的文件系统Ext3，Ext4，NTFS，FAT32等形式，这样便可以被系统访问了。常见的块储存为DAS、FC-SAN、IP-SAN三种类型。同时，块储存也是哦我们最常见的一种储存模式，比如pc硬盘、服务器硬盘。
3、关于对象储存
这种储存方式还是比较新的，常见的对象储存开源实现有Ceph的RADOS、Openstack的swift、AWS s3等;常见分布式文件系统有lustre、glusterfs、HDFS等。对象储存可以将其看作一家高级餐厅代客停车，客户需要车，你将钥匙给到别人，换来一张收据。
总体来说，三种储存方式，可从表面和本质着手，对象储存支持restful接口，块存储的用户是可以读写块设备的软件系统，例如传统的文件系统、数据库;文件存储的用户是自然人;对象存储的用户则是其它计算机软件。

5. 块存储、文件存储、对象存储这三者的本质差别是什么

存储设备不同：对象存储的对应存储设备为swift，键值存储。文件存储的对应存储设备为FTP、NFS服务器。块存储的对应存储设备为cinder，硬盘。

特点不同：对象存储的特点是具备块存储的高速以及文件存储的共享等特性，文件存储的特点是一个大文件夹，大家都可以获取文件。块存储的特点是分区、格式化后，可以使用，与平常主机内置硬盘的方式完全无异。

块存储注意事项

要运行任何新的RAID+功能，阵列控制器都需要一个元数据基础，看起来很像文件系统那样。以重复数据删除为例来说，阵列必须将数据分解成4K到1MB的块，解算出哪些块存储的是同样的数据，然后构建一个指针列表将LUN逻辑块地址映射到所储存的块。

自动分层要求更多的元数据，因为系统必须跟踪数据块的逻辑块地址，而这些数据块分处在不同的存储类型上的不同的RAID集中。除了要解算出哪些是必须升级到更快的存储层的热数据和哪些是必须降级的冷数据外，系统还必须收集访问频率元数据。

6. 分布式块存储和 分布式文件存储有是什么区别

分布式块存储和 分布式文件存储有是什么区别

分布式文件系统（dfs）和分布式数据库都支持存入，取出和删除。但是分布式文件系统比较暴力，可以当做key/value的存取。分布式数据库涉及精炼的数据，传统的分布式关系型数据库会定义数据元组的schema，存入取出删除的粒度较小。
分布式文件系统现在比较出名的有GFS（未开源），HDFS（Hadoop distributed file system）。分布式数据库现在出名的有Hbase，oceanbase。其中Hbase是基于HDFS，而oceanbase是自己内部实现的分布式文件系统，在此也可以说分布式数据库以分布式文件系统做基础存储。

分布式存储是什么？选择什么样的分布式存储更好？

分布式存储系统，是将数据分散存储在多台独立的设备上。传统的网络存储系统采用集中的存储服务器存放所有数据，存储服务器成为系统性能的瓶颈，也是可靠性和安全性的焦点，不能满足大规模存储应用的需要。分布式网络存储系统采用可扩展的系统结构，利用多台存储服务器分担存储负荷，利用位置服务器定位存储信息，它不但提高了系统的可靠性、可用性和存取效率，还易于扩展。
联想超融合ThinkCloud AIO超融合云一体机是联想针对企业级用户推出的核心产品。ThinkCloud AIO超融合云一体机实现了对云管理平台、计算、网络和存储系统的无缝集成，构建了云计算基础设施即服务的一站式解决方案，为用户提供了一个高度简化的一站式基础设施云平台。这不仅使得业务部署上线从周缩短到天，而且与企业应用软件、中间件及数据库软件完全解耦，能够有效提升企业IT基础设施运维管理的效率和关键应用的性能

MongoDB 适合做分布式图片文件存储么？

如果硬件上舍得投入(比如N台32GB起的大内存机),gridfs很合适海量小文件, 不过两台机我觉得还不如把静态文件这块外包给第三方云存储

软件定义存储和 分布式存储的区别

软件定义存储其实是个伪命题，你可以看下冬瓜哥的一篇文章。你也可以这么理解，分布式存储就是软件定义存储的一种方式。

集中式存储和分布式存储有什么区谈好别

分布式 存储就是DAS ，就是服务器里面放着硬盘，多台服务器的话就是分布式存储，数据分散，不易于管理。
集中存储就是 NAS,SAN，将服务器和硬盘分开，数据都存放NAS设备中，NAS设备再级联磁盘阵列，然后多个服务器对这个NAS设备进行访问，操作，集中数据管理，提高利用率，解放服务器！

分布式存储与软件定义存储的区别？

分布式存储是一种存储的方式，其“分布式”的理念是软件定义存储的基础，从概念上来说，软件定义存储的范围更大，除了存储之外，还包括管理、计算、网络接口等相关概念。或者说，分布式存储就是一种链接方式，而软件定义存储就是类似元核云存储、华为等企业所研发的软件产品。

统一存储和融合存储以及分布式存储的区别

统一存储具体概念：
统一存储，实质上是一个可以支持基于文件的网络附加存储（NAS）以及基于数据块的SAN的网络化的存储架构。由于其支持不同的存储协议为主机系统提供数据存储，因此也被称为多协议存储。
基本简介：
统一存储（有时也称网络统一存储或者NUS）是一个能在单一设备上运行和管理文件和应用程序的存储系统。为此，统一存储系统在一个单一存储平台上整合基于文件和基于块的访问，支持基于光纤通道的SAN、基于IP的SAN（iSCSI）和NAS（网络附加存储）。
工作方式：
既然是一个集中化的磁盘阵列，那么就支持主机系统通含判铅过IP网络进行文件级别的数据访问，或通过光纤协议在SAN网络进行块级别的数据访问。同样，iSCSI亦是一种非常通用的IP协议，只是其提供块级别的数据访问。这种磁盘阵列配置多端口的存储控制器和一个管理接口，允许存储管理员按需创建存储池或空间，并将其提供给不同访问类型的主机系统。最通常的协议一般都包括了NAS和FC，或iSCSI和FC。当然，也可以同时支持上述三种协议的，不过一般的存储管理员都会选FC或iSCSI中的一种，它们都提供块级别的访问方式，和文件级别的访问冲拍方式（NAS方式）组成统一存储。

什么是分布式数据存储

定义：
分布式数据库是指利用高速计算机网络将物理上分散的多个数据存储单元连接起来组成一个逻辑上统一的数据库。分布式数据库的基本思想是将原来集中式数据库中的数据分散存储到多个通过网络连接的数据存储节点上，以获取更大的存储容量和更高的并发访问量。近年来，随着数据量的高速增长，分布式数据库技术也得到了快速的发展，传统的关系型数据库开始从集中式模型向分布式架构发展，基于关系型的分布式数据库在保留了传统数据库的数据模型和基本特征下，从集中式存储走向分布式存储，从集中式计算走向分布式计算。
特点：
1.高可扩展性：分布式数据库必须具有高可扩展性，能够动态地增添存储节点以实现存储容量的线性扩展。
2 高并发性：分布式数据库必须及时响应大规模用户的读/写请求，能对海量数据进行随机读/写。
3. 高可用性：分布式数据库必须提供容错机制，能够实现对数据的冗余备份，保证数据和服务的高度可靠性。

7. 块储存，对象存储，文件存储的区别和联系

通常来讲，磁盘阵列都是基于Block块的存储，而所有的NAS产品都是文件级存储。
1. 块存储：DAS SAN
a) DAS(Direct Attach Storage): 是直接连接于主机服务器的一种存储方式，每台服务器有独立的存储设备，每台主机服务器的存储设备无法互通，需要跨主机存取资料室，必须经过相对复杂的设定，若主机分属不同的操作系统，则更复杂。
应用：单一网络环境下且数据交换量不大，性能要求不高的环境，技术实现较早。
b) SAN(Storage Area Network): 是一种高速(光纤)网络联接专业主机服务器的一种存储方式，此系统会位于主机群的后端，它使用高速I/O联接方式，如：SCSI,ESCON及Fibre-Channels.特点是，代价高、性能好。但是由于SAN系统的价格较高，且可扩展性较差，已不能满足成千上万个CPU规模的系统。
应用：对网速要求高、对数据可靠性和安全性要求高、对数据共享的性能要求高的应用环境中。

2. 文件存储
通常NAS产品都是文件级存储。
NAS(Network Attached Storage)：是一套网络存储设备，通常直接连在网络上并提供资料存取服务，一套NAS储存设备就如同一个提供数据文件服务的系统，特点是性价比高。
它采用NFS或CIFS命令集访问数据，以文件为传输协议，可扩展性好、价格便宜、用户易管理。目前在集群计算中应用较多的NFS文件系统，但由于NAS的协议开销高、带宽低、延迟大，不利于在高性能集群中应用。

3. 对象存储：
总体上讲，对象存储同时兼具SAN高级直接访问磁盘特点及NAS的分布式共享特点。
核心是将数据通路(数据读或写)和控制通路(元数据)分离，并且基于对象存储设备(OSD)，构建存储系统，每个对象存储设备具备一定的职能，能够自动管理其上的数据分布。
对象储存结构组成部分(对象、对象存储设备、元数据服务器、对象存储系统的客户端)
3.1 对象
一个对象实际就是文件的数据和一组属性信息的组合。
3.2 对象存储设备(OSD)
OSD具有一定的智能，它有自己的CPU、内存、网络和磁盘系统。
OSD提供三个主要功能：包括数据存储和安全访问
(1)数据存储 (2)智能分布 (3)每个对象元数据的管理
3.3 元数据服务器(Metadata Server , MDS)
MDS控制Client与OSD对象的交互，主要提供以下几个功能：
(1) 对象存储访问
允许Client直接访问对象，OSD接收到请求时先验证该能力，再访问。
(2) 文件和目录访问管理
MDS在存储系统上构建一个文件结构，限额控制、包括目录、文件的创建、访问控制等
(3) Client Cache 一致性
为提高性能，在对象存储系统设计时通常支持Client的Cache。因此带来了Cache一致性的问题，当Cache文件发生改变时，将通知Client刷新Cache,以防Cache不一致引发的问题。
对象存储：
一个文件包含了属性(术语叫matadata元数据，例如该文件的大小、修改时间、存储路径等)以及内容(简称数据)。
以往的文件系统，存储过程将文件按文件系统的最小块来打散，再写进硬盘，过程中没有区分元数据(metadata)和数据。而在每个块最后才会告知下一个块的地址，因此只能一个一个读，速度慢。
而对象存储则将元数据独立出来，控制节点叫元数据服务器(服务器+对象存储管理软件)，里面主要存储对象的属性(主要是对象的数据被打散存放到了那几台分布式服务器中的信息)，而其他负责存储数据的分布式服务器叫做OSD，主要负责存储文件的数据部分。当用户访问对象时，会先访问元数据服务器，元数据服务器只负责反馈对象存储在那些OSD。假设反馈文件A存储在B,C,D三台OSD，那么用户就会再次访问三台OSD服务器去读取数据。
这时三台OSD同时对外传输数据，因此传输的速度就加快了。OSD服务器数量越多，这种读写速度的提升就越大。
另一方面，对象存储软件有专门的文件系统，所以OSD对外又相当于文件服务器，那么就不存在文件共享方面的困难了，也解决了文件共享方面的问题。
因此对象存储的出现，很好的结合了块存储与文件存储的优点。

为什么还要使用块存储和文件存储：
1.有一类应用是需要存储直接裸盘映射的，比如数据库。因为数据库需要存储裸盘映射给自己后，再根据自己的数据库文件系统来对了裸盘进行格式化，因此不能采用其他已经被格式化为某种文件系统的存储。此类更适合块存储。
2.对象存储的成本比普通的文件存储还是较高，需要购买专门的对象存储软件以及大容量硬盘。如果对数据量要求不是海量，只是为了作文件共享的时候，直接用文件存储的形式就好了，性价比高。