達州分布式文件存儲器
A. 當前主流分布式文件系統有哪些
目前幾個主流的分布式文件系統除GPFS外，還有PVFS、Lustre、PanFS、GoogleFS等。
1.PVFS(Parallel Virtual File System)項目是Clemson大學為了運行Linux集群而創建的一個開源項目,目前PVFS還存在以下不足：
1）單一管理節點:只有一個管理節點來管理元數據，當集群系統達到一定的規模之後，管理節點將可能出現過度繁忙的情況，這時管理節點將成為系統瓶頸;
2）對數據的存儲缺乏容錯機制:當某一I/O節點無法工作時，數據將出現不可用的情況;
3）靜態配置:對PVFS的配置只能在啟動前進行，一旦系統運行則不可再更改原先的配置。
2.Lustre文件系統是一個基於對象存儲的分布式文件系統，此項目於1999年在Carnegie Mellon University啟動，Lustre也是一個開源項目。它只有兩個元數據管理節點,同PVFS類似,當系統達到一定的規模之後，管理節點會成為Lustre系統中的瓶頸。
3.PanFS(Panasas File System)是Panasas公司用於管理自己的集群存儲系統的分布式文件系統。
4.GoogleFS(Google File System)是Google公司為了滿足公司內部的數據處理需要而設計的一套分布式文件系統。
5.相對其它的文件系統，GPFS的主要優點有以下三點：
1)使用分布式鎖管理和大數據塊策略支持更大規模的集群系統,文件系統的令牌管理器為塊、inode、屬性和目錄項建立細粒度的鎖，第一個獲得鎖的客戶將負責維護相應共享對象的一致性管理，這減少了元數據伺服器的負擔;
2)擁有多個元數據伺服器,元數據也是分布式,使得元數據的管理不再是系統瓶頸;
3)令牌管理以位元組作為鎖的最小單位,也就是說除非兩個請求訪問的是同一文件的同一位元組數據,對於數據的訪問請求永遠不會沖突.
B. 分布式文件存儲系統通過什麼方式提高可用性和安全性
分布式存儲的六大優點
1. 高性能
一個具有高性能的分布式存戶通常能夠高效地管理讀緩存和寫緩存，並且支持自動的分級存儲。分布式存儲通過將熱點區域內數據映射到高速存儲中，來提高系統響應速度;一旦這些區域不再是熱點，那麼存儲系統會將它們移出高速存儲。而寫緩存技術則可使配合高速存儲來明顯改變整體存儲的性能，按照一定的策略，先將數據寫入高速存儲，再在適當的時間進行同步落盤。
2. 支持分級存儲
由於通過網路進行松耦合鏈接，分布式存儲允許高速存儲和低速存儲分開部署，或者任意比例混布。在不可預測的業務環境或者敏捷應用情況下，分層存儲的優勢可以發揮到最佳。解決了目前緩存分層存儲最大的問題是當性能池讀不命中後，從冷池提取數據的粒度太大，導致延遲高，從而給造成整體的性能的抖動的問題。
3. 多副本的一致性
與傳統的存儲架構使用RAID模式來保證數據的可靠性不同，分布式存儲採用了多副本備份機制。在存儲數據之前，分布式存儲對數據進行了分片，分片後的數據按照一定的規則保存在集群節點上。為了保證多個數據副本之間的一致性，分布式存儲通常採用的是一個副本寫入，多個副本讀取的強一致性技術，使用鏡像、條帶、分布式校驗等方式滿足租戶對於可靠性不同的需求。在讀取數據失敗的時候，系統可以通過從其他副本讀取數據，重新寫入該副本進行恢復，從而保證副本的總數固定;當數據長時間處於不一致狀態時，系統會自動數據重建恢復，同時租戶可設定數據恢復的帶寬規則，最小化對業務的影響。
4. 容災與備份
在分布式存儲的容災中，一個重要的手段就是多時間點快照技術，使得用戶生產系統能夠實現一定時間間隔下的各版本數據的保存。特別值得一提的是，多時間點快照技術支持同時提取多個時間點樣本同時恢復，這對於很多邏輯錯誤的災難定位十分有用，如果用戶有多台伺服器或虛擬機可以用作系統恢復，通過比照和分析，可以快速找到哪個時間點才是需要回復的時間點，降低了故障定位的難度，縮短了定位時間。這個功能還非常有利於進行故障重現，從而進行分析和研究，避免災難在未來再次發生。多副本技術，數據條帶化放置，多時間點快照和周期增量復制等技術為分布式存儲的高可靠性提供了保障。
5. 彈性擴展
得益於合理的分布式架構，分布式存儲可預估並且彈性擴展計算、存儲容量和性能。分布式存儲的水平擴展有以下幾個特性：
1) 節點擴展後，舊數據會自動遷移到新節點，實現負載均衡，避免單點過熱的情況出現;
2) 水平擴展只需要將新節點和原有集群連接到同一網路，整個過程不會對業務造成影響;
3) 當節點被添加到集群，集群系統的整體容量和性能也隨之線性擴展，此後新節點的資源就會被管理平台接管，被用於分配或者回收。
6. 存儲系統標准化
隨著分布式存儲的發展，存儲行業的標准化進程也不斷推進，分布式存儲優先採用行業標准介面(SMI-S或OpenStack Cinder)進行存儲接入。在平台層面，通過將異構存儲資源進行抽象化，將傳統的存儲設備級的操作封裝成面向存儲資源的操作，從而簡化異構存儲基礎架構的操作，以實現存儲資源的集中管理，並能夠自動執行創建、變更、回收等整個存儲生命周期流程。基於異構存儲整合的功能，用戶可以實現跨不同品牌、介質地實現容災，如用中低端陣列為高端陣列容災，用不同磁碟陣列為快閃記憶體陣列容災等等，從側面降低了存儲采購和管理成本。
C. 什麼是分布式存儲系統
分布式存儲系統
定義
分布式存儲系統是大量普通PC伺服器通過Internet互聯，對外作為一個整體提供存儲服務
特性
可擴展
低成本
高性能
易用
挑戰
分布式存儲系統的挑戰主要在於數據、狀態信息的持久化，要求在自動遷移、自動容錯、並發讀寫的過程中保證數據的一致性。分布式存儲涉及的技術主要來自兩個領域：分布式系統以及資料庫。
分類
非結構化數據，一般的文檔
結構化數據， 存儲在關系資料庫中
半結構化數據，HTML文檔
不同的分布式存儲系統適合處理不同類型的數據：
分布式文件系統
非結構化數據，這類數據以對象的形式組織，不同對象之間沒有關聯，這樣的數據一般稱為Blob（二進制大對象）數據
典型的有Facebook Haystack 以及 Taobao File System
另外，分布式文件系統也常作為分布式表格系統以及分布式資料庫的底層存儲，如谷歌的GFS可以作為分布式表格系統Google Bigtable 的底層存儲，Amazon的EBS（彈性存儲塊）系統可以作為分布式資料庫（Amazon RDS）的底層存儲
總體上看，分布式文件系統存儲三種類型的數據：Blob對象、定長塊以及大文件
分布式鍵值系統
較簡單的半結構化數據，只提供主鍵的CRUD（創建、讀取、更新、刪除）
典型的有Amazon Dynamo 以及 Taobao Tair
分布式表格系統
較復雜的半結構化數據，不僅支持CRUD，而且支持掃描某個主鍵范圍
以表格為單位組織數據，每個表格包括很多行，通過主鍵標識一行，支持根據主鍵的CRUD功能以及范圍查找功能
典型的有Google Bigtable 以及 Megastore，Microsoft Azure Table Storage，Amazon DynamoDB等
分布式資料庫
存儲結構化數據，一般是由單機關系資料庫擴展而來
典型的包括MySQL資料庫分片集群、Amazon RDS以及Microsoft SQL Azure
D. 分布式存儲是什麼東西
關於分布式存儲實際上並沒有一個明確的定義，甚至名稱上也沒有一個統一的說法，大多數情況下稱作 Distributed Data Store 或者 Distributed Storage System。
其中維基網路中給 Distributed data store 的定義是：分布式存儲是一種計算機網路，它通常以數據復制的方式將信息存儲在多個節點中。
在網路中給出的定義是：分布式存儲系統，是將數據分散存儲在多台獨立的設備上。分布式網路存儲系統採用可擴展的系統結構，利用多台存儲伺服器分擔存儲負荷，利用位置伺服器定位存儲信息，它不但提高了系統的可靠性、可用性和存取效率，還易於擴展。
盡管各方對分布式存儲的定義並不完全相同，但有一點是統一的，就是分布式存儲將數據分散放置在多個節點中，節點通過網路互連提供存儲服務。這一點與傳統集中式存儲將數據集中放置的方式有著明顯的區分。
E. 分布式存儲與軟體定義存儲的區別
什麼是分布式存儲
關於分布式存儲實際上並沒有一個明確的定義，甚至名稱上也沒有一個統一的說法，大多數情況下稱作 Distributed Data Store 或者 Distributed Storage System。
其中維基網路中給 Distributed data store 的定義是：分布式存儲是一種計算機網路，它通常以數據復制的方式將信息存儲在多個節點中。
在網路中給出的定義是：分布式存儲系統，是將數據分散存儲在多台獨立的設備上。分布式網路存儲系統採用可擴展的系統結構，利用多台存儲伺服器分擔存儲負荷，利用位置伺服器定位存儲信息，它不但提高了系統的可靠性、可用性和存取效率，還易於擴展。
盡管各方對分布式存儲的定義並不完全相同，但有一點是統一的，就是分布式存儲將數據分散放置在多個節點中，節點通過網路互連提供存儲服務。這一點與傳統集中式存儲將數據集中放置的方式有著明顯的區分。
什麼是軟體定義存儲
SDS 的全稱是 Software Defined Storage ，字面意思直譯就是軟體定義存儲。關於 SDS 的定義可以參考全球網路存儲工業協會（Storage Networking Instry Association，SNIA），SNIA 在 2013 正式把 軟體定義存儲(SDS) 列入研究對象。
SNIA 對軟體定義存儲(SDS) 的定義是：一種具備服務管理介面的虛擬化存儲。 SDS 包括存儲池化的功能，並可通過服務管理介面定義存儲池的數據服務特徵。另外 SNIA 還提出 軟體定義存儲(SDS) 應該具備以下特性：
自動化程度高 – 通過簡化管理，降低存儲基礎架構的運維開銷
標准介面 – 支持 API 管理、發布和運維存儲設備和服務
虛擬化數據路徑 – 支持多種標准協議，允許應用通過塊存儲，文件存儲或者對象存儲介面寫入數據
擴展性 – 存儲架構具備無縫擴展規模的能力，擴展過程不影響可用性以及不會導致性能下降
透明度 – 存儲應為用戶提供管理和監控存儲的可用資源與開銷
分布式存儲與軟體定義存儲的區別與聯系
軟體定義存儲(SDS) 的著重點在於存儲資源虛擬化和軟體定義，首先在形態上，軟體定義存儲(SDS)區別於傳統的「硬體定義」存儲，它不依賴專屬的硬體，可以讓存儲軟體運行在通用伺服器上，可避免硬體綁定以及有效降低硬體采購成本；擁有標准 API 介面和自動化工具，有效降低運維難度。存儲資源虛擬化，支持多種存儲協議，可整合企業存儲資源，提升存儲資源利用率。但從定義上來說，但 軟體定義存儲(SDS) 從部署形式上來看，並不一定是分布式或者是集中式的，也就是說 SDS 不一定是分布式存儲（雖然常見的 軟體定義存儲(SDS) 更多的是分布式的），SDS 存儲內部有可能是單機運行的，不通過網路分散存放數據的，這種形式的軟體定義存儲(SDS) 的擴展性就可能有比較大的局限。
分布式存儲，它的最大特點是多節點部署， 數據通過網路分散放置。分布式存儲的特點是擴展性強，通過多節點平衡負載，提高存儲系統的可靠性與可用性。與 軟體定義存儲(SDS)相反，分布式存儲不一定是軟體定義的，有可能是綁定硬體的，例如 IBM XIV 存儲，它本質上是一個分布式存儲，但實際是通過專用硬體進行交付的。那麼就依然存在硬體綁定，擁有成本較高的問題。
F. 分布式存儲有哪幾種類型
中央存儲技術現已發展非常成熟。但是同時，新的問題也出現了，中心化的網路很容易擁擠，數據很容易被濫用。傳統的數據傳輸方式是由客戶端向雲伺服器傳輸，由伺服器向客戶端下載。而分布式存儲系統QKFile是從客戶端傳送到 N個節點，然後從這些節點就近下載到客戶端內部，因此傳輸速度非常快。對比中心協議的特點是上傳、下載速度快，能夠有效地聚集空閑存儲資源，並能大大降低存儲成本。
在節點數量不斷增加的情況下，QKFile市場趨勢開始突出，未來用戶數量將呈指數增長。分布式存儲在未來會有很多應用場景，如數據存儲，文件傳輸，網路視頻，社會媒體和去中心化交易等。網際網路的控制權越來越集中在少數幾個大型技術公司的手中，它的網路被去中心化，就像分布式存儲一樣，總是以社區為中心，面向用戶，而分布式存儲就是實現信息技術和未來網際網路功能的遠景。有了分布式存儲，我們可以創造出更加自由、創新和民主的網路體驗。是時候把網際網路推向新階段了。
作為今年非常受歡迎的明星項目，關於QKFile的未來發展會推動互聯網的進步，給整個市場帶來巨大好處。分布式存儲是基於網際網路的基礎結構產生的，區塊鏈分布式存儲與人工智慧、大數據等有疊加作用。對今天的中心存儲是一個巨大的補充，分布式時代的到來並不是要取代現在的中心互聯網，而是要使未來的數據存儲發展得更好，給整個市場生態帶來不可想像的活力。先看共識，後看應用，QKFile創建了一個基礎設施平台，就像阿里雲，阿里雲上面是做游戲的做電商的視頻網站，這就叫應用層，現階段，在性能上，坦白說，與傳統的雲存儲相比，沒有什麼競爭力。不過另一方面來說，一個新型的去中心化存儲的信任環境式非常重要的，在此環境下，自然可以衍生出許多相關應用，市場潛力非常大。
雖然QKFile離真正的商用還有很大的距離，首先QKFile的經濟模型還沒有定論，其次QKFile需要集中精力發展分布式存儲、商業邏輯和 web3.0，只有打通分布式存儲賽道，才有實力引領整個行業發展，人們認識到了中心化存儲的弊端，還有許多企業開始接受分布式存儲模式，即分布式存儲 DAPP應用觸達用戶。所以QKFile將來肯定會有更多的商業應用。創建超本地高效存儲方式的能力。當用戶希望將數據存儲在QKFile網路上時，他們就可以擺脫巨大的集中存儲和地理位置的限制，用戶可以看到在線存儲的礦工及其市場價格，礦工之間相互競爭以贏得存儲合約。使用者挑選有競爭力的礦工，交易完成，用戶發送數據，然後礦工存儲數據，礦工必須證明數據的正確存儲才能得到QKFile獎勵。在網路中，通過密碼證明來驗證數據的存儲安全性。采礦者通過新區塊鏈向網路提交其儲存證明。通過網路發布的新區塊鏈驗證，只有正確的區塊鏈才能被接受，經過一段時間，礦工們就可以獲得交易存儲費用，並有機會得到區塊鏈獎勵。數據就在更需要它的地方傳播了，旋轉數據就在地球范圍內流動了，數據的獲取就不斷優化了，從小的礦機到大的數據中心，所有人都可以通過共同努力，為人類信息社會的建設奠定新的基礎，並從中獲益。
G. 什麼是DFS（分布式文件系統）以及DFS的優點
通過 DFS（分布式文件系統），一台伺服器上的某個共享點能夠作為駐留在其他伺服器上的共享資源的宿主。DFS 以透明方式鏈接文件伺服器和共享文件夾，然後將其映射到單個層次結構，以便可以從一個位置對其進行訪問，而實際上數據卻分布在不同的位置。用戶不必再轉至網路上的多個位置以查找所需的信息，而只需連接到：
\\DfsServer\Dfsroot
用戶在訪問此共享中的文件夾時將被重定向到包含共享資源的網路位置。這樣，用戶只需知道 DFS 根目錄共享即可訪問整個企業的共享資源。
DFS 拓撲從 DFS 樹的根目錄開始。位於邏輯層次結構頂部的 DFS 根目錄映射到一個物理共享。DFS 鏈接將域名系統 (DNS) 名稱映射到目標共享文件夾或目標 DFS 根目錄的 UNC 名稱。當 DFS 客戶端訪問 DFS 共享文件夾時，DFS 伺服器將 DNS 名稱映射到 UNC 名稱並將引用返回給該客戶端，以使它能夠找到共享文件夾。將 DNS 名稱映射到 UNC 名稱使數據的物理位置對用戶是透明的，這樣用戶便無須記住存儲文件夾的伺服器。當 DFS 客戶端請求 DFS 共享的引用時，DFS 伺服器將使用分區情況表 (PKT) 將 DFS 客戶端定向到物理共享。對於基於域的 DFS，PKT 存儲在 Active Directory 中；對於獨立的 DFS，PKT 存儲在注冊表中。在網路環境中，PKT 維護有關 DFS 拓撲的所有信息，包括其到基礎物理共享的映射。DFS 伺服器將 DFS 客戶端定向到與請求的 DFS 鏈接相對應的副本共享列表後，DFS 客戶端使用 Active Directory 站點拓撲連接到同一站點中的一個副本，如果該站點中沒有提供副本，則連接到該站點以外的一個副本。
分布式軟體系統(Distributed Software Systems)是支持分布式處理的軟體系統,是在由通信網路互聯的多處理機體系結構上執行任務的系統。它包括分布式操作系統、分布式程序設計語言及其編譯(解釋)系統、分布式文件系統和分布式資料庫系統等。
分布式操作系統負責管理分布式處理系統資源和控
分布式系統的類型，大致可以歸為三類：
1、分布式數據，但只有一個總? 據庫，沒有局部資料庫。
2、分層式處理，每一層都有自己的資料庫。
3、充分分散的分布式網路，沒有中央控制部分，各節點之間的聯接方式又可以有多種，如鬆散的聯接，緊密的聯接，動態的聯接，廣播通知式聯接等。
H. 分布式文件系統是什麼啊
分布式文件系統(Distributed File System，DFS)
如果區域網中有多台伺服器，並且共享文件夾也分布在不同的伺服器上，這就不利於管理員的管理和用戶的訪問。而使用分布式文件系統,系統管理員就可以把不同伺服器上的共享文件夾組織在一起，構建成一個目錄樹。這在用戶看來，所有共享文件僅存儲在一個地點，只需訪問一個共享的DFS根目錄，就能夠訪問分布在網路上的文件或文件夾，而不必知道這些文件的實際物理位置。
I. 分布式文件系統的系統分類
(DFS) 是AFS的一個版本，作為開放軟體基金會(OSF)的分布式計算環境(DCE)中的文件系統部分。
如果文件的訪問僅限於一個用戶，那麼分布式文件系統就很容易實現。可惜的是，在許多網路環境中這種限制是不現實的，必須採取並發控制來實現文件的多用戶訪問，表現為如下幾個形式：
只讀共享 任何客戶機只能訪問文件，而不能修改它，這實現起來很簡單。
受控寫操作 採用這種方法，可有多個用戶打開一個文件，但只有一個用戶進行寫修改。而該用戶所作的修改並不一定出現在其它已打開此文件的用戶的屏幕上。
並發寫操作 這種方法允許多個用戶同時讀寫一個文件。但這需要操作系統作大量的監控工作以防止文件重寫，並保證用戶能夠看到最新信息。這種方法即使實現得很好，許多環境中的處理要求和網路通信量也可能使它變得不可接受。
NFS和AFS的區別
NFS和AFS的區別在於對並發寫操作的處理方法上。當一個客戶機向伺服器請求一個文件(或資料庫記錄)，文件被放在客戶工作站的高速緩存中，若另一個用戶也請求同一文件，則它也會被放入那個客戶工作站的高速緩存中。當兩個客戶都對文件進行修改時，從技術上而言就存在著該文件的三個版本(每個客戶機一個，再加上伺服器上的一個)。有兩種方法可以在這些版本之間保持同步：
無狀態系統 在這個系統中，伺服器並不保存其客戶機正在緩存的文件的信息。因此，客戶機必須協同伺服器定期檢查是否有其他客戶改變了自己正在緩存的文件。這種方法在大的環境中會產生額外的LAN通信開銷，但對小型LAN來說，這是一種令人滿意的方法。NFS就是個無狀態系統。
回呼(Callback)系統 在這種方法中，伺服器記錄它的那些客戶機的所作所為，並保留它們正在緩存的文件信息。伺服器在一個客戶機改變了一個文件時使用一種叫回叫應答(callbackpromise)的技術通知其它客戶機。這種方法減少了大量網路通信。AFS(及OSFDCE的DFS)就是回叫系統。客戶機改變文件時，持有這些文件拷貝的其它客戶機就被回叫並通知這些改變。
無狀態操作在運行性能上有其長處，但AFS通過保證不會被回叫應答充斥也達到了這一點。方法是在一定時間後取消回叫。客戶機檢查回叫應答中的時間期限以保證回叫應答是當前有效的。回叫應答的另一個有趣的特徵是向用戶保證了文件的當前有效性。換句話說，若一個被緩存的文件有一個回叫應答，則客戶機就認為文件是當前有效的，除非伺服器呼叫指出伺服器上的該文件已改變了。 Yonghong Z-Data Mart
Yonghong Data Mart是一款數據存儲、數據處理的軟體。
Yonghong Data Mart採用基於ZDFS的分布式列存儲系統，就是將數據分散存儲在多台獨立的設備上。傳統的網路存儲系統採用集中的存儲伺服器存放所有數據，存儲伺服器成為系統性能的瓶頸，也是可靠性和安全性的焦點，不能滿足大規模存儲應用的需要。分布式網路存儲系統採用可擴展的系統結構，利用多台存儲伺服器分擔存儲負荷，利用位置伺服器定位存儲信息，它不但提高了系統的可靠性、可用性和存取效率，還易於擴展。
Yonghong Data Mart的分布式文件存儲系統 (ZDFS)是在Hadoop HDFS基礎上進行的改造和擴展，將伺服器集群內所有節點上存儲的文件統一管理和存儲。這些節點包括唯一的一個NamingNode，在 ZDFS 內部提供元數據服務；許多MapNode，提供存儲塊。存儲在 ZDFS 中的文件被分成塊，然後將這些塊復制到多個計算機中（Map Node）。這與傳統的 RAID 架構大不相同。塊的大小和復制的塊數量在創建文件時由客戶機決定。Naming Node監控存在伺服器集群內所有節點上的文件操作，例如文件創建、刪除、移動、重命名等等。
Network File System
