當前位置:首頁 » 雲伺服器 » 雲伺服器如何搭建對象存儲

雲伺服器如何搭建對象存儲

發布時間: 2023-01-01 21:38:05

A. 通過K8S部署對象存儲MinIO

MinIO 是全球領先的對象存儲先鋒,以 Apache License v2.0 發布的對象存儲伺服器,是為雲應用和虛擬機而設計的分布式對象存儲伺服器。在標准硬體上,讀/寫速度上高達183GB/s和171GB/s。它與 Amazon S3 雲存儲服務兼容。 它最適用於存儲非結構化數據,如照片、視頻、日誌文件、備份和容器/虛擬機映像。 對象的大小可以從幾KB 到最大5TB。

MinIO是一個非常輕量的服務,可以很簡單的和其他應用的結合,類似 NodeJS, Redis 或者 MySQL。

MinIO支持多種靈活的部署方式,支持Docker Compose、Docker Swam、Kubernetes等,詳見官網: https://docs.min.io/docs/minio-deployment-quickstart-guide.html 或者 https://min.io/download#/linux

這里著重介紹K8S下部署

1、standalone模式

由於service採用NodePort類型,通過主機IP:32593訪問web

2、distributed模式

分布式部署,實例數至少4個,所以需要另外創建4個pv

B. 什麼是對象存儲

什麼是對象存儲?

存儲區域網(SAN)和網路附加存儲(NAS)是我們比較熟悉的兩種主流網路存儲架構,而對象存儲(Object-based Storage)是一種新的網路存儲架構,基於對象存儲技術的設備就是對象存儲設備(Object-based Storage Device)簡稱OSD。

對象存儲的發展歷史:

1999年成立的全球網路存儲工業協會(SNIA)的對象存儲設備(Object Storage Device)工作組發布了ANSI的X3T10標准。

對象存儲的優點:

總體上來講,對象存儲同兼具SAN高速直接訪問磁碟特點及NAS的分布式共享特點。

SAN(Storage Area Network)結構

採用SCSI 塊I/O的命令集,通過在磁碟或FC(Fiber Channel)級的數據訪問提供高性能的隨機I/O和數據吞吐率,它具有高帶寬、低延遲的優勢,在高性能計算中佔有一席之地,如SGI的CXFS文件系統就是基於SAN實現高性能文件存儲的,但是由於SAN系統的價格較高,且可擴展性較差,已不能滿足成千上萬個CPU規模的系統。

C. 雲存儲的核心技術:虛擬化存儲,究竟虛擬是怎樣實現的

虛擬化改變了計算機使用存儲的方式。就像物理機器抽象成虛擬機(VM:Virtual Machine)一樣,物理存儲設備也被抽象成虛擬磁碟(Virtual Disk)。今天我們就來聊聊虛擬化存儲(Storage Virtualization)技術,究竟虛擬磁碟是怎樣實現的?
虛擬磁碟的實現
我們知道,伺服器擴展存儲的手段主要有直連存儲(DAS)、存儲區域網路(SAN)和網路附加存儲(NAS)這三種類型。那麼哪種存儲類型可以用來實現虛擬磁碟呢?
在虛擬化環境中,類似VMWare這樣的虛擬機管理程序hypervisor,要同時給很多VM分配存儲空間。這個過程中,我們需要先把物理存儲資源重新劃分成虛擬磁碟,然後再分配給VM。
顯然我們不能用DAS方式把物理磁碟直連到VM上,如果這樣,需要的物理磁碟就太多了。SAN是以邏輯單元(LUN:Logic Unit)的形式提供存儲資源,但是虛擬環境中VM的數量是很大的,而且倫的數量不足以支持這么多虛擬磁碟。
更重要的是,虛擬磁碟是為大量VM共享的,由於VM需要隨時創建、刪除或遷移,所以需要在遷移VM時共享存儲空間,只有原始數據不會丟失。DAS還是SAN,都不適合共享存儲。

考慮到資源分配以及共享的問題,虛擬機管理程序以NAS的方式實現虛擬磁碟。VMware通常使用VMFS(虛擬機文件系統)或NFS協議實現虛擬磁碟,VMFS文件系統是專門針對虛擬機環境協議。

每一個虛擬機的數據實際上是一堆文件,及最重要的文件的虛擬磁碟文件(VMDK文件),也有交換分區文件(VSWP文件,等價交換),非易失性存儲器(NVRAM的文件相當於BIOS),等等。每個VM對虛擬磁碟的IO操作實際上是對虛擬磁碟文件的讀寫操作。
設計、施工、和虛擬伺服器環境和優化,允許多個虛擬機訪問集成的集群存儲池,從而大大提高了資源的利用率。使用和實現資源共享,管理員可以直接從更高的效率和存儲利用率中獲益。
那麼我們如何在雲計算中使用虛擬磁碟呢?
實例存儲
最主要的一種使用虛擬磁碟的方式就是實例存儲,每個VM都是虛擬機的一個實例,虛擬機管理程序在每個實例中提供一個模擬硬體環境,它包括CPU、內存和磁碟。這樣,虛擬磁碟就是虛擬機實例的一部分,就像物質世界。刪除VM後,虛擬磁碟也將被刪除。
在這個實例存儲模型中,虛擬磁碟與虛擬機之間的存儲關系,事實上,它是DAS存儲。但是虛擬磁碟的底層實現,我們說,它是以NAS的方式實現的。虛擬機管理程序的作用是存儲VM層的存儲模型,這是從實施協議分離(VMFS或NFS)的虛擬機的低層。

VMFS協議實現了存儲資源的虛擬化,再分配各VMs
卷存儲
實例存儲有它的限制,開發人員通常希望分離實例數據,例如OS和安裝的一些伺服器應用程序和用戶數據,這樣重建VM的時候可以保留用戶的數據。
這個需求衍生出另外一種存儲模型:卷存儲。卷是存儲的主要單元,相當於虛擬磁碟分區。它不是虛擬機實例的一部分,它可以被認為是虛擬機的外部存儲設備。
該卷可以從一個VM卸載,然後附加到另一個VM。通過這種方式,我們實現了實例數據與用戶數據的分離。OpenStack的煤渣是一個體積存儲的實現。
除了實例存儲和卷存儲之外,最後我們還提到另一種特殊的虛擬存儲:對象存儲。
對象存儲
很多雲應用需要在不同的VM之間共享數據,它常常需要跨越多個數據中心,而對象存儲可以解決這個問題。在前一篇文章中的雲計算IaaS管理平台的基本功能是什麼?》中曾經提到過對象存儲。
在對象存儲模型中,數據存儲在存儲段(bucket)中,桶也可以被稱為「水桶」,因為它字面意思。我們可以用硬碟來類推,對象像一個文件,而存儲段就像一個文件夾(或目錄)。可以通過統一資源標識符(URI:統一資源標識符)找到對象和存儲段。
對象存儲的核心設計思想實際上是虛擬化,它是文件的物理存儲位置,如卷、目錄、磁碟等,虛擬化是木桶,它將文件虛擬化為對象。對於應用層,簡化了對數據訪問的訪問,屏蔽了底層存儲技術的異構性和復雜性。

對象存儲模型
NAS與對象存儲各有所長
當然你也許會問,NAS存儲技術也是一個可以解決數據共享的問題嗎?由於對象存儲的大小和成本優勢,許多雲環境使用對象存儲而不是NAS。
因為對象存儲將跨多個節點傳播,最新數據並不總是可用的 因此,對象存儲的數據一致性不強。如果有強一致性的要求,然後你可以使用NAS。目前,在雲計算環境中,NAS和對象存儲是共存的。
和NAS一樣,對象存儲也是軟體體系結構,而不是硬體體系結構。應用程序通過REST API直接訪問對象存儲。公共對象存儲包括:Amazon S3和OpenStack的Swift。
結語
在實際的雲平台應用中,我們需要根據自己的實際情況來合理運用不同的虛擬化存儲技術。
對於非結構化的靜態數據文件,如音視頻、圖片等,我們一般使用對象存儲。
對於系統鏡像以及應用程序,我們需要使用雲主機實例存儲或者卷存儲。
對於應用產生的動態數據,我們一般還需要利用雲資料庫來對數據進行管理。

D. 阿里雲服務對象有哪些

1.雲伺服器ECS

雲伺服器ECS:雲計算產品的基本款,幾乎每個客戶都必買的,雲伺服器從1核1G到32核64G(隨著時間推移,配置會越來越高),各種優惠都有,不同時段有不同的優惠活動,可以參考阿里雲惠網;關於伺服器配置還可以隨意升降配置,可以包年包月,也可以按量隨用隨買。對於很多小公司及個人,只購買一台雲伺服器ECS就夠用了。對於稍微大一點的企業從性能、安全、載入速度等方面諸多考慮,可能需要購買其他的阿里雲產品。

阿里雲從雲伺服器ECS衍生出來很多雲伺服器系列,例如適用於初級用戶的輕量應用伺服器,還有為了迎合各種高性能場景的雲伺服器,諸如GPU雲伺服器、FPGA雲伺服器、神龍雲伺服器等,總之都是雲伺服器,是企業上雲的基本款。

2.雲資料庫RDS

雲資料庫:目前主流是MySQL,阿里雲提供MySQL、PostgreSQL,SQL Server,MongoDB,Memcache(Redis)等不同的資料庫產品。相對於雲伺服器,雲資料庫屬於非必需品,因為用戶完全可以在雲伺服器上搭建資料庫。由於自身業務發展需要,將資料庫獨立出來,這時候就需要阿里雲的RDS雲資料庫了。

3.負載均衡SLB

負載均衡SLB:對多台雲伺服器進行流量分發服務。為了應對業務需求,企業往往會有多台雲伺服器提供伺服器,負載均衡就是將用戶的請求按照企業自定義的策略轉發到最優的伺服器。

4.對象存儲OSS

如果企業靜態文件較多(圖片、視頻等大文件),可以將大量的存儲內容轉移獨立出來,放到對象存儲OSS裡面。

5.CDN

內容分發網路,假設企業的雲伺服器在杭州,那麼位於東北地區的用戶訪問速度就會比較慢,CDN可以解決這個問題,CDN將源站內容分發至最接近用戶的節點,使用戶可就近取得所需內容,提高用戶訪問的響應速度和成功率。

6.專有網路 VPC

大家普遍會給阿里雲打上公有雲的標簽,實際上阿里雲可以提供的不僅僅是公有雲,還有私有雲、混合雲等。專有網路VPC可以幫助企業在阿里雲構建出一個隔離的網路環境,用戶可以自定義IP 地址范圍、網段、路由表和網關等,VPC可以提供更安全和靈活的網路環境,為我們構建混合雲提供服務。

7.彈性伸縮

傳統的企業自建的私有機房是不具有彈性伸縮功能的,假設企業遇到業務波峰,只能通過人為的升級硬體來應對,業務回落時就會造成硬體資源的浪費,而彈性伸縮很好的解決了這個痛點。阿里雲彈性伸縮可以管理您的集群,在高峰期自動增加ECS實例,在業務回落時自動減少ECS實例,節省基礎設施成本。另外,這個彈性伸縮是免費的。

8.DDoS高防IP

DDoS是目前比較常見的攻擊方式,為了抵禦DDoS攻擊,用戶可以通過配置高防IP,將攻擊流量引流到高防IP,確保源站的穩定可靠。講真,阿里雲的DDoS高防IP還挺貴的。

9.安騎士

當用戶購買了雲伺服器ECS後,可能會受到阿里雲發送的安騎士漏洞風險簡訊,安騎士一款主機安全軟體,為您提供主機漏洞檢測、基線檢查、病毒查殺、資產統一管理等功能,為您建立安全運維管理平台。安騎士企業版可以免費試用7天,之後想再使用,是需要付費的。

10.證書服務

我們在訪問網站時,會在瀏覽器的地址欄中看到綠色的鎖,意思是該網站是基於HTTPS協議的。前幾年網站基本上都是基於http協議,阿里雲網路網目前還是基於http協議,相對於http協議,https提供了一層加密服務,會更加安全一些。網站想要實現HTTPS,可以向阿里雲申請簽發證書伺服器,即我們常說的SSL證書。阿里雲目前可以申請到免費的SSL證書(Symantec賽門鐵克品牌)。

11.態勢感知

態勢感知說起來還比較高端,有點類似於先知的意思。態勢感知會收集企業20種原始日誌和網路空間威脅情報,利用機器學習還原已發生的攻擊,並預測未發生的攻擊,幫客戶擴大安全可見性,並集中管理雲上資產安全事件。

12.堡壘機

日防夜防家賊難防,開個玩笑哈。企業往往更加關注外部的安全威脅而忽略了企業內部,實際上運維人員誤操作或者仿冒運維人員將對企業造成很嚴重的損失,更有甚至是致命的。例如:攜程的宕機12小時事件,由於員工錯誤操作,刪除了伺服器代碼,據不完全統計,攜程宕機帶來的直接損失就是每小時160萬美金。堡壘機基於協議正向代理實現,對SSH、Windows遠程桌面、SFTP等常見運維協議的 數據流進行全程記錄,再通過協議數據流重組的方式進行錄像回放,達到運維審計的目的。

13.消息隊列MQ

說起消息隊列,最典型的應用場景就是一年一度的雙十一購物節,消息隊列是一個真正具備低延遲、高並發、高可用、高可靠,可支撐萬億級數據洪峰的分布式消息中間件。當小仙女們開啟大規模的剁手模式時,用戶大量並發訪問商品資料庫,消息隊列可以緩解瓶頸,減少頁面響應時間,當然還有其他方面的功能優勢,咱這里阿里雲網路網就不過多贅述,雙十一就是MQ的典型應用場景,大概就是這么個意思。

14.域名

域名與主機ip綁定,通過域名解析訪問到主機上的服務,主要是簡單易記,相當於別名。

15.虛擬主機

新手建站一般都是從虛擬主機開始的,無需自己配置web環境,簡單易管理,價格也便宜。

16.企業郵箱

企業郵箱就是以公司域名為後綴的郵箱,企業自建的郵件系統。目前各大互聯網大佬,例如:阿里雲、騰訊雲、網易等都有提供免費版的企業郵箱,如果想解除諸多限制,可以選購阿里雲的企業郵箱付費版。

17.雲解析DNS

DNS就是將你的域名解析到伺服器的IP上,一般來講域名解析是免費的,免費版就夠用了。

E. 求 分布式對象存儲 原理 架構及Go語言實現 pdf

分布式存儲架構由三個部分組成:客戶端、元數據伺服器和數據伺服器。客戶端負責發送讀寫請求,緩存文件元數據和文件數據。元數據伺服器負責管理元數據和處理客戶端的請求,是整個系統的核心組件。數據伺服器負責存放文件數據,保證數據的可用性和完整性。該架構的好處是性能和容量能夠同時拓展,系統規模具有很強的伸縮性。
對象存儲最常用的方案,就是多台伺服器內置大容量硬碟,再裝上對象存儲軟體,然後再額外搞幾台服務作為管理節點,安裝上對象存儲管理軟體。管理節點可以管理其他伺服器對外提供讀寫訪問功能。
之所以出現了對象存儲這種東西,是為了克服塊存儲與文件存儲各自的缺點,發揚它倆各自的優點。簡單來說塊存儲讀寫快,不利於共享,文件存儲讀寫慢,利於共享。能否弄一個讀寫快,利 於共享的出來呢。於是就有了對象存儲。

F. 如何建立單位內部雲存儲伺服器

看雲存儲的需求,是做雲盤,做大文件存儲,小文件存儲,或者塊讀寫等等。
開源系統就不少,自己建的話,省錢就用開源。
OpenStack裡面有Swift,是一個對象存儲,適合於存放比較小的,以對象為單位的文件。
SeaFile開源雲存儲系統平台是由國人開發的新一代的開源雲存儲系統軟體,SeaFile提供豐富的文件同步和管理功能,搭個網盤是比較方便的。
還有GlusterFS,是一個集群的文件系統,支持 PB 級的數據量。
Ceph,分布式文件系統,支持作為塊設備進行讀寫訪問。
按照教程來,搭建起來不難。當然,要深入使用,解決生產運行中的各種坑,還是需要一定時間的積累的。
我們就是選擇的Swift,然後在此基礎上開發的文檔管理系統。

G. 如何搭建私有雲存儲

虛擬化技術在企業私有雲IT基礎架構中仍然占據重要地位,同時,為了進一步提升應用效率,越來越多的生產環境也正在逐步變革,從以虛擬機為中心的架構向以容器和微服務為中心的雲原生架構過渡,在這個過程中,存儲如何有效支撐各種雲主機應用與微服務應用,對於企業的私有雲數據中心提出了新的挑戰。

企業面臨的問題

存儲設施七國八制,硬體鎖定缺少彈性

多種雲平台對於存儲的要求各不相同,塊/文件/對象存儲對應不同類型的應用,對外提供不同的服務介面,一種存儲設備無法滿足多種類型的雲平台存儲需求,而且傳統存儲在擴展性方面不能滿足雲時代大規模雲平台對存儲在線彈性擴容的需求,在可維護性方面則面臨硬體架構綁定、運維復雜、難以維保等問題,而且這些問題會隨著存儲設備種類和數量的增多進一步放大。

業務調度變更頻繁,資源不能共享

隨著開發測試虛擬機以及容器、微服務平台在企業私有雲平台的上線,大型企業的應用快速迭代、頻繁發布對存儲系統的支撐提出了嚴峻挑戰,不同業務的數據保存在不同廠商的存儲設備中,數據流動性差,不僅導致存儲空間及性能資源浪費嚴重,數據災備方案也很難統一化。

開源產品難以維護,不能實現企業級產品化

基於開源虛擬化技術的雲平台如OpenStack為眾多客戶提供了快速構建私有雲基礎設施的能力,但是存儲部分卻不一樣,開源的存儲系統如Ceph雖然可以小規模部署試用, 但在大規模商用時會遇到很多問題:與硬體和企業級應用生態融合程度不高,嚴重依賴人工開發運維,在性能和服務質量方面不能滿足核心業務的需求

杉岩私有雲存儲解決方案

杉岩私有雲存儲解決方案充分發揮了杉岩統一存儲平台(USP)的雲適配、開放等優勢,支持各種復雜的應用負載,可靈活支撐私有雲的虛擬化平台,如VMware、Citrix、OpenStack等虛擬化和雲平台,以及通過Kubernetes軟體一致性認證的所有容器雲平台,如:Rancher、Openshift、Kubernetes等。

通過杉岩統一存儲平台,用戶可快速構建能夠兼容所有主流虛擬化平台與容器微服務平台的統一存儲資源池,面對各種虛擬機和微服務需求,池化的存儲平台為大規模雲環境提供了可靠的存儲基礎架構支撐,幫助用戶從紛繁復雜的基礎架構運維工作中解放出來,更關注於私有雲上運行的業務本身。

客戶價值

資源整合,鏈接企業信息孤島

單資源池提供塊、文件、對象多種存儲服務,支持虛擬化平台和資料庫應用;強大的存儲資源生命周期管理能力,跨雲平台在線遷移數據,實現數據共享和提高資源利用率;存儲卷QoS等級和性能優先順序在線調整,可根據企業資源和業務需求合理配置資源。

開放兼容,適配多種私有雲平台

通過VMware VAAI和Citrix Ready認證,針對主流虛擬化平台優化I/O性能,大幅提升虛擬機訪問的性能。通過OpenStack Cinder認證,可提供塊和對象存儲基礎架構支撐支持容器平台CSI介面認證,為Kubernetes生態的容器應用提供塊和文件存儲服務。

智能管理,解決規模化運維難題

向導式安裝部署和自助擴容配置,極大提升易用性和可維護性,管理自動化降低運維成本;針對大規模集群優化的可靠性管理,檢測和修復硬碟軟錯誤的專利技術,節約用戶硬體投資。存儲視角的管理功能,可視化展示主機、容器與存儲的映射關系和性能監控協助管理員快速定位和解決問題。

H. 【Minio】基於AWS S3協議搭建個人雲存儲服務

在2007年,GlusterFS演變為大型分布式存儲方案後,任何配備合適硬體的公司,單位都可以利用個做分布式的流媒體,數據分析。在2011年,Red Hat收購了GlusterFS.

Minio是GlusterFS創始人之一Anand Babu Periasamy發布新的開源項目。Minio兼容Amason的S3分布式對象存儲項目,採用Golang實現,客戶端支持java,python,Javacript, Golang語言。

Minio 提供對象存儲服務,兼容了 AWS S3 存儲協議,用於非結構化的數據存。非結構化對象,比如圖像,音、視頻,日誌文件,備份鏡像…等等管理不方便,不定長,大小變化大、類型多,雲端的訪問復雜,minio就是來解決這種場景的。非結構化的文件從數KB到5TB都能很好的支持。開源並且用 Go 語言開發,有web操作界面,我們可以用它來搭建兼容S3協議的存儲雲服務。

Minio可以做為雲存儲的解決方案用來保存海量的圖片,視頻,文檔。由於採用Golang實現,服務端可以工作在Windows,Linux, OS X和FreeBSD上。配置簡單,基本是復制可執行程序,單行命令可以運行起來。

官網: https://minio.io

那麼,如何自己搭建一個私有的S3存儲雲服務呢?

官方的話是推薦用Docker來搞,我們先用普通的二進制文件來直接解決了!

######################################################################################

# mkdir /data/aws_s3

# wget   https://dl.minio.io/server/minio/release/linux-amd64/minio

# mv  minio /usr/local/bin/

#  chmod  755  /usr/local/bin/minio 

# minio server  /data/aws_s3

#############################################################

Created minio configuration file successfully at /root/.minio

Endpoint: http://10.5.10.89:9000   http://127.0.0.1:9000   http://172.17.0.1:9000

AccessKey: U3XLU4IMXY3IDKHU268F 

SecretKey: / 

Region:    us-east-1

SQS ARNs:  

Browser Access:

http://10.5.10.89:9000   http://127.0.0.1:9000   http://172.17.0.1:9000

Command-line Access:  https://docs.minio.io/docs/minio-client-quickstart-guide

################################################################

$ mc config host add myminio  http://10.5.10.89:9000  U3XLU4IMXY3IDKHU268F /

Object API (Amazon S3 compatible):

Go:  https://docs.minio.io/docs/golang-client-quickstart-guide

Java:  https://docs.minio.io/docs/java-client-quickstart-guide

Python:  https://docs.minio.io/docs/python-client-quickstart-guide

JavaScript:  https://docs.minio.io/docs/javascript-client-quickstart-guide

Drive Capacity: 8.3 GiB Free, 9.1 GiB Total

##############################################################

我們就成功啟動了minio的s3服務,默認埠9000,可以通過網頁訪問:

http://10.5.10.89:9000  

http://127.0.0.1:9000  

http://172.17.0.1:9000

注意 :第一次打開時候需要填寫AccessKey和SecretKey才能進入,我們上面啟動服務的時候,已經看到屏幕有輸出:

AccessKey: U3XLU4IMXY3IDKHU268F 

SecretKey:

把這兩個Key填入,就能順利進入,進入後展開頁面如下:

這就是我們的S3雲存儲的管理頁面了,看著是不是和七牛什麼的提供雲存儲的產品頁面挺像的,大家都是基於S3協議開發的!

上傳個文件試試:

點擊右下角的紅色小加號按鈕,彈出的菜單選擇」create bucket」則會創建一個桶,輸入名字」test」

點擊剛才那個紅色小加號按鈕,這次選擇」Upload file」上傳文件,給這個桶上傳了一個叫login.txt的文本文檔

此時頁面如下:

至此我們可以看到文件已經上傳,要訪問這個文件,可以點擊文件右側的三個點的按鈕,選擇分享就可以得到一個外鏈,在瀏覽器中訪問這個外鏈就可以直接訪問文件。

那麼文件到底被存到哪裡去了呢,我們啟動命令中其實指定了工作路徑/data/aws_s3/,所以到伺服器這個目錄下看看:

# ls /data/aws_s3/ 

test

# ls /data/aws_s3/test/

login.txt 

桶名稱test是一個目錄,其下就有上傳的login.txt文件。

如果想指定ip和埠,可以這樣寫:

# minio server /data/aws_s3 --address=0.0.0.0:9000

如果想讓服務在後台運行:

# nohup minio server /data/aws_s3   --address=0.0.0.0:443 &

[1] 19882

// nohup: 忽略輸入並把輸出追加到啟動命令的當前目錄下的 "nohup.out"文件

minio可以用來搭建分布式存儲系統 GlusterFS,這樣就成了真正的雲存儲了,有時間再研究下把它從現在的單機測試,變成一朵存儲雲!

minio官網: https://minio.io

minio官方文檔: https://docs.minio.io/docs/minio-docker-quickstart-guide

minio github主頁: https://github.com/minio/minio

I. 雲計算使得信息的儲存是一個什麼樣的方式。

產品定義:
BC—oNest(Object Nest)是一個以對象形式存儲和管理海量非結構化數據的雲存儲系統。BC—oNest可以為互聯網業務和企業用戶提供低成本的PB級存儲規模,具備高可靠、高安全性和高擴展性的雲存儲服務。
產品實現了跨機架的海量對象存儲和備份功能:提供WEB方問(業務使用門戶以及REST API)以及SDK:提供批量導入導出工具來支持oNest和Linux本地目錄之間的相互拷貝:支持Windows客戶端工具,方便用戶的使用。
產品特點
按需分配的存儲空間:系統支持TB級到PB級的存儲空間管理,存儲容量可在線平滑擴容。
可靠的數據存儲:系統支持對象數據跨機架存儲;在每個AZ內多副本存儲。系統的健康檢查模塊保證副本減少的情況下,自動修復副本數量:同時系統內部實現了數據的完整性校驗機制,防止數據被非法篡改或損壞。
安全的數據訪問控制:系統的認證鑒權和ACI一訪問控制機制保證數據只被授權用戶訪問:同時系統支持密鑰簽名機制,保證用戶訪問消息在傳輸通道上的安全性。
高性能的數據處理:提供Multi Part的並發上傳功能提高大對象上傳速度:支持基於Range的多點並發下載功能提高對象下載速度:數據節點內部採用文件聚合的方法提高性能:支持高並發的用戶訪問和高吞吐的數據流量。
高可用的數據服務能力:AZ內多副本存儲和副本自動修復能力,提高了系統持續服務能力,在常見的伺服器集群節點或局部網路故障情形中,系統具有高可用性。
提供多種數據訪問介面:系統對外提供WEB訪問(業務使用門戶及REST API)以及SDK,並提供批量導入導出工具來支持oNest和Linux本地目錄之間的相互拷貝。
在服產品版本及特性:

5.X版本:
自主研發的以對象形式存儲和管理海量非結構化數據的存儲系統
基於跨機架的大規模數據中心環境設計,具有極強的水平擴展能力
提供類AWS S3的REST API和SDK,以及本地批量數據導入導出工具
支持用戶、容器以及對象的訪問許可權管理和控制
服務可用性99.9%,數據可靠性99.999999999%,無單點故障,支持線性擴展
支持至少千億級對象存儲,單個對象最大5TB,千兆網路環境下4KB對象讀取響應時間小於100ms
支持用戶可選的伺服器端及客戶端數據加密存儲,整個過程對用戶透明
支持系統和存儲資源監控及告警功能,易運營可管理
提供面向系統、用戶和容器三個級別的准實時統計計量能力,支持用戶按需付費
6.0版本:
基於主流ceph產品,支持糾刪碼,支持主流s3介面
核心功能:
1:對象相關功能
對象管理:系統支持對象的創建、讀取和刪除、設置用戶自定義元數據等功能。
對象訪問控制:系統支持設置或獲取容器和對象訪問許可權(ACL)等功能。
2:容器相關功能
容器管理:系統按容器組織對象,每個用戶可擁有零或多個容器,每個用戶可包合零或多個對象。系統支持容器的創建、刪除,按字典序列出容器內的對象等功能。
3:用戶相關功能
用戶認證及許可權:對用戶的身份進行認證,確認訪問用戶的身份,完成認證後基於用戶狀態、配額和許可權進行確認。
4:系統相關功能
計量信息:提供為資源池管理系統提供計費需要的計量信息,包括空間佔用、訪問流量等。
用戶控制:提供用戶運營管理訪問控制包括簽約對象存儲服務、查看對象存儲服務等功能。
日誌管理:提供對系統日誌的記錄及瀏覽功能。
統計報表:提供對系統各項指標的統計和分析,包括系統數據日誌、用戶日誌及日誌管理、訪問統計、統計總空間佔用、統計總用戶數、統計各個節點上佔用空間大小、容器總數量、流量信息統計等。
運維管理:提供雲存儲系統內部管理、維護,包括系統管理用戶認證鑒權、系統管理角色管理、設備狀態監控、設備維護等功能。
產品優勢:
BC—oN est是基於標准X86伺服器集群的對象存儲系統。產品優勢主要體現在:
容量和性能隨節點增加而線性增強,且支持無縫的在線擴容和升級維護。
基於X86存儲伺服器的結構具有低成本特點。
系統的高可靠設計,單磁碟和單伺服器故障不會影響系統服務,保障用戶數據的可用性。
安全認證和數據加密手段,為用戶提供安全的數據存儲服務。
應用場景:
廣泛應用於公眾雲存儲服務,為用戶和企業提供按需擴展的雲存儲服務。支持各類互聯網應用,如網盤
類應用中對圖片、文檔和音視頻的存儲j對象存儲通過與主流備份軟體結合,可向用戶提供更具成本效益、
更低TCO的備份方案j對象存儲與歸檔軟體、分級存儲軟體結合,可以將在線系統中的數據無縫歸檔/分級
存儲到對象存儲系統,減少陣列等在線系統存儲資源。
應用案例:中國移動公眾服務雲
一:應用背景和面臨的問題
雲存儲是laaS核心服務之一,主要支撐海量非結構化數據的存儲和處理需求。傳統的非結構數據存儲系統主要採用磁碟陣列和NAS設備實現,為本地伺服器提供塊存儲空間或文件存儲空間,本質上屬於數據中心內部的解決方案,主要存在的問題包括:首先,兩者的服務介面協議上都不能滿足在廣域網范圍提供服務的能力要求j其次,磁碟陣列和NAS設備的擴展I生也有限,不能滿足百億級文件的存儲需求j最後,設備成本較高,基於陣列設備提供的雲存儲服價格不具備競爭性。
二:解決方案
公眾服務雲的對象存儲服務使用BC—oNest產品實現。300台存儲伺服器可以提供PB級的對象存儲服務空間支持百億級的對象存儲。
三:商業價值
中國移動公眾服務雲採用自主研發的BC—oNest,系統建設上相比使用商用解決方案節約成本數百萬元。自主研發產品的應用也使得研發和運營實現緊密互動,對象存儲服務的功能可隨著市場競爭的要求實現快速迭代開發。
基於BC—oNest的對象存儲服務是中國移動在公眾服務雲布局的重要環節之一,將為中國移動拓展行業雲應用奠定堅實的基礎。
歡迎撥打4001100865至中移軟體技術有新公司咨詢!

J. 什麼是對象存儲

對象存儲,也叫做基於對象的存儲,是用來描述解決和處理離散單元的方法的通用術語,這些離散單元被稱作為對象。

就像文件一樣,對象包含數據,但是和文件不同的是,對象在一個層結構中不會再有層級結構。每個對象都在一個被稱作存儲池的扁平地址空間的同一級別里,一個對象不會屬於另一個對象的下一級。

文件和對象都有與它們所包含的數據相關的元數據,但是對象是以擴展元數據為特徵的。每個對象都被分配一個唯一的標識符,允許一個伺服器或者最終用戶來檢索對象,而不必知道數據的物理地址。這種方法對於在雲計算環境中自動化和簡化數據存儲有幫助。

對象存儲經常被比作在一家高級餐廳代客停車。當一個顧客需要代客停車時,他就把鑰匙交給別人,換來一張收據。這個顧客不用知道他的車被停在哪,也不用知道在他用餐時服務員會把他的車移動多少次。在這個比喻中,一個存儲對象的唯一標識符就代表顧客的收據。

熱點內容
java輸出到文件 發布:2025-03-19 01:49:07 瀏覽:429
光遇國際服安卓和蘋果如何互通 發布:2025-03-19 01:43:03 瀏覽:316
如何加密應用 發布:2025-03-19 01:42:04 瀏覽:618
lol伺服器人數怎麼擠 發布:2025-03-19 01:29:19 瀏覽:838
兄弟連的php 發布:2025-03-19 01:24:25 瀏覽:810
自己做腳本可不可以 發布:2025-03-19 01:20:13 瀏覽:533
33的源碼值 發布:2025-03-19 01:13:25 瀏覽:814
虛榮安卓怎麼充值 發布:2025-03-19 01:12:27 瀏覽:892
如何更改報考密碼 發布:2025-03-19 01:08:12 瀏覽:416
python日期類型 發布:2025-03-19 01:02:28 瀏覽:415