數據時代存儲
① 大數據時代,數據存儲如何才能更安全
Smartbi許可權安全管理系統許可權體系關系圖如下:
整個Smartbi許可權安全管理系統中有一個超級管理員對所有的管理員、用戶進行管理。每一個組可以設置組管理員對本組成員(包括用戶和下級用戶組)進行許可權管理。
一、Smartbi許可權安全管理系統——操作許可權
主要是從更高層面對用戶許可權進行劃分,決定被授權用戶可以使用系統的哪些功能,可以執行哪些操作。如:管理員可以查看並設置數據源、用戶等信息,普通用戶只有查看報表的許可權,IT人員有設計和開發報表的許可權等等。
定義:操作許可權是指Smartbi的功能模塊許可權和具體操作的許可權,例如:是否允許功能入口、按鈕等的使用。
功能組成:操作許可權主要包含兩部分:功能入口和按鈕。
功能入口:包括「界面主菜單」或「系統主菜單」以及更多操作中 新建分析 > 透視分析 或 即席查詢 等功能入口。
按鈕:在每個具體的功能頁面中一般都會有工具欄包含很多的操作按鈕,每個按鈕代表不同的具體功能的操作,顯示區域如下圖所示:
二、Smartbi許可權安全管理系統——資源許可權
資源許可權是對平台具體資源的控制,可以限制被授權用戶到具體的某一張報表或某一個圖形資源,如:創建的某張報表只允許本部門的所有人查看,本部門以外的人不允許看到;或者某些報表只能被領導查看,普通員工不允許查看等等。
定義:Smartbi 平台中每個報表,每一個數據集都被視為平台的一個資源,資源的許可權主要是指是否對Smartbi平台的資源具有查看和編輯及再授權的權利。
資源分類:Smartbi平台的資源分類主要包括:數據連接、業務主題、數據集等,以「資源授權」下的資源樹為分類,詳細分類如下圖所示:
三、Smartbi許可權安全管理系統——數據許可權
在系統中,我們可以利用數據許可權功能實現不同區域的用戶登錄 Smartbi 後只能看到其所屬區域及子區域的數據,如:北京分行和廣州分行只能看到本分行自己的數據,而總行可以看到所有分行的數據和總行數據等等。
定義:數據許可權是從記錄的層面對用戶進行授權,從而限制了用戶可以訪問哪些數據,不可以訪問哪些數據。
數據許可權管理:數據許可權具體的設置過程,具體可以登陸官網詳細了解
授權對象
授權對象主要包括:角色、用戶組和用戶,用戶為最終的授權者,所有的許可權最終會體現在用戶身上:授權對象之間存在著一定關系,從用戶角度分析看,一個用戶可以有多個角色,可以同時屬於多個用戶組,並且一個用戶組也可以有多個角色,如此角色和用戶組的許可權最終都將傳遞到用戶上面。
如何授權
許可權授權的過程是將不同類型的許可權制定給被授權對象,最後將許可權傳遞給操作用戶,許可權授權的方式比較多,最終用戶的許可權是所有許可權的並集。
1、操作授權:通過角色管理功能,編輯角色操作許可權即可。操作頁面如下:
2、資源授權
統一授權:指將資源分配給角色,由角色統一管理可訪問資源。通過角色管理功能,通過勾選響應的資源,然後指定授權。操作頁面如下:
單個授權:為了滿足用戶的特別需求或者臨時需求,平台提供了針對單個資源的授權,可以將單個資源授權給某個用戶或某個用戶組。操作頁面如下:
三、Smartbi許可權安全管理系統——數據授權
數據授權原理是在生成sql語句時添加響應的過濾條件,對於各類資源設置數據許可權,應該是對其依賴的資源進行設置,比如即席查詢如來源於業務主題,則應該對其業務主題進行數據許可權設置。另外,我們在數據許可權設置中會經常用到各類的系統函數和用戶屬性。數據許可權設置分為兩種情況:
1)一種是通過「數據連接資源目錄區」中的「數據源」的更多操作中設置數據許可權或者在「業務主題界面」的表格樹目錄區中業務主題的更多操作中設置數據許可權,目前主要包含關系數據源、業務主題和多維數據源。
2)另一種在SQL語句中進行手動添加,包含關系型參數、SQL/原生SQL數據集。
② 大數據時代,數據應該如何存儲
PB或多PB級基礎設施與傳統大規模數據集之間的差別簡直就像白天和黑夜的差別,就像在筆記本電腦上處理數據和在RAID陣列上處理數據之間的差別。"
當Day在2009年加入Shutterfly時,存儲已經成為該公司最大的開支,並且以飛快的速度增長。
"每N個PB的額外存儲意味著我們需要另一個存儲管理員來支持物理和邏輯基礎設施,"Day表示,"面對大規模數據存儲,系統會更頻繁地出問題,任何管理超大存儲的人經常都要處理硬體故障。大家都在試圖解決的根本問題是:當你知道存儲的一部分將在一段時間內出現問題,你應該如何確保數據可用性,同時確保不會降低性能?"RAID問題解決故障的標准答案是復制,通常以RAID陣列的形式。但Day表示,面對龐大規模的數據時,RAID解決問題的同時可能會製造更多問題。在傳統RAID數據存儲方案中,每個數據的副本都被鏡像和存儲在陣列的不同磁碟中,以確保完整性和可用性。但這意味著每個被鏡像和存儲的數據將需要其本身五倍以上的存儲空間。隨著RAID陣列中使用的磁碟越來越大(從密度和功耗的角度來看,3TB磁碟非常具有吸引力),更換故障驅動器的時間也將變得越來越長。
"實際上,我們使用RAID並不存在任何操作問題,"Day表示,"我們看到的是,隨著磁碟變得越來越大,當任何組件發生故障時,我們回到一個完全冗餘的系統的時間增加。生成校驗是與數據集的大小成正比的。當我們開始使用1TB和2TB的磁碟時,回到完全冗餘系統的時間變得很長。可以說,這種趨勢並沒有朝著正確的方向發展。"
對於Shutterfly而言,可靠性和可用性是非常關鍵的因素,這也是企業級存儲的要求。Day表示,其快速膨脹的存儲成本使商品系統變得更具吸引力。當Day及其團隊在研究潛在技術解決方案以幫助控制存儲成本時,他們對於一項叫做糾刪碼(erasure code)的技術非常感興趣。
採用擦除代碼技術的下一代存儲
里德-所羅門糾刪碼最初作為前向糾錯碼(Forward Error Correction, FEC)用於不可靠通道的數據傳輸,例如外層空間探測的數據傳輸。這項技術還被用於CD和DVD來處理光碟上的故障,例如灰塵和劃痕。一些存儲供應商已經開始將糾刪碼納入他們的解決方案中。使用糾刪碼,數據可以被分解成幾塊,單塊分解數據是無用的,然後它們被分散到不同磁碟驅動器或者伺服器。在任何使用,這些數據都可以完全重組,即使有些數據塊因為磁碟故障已經丟失。換句話說,你不需要創建多個數據副本,單個數據就可以確保數據的完整性和可用性。
基於糾刪碼的解決方案的早期供應商之一是Cleversafe公司,他們添加了位置信息來創建其所謂的分散編碼,讓用戶可以在不同位置(例如多個數據中心)存儲數據塊或者說數據片。
每個數據塊就其自身而言是無用的,這樣能夠確保隱私性和安全性。因為信息分散技術使用單一數據來確保數據完整性和可用性,而不是像RAID一樣使用多個副本,公司可以節省多達90%的存儲成本。
"當你將試圖重組數據時,你並不一定需要提供所有數據塊,"Cleversafe公司產品策略、市場營銷和客戶解決方案副總裁Russ Kennedy表示,"你生成的數據塊的數量,我們稱之為寬度,我們將重組數據需要的最低數量稱之為門檻。你生成的數據塊的數量和重組需要的數量之間的差異決定了其可靠性。同時,即使你丟失節點和驅動器,你仍然能夠得到原來形式的數據。"
③ 浪潮存儲是怎麼應對新數據時代的
浪潮存儲作為深入研究數據需求的數據存儲專家,一直站在新時代的風口,洞察市場的動向,以用戶需求為導向,為不同的行業用戶開發適合業務應用的存儲。經過多年的自主研發,已經打造出豐富的產品線,並進行了明確的劃分。用戶可以按照場景和產品類型進行選擇:分布式存儲、全快閃記憶體儲、混快閃記憶體儲、固態硬碟、數據管理與保護、光纖交換機。另外,浪潮存儲還以「雲存智用 運籌新數據」的新存儲之道,提供適合業務應用的存儲和場景化的解決方案,滿足以「雲、數、智」為技術應用背景的新數據時代下的創新發展與轉型升級助力客戶致勝新數據時代。
④ 在新數據時代,浪潮存儲的核心發展方向是什麼
新數據時代有著更高存儲容量、存儲性能以及數據共享與使用的需求,浪潮存儲的新存儲之道核心是聚焦極致技術、存儲即平台、數據「系」存儲基礎設施的打造,計劃通過「理念、技術、產品、方案」四個關鍵要素的閉環,加速數據流動、數據處理、數據共享和數據在線和數據安全,從而能夠以更高的性能以及產品技術能力,幫助企業在新數據時代迎接挑戰,並徹底地釋放出數據的真正價值。
⑤ 大數據時代,數據的存儲與管理有哪些要求
數據時代的到來,數據的存儲有以下主要要求:
首先,海量數據被及時有效地存儲。根據現行技術和預防性法規和標准,系統採集的信息的保存時間不少於30天。數據量隨時間的增加而線性增加。
其次,數據存儲系統需要具有可擴展性,不僅要滿足海量數據的不斷增長,還要滿足獲取更高解析度或更多採集點的數據需求。
第三,存儲系統的性能要求很高。在多通道並發存儲的情況下,它對帶寬,數據容量,高速緩存等有很高的要求,並且需要針對視頻性能進行優化。
第四,大數據應用需要對數據存儲進行集中管理分析。
⑥ 在新數據時代的今天,浪潮存儲應對的全新挑戰聚集在哪些方面
浪潮存儲對容量要求極大,以清華大學RUSH腦科學研究為例,通過28台2500萬像素的高清攝像機在3天不間斷觀測大腦活動變化,每小時就能夠產生72TB數據,3天實驗周期可以產生5PB數據。與過去相比,當前越來越多應用所產生的數據量提升了10-100倍,海量數據的產生使得越來越多用戶對於存儲容量有著極大的需求。
對於數據存儲性能的要求越來越高,比如健康碼,每天有幾十億次的查詢,需要底層存儲具備足夠強大的性能,來滿足上層應用的快速響應需求;對於數據的共享、使用和管理需要更加順暢和便捷。隨著5G、物聯網、AI等數字技術加速普及與商用,數據的產生量、產生方式、處理方式正在發生巨大變化,未來可能面對的不再是數據沼澤,而是數據「死海」,如果存儲不能很好地將數據共享和管理起來,將會給上層智慧應用帶來極大的挑戰。
⑦ 大數據時代下存儲新價值
大數據時代下存儲新價值
大數據正在成為眾多企業單位的重要的工具,而隨著數據本身的加速增長,用戶們所部屬的存儲變得越來越重要。而由於用戶面臨的各種挑戰,比如實施分析工具和掌控大型數據文件等,用戶首先需要了解大數據與存儲的關系。
惠普亞太和日本地區存儲產品部某專家為記者分析了二者之間的關系,主要包括兩個方面:第一是對象存儲這個全新的概念,主要涉及到社交媒體以及設備相關的存儲方式;第二是大數據最重要的問題-搜索和發現數據,如果你無法高效地搜索到數據,存儲的價值也盪然無存。
大數據激發「對象存儲」潛能
而談到大數據中重要的非結構化數據,其表示,這需要具體區分為半結構化數據和非結構化數據,這些都直接影響到了用戶數據的存儲方式和架構。
這就需要提到「對象存儲」,解釋了「對象存儲」對大數據的意義,非結構化數據特別是基於雲服務數據的屬性大部分是靜態的,生成之後很長一段時間不會發生變化。但經常讀取大量靜態數據對存儲需求變革的發展帶來很多的影響,這就產生了「對象存儲」的概念。「對象存儲」是一種傳統的文件格式,但不斷地適應目前對象性的數據的變化。對象性的數據可以幫助我們克服過去文件系統技術的局限。我們看到大數據很多產生於各種各樣的社交媒體以及數字感測器,也就是終端設備,包括智能手機、平板電腦以及監控攝像頭等,這些設備都帶來了大數據的增長,也催生了「對象存儲」的巨大需求,所以「對象存儲」對大數據的影響很大。
他最後表示,要讓大數據真正實現價值,必須提高搜索和發現能力。即通過搜索相關的索引或者元數據的標簽這樣的工具來發現和搜索數據。用一個小故事來說明,人們原來花65000秒在草堆裡面找到了一根銀針(代指數據的價值),類似於中國的「大海撈針」,而現在通過大數據的分析能力,能在幾秒,甚至不到一秒鍾內快速地發現數據並獲得價值。
⑧ 大數據時代,需要什麼樣的冷存儲
存在即合理,磁帶沒沒淘汰肯定肯定在其他領域還有一定作用,不過像你所說BigData時代,傳統的磁帶和關盤無論從存儲速度和存儲容量都已經跟不上時代,不會是未來存儲的主力。
⑨ 在數據化時代,浪潮存儲提出了什麼樣存儲理念
全新的數據時代,存儲肩負著數據存、管、用的重任,堪稱數據生產要素的加工線,這條加工線的好壞直接決定著數據生產要素效率的高低。對此,浪潮存儲提出了「雲存智用、運籌新數據」的存儲理念,以新存儲之道推動各行各業用戶存好、管好和用好各種各樣的新數據。浪潮存儲的新存儲之道核心是聚焦極致技術、存儲即平台、數據「系」存儲基礎設施的打造,希望通過「理念、技術、產品、方案」四個關鍵要素的閉環,加速數據流動、數據處理、數據共享和數據在線和數據安全,幫助企業徹底釋放數據價值。從技術上入手,堅持正確的發展理念,浪潮存儲未來的發展讓人倍感期待。
⑩ 大數據時代需要什麼樣的存儲
眾多專家認為,大數據時代的存儲,應當是分布式的存儲,並呈現出與計算融合的趨勢。當然,不同專家對融合的理解也有所區別。 SNIA-China技術委員會主席雷濤表示,在當前的大數據時代,由於數據量TB、PB級的急劇膨脹,傳統的數據搬移工作已經不現實,因而存儲伺服器出現新的融合趨勢。在這樣的架構中,數據不再移動,寫入以後分散在STORAGE,它的計算節點融合在數據旁邊的CPU,數據越來越貼近計算。 雷濤補充說,大數據只談商業分析的數據支持,這是小數據思維,從金融、運營商、政府行業我們做的項目裡面發現,大數據是嵌入到整個行業裡面,替換以前的存儲和計算的系統架構的過程。 華為存儲產品線Marketing部長經寧認為,大數據帶來的三大變化,包括從集中式走向分布式,從水平走向縱向,從計算為中心轉向以數據為中心,總結一句話,即在大數據下架構方向走向分布式存儲的架構。 2013年,華為存儲產品線把理念進行升級,變成「存以致用,融以致遠」。經寧表示,融合架構是我們面對大數據挑戰一個很好的選擇。華為更多的希望把數據智能用起來產生價值,通過融合架構實現計算存儲融合,可以帶來更高的管理效率更高效能,大大降低我們管理上的開銷。 中橋國際調研咨詢公司首席分析師王叢女士則從虛擬化、雲計算數據保護和融合架構三個維度談了中國數據中心的發展變化。她表示,具有高可移動性的虛擬機用於生產,掉了鏈子就很難判斷是哪個物理環境,這就驅動了融合架構。融合架構避免了整合的時間和網路問題判斷的時間,能夠實現統一集中透明管理,可以根據工作負載去實時動態配置資源,也可以實時監控哪裡出了問題,怎麼解決問題。 王叢還指出,融合架構有不同的形態,其中一種是在原來硬體基礎上用一個軟體罩上,然後形成融合架構,實現目的是可以在線擴展,所有動態可以負載均衡,在最大限度提高部署效率前提下,又能夠降低因為硬體問題而導致的應用性能降低和應用的不穩定。 老牌存儲廠商NetApp同樣對存儲架構很有體會。NetApp公司北方區及電信事業部技術總監劉煒表示,在今天把數據存起來不是很難的問題,買一個移動硬碟就可以存儲數據,但是在上面存儲享受的服務級別不同的,不同於放在數據中心和網路雲上面的服務級別的。 為了不讓數據成為整個企業發展的負擔,而是成為真正的價值點,從資料變成資產,基礎架構需要快速、安全地支持一些新的技術手段。劉煒認為,應用級別和服務級別怎麼定義需要有很好存儲架構。NetApp集群存儲系統,並不是簡單地迎合新概念,而是面向實際的應用設計。NetApp做了很多IT架構的設計,滿足應用分級、資源分層的需求,你可以用虛擬化,也可以不用。 Fusion-io大中國區技術總監Tonny Ai與英特爾公司通信和存儲基礎架構事業部存儲部市場總監 Christine M Rice女士談到了SSD在大數據時代數據中心的應用。Tonny Ai表示,讓包括非結構化數據的大量數據快速變成信息,不僅僅是伺服器要快,存儲速度也要跟上CPU的速度,快閃記憶體正是針對當前網路存儲速度落後的解決方案,能夠有效提高存儲的性能。 同時,Tonny Ai認為,在雲計算、大數據時代,集中式存儲需要的管理和維護非常困難,分布式存儲模型是大勢所趨。在這其中,Fusion-io提供了PCIe快閃記憶體卡、全快閃記憶體陣列以及SDK工具,支持提升各種應用的性能。 Christine M Rice女士指出,SSD不只是讓數據變快。她認為,通過SSD在數據中心的使用,能夠幫助節約成本,降低延遲,加快訪問數據的速度,同時還能夠提供非常高的可靠性和管理級別,結合了DRM的使用進行軟體分層管理。 戴爾亞太存儲技術總監許良謀則強調了SSD的利用要在成本和性能之間的平衡,如何更好地應對大數據——快閃記憶體的成本和壽命讓很多企業對它愛恨交加。許良謀認為,大數據需要一個高容量高速度的共享存儲,戴爾的流動數據架構就是一個讓數據平滑遷移的平台。 戴爾實現了一個新的技術突破,即快速SLC和eMLC大容量盤可以用到流動架構裡面,再加上普通的大容量盤,兩級固態盤優化和流動數據架構的配合,這種方案可以比普通純快閃記憶體的方式實現75%以上的成本節約。 許良謀介紹到,戴爾一直通過收購、合作等方式,在自身產品線中不斷引入新的存儲技術,力圖把最好的存儲產品以最經濟的方式提供給用戶。