數據挖掘的資料庫
Ⅰ 數據挖掘分為哪兩大類
數據挖掘系統可以根據挖掘的資料庫類型分類。首先,基於數據模型,可以有關系的、事務的、對象-關系的或數據倉庫的挖掘系統。其次,基於處理數據的類型,可以有空間的、時間序列的、文本的、流數據的、多媒體的數據挖掘系統,以及萬維網挖掘系統。這表明,數據挖掘系統需要根據不同的資料庫類型進行分類。
數據挖掘系統還可以根據所挖掘的知識類型分類,即根據數據挖掘的功能分類。例如,特徵化、區分、關聯和相關分析、分類、預測、聚類、離群點分析和演變分析。綜合的數據挖掘系統通常提供多種和/或集成的數據挖掘功能。此外,數據挖掘系統還可以根據所挖掘的知識的粒度或抽象層進行區分,包括廣義知識(高抽象層)、原始層知識(原始數據層)或多層知識(考慮若干抽象層)。高級數據挖掘系統應當支持多抽象層的知識發現。
數據挖掘系統還可以根據所用的技術類型分類。這些技術可以根據用戶交互程度(例如自動系統、交互探查系統、查詢驅動系統),或所用的數據分析方法(例如面向資料庫或面向數據倉庫的技術、機器學習、統計學、可視化、模式識別、神經網路等)描述。復雜的數據挖掘系統通常採用多種數據挖掘技術,或採用有效的、集成的技術,結合一些方法的優點。
數據挖掘系統還可以根據其應用分類。例如,可能有些數據挖掘系統特別適合金融、電信、DNA、股票市場、e-mail等。不同的應用通常需要集成對於該應用特別有效的方法。因此,泛化的全能的數據挖掘系統可能並不適合特定領域的挖掘任務。
數據挖掘系統基於多種標准進行分類,這使得它們能夠針對特定的應用場景和需求進行優化,同時也為用戶提供更多的選擇。不同的分類方式各有側重,但最終目標都是通過挖掘數據中的有價值信息,支持決策制定和業務優化。
數據挖掘技術的多樣性為不同領域的應用提供了廣泛的支持。無論是在金融分析、醫療診斷、市場研究,還是在社交媒體分析等領域,數據挖掘系統都能夠發揮重要作用。通過整合多種技術和方法,數據挖掘系統能夠更好地理解和解釋復雜的數據集,從而推動業務創新和發展。
隨著技術的不斷進步,數據挖掘系統也在不斷發展和完善。未來的數據挖掘系統將更加註重智能化和自動化,以更好地適應快速變化的數據環境和用戶需求。通過不斷的技術創新和應用探索,數據挖掘將成為推動各行各業進步的重要力量。
Ⅱ 淺談數據挖掘與數據倉庫
淺談數據挖掘與數據倉庫
1數據挖掘
1.1數據挖掘與傳統數據分析的區別
數據挖掘與傳統的數據分析,如查詢、報表、聯機應用分析的本質區別是數據挖掘是在沒有明確假設的前提下去挖掘信息、發現知識。數據挖掘所得到的信息應具有先前未知、有效和實用三個特徵。即數據挖掘是要發現那些不能靠直覺發現的信息或知識,甚至是違背直覺的信息或知識,挖掘出的信息越出乎意料就可能越有價值。而傳統的數據分析趨勢為從大型資料庫抓取所需數據並使用專屬計算機分析軟體。因此數據挖掘與傳統分析方法有很大的不同。
1.2數據挖掘的應用價值
(1)分類:首先從數據中選出已經分好類的訓練集,在該訓練集上運用數據挖掘分類的技術,建立分類模型,對於沒有分類的數據進行分類。(2)估計:與分類類似,不同之處在於,分類描述的是離散型變數的輸出,而估值處理連續值的輸出;分類是確定數目的,估計是不確定的。(3)聚類:是對記錄分組。聚類和分類的區別是聚集不依賴於預先定義好的類,不需要訓練集。中國移動採用先進的數據挖掘工具馬克威分析系統,對用戶wap上網的行為進行聚類分析,通過客戶分群,進行精確營銷。(4)關聯規則和序列模式的發現:關聯是某種事物發生時其他事物會發生的這樣一種聯系。例如:每天購買啤酒的人也有可能購買香煙,比重有多大,可以通過關聯的支持度和可信度來描述。與關聯不同,序列是一種縱向的聯系。例如:今天銀行調整利率,明天股市的變化。(5)預測:通過分類或估值得出模型,該模型用於對未知變數的預言。(6)偏差的檢測:對分析對象的少數的、極端的特例的描述,揭示內在的原因。除此之外,在客戶分析,運籌和企業資源的優化,異常檢測,企業分析模型的管理的方面都有廣泛使用價值。
2數據倉庫
2.1數據倉庫的特徵
(1)面向主題(Subject Oriented)的數據集合。數據倉庫圍繞一些主題如顧客、供應商、產品和銷售來組織。數據倉庫關注決策者的數據建模與分析,而不是組織機構的日常操作和事務處理。(2)集成(Integrated)的數據集合。數據倉庫中的數據是在對原有分散的資料庫數據抽取、清理的基礎上經過系統加工、匯總和整理得到的,必須消除源數據中的不一致性,以保證數據倉庫內的信息是關於整個企業的一致的全局信息。(3)時變(Time Variant)的數據集合。數據存儲從歷史的角度提供信息。數據倉庫中的數據通常包含歷史信息,通過這些信息,可以對企業的發展歷程和未來趨勢做出定量分析和預測。(4)非易失(Nonvolatile)的數據集合。數據倉庫的數據主要供企業決策分析之用,所涉及的數據操作主要是數據查詢,修改和刪除操作很少,通常只需要定期的載入、刷新。數據倉庫里的數據通常只需要兩種操作:初始化載入和數據訪問,因此其數據相對穩定,極少或根本不更新。[page] 2.2數據倉庫的類型
數據倉庫的類型根據數據倉庫所管理的數據類型和它們所解決的企業問題范圍,一般可將數據倉庫分為下列3種類型:企業數據倉庫(EDW)、操作型資料庫(ODS)和數據集市(Data Marts)。①企業數據倉庫為通用數據倉庫,它既含有大量詳細的數據,也含有大量累贅的或聚集的數據,這些數據具有不易改變性和面向歷史性。此種數據倉庫被用來進行涵蓋多種企業領域上的戰略或戰術上的決策。②操作型資料庫既可以被用來針對工作數據做決策支持,又可用做將數據載入到數據倉庫時的過渡區域。與EDW相比,ODS是面向主題和面向綜合的,易變的,僅含有目前的、詳細的數據,不含有累計的、歷史性的數據。③數據集市是為了特定的應用目的或應用范圍,而從數據倉庫中獨立出來的一部分數據,也可稱為部門數據或主題數據。幾組數據集市可以組成一個EDW。
2.3數據倉庫與傳統資料庫的比較
二者的聯系既有聯系又有區別。數據倉庫的出現,並不是要取代資料庫。目前,大部分數據倉庫還是用關系資料庫管理系統來管理的。可以說,資料庫、數據倉庫相輔相成、各有千秋。二者的區別可以從以下幾個方面進行比較:
(1)出發點不同:資料庫是面向事務的設計;數據倉庫是面向主題設計的。(2)存儲的數據不同:資料庫一般存儲在線交易數據;數據倉庫存儲的一般是歷史數據。(3)設計規則不同:資料庫設計是盡量避免冗餘,一般採用符合範式的規則來設計;數據倉庫在設計是有意引入冗餘,採用反範式的方式來設計。(4)提供的功能不同:資料庫是為捕獲數據而設計,數據倉庫是為分析數據而設計。(5)基本元素不同:資料庫的基本元素是事實表,數據倉庫的基本元素是維度表。(6)容量不同:資料庫在基本容量上要比數據倉庫小的多。(7)服務對象不同:資料庫是為了高效的事務處理而設計的,服務對象為企業業務處理方面的工作人員;數據倉庫是為了分析數據進行決策而設計的,服務對象為企業高層決策人員。
3數據倉庫與數據挖掘的關系
當然為了數據挖掘你也不必非得建立一個數據倉庫,數據倉庫不是必需的。建立一個巨大的數據倉庫,把各個不同源的數據統一在一起,解決所有的數據沖突問題,然後把所有的數據導到一個數據倉庫內,是一項巨大的工程,可能要用幾年的時間花上百萬的錢才能完成。只是為了數據挖掘,你可以把一個或幾個事務資料庫導到一個只讀的資料庫中,就把它當作數據集市,然後在他上面進行數據挖掘。