關聯演算法

❶ 在線急求apriori演算法，要求能實現關聯規則

摘 要
隨著信息時代的發展，信息量呈幾何級數增長，人們發現從這些海量信息中獲取有用的信息越來越困難，要找出信息背後隱藏的規律更是不可想像。數據挖掘就是從大量數據中獲取有用信息的一門新技術，關聯規則挖掘是數據挖掘方法中的一種。本文詳細論述了基於Apriori演算法的關聯規則挖掘系統的設計開發過程。系統基於經典的Apriori演算法，對事務資料庫進行了點陣圖矩陣轉換，大大提高了搜索效率，並能分別挖掘頻繁項集和關聯規則。
論文組織如下：首先介紹了數據挖掘的產生、定義和應用；接著闡述了關聯規則挖掘的基本概念；然後對系統的需求進行了分析，並提出設計方案；緊接著是系統的具體實現；最後對系統進行了測試，將系統用於挖掘中葯方劑庫中的葯對葯組，驗證了系統的正確性和實用性。
關鍵詞：數據挖掘；關聯規則；Apriori演算法

需求分析和設計方案
4.1需求分析
由於事務資料庫一般只具有對大量數據的存取、檢索功能，對於用戶的一般性的使用可以滿足，然而，正是由於資料庫中存放了大量的數據，不同的數據項，以及多個數據項之間還存在有大量的隱含的、未知的、有意義的數據關系，這些關系對於用戶有著及其重要的作用，所以數據挖掘便在此情況下產生了。而關聯規則挖掘是數據挖掘中一個重要規則，Apriori演算法又是關聯挖掘的一個經典演算法，它能發現大量數據中項集之間有趣的關聯和相關聯系。隨著大量數據不停地收集和存儲，許多業界人士對於從他們的資料庫中挖掘關聯規則越來越感興趣。從大量商務事務記錄中發現有趣的關聯關系，可以幫助許多商務決策的制定，如分類設計、交叉購物和促銷分析。

1引言
隨著資料庫技術的迅速發展以及資料庫管理系統的廣泛應用，人們積累的數據越來越多。激增的數據背後隱藏著許多重要的信息，人們希望能夠對其進行更高層次的分析，以便更好地利用這些數據。目前的資料庫系統可以高效地實現數據的錄入、查詢、統計等功能，但無法發現數據中存在的關系和規則，無法根據現有的數據預測未來的發展趨勢。缺乏找出數據背後隱藏的知識的手段，導致了「數據爆炸但知識貧乏」的現象。於是數據挖掘技術應運而生，並顯示出強大的生命力。數據挖掘就是從大量的、不完全的、有雜訊的、模糊的、隨機的數據中，提取隱含在其中的、人們事先不知道的、但又是潛在有用的信息和知識的過程。它使人類分析問題和發現知識能力得到了延伸。
2數據挖掘概述
2.1數據挖掘的產生
隨著信息時代的發展，信息量呈幾何級數增長，然而用於對這些數據進行分析處理的工具卻很少，人們擁有了海量的數據的同時卻苦於信息的缺乏。而激增的數據背後隱藏著許多重要的信息，人們希望能夠對其進行更高層次的分析，以便更好地利用這些數據。目前的資料庫系統可以高效地實現數據的錄入、查詢、統計等功能，但無法發現數據中存在的關系和規則，無法根據現有的數據預測未來的發展趨勢。缺乏挖掘數據背後隱藏的知識的手段，導致了「數據爆炸但知識貧乏」的現象。信息爆炸是一把雙刃劍：巨量的信息既是最重要的財富，又是最危險的殺手。巨量信息也導致決策與理解危機。面對「人人被數據淹沒，人們卻飢餓於知識」的挑戰，數據挖掘和知識發現技術應運而生，並得以蓬勃發展，越來越顯示出其強大的生命力。
數據挖掘是信息技術自然演化的結果。演化過程的見證是資料庫業界開發以下功能：數據收集和資料庫創建，數據管理（包括數據存儲和檢索，資料庫事務處理），以及數據分析與理解（涉及數據倉庫和數據挖掘）。例如，數據收集和資料庫創建機制的早期開發已成為稍後數據存儲和檢索、查詢和事務處理有效機制開發的必備基礎。隨著提供查詢和事務處理的大量資料庫系統廣泛付諸實踐，數據分析和理解自然成為下一個目標。
2.2數據挖掘的定義
數據挖掘是從大量數據中提取或「挖掘」知識。具體來說，數據挖掘就是從大量的、不完全的、有雜訊的、模糊的、隨機的數據中，提取隱含在其中的、人們事先不知道的、但又是潛在有用的信息和知識的過程。
人們把原始數據看作是形成知識的源泉，就像從礦石中采礦一樣。原始數據有結構化的，如關系資料庫中的數據，也有半結構化的，如文本、圖形、圖像數據，甚至是分布在網路上的異構型數據。發現知識的方法可以是數學的，也可以是非數學的;可以是演繹的，也可以是歸納的。發現了的知識可以被用於信息管理、查詢優化、決策支持、過程式控制制等，還可以用於數據自身的維護。因此，數據挖掘是一門很廣義的交叉學科，它匯聚了不同領域的研究者，尤其是資料庫、人工智慧、數理統計、可視化、並行計算等方面的學者和工程技術人員。
數據挖掘使用復雜的統計分析和建模技術來揭示企業資料庫中隱藏的模式與關系——而這些模式是有可能被普通的方法所忽略的。數據挖掘從數據的分析入手、幫助決策，能從數據中尋找有價值的規律的技術。同時它也代表一個分析過程，我們具體化為方法學。實際上，資料庫中的知識發現是一門交叉性學科，涉及到機器學習、模式識別、統計學、智能資料庫、知識獲取、數據可視化、高性能計算、專家系統等多個領域。從資料庫中發現出來的知識可以用在信息管理、過程式控制制、科學研究、決策支持等許多方面。
特別要指出的是，數據挖掘技術從一開始就是面向應用的。它不僅是面向特定資料庫的簡單檢索查詢調用，而且要對這些數據進行微觀、中觀乃至宏觀的統計、分析、綜合和推理，以指導實際問題的求解，企圖發現事件間的相互關聯，甚至利用已有的數據對未來的活動進行預測。
許多人把數據挖掘視為另一個常用的術語資料庫中的知識發現或KDD (knowledge discovery in databases)的同義詞。而另一些人只是把數據挖掘視為資料庫中知識發現過程的一個基本步驟。知識發現過程如圖1所示，由以下步驟組成：
1) 數據清理（消除雜訊或不一致數據）
2) 數據集成（多種數據源可以組合在一起）
3) 數據選擇（從資料庫中檢索與分析任務相關的數據）
4) 數據變換（數據變換或統一成適合挖掘的形式，如通過匯總或聚集操作）
5) 數據挖掘（基本步驟，使用智能方法提取數據模式）
6) 模式評估（根據某種興趣度度量，識別出真正有 趣的模式）
7) 知識表示（使用可視化和知識表示技術，向用戶提供挖掘的知識）

❷ 網路購物推薦產品的關聯演算法是屬於機器學習的哪類演算法

屬於推薦系統，這個現在也經常用神經網路來實現，不用老式的機器學習演算法。

❸ 啤酒尿布的關聯演算法怎麼來的

所謂關聯，反映的是一個事件和其他事件之間依賴或關聯的知識。當我們查找英文文獻的時候，可以發現有兩個英文詞都能形容關聯的含義。第一個是相關性relevance，第二個是關聯性association，兩者都可以用來描述事件之間的關聯程度。其中前者主要用在互聯網的內容和文檔上，比如搜索引擎演算法中文檔之間的關聯性，我們採用的詞是relevance；而後者往往用在實際的事物之上，比如電子商務網站上的商品之間的關聯度我們是用association來表示的，而關聯規則是用association rules來表示的。

如果兩項或多項屬性之間存在關聯，那麼其中一項的屬性值就可以依據其他屬性值進行預測。簡單地來說，關聯規則可以用這樣的方式來表示：A→B，其中A被稱為前提或者左部（LHS），而B被稱為結果或者右部（RHS）。如果我們要描述關於尿布和啤酒的關聯規則（買尿布的人也會買啤酒），那麼我們可以這樣表示：買尿布→買啤酒。

關聯演算法的兩個概念

在關聯演算法中很重要的一個概念是支持度（Support），也就是數據集中包含某幾個特定項的概率。

比如在1000次的商品交易中同時出現了啤酒和尿布的次數是50次，那麼此關聯的支持度為5%。

和關聯演算法很相關的另一個概念是置信度（Confidence），也就是在數據集中已經出現A時，B發生的概率，置信度的計算公式是 ：A與B同時出現的概率/A出現的概率。

數據關聯是資料庫中存在的一類重要的可被發現的知識。若兩個或多個變數的取值之間存在某種規律性，就稱為關聯。關聯可分為簡單關聯、時序關聯、因果關聯等。關聯分析的目的是找出資料庫中隱藏的關聯網。有時並不知道資料庫中數據的關聯函數，或者即使知道也是不確定的，因此關聯分析生成的規則帶有置信度。

關聯規則挖掘發現大量數據中項集之間有趣的關聯或相關聯系。它在數據挖掘中是一個重要的課題，最近幾年已被業界所廣泛研究。

關聯規則挖掘的一個典型例子是購物籃分析。關聯規則研究有助於發現交易資料庫中不同商品（項）之間的聯系，找出顧客購買行為模式，如購買了某一商品對購買其他商品的影響。分析結果可以應用於商品貨架布局、貨存安排以及根據購買模式對用戶進行分類。

關聯規則的發現過程可分為如下兩步：

第一步是迭代識別所有的頻繁項目集（Frequent Itemsets），要求頻繁項目集的支持度不低於用戶設定的最低值；

第二步是從頻繁項目集中構造置信度不低於用戶設定的最低值的規則，產生關聯規則。識別或發現所有頻繁項目集是關聯規則發現演算法的核心，也是計算量最大的部分。

支持度和置信度兩個閾值是描述關聯規則的兩個最重要的概念。一項目組出現的頻率稱為支持度，反映關聯規則在資料庫中的重要性。而置信度衡量關聯規則的可信程度。如果某條規則同時滿足最小支持度（min-support）和最小置信度（min-confidence），則稱它為強關聯規則。

關聯規則數據挖掘階段

第一階段必須從原始資料集合中，找出所有高頻項目組（Large Itemsets）。高頻的意思是指某一項目組出現的頻率相對於所有記錄而言，必須達到某一水平。以一個包含A與B兩個項目的2-itemset為例，我們可以求得包含{A,B}項目組的支持度，若支持度大於等於所設定的最小支持度（Minimum Support）門檻值時，則{A,B}稱為高頻項目組。一個滿足最小支持度的k-itemset，則稱為高頻k-項目組（Frequent k-itemset），一般表示為Large k或Frequent k。演算法並從Large k的項目組中再試圖產生長度超過k的項目集Large k+1，直到無法再找到更長的高頻項目組為止。

關聯規則挖掘的第二階段是要產生關聯規則。從高頻項目組產生關聯規則，是利用前一步驟的高頻k-項目組來產生規則，在最小可信度（Minimum Confidence）的條件門檻下，若一規則所求得的可信度滿足最小可信度，則稱此規則為關聯規則。

例如：經由高頻k-項目組{A,B}所產生的規則，若其可信度大於等於最小可信度，則稱{A,B}為關聯規則。

就「啤酒＋尿布」這個案例而言，使用關聯規則挖掘技術，對交易資料庫中的記錄進行資料挖掘，首先必須要設定最小支持度與最小可信度兩個門檻值，在此假設最小支持度min-support=5% 且最小可信度min-confidence=65%。因此符合需求的關聯規則將必須同時滿足以上兩個條件。若經過挖掘所找到的關聯規則 {尿布，啤酒}滿足下列條件，將可接受{尿布，啤酒} 的關聯規則。用公式可以描述為：

Support（尿布，啤酒）≥5% and Confidence（尿布，啤酒）≥65%。

其中，Support（尿布，啤酒）≥5%於此應用範例中的意義為：在所有的交易記錄資料中，至少有5%的交易呈現尿布與啤酒這兩項商品被同時購買的交易行為。Confidence（尿布，啤酒）≥65%於此應用範例中的意義為：在所有包含尿布的交易記錄資料中，至少有65%的交易會同時購買啤酒。

因此，今後若有某消費者出現購買尿布的行為，我們將可推薦該消費者同時購買啤酒。這個商品推薦的行為則是根據{尿布，啤酒}關聯規則而定，因為就過去的交易記錄而言，支持了「大部分購買尿布的交易，會同時購買啤酒」的消費行為。

從上面的介紹還可以看出，關聯規則挖掘通常比較適用於記錄中的指標取離散值的情況。

如果原始資料庫中的指標值是取連續的數據，則在關聯規則挖掘之前應該進行適當的數據離散化（實際上就是將某個區間的值對

❹ 簡述一種關聯規則挖掘演算法基本過程。《數據挖掘》作業題追分100

Apriori演算法是一種發現頻繁項集的基本演算法。演算法使用頻繁項集性質的先驗知識。Apriori演算法使用一種稱為逐層搜索的迭代方法，其中K項集用於探索(k+1)項集。首先，通過掃描資料庫，累計每個項的計數，並收集滿足最小支持度的項，找出頻繁1項集的集合。該集合記為L1.然後，使用L1找出頻繁2項集的集合L2，使用L2找到L3，如此下去，直到不能再找到頻繁k項集。
Apriori演算法的主要步驟如下：
(1)掃描事務資料庫中的每個事務，產生候選1．項集的集合Cl；
(2)根據最小支持度min_sup，由候選l-項集的集合Cl產生頻繁1一項集的集合Ll；
(3)對k=l；
(4)由Lk執行連接和剪枝操作，產生候選(k+1)．項集的集合Ck+l-
(5)根據最小支持度min_sup，由候選(k+1)一項集的集合Ck+l產生頻繁(k+1)-項
集的集合Lk+1．
(6)若L⋯≠①，則k．k+1，跳往步驟(4)；否則，跳往步驟(7)；
(7)根據最小置信度min_conf,由頻繁項集產生強關聯規則，結束。

❺ 關聯規則apriori演算法用什麼軟體做

1.1 什麼是關聯規則
一言蔽之，關聯規則是形如X→Y的蘊涵式，表示通過X可以推導「得到」Y，其中X和Y分別稱為關聯規則的先導(antecedent或left-hand-side, LHS)和後繼(consequent或right-hand-side, RHS)
1.2 如何量化關聯規則
關聯規則挖掘的一個典型例子便是購物車分析。通過關聯規則挖掘能夠發現顧客放入購物車中的不同商品之間的關聯，分析顧客的消費習慣。這種關聯規則的方向能夠幫助賣家了解哪些商品被顧客頻繁購買，從而幫助他們開發更好的營銷策略。比如：將經常同時購買的商品擺近一些，以便進一步刺激這些商品一起銷售；或者，將兩件經常同時購買的商品擺遠一點，這樣可能誘發買這兩件商品的用戶一路挑選其他商品。
在數據挖掘當中，通常用「支持度」（support）和「置性度」（confidence）兩個概念來量化事物之間的關聯規則。它們分別反映所發現規則的有用性和確定性。比如：
Computer => antivirus_software , 其中 support=2%, confidence=60%
表示的意思是所有的商品交易中有2%的顧客同時買了電腦和殺毒軟體，並且購買電腦的顧客中有60%也購買了殺毒軟體。在關聯規則的挖掘過程中，通常會設定最小支持度閾值和最小置性度閾值，如果某條關聯規則滿足最小支持度閾值和最小置性度閾值，則認為該規則可以給用戶帶來感興趣的信息。
1.3 關聯規則挖掘過程
1）幾個基本概念：
關聯規則A->B的支持度support=P(AB)，指的是事件A和事件B同時發生的概率。
置信度confidence=P(B|A)=P(AB)/P(A),指的是發生事件A的基礎上發生事件B的概率。
同時滿足最小支持度閾值和最小置信度閾值的規則稱為強規則。
如果事件A中包含k個元素，那麼稱這個事件A為k項集，並且事件A滿足最小支持度閾值的事件稱為頻繁k項集。
2）挖掘過程：
第一，找出所有的頻繁項集；
第二，由頻繁項集產生強規則。
2． 什麼是Apriori
2.1 Apriori介紹
Apriori演算法使用頻繁項集的先驗知識，使用一種稱作逐層搜索的迭代方法，k項集用於探索(k+1)項集。首先，通過掃描事務（交易）記錄，找出所有的頻繁1項集，該集合記做L1，然後利用L1找頻繁2項集的集合L2，L2找L3，如此下去，直到不能再找到任何頻繁k項集。最後再在所有的頻繁集中找出強規則，即產生用戶感興趣的關聯規則。
其中，Apriori演算法具有這樣一條性質：任一頻繁項集的所有非空子集也必須是頻繁的。因為假如P(I)< 最小支持度閾值，當有元素A添加到I中時，結果項集（A∩I）不可能比I出現次數更多。因此A∩I也不是頻繁的。
2.2 連接步和剪枝步
在上述的關聯規則挖掘過程的兩個步驟中，第一步往往是總體性能的瓶頸。Apriori演算法採用連接步和剪枝步兩種方式來找出所有的頻繁項集。
1） 連接步
為找出Lk（所有的頻繁k項集的集合），通過將Lk-1（所有的頻繁k-1項集的集合）與自身連接產生候選k項集的集合。候選集合記作Ck。設l1和l2是Lk-1中的成員。記li[j]表示li中的第j項。假設Apriori演算法對事務或項集中的項按字典次序排序，即對於（k-1）項集li，li[1]<li[2]<……….<li[k-1]。將Lk-1與自身連接，如果(l1[1]=l2[1])&&( l1[2]=l2[2])&&……..&& (l1[k-2]=l2[k-2])&&(l1[k-1]<l2[k-1])，那認為l1和l2是可連接。連接l1和l2 產生的結果是{l1[1],l1[2],……,l1[k-1],l2[k-1]}。
2） 剪枝步
CK是LK的超集，也就是說，CK的成員可能是也可能不是頻繁的。通過掃描所有的事務（交易），確定CK中每個候選的計數，判斷是否小於最小支持度計數，如果不是，則認為該候選是頻繁的。為了壓縮Ck,可以利用Apriori性質：任一頻繁項集的所有非空子集也必須是頻繁的，反之，如果某個候選的非空子集不是頻繁的，那麼該候選肯定不是頻繁的，從而可以將其從CK中刪除。
（Tip：為什麼要壓縮CK呢？因為實際情況下事務記錄往往是保存在外存儲上，比如資料庫或者其他格式的文件上，在每次計算候選計數時都需要將候選與所有事務進行比對，眾所周知，訪問外存的效率往往都比較低，因此Apriori加入了所謂的剪枝步，事先對候選集進行過濾，以減少訪問外存的次數。）

❻ 關聯規則演算法的關聯規則的定義

所謂關聯，反映的是一個事件和其他事件之間依賴或關聯的知識。當我們查找英文文獻的時候，可以發現有兩個英文詞都能形容關聯的含義。第一個是相關性relevance，第二個是關聯性association，兩者都可以用來描述事件之間的關聯程度。
設I={i1,i2…,im}為所有項目的集合，設A是一個由項目構成的集合，稱為項集。事務T是一個項目子集,每一個事務具有唯一的事務標識Tid。事務T包含項集A，當且僅當AT。如果項集A中包含k個項目，則稱其為k項集。D為事務資料庫，項集A在事務資料庫D中出現的次數佔D中總事務的百分比叫做項集的支持度（support）。如果項集的支持度超過用戶給定的最小支持度閾值，就稱該項集是頻繁項集（或大項集）。
關聯規則就是形如XY的邏輯蘊含關系，其中XI，YI且XY=Φ，X稱作規則的前件，Y是結果，對於關聯規則XY，存在支持度和信任度。
支持度是指規則中所出現模式的頻率，如果事務資料庫有s%的事務包含XY，則稱關聯規則XY在D中的支持度為s%，實際上，可以表示為概率P（XY），即support（XY）= P（XY）。信任度是指蘊含的強度，即事務D中c%的包含X的交易同時包含XY。若X的支持度是support(x)，規則的信任度為即為：support(XY)/support(X)，這是一個條件概率P（Y|X），即confidence（XY）= P（Y|X）。

❼ 關聯演算法(關聯規則學習) 的理論定義假設中哪個地方用到(X È Y概率)哪個地方用到條件概率

關聯規則，是量化一個蘊含表達式X->Y，的支持度和置信度，當表達式的支持度和執行度都超過我們設定的閾值的時候，找出這樣的規則出來
其中支持度就是x和y的，共同出現的概率
知信度就是在x出現的條件下，Y出現的概率，就是你說的條件概率了

❽ 關聯規則演算法怎麼刻畫相似度

關聯規則原始的定義裡面並沒有相似度的概念
只有支持度和置信度，
支持度 (A->B )=P(AB) 就是AB出現的概率
支持度 (A->B )=P(B|A) 就是A發生條件下B發生的概率。
相似度公式cosine (A->B) = P(AB)/√P(A)P(B)
不知道是不是你要的