建构整合决策树与关连规则之资料挖矿架构及实证研究

1、建構整合決策樹與關連規則之資料挖礦架構及實證研究期末報告組別：三資四B H24932128 謝殿臣資四B H24932089 黃孝慈資四B H24932437 顏姿青作者：楊景晴1一、緒論_研究背景及重要性隨著資訊科技的進步，企業所記錄或儲存的大量資料，對於不同階層的使用者來，資料代表著不同的意義與價值。當大量的資料被企業儲存起來，如何發揮與創造出資料價值變成為將資料由負債轉換資產的成功關鍵。2一、緒論_研究背景及重要性決策結果解釋(視覺化技術)資料挖礦(資訊探索)資料探索(OLAP、統計分析、查詢報表)資料倉儲、資料超市資料來源(資料庫系統、OLTP、檔案)資訊量 價值性決策者企業主管資料分

2、析者資料庫管理者圖1.1 企業中的資料階層3一、緒論_研究目的目的：事故排除方法： 建構整合決策樹與關連規則之資料挖礦架構及實證研究。實驗對象： 以台灣電力公司與某半導體廠兩個不同產業之案例做為實證，已檢驗此資料挖礦架構之效度。4一、緒論_論文結構與研究流程1.2圖研究流程問題定義與架構問題定義理論架構結果分析與討論結論專家訪談實證研究一台灣電力公司實證研究二某半導體大廠5二、文獻探討_知識發現與資料挖礦表2.2 資料挖礦的定義2.2圖 資料挖礦的四個循環確認問題類型評估挖礦結果採用適當工具進行挖礦工作6二、文獻探討_知識發現與資料挖礦2.3圖 資料挖礦過程的主要步驟問題定義獲取相關領域知識選

3、取資料資料前置處理分析與解釋報告與使用資訊7二、文獻探討_知識發現與資料挖礦2.4圖 資料挖礦專案流程步驟2.5圖 適用各產業之資料挖礦架構8二、文獻探討_資料挖礦模式與工具資料挖礦模式(Model)的六種形式資料挖礦模式(Model)分類迴歸時間序列分群關聯分析順序挖掘監督式學習非監督式學習9二、文獻探討_資料挖礦模式與工具2.6圖資料挖礦的技術資料挖礦(Data Mining)資料庫技術(Database Technology)統計學(Statistics)資訊科學(Information Science)機器學習(Machine Learning)視覺化技術(Visualization)

4、其他領域研究10二、文獻探討_資料挖礦挖掘結果類型資料挖礦所處理的問題類型由上而下:利用現有的模型來建立資料，藉此來描述某一特定變數。由下而上:不需要特別標註在某一變數或某一種値，而是試著尋找所有變數中是否有隱藏某種關係。分類(Classification)預測(Prediction) 分群(Clustering)關聯規則分析(Association Rule)資料挖礦所處理的問題類型由上而下 由下而上 11二、文獻探討_資料挖礦工具資料挖礦屬於探索導向，不需事先假設以求驗證。挖礦者需在一開始就釐清處理的工作目的為何？資料挖礦工具依照解決的問題類型與挖礦的目的而異。通常不會只使用單一工具來進行

5、挖掘工作。12二、文獻探討_資料挖礦工具表2.3 挖礦問題類型及可使用的工具 (附註:表工具可使用之挖掘問題類型) 問題類型 工具分類Classification預測Prediction關聯分組Affinity Grouping聚集分析Clustering基本統計關聯規則/購物籃分析記憶基礎法遺傳演算法 聚類偵測法鍊結分析法決策樹類神經網路13二、文獻探討_資料挖礦工具表2.4 資料挖掘工具的基本特性介紹的演算法如下:遺傳演算法類神經網路Fuzzy Logic記憶基礎理解決策樹。使用14種特性作介紹。14二、文獻探討_資料挖礦工具表2.5資料挖礦工具間的比較(附註:表資料挖礦工具能表現的能力)

6、 工具表現能力Regression/ANOVA類神經網路決策樹關聯規則模式使用上(Model free)對離群値的穩定性(Robust to Outliers)具體解釋能力(Physical intertation)連續變數處理能力(Continuous outputs)類別變數處理能力(Discrete outputs)15二、文獻探討_關聯規則是最常被應用的模式之一關聯規則分析（association Rule Analysis）從資料庫龐大的資料中，探索資料間欄位有趣的關係或相關性。購物籃分析如何從日積月累的交易資料中，以有效的方法找出商品間的關聯性，進而推斷消費者購買行為，創造無限商機

7、。16二、文獻探討_關聯規則定義與說明進行關聯規則挖礦時，作業流程的兩大步驟找出所有的高頻項目組(Frequent Itemsets)高頻項目組所出現的次數必須大於等於事先定義的最小支持度數目。此步驟決定了整體作業的效能從找到高頻項目組產生關聯規則所產生的規則必須滿足決策者所給定支持度與信賴度的最低門檻値，規則才成立。17二、文獻探討_關聯規則定義與說明定義描述18二、文獻探討_關聯規則定義與說明關聯規則的成立必須滿足決策者所訂定之最小支持度（Minmum Support Threshold），和最小信賴度(Minmum Confidence Threshold)。有意義的關聯規則其支持度與信

8、賴度必須大於或等於所訂定之最小門檻値。增益指標加入後，若增益大於1，則表示規則的預測結果比單純的亂數還要好，反之，則較差。19二、文獻探討_關聯規則定義與說明若規則表示為X=Y，則1.支持度（Support）在規則(Rule)中，項目(Items)一起出現的交易暨路佔全部交易紀錄的百分比。最小支持度控制了一個關聯規則必須涵蓋的最少資料數目，以篩選掉不顯著的規則，在實務上才有應用價値。支持度代表的意義為X與Y一起出現的機率。 20二、文獻探討_關聯規則定義與說明若規則表示為X=Y，則2.信賴度(Confidence)代表此條規則的預測強度。X發生之下發生Y結果的機率足以使得此關聯規則得以成立。計

9、算在前提項目X發生的情況下，發生結果Y的機率。 21二、文獻探討_關聯規則定義與說明若規則表示為X=Y，則3.增益(Lift or Improvement)比較信賴度與結果項目Y單獨發生時之機率兩者間的大小。關聯規則的條件機率比母體中原本發生的機率大才具有意義。 22二、文獻探討_關聯規則類型關聯規則類型1.以屬性質的形態為基礎若挖礦規則焦點放在項目(Item)是否出現，則稱為布林値的關聯規則(Boolean Association Rule) 。2.以規則中涵蓋資料維度為基礎若要挖礦的規則的項目或屬性著眼在單一維度時，稱之為單一維度關聯規則(Single Dimensional Associ

10、ation Rule) 。3.以規則集合中所涵蓋的抽象層級(Level of Abstraction)為基礎規則屬性或是項目全為同一層級，則稱為單一層級關聯規則(Single-Level Association Rule) 。23二、文獻探討_關聯規則類型2.7圖 概念層級樹24二、文獻探討_關聯規則演算法與特性表2.6 關聯規則演算法與特性演算法作者/年代主要特色缺點AprioriAgrawal(1994)反覆產生候選項目組，找出所有高頻項目組，進而推導規則。需反覆搜尋資料庫，花費I/O時間。PartitionSavasere(1995)將資料庫分區段，找出個區段之高頻項目組並集合之，再次搜

11、尋資料庫找出真正高頻項目組。在各區段中會產生較多非相關項目組。DHPJong等人(1997)利用雜湊表(hash table)刪減不必要的候選項目組。一開始會花時間建立hash tableBSMWur等人(1999)使用表格運算方式產生高頻項目組，改善Apriori多次掃描資料庫的缺點。需事先轉換運算表格。25二、文獻探討_關聯規則的應用1.商業應用藉由關聯規則方法了解顧客購買行為的資訊，協助零售業在進行商品擺放位置規畫。2.工業應用利用關聯規則發展一彈性且有項的巢式製造系統(Cellular Manufacturing System) ，找出機台間的最佳組合，形成群組技術(Group Tec

12、hnology) 。3.醫學應用利用關聯規則做藥品櫥位管理，或以過去看診暨路檢式藥品使用量與方法是否正確，並可分析個病例特徵間關聯程度。26二、文獻探討_決策樹決策樹監督式的特徵萃取演算法，廣泛應用來解決分類(Classification)形態問題的工具，亦可做為探索與預測之用。能夠將輸入變數依據某種規則或資料進行分類，並以樹枝狀方式表現類別之間由輸入變數所造成的區別，因此決策樹可對資料進行架構的分類。27二、文獻探討_決策樹決策樹演算法的四大步驟1.決策樹的切割(Splitting)決策樹須將輸入的預測變數作分類，用以解釋目標變數變異的原因。2.停止長樹(Stopping)當無法找出任何分隔

13、預測變數可以顯著降低下一節點的分散度，表示樹以生長完整(Complete) 。28二、文獻探討_決策樹決策樹演算法的四大步驟3.評估(Assessment)評估整個決策樹的錯分率(Misclassification) 或是評估每個節點的錯誤率(Error Rate) 。公式如下：29二、文獻探討_決策樹決策樹演算法的四大步驟4.決策樹的修剪當決策樹所生長的層級越深時，子節點的資料比數就會越來越少，資料的代表性就越低，所產生的法則可能會造成過度學習(Over Fitting)而產生偏差，此時演算法中就應加修剪的步驟。找出錯誤的分支給予修剪，如:CART、C4.5。以測試資料(Testing Da

14、ta)驗證、抽樣方法來減少決策樹過度學習現象的發生。30二、文獻探討_決策樹2.11圖修剪對錯誤率的影響31二、文獻探討_決策樹演算法表2.7 常用決策樹演算法之比較 演算法比較準則常見幾種決策樹的演算法CARTID3C4.5CHAID作者(年代)Briemen(1984)Quinlan(1986)Quinlin(1993)Hartigan(1975)處理資料形態離散、連續離散、連續離散、連續離散分裂樹二元樹不受限制不受限制不受限制連續形資料處理方式分2枝不受限制不受限制無法處理分枝準則Gini値Information GainGain_Ratio統計檢定(卡方分配)32二、文獻探討_決策樹於

15、事故診斷的相關研究表2.8 應用決策樹於事故排出之相關研究研究者實證對象使用的演算法Braha&Shmilovici(2003)半導體黃光區C4.5鄭人傑(2003)晶圓過站記綠與CP測試値Kruskal-Wallis、卡方交互影響檢測、變異降低分枝法則劉中光(2002)印刷電路板(PCB)決策樹結合SOM方法Raghavan(2002)良率、IC E-T Test parameter利用決策樹(CART、CHAID) Fan(2001)WAT、InLine Manufacturing data決策樹蔡智政(2001)晶圓批量製程管制(LPC)資料以CART決策樹分析LPC李培瑞(2001)半

16、導體WAT資料、CP資料結合人工類神經網路與決策樹林鼎浩(2000)半導體WAT與製造相關資料無母數Kruskal-Wallis統計檢定法33三、研究架構_問題定義透過清楚的問題定義，瞭解問題類型包含哪些類別，才知道有哪些是屬於關鍵性的資料。34三、研究架構_資料選擇對領域知識及問題有了基本的認識之後，便是進行資料選擇的工作，應先對資料有進一步的瞭解，而非將資料盲目的丟進模式分析。資料取得的方式如下表：檔案(File)好處是取得快速且閱讀容易，但是一旦建立好以後日後想再做資料處理就不太容易處理，如：Microsoft Excel。關聯資料庫(Relational Databases)在關聯式資

17、料庫中，透過查詢工具語言(SQL)可以蒐集到想要的資料。資料倉儲(Data Warehouse)資料量通常達數百Mega甚至上Giga，資料讀取方式是以切割的觀念，並非巷資料庫連結表格的方式處理35三、研究架構_資料前置處理一般資料可分成質與量兩類，質的資料又分成空間性與時間性兩種，掘取欲分析的資料，並以去蕪存菁的方式轉化處理，才能確保分析資料的品質和分析結果的正確性。資料前置處理的步驟需要不斷學習與經濟累積。資料前置處理形式資料清理資料整合資料轉換資料化約。36三、研究架構_資料前置處理資料前置處理通常會採取的動作如下：1.資料的基本分佈與檢視： 對於資料的基本數理特性做醫界面性的檢視，分佈

18、為常 態、非常態、偏右、偏左等，瞭解資料的長相與分佈以 便做後續處理。2.偏離值的檢測與處理： 對於散佈在正常分佈外的資料點作出處理，譬如直接刪 除還是保留其資訊。37三、研究架構_資料前置處理3.空白值與缺值的處理： 空白值與缺值所代表的意義並不相同，空白值為無法 填入的資料；缺值則為資料的遺漏或錯誤。要刪除該 筆資料或者以特殊方式補值，對於挖礦結果的解釋會 有不同的影響，所以須對資料有近一步的了解。4.資料為度轉換： 般而言高維度的資料計算複雜，所花費的時間較 多，因此維度的降低亦是一種重要的課題。38三、研究架構_資料前置處理5.資料格式化或分佈轉換： 資料處理時，資料的格式轉換與其所代

19、表的相對意義都須 瞭解。資料格式化和轉換亦會挖掘出另層意義的結果。 般將資料數字分成四種不同的衡量尺度，名義尺度、順 序尺度、區間尺度、比例尺度衡量。39三、研究架構_資料前置處理衡量的層次內容說明舉例名目尺度(Nominal Scale)又稱類別尺度，使用數字或標記區分物件或事件，此尺度並無大小之分。機台和貨批的編號等。順序尺度(Ordinal Scale)又稱等級尺度，就事務之某特質好壞次序加以排列，有方向次序的比較，但沒有距離或獨特的原點。各種Bin值的分類、成績區間尺度(Interval Scale)以此尺度表現之變數，可區分類別及排出大小順序之外，可算出差異之大小。區間尺度中，零點的

20、位置並非固定的，而且衡量的單位也是任意的。機台的溫度、量測的參數比例尺度(Ratio Scale)可說出名稱、排出順序、算出差距、亦可表示出比例的關係。比例尺度具有絕對零度的。化學藥劑使用量、重量40三、研究架構_目標與顯著變數的選取當目標變數與署醒確定後，接下來即確認預測變數。為避免加入對目標變數結果無顯著影響的資料，可利用統計方法檢定預測變數與目標變數是否獨立。41三、研究架構_目標與顯著變數的選取變數衡量尺度對應之統計檢定方法：獨立變數(Independent Variable)相依變數(Dependent Variable)變數尺度名目尺度順序尺度區間尺度名目尺度Chi-SquareC

21、hi-SquareChi-Square順序尺度Spearman積差相關區間尺度T-testANOVAT-test、ANOVA、K-W(無母數方法)Pearson相關Regression42三、研究架構_目標與顯著變數的選取K-W法適用資料分配不符合常態，或是已確定其為非常態分佈的情況下，此種檢驗對平均值差異敏感，可將此方法想像成一個對處理平均相等的檢驗。K-W Test 其主要步驟如下：1.先將觀測值依遞增順序，然後以 取代觀測值。2.令 處理i知下秩的和。3.求檢定統計量。N為所有觀測值的數目43三、研究架構_ K-W法 是第i個處理下的觀測值數目，N是所有觀測值的數目總和44三、研究架構_

22、 K-W法(a)當k=3, 時，可查詢K-T test檢定附 表，決定機率值P-value, 如果P-value 則拒絕虛無 假設，表示k可能不致。 (b) 當 ，則表示這K個處理中某些處理會產生 較其他處理為大的觀測值，可有效檢定在資料 非常態分佈時不同處理是有造成差異的原因。45三、研究架構_資料挖礦與決策樹資料挖礦對於不同的資料賀企業問題，不同的模式和演算法將可能產出最好的結果。決策樹決策樹會根據目標變數，將資料進行適當的分類，並以樹枝狀架構呈現其分類結果。由分類結果亦可萃取出其分類的特徵規則。46三、研究架構_關聯規則關聯規則關聯規則主要是從龐大資料中，探索資料間欄位的相關性，這些規則

23、展示了屬性值。在大量資料中找出有趣的規則，以便幫助使用者制定決策的依據。關聯規則步驟1.計算支持度2.找出所有的高頻項目組3.計算信賴度4.找出候選規則5.產生關聯規則6.整理Y為目標變數之規則47三、研究架構_整合決策樹與關聯規則工具決策樹關聯規則優點明白指出最佳變數的能力產生易於了解的規則節省分類時的計算時間可處理連續與類別變數能完整的呈現各變數之影 響，與變數組合能產生簡單明瞭的結論適用不同形式的原始資料計算模式簡單易懂缺點當類別太多時，資料量小， 錯誤會增加的比較快。無法 全面的看到各種變數的影響 程度對有時間順序的資料，需要 很多欲處理的工作結果多且凌亂，難已決定哪 一變數較重要與適

24、當的組合當問題變大時，運算量會成 幾何級數增加對於資料的個別資訊不甚重 視容易剷除罕見變數48三、研究架構_解釋與評估挖礦的結果對於工程師而言是否有提供幫助，整個挖掘的過程是否有效率，皆是透過結果解釋與討論重複循環，才可使得研究模式與結果更加完備。若挖掘出的樣形式有價值的，之後便可將相同屬性、類別的規則儲存至規則庫，以建立自動化的製程監控的事故偵測與分類機制或是事故排除的決策支援系統。49四、實證研究本章針對於兩種不同類型之產業資料，以前述所提之研究方法進行事故定位與事故診斷，以驗證整合決策樹與關聯規則資料挖礦架構之效度。50四、實證研究1_台灣電力配電事故定位問題定義配電事故為影響電力系統安

25、全性、可靠性以及供電品質的重要因素。但這樣一連串的試驗將對於線路造成損害，且也無法在短時間內使供電恢復，因此為提高供電品質，如何發展一個可以快速找到事故發生地點的方法，即成為電力公司所關心的議題。51四、實證研究1_台灣電力配電事故定位資料選擇 本研究所採用之資料為台電公司於 19951997 年間，針對臺北市區每次配電事故所記錄之配電事故紀錄表，共有 1649 筆資料，每筆配電事故資料皆記錄 23 項變數資料（如表 4.1）。首先針對損壞部位資料屬性進行統計與圖表分析，以初步檢視資料之分佈樣型，其分佈如圖 4.1 所示。52四、實證研究1_台灣電力配電事故定位資料前置處理 本案例為推導事故之

26、損壞設備與特殊的事故資料樣型，以快速的找到事故發生地點為目標，因此損壞部位屬性為本研究模式之目標項。 最後本實證研究的輸入與目標屬性如表 4.2 所示。 53四、實證研究1_台灣電力配電事故定位目標與顯著變數的選取 為推導事故之損壞設備與特殊的事故資料樣型，以快速的找到事故發生地點為目標，因此損壞部位為模式之目標變數，共 60 項變數值。由於輸入變數已刪除在找出事故地點之前並無法獲得資料，剩 8 個輸入變數，經由與工程師討論後，並不需刪減多餘變數，因此，直接將表 4.2 中的變數丟入模式中。54四、實證研究1_台灣電力配電事故定位資料挖礦-以關聯規則推導顯著事故定位規則經由資料的前置處理（圖

27、4.2）後，將資料格式轉換為能以挖礦模式建構分析的資料格式，設定參數後，推導顯著關聯規則。研究設定最小支持度為 1.67，最小信賴度為 50，而增益則需大於 1，參數設定依據如下。支持度信賴度增益55四、實證研究1_台灣電力配電事故定位資料挖礦-以關聯規則推導顯著事故定位規則評估規則好壞的參數錯分率（FP），希望所推導之規則，皆在所能容忍之決策風險下，因在此加入 ROC Curve 的觀念，隨著不同的臨界值條件下，TP比率與 FP比率變化所構成的特徵曲線，如圖 4.3 所示。關聯規則若有較大的 TP與較小的 FP，則此規則是較佳的。在此驗證中，錯分率小於 0.25。 56四、實證研究1_台灣電

28、力配電事故定位資料挖礦-以關聯規則推導顯著事故定位規則由表 4.3 可知，關聯規則結果僅與高壓電纜、用戶設備、高壓電纜直線接頭以及熔絲鏈開關四種損壞設備有關。在損壞設備為高壓電纜直線接頭與熔絲鏈開關所找出之規則，雖其信賴度只介於50%70%，但其規則之錯分率相當低，仍可容忍決策風險之內（0.25），因此，所找出之顯著規則是好的，可藉由此規則推斷出損壞部位。 57四、實證研究1_台灣電力配電事故定位資料挖礦-以決策樹挖掘顯著分類規則 利用 780 筆資料進行資料篩選，首先選出具有 13 筆資料以上之損壞部位，挑選過後僅剩下 650 筆資料以及 12 種損壞部位。以初步的簡化模式，形成決策樹的輸入

29、資料。其資料處理過程如圖 4.4 。針對此 699 筆資料進行資料分佈之繪製，可得圖 4.5 之次數分佈圖。 58四、實證研究1_台灣電力配電事故定位資料挖礦-以決策樹挖掘顯著分類規則 本研究決策樹所使用軟體為 Scenario，其演算法的結果類似 CHAID，若針對連續型的目標變數是以F-Test作為分枝方法，若針對間斷型的變數，其以Chi-Square Test 作為分枝準則。在長樹的過程設定上，枝葉中顯著目標變數值資料最少需有 13 筆資料，且下一層的子集合純度一定要比上一層的母集合（Parentsubset）較高，且下一層子集合正確率（純度）需大於 50%，以使得枝葉具有絕對之顯著程度

30、，以及最多有三層枝葉等。 59四、實證研究1_台灣電力配電事故定位解釋與評估 決策樹提供影響目標變數之關鍵預測變數資訊，提供工程師快速且準確之事故定位資訊參考。決策樹的結果呈現上，會將影響最大的變數放在第一層，且顯示變數之間的相對關係，但這樣的作法會將其他變數之影響分散在較下層的枝葉中，而無法全面的看到各種變數的影響程度。關聯規則之結果為針對整體資料而言，顯示各關聯規則之顯著性，其優點為能夠更完整的呈現各變數之影響，缺點則是關聯規則之結果多且零亂。 60四、實證研究1_台灣電力配電事故定位解釋與評估本案例之研究目的，在特定決策環境下推測配電事故的樣型，減少事故定位所需的時間，因此，在顯著關聯規

31、則的篩選，加入 ROC 曲線中的錯分率概念，以期望每筆決策規則，都在工程師可容忍的風險下。61四、實證研究2_以某半導體廠工程資料為實證對象 問題定義半導體產品製造製程中，若有貨批出現了低良率的問題，這將會導致工廠的生產力下滑及製造成本的增加。因此，我們必須回溯相關的製造資料並尋找影響良率的原因，以儘快解決此製程問題。62四、實證研究2_以某半導體廠工程資料為實證對象資料選擇 積體電路的製程相當複雜，往往需經過數百個不同的站別、流程才完成。且加上產品特性差異，因而製造程式等種種環境參數亦會有所不同。在生產製造的過程中，會累積大量產品經過電性測試或是物理特性監控量測的結果，以檢驗產品是否在規格內

32、的資料。整個資料蒐集流程可見圖 4.6。 63四、實證研究2_以某半導體廠工程資料為實證對象資料選擇資料類型大概可以分成幾大類：WIP 類型（Wafer In Process）Metrology 類型Defect 類型Parametric 類型Bin Map類型Non-Lot類型大量的製程資料，記錄了晶圓在製造與測試的種種狀況。因此工程師便可以透過工程資料分析系統瞭解產品的生產測試狀況，以進行製程的改善與事故診斷。 64四、實證研究2_以某半導體廠工程資料為實證對象資料前置處理 工程資料主要可分為四部分：基本資料、歷史資料、CP 資料、WAT 資料。經過前置處理後，可從圖 4.7 良率分佈圖中

33、見，CP 良率值大致可區分成兩群，以 60 為分界值，將 CP 良率值大於等於 60 為高良率，小於 60 為低良率（與 k-mean 分群的結果相同，圖 4.8）。65四、實證研究2_以某半導體廠工程資料為實證對象目標與顯著變數的選取首先，利用 Kruskal-Wallis 檢定來檢測是否在屬性之各層級下，其目標變數晶片針測良率是否具有顯著的差異。在此所設定的顯著水準為0.05。Kruskal-Wallis 檢定選取出 36 的顯著的候選屬性，由 P-value 由小排到大。66四、實證研究2_以某半導體廠工程資料為實證對象資料挖礦-決策樹分析以萃取特徵將目標資料分成兩群，cluster 1 為所定義之高良率，cluster 2 為所定義之低良率，經