《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 業界動態 > 基于決策樹的數據挖掘算法應用研究

基于決策樹的數據挖掘算法應用研究

2009-08-04
作者:常秉琨,李 莉

??? 摘 要:決策樹數據挖掘分類算法在金融客戶關系管理(CRM)中的應用為例,進行了數據挖掘的嘗試,從中發現企業產品的銷售規律和客戶群特征,從而提高CRM對市場活動和銷售活動的分析能力,得到了與實際經驗相符的結果和相應的“規則”,驗證了其可行性和可供決策支持的現實意義。
??? 關鍵詞:算法;數據挖掘;決策樹;客戶關系管理

?

??? 決策樹技術是一種對海量數據集進行分類的非常有效方法,通過決策樹的構造模型,從海量信息中挖掘有效的數據,提取有價值的分類規則,從而獲得有用的知識,為決策者提供支持,幫助決策者準確地預測[1]。本文研究了基于決策樹的數據挖掘的相關理論發展及實際應用,尤其是在商業中的應用,研究了決策樹算法在數據挖掘中應用,給出了在金融客戶關系管理中的具體算例。
1 決策樹的分類挖掘技術
1.1 決策樹的分類挖掘算法

??? 分類是數據挖掘中應用最多的任務,要為每個類別做出準確的描述或建立分析模型或挖掘出分類規則,然后用這個分類規則對其他數據庫中的記錄進行分類[2]。在具體分類中,總是希望進行較少的屬性測試,較快地給實例分類,因此在構建決策樹時,樹的高度越小越好。對于N個樣本,它們分成屬于類別Ci( i = 1 ,2 , …, C)的樣本集合,類別Ci中的樣本個
??? 數為Ni,每個樣本有K個屬性,每個屬性有JK個值。決策樹的構造過程如下:
??? (1)計算初始熵(熵用字符S表示):

???

??? (2)選擇一個屬性作為決策樹的根節點:
??? ①對每個屬性Ak( k = 1 ,2 , …,K ) 按照屬性Ak的J個Akj值,把原始樣本分成第1級樣本集。雖然Akj的分支含有nkj個樣本,但它們不一定屬于單一的類別;
??? ②對于每個分支的nkj個樣本,屬于類別Ci的樣本數目是nkj(i),用下式可以求出該分支的熵:

???

??? ③計算由測試屬性引起的熵降低,即
??? ④選擇產生最大熵降低的屬性AK0,即AK0滿足:
???
??? ⑤屬性AK0便是決策樹的根。
??? (3)由屬性將產生JK0個葉節點,并將樣本集分成JK0個子集,對每個葉節點上的樣本子集依次利用上面的方法選擇一個屬性Ay作為決策樹的下一級,使在該葉節點能得到最大的熵降低。
??? (4)按照步驟(3)不斷構造決策樹的下一級直至所有的樣本子集只有一個類別,這時表明系統的熵為零,決策樹構造過程完畢。
1. 2 決策樹分類挖掘系統的建立
??? 在對金融客戶進行分類分析的過程中,決策樹分類數據挖掘系統建立和應用的一個典型過程是:(1)根據客戶分類的標準,執行客戶分類算法,并將運行結果存儲于數據倉庫中,這樣,每個現有的客戶都具有一個確定的客戶類別;(2)根據歷史數據,主要是客戶的背景數據和客戶的分類數據,執行決策樹生成算法,針對每一種客戶類別,生成一棵決策樹,以一定的形式存放于數據倉庫中;(3)在以上過程執行完畢后,當一個新的客戶來辦理業務時,客戶經理可以首先在系統中調用決策樹展示模塊,系統將整個決策樹展示出來,然后系統根據客戶的具體背景情況預測客戶所屬的客戶類別,以及屬于該客戶類別的概率,并將這些情況展現給客戶經理,客戶經理根據這些情況,對該客戶采取相應的營銷策略,從而達到較好的效果。
2 基于決策樹的數據挖掘的案例分析
2.1 公司客戶關系數據庫

??? 利用決策樹實現客戶細分,主要是在基于客戶價值的客戶細分方法之上進行的,目的是通過了解客戶的特征性指標和行為性指標與客戶所在客戶類別的關系,可以了解同一價值客戶的差異性,有針對性地對不同客戶制定相應的銷售策略[3]。下面以河南省某金融企業的客戶關系管理(CRM)為例,該公司CRM數據如表1所示,說明基于決策樹的客戶分類數據挖掘技術在金融企業客戶關系管理中的應用,來具體闡述如何運用改進ID3算法進行數據挖掘。由于是以分析客戶的特征性指標為例的,所以從中選取了代表特征性的3個屬性:客戶年齡段、學歷以及職業。

?


2.2基于ID3的細分步驟
??? 對于N個樣本,它們分成屬于類別Ci( i = 1 ,2 , …, C )的樣本集合,類別Ci中的樣本個數為Ni,每個樣本有K個屬性,每個屬性有JK個值。類別是客戶類別,分為Ⅰ類客戶、Ⅱ類客戶、Ⅲ類客戶和Ⅳ類客戶4類。將具體的客戶年齡概化為≤25 、25~50 和≥50 3個年齡段,按學歷分為初等學歷、中等學歷和高等學歷3類。按職業分為商業人員、企業人員和其他人員3類。分別如表2、表3、表4所示。
???

?????
??? 決策樹的構造過程如下:
??? (1)計算初始熵(熵用字符S表示) :
????
??? (2) 選擇一個屬性作為決策樹的根節點:
??? ①對每個屬性Ak( k = 1 ,2 , …, K ) 按照屬性Ak的J個Akj值,把原始樣本分成第1級樣本集。雖然Akj的分支含有nkj個樣本,但它們不一定屬于單一的類別。
??? ②對于每個分支的nkj個樣本,屬于類別Ci的樣本數目是nkj(i),用下式可以求出該分支的熵:
???

??? ③計算由測試屬性引起的熵降低,即

???
??? 根據以上計算結果,得出最大熵降低的屬性是K3,即職業。
??? ⑤屬性職業便是決策樹的根。
??? (3) 由屬性將產生JK0個葉節點,并將樣本集分成個子集,對每個葉節點上的樣本子集依次利用上面的方法選擇一個屬性Ay作為決策樹的下一級,使在該葉節點能得到最大的熵降低。
??? (4) 按照步驟(3)不斷構造決策樹的下一級直至所有的樣本子集只有一個類別,這時表明系統的熵為零,決策樹構造過程完畢。然后根據上述的決策樹構造過程,得到圖1所示的決策樹。

?


2.3具體應用分析
??? 決策樹算法中屬性的取值,進一步細分所依據的是特征性指標和行為性指標,然后可以分別得出各種特征性指標和行為性指標與4類客戶之間的樹狀分類結構。下面以分析特征性指標為例,來說明決策樹的構建。
??? 決策樹構建之前,必須要找出決策樹的主屬性。決策樹主屬性的確定主要是根據具體的情況而定。所以客戶細分的主屬性應該是“客戶類別”,就是基于客戶價值的客戶細分得出的客戶類別。
??? 對于數據的選取,并不是所有的數據都符合要求,決策樹建立所要求的數據應是沒有噪音數據和缺失數據,這就需要對數據進行匯總處理。匯總處理一方面是將企業不同部門和不同分銷機構的數據進行集成;另一方面是將數據進行概化處理,即將低層次的原始數據替換為高層次的概念,以便于進行數據挖掘。
??? 分析圖1,從中可以明確4類客戶的特征屬性的大致排布情況,根據所了解的情況,能夠很方便地從客戶的這些特征中大概了解其在4 類客戶中所處的位置。用IF - THEN 的格式來表示樹狀圖的信息(以第Ⅲ類客戶為例),例如:
??? IF 職業=“商業員工”AND 年齡> 25 AND 年齡
??? < 50 AND 學歷=“初等教育”THEN 屬于Ⅲ類客戶
??? IF 職業=“企業員工”AND 年齡> 25 AND 年齡
??? < 50 AND學歷=“初等教育”OR 學歷=“中等教育”THEN 屬于Ⅲ類客戶
??? IF 職業=“其他員工”AND 年齡> 25 AND 學歷
??? ≠“高等教育”THEN 屬于Ⅲ類客戶???????????????????
??? 這些式子說明:對于“商業員工”的客戶來說,如果年齡在25~50 歲之間,學歷為“初等教育”,屬于Ⅲ類客戶;對于“企業員工”的客戶來說,如果年齡在25~50 歲之間,學歷為“中等教育”或者“高等教育”,屬于Ⅲ類客戶;對于“其他員工”的客戶來說,如果年齡大于25 歲,只要學歷不是“高等教育”,就屬于Ⅲ類客戶。
??? 根據上面分析第Ⅲ類客戶的結果,可以得出:不論客戶職業是什么,只要年齡在25~50 歲之間,學歷為“初等教育”的客戶,都屬于Ⅲ類客戶。由于Ⅲ類客戶是企業目前利潤的重要來源,所以企業就要吸引和保持住與Ⅲ類客戶之間的客戶關系,需要把營銷策略更傾向于年齡在25~50歲之間的客戶,而對于在該區間之外的客戶,需要有選擇性地開展促銷方式,例如對其他職業的客戶,就要考慮大于50歲的情況。由于Ⅰ類客戶對企業的貢獻很小,分析的必要性不大,所以重點是對Ⅱ、Ⅲ和Ⅳ類客戶的分析。通過這種分析方式,逐步把通過ID3得出的樹狀結構的所有分支都進行分析,可以了解企業的同一價值客戶在特征屬性上的差異性。同理再對客戶的行為性指標進行分析,可以得出同一價值客戶在行為屬性上的差異性。結合這兩方面,就能夠在了解客戶價值類別的基礎上,有針對性地對不同客戶制定相應的銷售策略,減少企業不必要的開銷,實現對客戶價值細分后的進一步細分。
??? 如何高效地整合和分析企業各部門和各級分銷機構內的銷售和客戶信息,使企業能夠從全局的角度了解和認識市場是CRM的重要任務之一,而基于決策樹的數據挖掘算法對于企業來說剛好可以實現這個任務。通過基于決策樹的客戶分類數據挖掘技術,可以了解客戶的特征性指標和行為性指標與客戶所在客戶類別的關系[4],使企業能夠在了解何種資源組合可以使得自己獲得高利潤的同時,有針對性地根據客戶的差異化和多變性需求制定相應的銷售策略,使得企業制定的營銷策略更加符合市場的需求,保持在市場中的競爭地位。
參考文獻
[1]? 張世海,劉曉燕,涂慶,等.基于決策樹的高層結構智能選型知識發現[J] .哈爾濱工業大學學報, 2005,37(4):451-454.
[2]?崔立新,苑森森,趙春喜.約束性相聯規則發現方法及算法[J].計算機學報,2000,22(2):216-220.
[3]?李緒成,王保保.挖掘關聯規則中Apriori算法的一種改進[J].計算機工程與應用,2002,28(7):104-105.
[4]?魏定國,彭宏.基于知識網絡的數據挖掘[J].計算機科學,2006,33(6):210-213.

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
亚洲亚洲精品三区日韩精品在线视频| 亚洲一区免费网站| 久久精品99国产精品酒店日本| 亚洲日韩欧美一区二区在线| 国产欧美日韩伦理| 欧美精选午夜久久久乱码6080| 欧美一区二区精品| 一区二区三区高清在线| 亚洲精品极品| 香蕉成人啪国产精品视频综合网| 亚洲另类在线一区| 国内成人精品2018免费看| 国产精品美女久久久久aⅴ国产馆| 欧美精品一区二区三区高清aⅴ| 久久蜜桃av一区精品变态类天堂| 一区二区精品| 亚洲日本久久| 亚洲区一区二| 欧美色播在线播放| 欧美啪啪成人vr| 久久精品动漫| 欧美亚洲综合另类| 亚洲午夜电影网| 99精品国产99久久久久久福利| 亚洲福利专区| 欧美一区永久视频免费观看| 亚洲一区二区在线免费观看视频| 一本色道精品久久一区二区三区| 亚洲日本久久| 亚洲精品久久久一区二区三区| 亚洲大胆av| 国产精品视频观看| 国产精品久久一级| 国产精品久久久久久久久婷婷| 欧美日韩亚洲一区二区三区四区| 欧美久久九九| 欧美国产在线观看| 欧美国产第一页| 男女视频一区二区| 欧美成ee人免费视频| 久久综合五月| 男女激情视频一区| 欧美高清一区| 蜜臀久久99精品久久久久久9 | 亚洲一区二区三区乱码aⅴ蜜桃女| aa级大片欧美三级| 99在线精品免费视频九九视| 一区二区三区四区精品| 在线亚洲一区二区| 亚洲午夜一区| 欧美亚洲在线播放| 久久国产精品黑丝| 亚洲国产精品精华液网站| 亚洲人成毛片在线播放| 夜夜狂射影院欧美极品| 亚洲一区二区三区高清| 亚洲一区二区三区午夜| 欧美在线不卡视频| 久久久中精品2020中文| 模特精品在线| 欧美日韩不卡在线| 国产精品久久久久9999| 国产亚洲一级高清| 在线观看视频一区二区| 亚洲精选久久| 亚洲视频第一页| 欧美亚洲视频| 久久xxxx精品视频| 亚洲精品国产精品国自产观看浪潮 | 欧美在线视频一区二区三区| 亚洲精品1234| 制服丝袜亚洲播放| 欧美一区二区三区在线视频| 久久影音先锋| 模特精品裸拍一区| 欧美视频在线免费| 国产丝袜一区二区| 亚洲破处大片| 亚洲永久在线| 久久国产精彩视频| 9人人澡人人爽人人精品| 欧美在线日韩在线| 欧美韩日亚洲| 国产精品美女久久久久av超清| 一区二区三区国产| 亚洲日本中文字幕免费在线不卡| 亚洲欧美日韩精品一区二区| 夜夜嗨av一区二区三区网页| 久久久噜噜噜久久狠狠50岁| 欧美吻胸吃奶大尺度电影| 1024国产精品| 欧美在线首页| 欧美在线你懂的| 国产精品国产三级国产专播精品人| 亚洲第一精品影视| 久久精品av麻豆的观看方式| 午夜视频在线观看一区| 欧美日韩中文在线| 亚洲人屁股眼子交8| 亚洲欧洲日韩女同| 鲁鲁狠狠狠7777一区二区| 国产视频一区在线观看| 亚洲一区二区网站| 亚洲欧美国产视频| 欧美日韩综合一区| 亚洲精品美女免费| 日韩视频在线免费观看| 美女国产精品| 在线高清一区| 亚洲国产成人av| 久久婷婷国产综合国色天香| 国产亚洲第一区| 午夜精品久久久久久久99樱桃| 亚洲在线视频免费观看| 欧美色网一区二区| 一区二区av在线| 亚洲婷婷免费| 欧美午夜精彩| 一二三区精品| 亚洲欧美日韩精品综合在线观看| 国产精品黄视频| 亚洲天堂视频在线观看| 亚洲自拍啪啪| 国产精品综合不卡av| 亚洲一区二区在线看| 午夜精品美女久久久久av福利| 国产精品乱码| 香蕉成人啪国产精品视频综合网| 久久激情综合网| 国产亚洲人成网站在线观看| 欧美一区二区三区四区在线观看地址 | 国产精品99免费看| 亚洲视频一区二区免费在线观看| 亚洲午夜精品久久久久久app| 欧美午夜电影在线观看| 亚洲视频一区在线观看| 欧美在线观看一区二区| 国产午夜精品在线观看| 久久精品首页| 欧美精品一卡二卡| 一区二区福利| 久久成人久久爱| 黄色欧美成人| 亚洲每日更新| 国产精品成人国产乱一区| 亚洲一区二区3| 久久久久久国产精品一区| 伊人久久噜噜噜躁狠狠躁| 99伊人成综合| 国产精品日韩高清| 久久精品二区| 欧美激情精品久久久久久| 亚洲天堂成人| 久久久噜噜噜久久人人看| 91久久夜色精品国产九色| 亚洲综合好骚| 国语自产偷拍精品视频偷| 亚洲精品永久免费| 欧美性久久久| 欧美中文字幕精品| 欧美精品入口| 亚洲免费在线| 免费成人黄色av| 在线视频日韩| 久久精品国产69国产精品亚洲| 亚洲电影第三页| 亚洲影视在线| 狠狠色2019综合网| 夜夜嗨网站十八久久| 国产精品视频一二| 亚洲人成久久| 国产精品免费在线| 亚洲精品久久| 国产欧美日韩在线| 日韩亚洲欧美精品| 国产欧美精品日韩区二区麻豆天美| 亚洲欧洲另类| 国产色产综合产在线视频| 99在线观看免费视频精品观看| 国产日韩一区二区三区在线| 夜夜嗨av一区二区三区中文字幕 | 99热在这里有精品免费| 久久精品国产一区二区三区免费看 | 久久久一本精品99久久精品66| 日韩手机在线导航| 久久青草久久| 亚洲天天影视| 欧美高清视频一区二区| 欧美一级在线播放| 欧美三级午夜理伦三级中视频| 久久精品亚洲一区| 国产精品伊人日日| 99热免费精品| 影音国产精品| 久久精品免费| 中文在线一区| 欧美精品日韩综合在线| 亚洲缚视频在线观看| 国产欧美在线播放| 亚洲女同同性videoxma|