AI60問-Q25決策樹什麼時候使用?有什麼優缺點?

by 提拔我園丁
緯育TibaMe AI小教室-Q25決策樹什麼時候使用?有什麼優缺點?

先前在Q23什麼是決策樹演算法?為大家介紹了什麼是決策樹、構建的基本步驟、三種典型的決策樹演算法淺談決策樹的優缺點,今天將進一步分享決策樹的使用,針對優缺點有更深入的說明。

決策樹的使用:

決策樹是附加概率結果的一個樹狀的決策圖,是直觀的運用統計概率分析的圖法。機器學習中決策樹是一個預測模型,它表示物件屬性和物件值之間的一種對映,樹中的每一個節點表示物件屬性的判斷條件,其分支表示符合節點條件的物件。樹的葉子節點表示物件所屬的預測結果。


圖25-1 決策樹案例圖

圖 25-1 是一棵結構簡單的決策樹,用於預測貸款使用者是否具有償還貸款的能力。
貸款使用者具備三個屬性:「是否擁有房產」,「是否結婚」,「平均年收入」。
每一個內部節點都代表著一個屬性條件判斷,葉子節點表示貸款使用者是否具有償還能力

舉例:使用者甲沒有房產,沒有結婚,年收入50萬。
通過決策樹的根節點判斷,使用者甲符合右邊分支 (擁有房產為否」);
再判斷是否結婚,使用者甲符合左邊分支 (是否結婚為「否」);
然後判斷年收入是否大於50萬,
使用者甲符合左邊分支 (年收入大於等於 50萬),
該使用者落在「可以償還」的葉子節點上。
所以預測使用者甲具備償還貸款能力。  

決策樹優點

相較與其他的演算法,決策樹擁有幾個優勢:

  • 測試數據集時,運行速度比較快。
  • 擅長能夠處理不相關的特徵, 決策樹易於理解和實現,人們在通過解釋後都有能力去理解決策樹所表達的意義。
  • 其他的技術往往要求數據屬性的單一, 但決策樹可以同時處理標稱型和數值型數據。
  • 對於決策樹,數據的準備往往是簡單或者是不必要的,其他的技術往往要求先把數據一般化,比如去掉多餘的或者空白的屬性。
  • 在相對短的時間內能夠對大型數據源做出可行且效果良好的結果。
  • 是一個白盒模型,如果給定一個觀察的模型,那麼根據所產生的決策樹很容易推出相應的邏輯表達式。
  • 易於通過靜態測試來對模型進行評測。表示有可能測量該模型的可信度。
  • 效率高,決策樹只需要一次構建,可反覆使用,每一次預測的最大計算次數不超過決策樹的深度。

決策樹缺點

  • 對於那些各類別樣本數量不一致的數據,在決策樹當中信息增益的結果偏向於那些具有更多數值的特徵。
  • 連續性的欄位比較難預測
  • 有時間順序的資料,需要較多的預處理的工作。
  • 類別太多時,會影響表現,錯誤可能就會增加的比較快。
  • 決策樹不會給正確答案,它會同時得出許多可能答案。隨著樹的根結點改變,可能得到不同結果。
  • 不穩定性,擾亂一點,改動一點值,決策樹就會改變。
  • 一般的演算法分類的時候,只是根據一個欄位來分類。
    在處理特徵關聯性比較強的資料時表現得不是太好。
舉例:以分類迴歸樹(CART,Classification And Regression Tree)為例,
它也屬決策樹的一種,
採用基於最小距離的基尼指數估計函數,用來決定由該子數據集生成的決策樹的拓展形。
決策樹回歸方法,採用切分點與切分變量來計算的損失來估計函數。
如果目標變量是標稱的,稱為分類樹;
如果目標變量是連續的,稱為回歸樹。
分類樹是使用樹結構算法將數據分成離散類的方法。

優點:非常靈活,可以允許有部分錯分成本,還可指定先驗概率分佈,
可使用自動的成本複雜性剪枝來得到歸納性更強的樹,
產生出的分類規則易於理解,準確率較高缺點:在構造樹的過程中,需要對數據集進行多次的順序掃描和排序,因而導致算法的低效。
此外,C4.5(註1)只適合於能夠駐留於內存的數據集,
當訓練集大得無法在內存容納時程序無法運行。 

註1:什麼C4.5 演算法?在 Q23什麼是決策樹演算法? 提到,它是ID3改進版,不是直接使用資訊增益,而是引入「資訊增益比」指標作為特徵的選擇依據。

 圖25-2決策樹優缺點
圖25-2 決策樹優缺點

緯育TibaMe已經有10萬人次來學習AI/資料科學知識或技術,若你想進一步了解或學習 AI / 資料科學的相關知識或技能,歡迎來TibaMe 👉 https://www.tibame.com/eventpage/ai_datascientist 

AI資料科學家-三階段全方位學程班
AI資料科學家-三階段全方位學程班

每日5分鐘, 提拔我園丁陪你快速添補AI/資料科學知識與技能。

若您想了解更多AI/資料科學的小知識、及各產業的相關應用,歡迎訂閱TibaMe FB及部落格,或你有其他想了解的主題歡迎在下方留言讓我們知道唷!

緯育TibaMe FB

企業人才數位轉型FB

企業AI、數位人才or平台培訓方案請點選

參考資料

分享這篇文章:
0 comment
4

您也許會喜歡

Leave a Comment

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料