決策樹(shù)作為分類(lèi)算法在這個(gè)視頻中我們講決策樹(shù)推廣位回歸算法。以便我們可以預(yù)測(cè)一個(gè)數(shù)值。我們用之前的例子用其他離散的特征來(lái)預(yù)測(cè)動(dòng)物的體重我們看看決策樹(shù)是什么樣子的我們已經(jīng)構(gòu)建了這樣的一個(gè)樹(shù)他的根節(jié)點(diǎn)是耳朵然后根據(jù)臉型去分最后達(dá)到了葉子節(jié)點(diǎn)葉子節(jié)點(diǎn)是分好類(lèi)的動(dòng)物體重的平均值如果一個(gè)新的樣本走到這里那么也是平均值。如果要從新開(kāi)始構(gòu)建這個(gè)決策樹(shù)體重等這些關(guān)鍵決策是如何選擇要分割的特征呢我們根據(jù)三個(gè)特征進(jìn)行分割最后得到三個(gè)樹(shù)我們應(yīng)該如何判斷那一個(gè)最佳的呢在這里我們不再視圖減少熵這是在分類(lèi)的時(shí)候使用的雜質(zhì)度量而是試圖減少數(shù)據(jù)子集中Y體重的方差方差統(tǒng)計(jì)的是一組數(shù)字的變化范圍與之前的決策樹(shù)相比回歸樹(shù)判斷節(jié)點(diǎn)的信息增益是加權(quán)的方差決策樹(shù)是純度選擇信息增益最大的特征作為節(jié)點(diǎn)。