增益比什麼意思

增益比（Gain Ratio）是一個統計學和機器學習中的概念，用於評估特徵對分類模型的相對重要性。增益比是信息增益（Information Gain）的一種變形，用來解決信息增益偏向於具有較多值的特徵的問題。

在決策樹學習算法中，增益比被用來選擇最佳分裂特徵。增益比計算公式如下：

增益比 = 信息增益 / 特徵的熵

其中，信息增益是特徵的條件熵與數據集熵的差值，而特徵的熵是根據特徵的獨特地值計算出來的。

增益比的作用是平衡特徵的選擇性（即信息增益）和特徵的分散性（即特徵的熵）。這樣可以避免僅僅因為一個特徵有許多獨特的值就選擇它作為分裂點，而是更傾向於選擇那些不僅具有較高選擇性而且也具有較低分散性的特徵。

在實際應用中，增益比通常與基尼係數（Gini Impurity）或純度指標（Purity Measures）一起使用，以選擇決策樹的分裂特徵。