一種雙支持向量機決策樹的多分類算法.pdf

1、支持向量機(SVM)是一種基于統(tǒng)計學習理論的V-C維理論和結構風險最小化的新型機器學習方法，常被應用于分類或回歸問題中，由于其良好的學習能力，現(xiàn)已成為業(yè)內研究的熱點。Jayadeva等人在此基礎上提出了雙支持向量機(TSVM)方法，對于二分類問題，TSVM的思想是構造兩個非平行的超平面，使之分別擬合一類樣本而同時遠離另一類樣本，而對于待測樣本分類時，根據(jù)其距哪個超平面近就將其歸于該類。TSVM對于樣本訓練速度有了很好的提升，對同等樣本訓

2、練速度約為傳統(tǒng)SVM的四倍，比起傳統(tǒng)SVM它具有更好的泛化能力。SVM決策樹作為解決多分類問題常用的方法，具有運算速度快，無拒分現(xiàn)象等優(yōu)點。
　　本文結合TSVM和決策樹的優(yōu)點，提出了一種基于雙支持向量機決策樹(DT-TSVM)的多分類算法。首先定義了表示類與類可分性的類間區(qū)分度，其次對所有樣本根據(jù)區(qū)分度度量類間可分性的大小，將可分性最大的樣本分成兩類，在這兩個子類中再分別尋找可分性最高的樣本并將其分成兩類，如此下去直至不能再分，