基于TAN的文本分類方法研究.pdf

1、隨著信息技術的發(fā)展，特別是Internet的應用和普及，文本信息迅速膨脹，使得文本自動分類技術成為信息技術領域的一個重要研究方向。貝葉斯方法具有簡單、直觀、性能穩(wěn)定的優(yōu)點，但目前基于貝葉斯模型的文本分類還主要局限于樸素貝葉斯方法。樸素貝葉斯由于基于一個條件獨立性假設，無法表達屬性間的依賴關系而影響了分類性能，貝葉斯網(wǎng)絡雖然能表示這種依賴，但由于學習的復雜性而無法應用于文本分類。TAN（Tree-Augmented Naive Bayes

2、）模型將貝葉斯網(wǎng)絡表示依賴關系的能力與樸素貝葉斯的簡易性相結合，體現(xiàn)了學習的效率與準確地描述屬性之間相關性的一種適當折衷。目前基于TAN文本分類的研究還比較少，而且在已有的TAN文本分類模型中也存在著許多不足，為此，本文對基于TAN的文本分類模型進行研究。 一方面，本文對當前的TAN文本分類模型BL-TAN進行了深入地分析，指出該模型中存在的三個問題：未考慮文本中未出現(xiàn)的特征；忽略了特征的詞頻信息；TAN模型構造中閾值選取的問題

3、。針對第一個問題，本文結合樸素貝葉斯的多變量伯努利文本分類模型，提出了TAN文本分類的第一個改進模型BNL-TAN，實驗中驗證BNL-TAN比BL-TAN具有更好的分類性能；針對第二個問題，本文類比樸素貝葉斯的多項式模型，提出了TAN文本分類的第二個改進模型MUL-TAN，實驗中驗證MUL-TAN的分類性能顯著優(yōu)于BNL-TAN；針對第三個問題，本文借鑒傳統(tǒng)貝葉斯網(wǎng)絡學習中搜索+評估的思想，采用在“固定結構”上“順序搜索”的學習策略，提

4、出了完全拋棄閾值選取的TAN文本自動分類框架ATAN，實驗中驗證ATAN可以取得與手動選取最好閾值相當?shù)姆诸愋阅堋?另一方面，本文對集成學習的框架和主要方法進行了深入研究，并針對TAN進行了TAN集成的三次嘗試，提出了基于TAN集成的三種模型，這三種模型均以TAN為基分類器，結論生成方法則統(tǒng)一采用投票方法，不同點在于個體分類器的生成策略。AdaM1-TAN將TAN與AdaBoost．M1算法結合，通過不斷調(diào)整訓練集的權重分布學習