基于隨機(jī)森林的惡意移動應(yīng)用動態(tài)檢測方法研究.pdf

1、隨著Android智能終端的普及，Android惡意程序持續(xù)高速增長，經(jīng)過加固保護(hù)(APK Protection)的惡意程序呈現(xiàn)指數(shù)級增長趨勢。由于加固操作對惡意程序DEX文件進(jìn)行了加密，普通的靜態(tài)分析方法已經(jīng)無法應(yīng)對此變化。同時，部分惡意程序出現(xiàn)反模擬器偵測手段，當(dāng)程序檢測到運行環(huán)境為模擬器環(huán)境時會立即退出。
　　針對上述問題，本文采用移動應(yīng)用動態(tài)分析方法，將函數(shù)調(diào)用序列作為檢測對象，使用Xposed框架劫持系統(tǒng)調(diào)用，構(gòu)建動態(tài)檢

2、測環(huán)境。移動應(yīng)用在測試環(huán)境中運行后，輸出函數(shù)調(diào)用序列，作為樣本特征。隨后在樣本特征集上構(gòu)建多個HMM模型（Hidden Markov Model），為輸出事件序列建模。最后使用本文提出的RBMH（RF-Based-Muti-HMM）算法，基于隨機(jī)森林，對多組HMM分類器以及靜態(tài)特征進(jìn)行集成學(xué)習(xí)，給出最終檢測結(jié)果。實驗結(jié)果表明RBMH算法具有較高的命中率（TPR）、準(zhǔn)確率（AC），較低的誤報率（FPR）、均方根誤差（MSE）、袋外誤差率（

3、OOB），對于較小樣本數(shù)具有穩(wěn)定性。本文的主要工作和成果如下：
　?。?）函數(shù)調(diào)用序列收集。通過分析Android平臺下惡意行為模式，給出函數(shù)調(diào)用序列定義和事件定義，使用函數(shù)調(diào)用序列表述對應(yīng)事件類型的行為特征，確定以函數(shù)調(diào)用序列作為檢測對象。通過靜態(tài)分析創(chuàng)建事件序列，將事件觸發(fā)作為自動化輸入，使用Xposed框架劫持函數(shù)調(diào)用，將函數(shù)調(diào)用日志作為輸出，完整實現(xiàn)了函數(shù)調(diào)用序列的收集，并通過實驗證明了采集數(shù)據(jù)的有效性。
　?。?）