MapReduce在粗糙集屬性并行約簡中的應(yīng)用研究.pdf_第1頁
已閱讀1頁,還剩61頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

1、粗糙集(Rough Set)理論是一種處理不確定因素和不完備信息的數(shù)學(xué)理論,常被用于模式識別、機器學(xué)習(xí)等領(lǐng)域。屬性約簡是粗糙集理論研究的重要內(nèi)容,其作用在于刪除冗余屬性,進而進行數(shù)據(jù)挖掘和知識抽取。但如今需要處理的數(shù)據(jù)集越來越大,屬性約簡本身變得非常困難。
  針對這個問題,本文研究了MapReduce并行編程框架在粗糙集屬性約簡中的應(yīng)用。MapReduce是用于大規(guī)模數(shù)據(jù)集并行計算的編程模型,通過將對數(shù)據(jù)集的操作分發(fā)給網(wǎng)絡(luò)上的多

2、個節(jié)點來實現(xiàn)并行計算。本文提出了一種基于二進制分辨矩陣的粗糙集屬性并行約簡算法,該算法中的二進制分辨矩陣是由差別矩陣演化而來,基于該矩陣的屬性約簡算法較為直觀,其約簡過程可并行性較高,適合并行計算。該矩陣雖然在實際應(yīng)用中空間復(fù)雜度較高,但在并行計算中,恰好可以使用分布式存儲來彌補這一缺點。相對于傳統(tǒng)的基于二進制分辨矩陣的屬性約簡算法,本文算法通過對決策表中的不相容等價類進行處理,得到了“簡化決策表”,以等價類而非對象為基本單元來生成二進

3、制分辨矩陣,使得矩陣行數(shù)更少,降低了空間和時間復(fù)雜度。在劃分等價類的過程中,本文將復(fù)雜度更低的基于基數(shù)排序的劃分等價類算法與MapReduce結(jié)合起來,在Shuffle過程中實現(xiàn)了該算法。同時,為了使約簡結(jié)果提供更全面的知識與規(guī)則,本文還進一步提出了相應(yīng)的并行多約簡算法,以便得出多約簡結(jié)果。
  本文對提出的算法在UCI數(shù)據(jù)集和多倍隨機自定義數(shù)據(jù)集上進行了多次實驗以驗證其結(jié)果正確性、記錄運行時間,并迸一步分析該并行算法的并行度、加

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論