面向DEEPWEB挖掘網絡爬蟲設計和實現(xiàn).pdf

1、隨著Internet上信息量的迅速增長，搜索引擎已經成為人們檢索網上信息的主要手段，是互聯(lián)網上人們獲取信息最重要的方式之一。網絡爬蟲作為搜索引擎中負責采集信息的模塊，有重要的作用。
　　由于互聯(lián)網具有信息數(shù)量大、更新和增長速度快的特點，而且隨著Web的發(fā)展,越來越多的數(shù)據(jù)可以通過表單提交來獲取。這些表單提交所產生信息是由DeepWeb后臺數(shù)據(jù)庫動態(tài)產生的。在這種情況下,信息集成就更加需要網路爬蟲來自動獲取這些頁面以進一步地處理數(shù)據(jù)

2、。因此搜索引擎需要一個功能強大，工作高效的網絡爬蟲為其采集信息，使其能夠為用戶提供全面、及時的查詢結果。
　　為了滿足以上需要，本文提出一種用于搜集DeepWeb頁面的網絡爬蟲的設計方法。首先，運用啟發(fā)式規(guī)則來篩選目標表單并提取標簽。其次，對表單進行建模。最后，通過分析表單模型將屬性的值填入表單控件，完成填充。本文主要研究內容如下：
　　(1)分析系統(tǒng)結構中各個模塊需要完成的任務，給出各個模塊的設計思想和實現(xiàn)策略，設計并實現(xiàn)