基于深度學(xué)習(xí)的自然語言句法分析研究.pdf_第1頁
已閱讀1頁,還剩65頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

1、作為自然語言處理領(lǐng)域的核心任務(wù)之一,句法分析一直是研究人員關(guān)注的熱點問題。包括諸如問答系統(tǒng)、搜索串理解、語義分析和知識庫構(gòu)建等在內(nèi)的任務(wù)中,句法分析都是其不可缺失的一環(huán)。在深度學(xué)習(xí)技術(shù)和神經(jīng)網(wǎng)絡(luò)方法于諸多領(lǐng)域取得重要進(jìn)展的背景下,將其與自然語言處理任務(wù)相結(jié)合成為了一個十分熱點的領(lǐng)域。因此,本論文旨在研究深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)在自然語言句法分析中的應(yīng)用,其具有顯著的研究意義和應(yīng)用價值。
  本文首先研究了一個利用前饋神經(jīng)網(wǎng)絡(luò)作為分類器的

2、基于轉(zhuǎn)移的依存句法分析器。該方法較為簡單,效果尚可。通過對該模型的分析,我們對該模型進(jìn)行了細(xì)致的參數(shù)優(yōu)化,使其性能獲得了提升。
  本文提出了一個基于長短期記憶神經(jīng)網(wǎng)絡(luò)的依存句法分析模型。該模型以前述的前饋神經(jīng)網(wǎng)絡(luò)模型作為基礎(chǔ),并將其作為一個特征提取器。在預(yù)訓(xùn)練該特征提取器之后,我們使用長短期記憶神經(jīng)網(wǎng)絡(luò)作為轉(zhuǎn)移動作的分類器,并將貪心依存句法分析器提取的特征作為其輸入,以此訓(xùn)練一個對句子優(yōu)化的遞歸神經(jīng)網(wǎng)絡(luò)分類器。該分類器不僅能夠利

3、用當(dāng)前的格局特征進(jìn)行分類,而且可以記憶分析狀態(tài)歷史等更豐富的信息。因此,該模型對依存句法分析中整句的分析過程進(jìn)行建模,取代了貪心模型中對獨立分析狀態(tài)建模的方法。實驗結(jié)果表明,相比基線方法,模型獲得了較大的性能提升。
  本文研究了端到端的短語結(jié)構(gòu)分析模型。在對“單關(guān)注機(jī)制”序列到序列短語結(jié)構(gòu)分析模型的實驗中我們發(fā)現(xiàn)了其解碼器對規(guī)則約束依賴的問題。為此,我們提出了“雙關(guān)注機(jī)制”以期減少解碼過程中對規(guī)則的依賴。通過引入“雙關(guān)注機(jī)制”,

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論