模板計算代碼自動生成與性能優(yōu)化.pdf

1、伴隨能在GPU上高效執(zhí)行的應(yīng)用類型的不斷增加，原來作為專業(yè)化的圖形加速器變得越來越通用化。作為科學(xué)計算的一種形式模板計算應(yīng)用也可移植到GPU中并能充分利用其不同類型的存儲器資源獲得顯著的加速。模板計算利用循環(huán)空間某被計算點的鄰域不斷更新該點的值，同時最外層循環(huán)通常與物理時間相關(guān)，在每個計算的物理時間點，內(nèi)環(huán)高維數(shù)組定義為鄰域高維數(shù)組的函數(shù)。目前不同類型的模板廣泛用于計算電磁學(xué)、偏微分求解以及CT或MRI成像中，甚至大量地用來對湍流、地震

2、波傳播等進行物理仿真的加速。從事這些應(yīng)用研究的專家無法詳盡地運用GPU的體系結(jié)構(gòu)特征對代碼進行性能的優(yōu)化，因此為了取得更高層次的底層性能優(yōu)化和更好的可移植性，研究和設(shè)計基于GPU模板計算的特定域語言和不斷優(yōu)化模板計算代碼有重要意義。
　　本文將針對面向大規(guī)模計算的GPU系統(tǒng)中如何設(shè)計能產(chǎn)生高效的模板代碼的特定域語言以及存儲帶寬的優(yōu)化面臨的各種挑戰(zhàn)，研究相應(yīng)的代碼生成模板規(guī)范、算法和基于體系結(jié)構(gòu)特征的優(yōu)化，并實現(xiàn)相關(guān)的編譯器流程和模

3、板代碼的優(yōu)化。本文的貢獻主要包括以下方面:
　　(1)模板規(guī)范和模板編譯流程。采用抽象語法規(guī)則定義的模板規(guī)范為特定體系結(jié)構(gòu)的自動代碼產(chǎn)生提供了基礎(chǔ)，手寫的模板規(guī)范或模板編譯器從高級語言編寫的模板程序中抽取的規(guī)范作為模板編譯流程的輸入而產(chǎn)生新的中間表示，該中間表示用抽象的語法樹結(jié)構(gòu)來呈現(xiàn)模板程序的所有域及其對應(yīng)的模板函數(shù)，每個域中定義了其數(shù)據(jù)類型和其可讀或?qū)懙恼Z義，對于多個模板函數(shù)遵循順序執(zhí)行的語義。
　　(2)自動生成帶重疊

4、ghostzone的CUDA或OpenCL代碼。用循環(huán)分塊本地線程的冗余計算代替不同循環(huán)分塊在模板計算時的通信，既充分發(fā)揮了GPU強大的計算能力也大量地降低了線程簇warps或threads group之間的通信開銷。產(chǎn)生代碼時利用主機代碼生成算法和GPU代碼生成算法產(chǎn)生主機代碼和相鄰循環(huán)分塊邊緣彼此重疊的GPU代碼。為了使產(chǎn)生的代碼能高效執(zhí)行，在代碼產(chǎn)生過程中需要執(zhí)行線程塊大小確定算法和共享存儲器的分配算法。
　　(3)消除了在

5、加載循環(huán)分塊邊緣重疊區(qū)的條件語句帶來的控制流分歧。通常GPU以32(Nvidia)或64(AMD)個線程構(gòu)成的線程簇warps或threads group同時執(zhí)行，然而如果代碼中存在條件語句，這些線程因存在控制流分歧而不能同步執(zhí)行，這樣帶來大量的線程不同步開銷。通過設(shè)計新的模板數(shù)據(jù)載入共享存儲器的算法，上述的控制流分歧可以完全消除。
　　(4)采用不同的策略優(yōu)化了模板計算所大量需要的存儲器帶寬資源。GPU的全局存儲器訪問采用對齊的

6、32個字節(jié)合并的方式訪問降低了帶寬需求;線程的執(zhí)行同時利用共享存儲器空間和寄存器，適當加載模板格點數(shù)據(jù)和中間臨時數(shù)據(jù)到寄存器，有利于啟動更多的線程執(zhí)行，增大了線程執(zhí)行的并行粒度;本文設(shè)計的軟件預(yù)取機制在模板計算的前后迭代循環(huán)更新模板點值時需要相鄰模板XY-平面的數(shù)據(jù)，當前迭代循環(huán)加載的數(shù)據(jù)被緊接著的迭代循環(huán)作為計算模板點更新值的輸入，在GPU的warp調(diào)度或threads group調(diào)度的基礎(chǔ)之上進一步重疊了算術(shù)操作與存儲器訪問的延遲。