Fortran程序CUDA并行化總結(jié)

段紅英

摘 要：雖然Fortran常用來進(jìn)行科學(xué)計(jì)算，但是面對計(jì)算量大的程序仍然很耗時。通常人們用MPI進(jìn)行粗粒度的并行來提高程序的運(yùn)行效率，近年來隨著GPU計(jì)算能力的提高，將程序進(jìn)行細(xì)粒度GPU并行化成為一種趨勢。文章基于NVIDIA公司的CUDA框架，就Fortran程序向CUDA移植過程中的一些問題進(jìn)行總結(jié)，并給出了相應(yīng)的解決方案。

關(guān)鍵詞：Fortran ；C；CUDA；Fortran程序

中圖分類號：TP311 文獻(xiàn)標(biāo)識碼：A 文章編號：2095-1302（2015）11-00-02

0 引 言

Fortran是常用的科學(xué)計(jì)算語言，其突出的特性就是能實(shí)現(xiàn)自然描述且描述接近數(shù)學(xué)公式，有較好的執(zhí)行效率，但是由于在計(jì)算流體力學(xué)、現(xiàn)代醫(yī)學(xué)影像、分子動力學(xué)等領(lǐng)域的模擬中，存在大量的程序計(jì)算，仍然耗時很多，有的計(jì)算需要幾天甚至幾十天才能完成。為了提高程序的計(jì)算效率，我們將Fortran代碼并行化。通常人們用MPI進(jìn)行粗粒度的并行來提高程序的運(yùn)行效率，近年來隨著GPU計(jì)算能力的提高，將程序進(jìn)行細(xì)粒度GPU并行化成為一種趨勢。

CUDA是NVIDIA公司推出的一種用于 GPU 高性能計(jì)算的軟硬件架構(gòu)，它是對C語言的擴(kuò)展。在其編程模型中，CPU作為主機(jī)（Host）端調(diào)度整個程序，GPU作為計(jì)算設(shè)備（device）對計(jì)算量大、數(shù)據(jù)并行性強(qiáng)的程序并行處理。運(yùn)行在GPU上的并行計(jì)算程序稱為kernel，其必須通過__global__函數(shù)類型限定符定義，由host端程序調(diào)用啟動。

Fortran程序CUDA并行化的完成一般分為編碼、編譯、測試、優(yōu)化幾個階段，以下從這幾個方面分別進(jìn)行總結(jié)闡述。

1 編 碼

在編碼階段，F(xiàn)ortran程序CUDA并行化即為Fortran→C→CUDA的過程。

1.1 Fortran→C的轉(zhuǎn)化過程

從Fortran到C的轉(zhuǎn)化過程，只需要在掌握二者語法的基礎(chǔ)上，逐行翻譯即可，但翻譯工作中需要注意以下細(xì)節(jié)。

（1）數(shù)組

C語言中數(shù)組的起始編號為0，而Fortran的默認(rèn)起始編號為1，但也可以用（idx1：idx2）的方式自己定義，這就需要我們把程序中的每個數(shù)組變量的定義弄明白，翻譯時對默認(rèn)定義的數(shù)組標(biāo)號減1，非默認(rèn)定義的，則用[i-idx1]來計(jì)算實(shí)際標(biāo)號。

其次是多維陣列。雖然C和Fortran中所謂的多維陣列都是一個連續(xù)的一維存儲空間，但是它們對于行列的分割卻相反。如圖1（a）和圖1（b）分別給出了C和Fortran對于數(shù)組a[3][2]各自的數(shù)組分割方式。由此，我們在翻譯過程中定義和使用多維數(shù)組時都須將數(shù)組的行列轉(zhuǎn)換。如a（3：2）變?yōu)镃時應(yīng)為a[2][3]，對應(yīng)圖1（b）。

（a） C語言數(shù)組分割圖 （b）Fortran數(shù)組分割圖

圖1 不同數(shù)組的分割圖

（2）函數(shù)參數(shù)傳遞

Fortran中函數(shù)調(diào)用時一般傳遞的是參數(shù)的內(nèi)存地址，而C既可以進(jìn)行值傳遞，也可以進(jìn)行地址傳遞，一般需要返回多個參數(shù)值時用地址傳遞。在翻譯中，為了方便，所有函數(shù)都采用地址傳遞。

（3）函數(shù)重載

在Fortran中為了共享數(shù)據(jù)的方便一般會用common，如下例所示，F(xiàn)ortran代碼為：

Integer：：I，j，k

Integer：：kk（3）

COMMON/test/I，j，k

用C表達(dá)，需要用以下的方式：

int I，j，k；

int kk[3]；

int*test[3]={&I，&J，&K}；

即把變量的地址連續(xù)地存儲到一個數(shù)組中。在函數(shù)參數(shù)傳遞時，在Fortran中調(diào)用addkt函數(shù)就可以傳遞數(shù)組kk，也可以傳遞test，代碼如下：

subroutineaddkt（ kd， kt ）

Integer， intent（inout） ：： kd（3）

但是在C語言中要傳遞以上兩種參數(shù)就出現(xiàn)函數(shù)重載問題（一個為一維數(shù)組，另一個為二維數(shù)組），但對于過程化語言C則沒有該功能，我們只能把函數(shù)addt定義為addkt1（int *kd，intkt）和addkt2（int *kd[]，intkt）兩個函數(shù)。

1.2 C→CUDA的轉(zhuǎn)化過程

CUDA是一種數(shù)據(jù)并行性而非功能并行性的并行計(jì)算解決方案。在C到CUDA的轉(zhuǎn)化過程中，最關(guān)鍵的就是分析整個程序，找到最耗時的代碼部分，分析整個的可并行性，在對整個物理過程理解的基礎(chǔ)上，進(jìn)行算法設(shè)計(jì)，然后并行化。

以核物理中的蒙卡輸運(yùn)程序?yàn)槔?，蒙特卡羅（MC）方法采用隨機(jī)方法模擬物理過程，應(yīng)用數(shù)理統(tǒng)計(jì)獲取計(jì)算結(jié)果的計(jì)算方法。蒙卡的整個輸運(yùn)框架如圖2所示，其中，n為粒子編號，N為粒子總數(shù)。由于每個粒子輸運(yùn)過程相對獨(dú)立、粒子間通信量少、循環(huán)次數(shù)多，因此，可以一個粒子對應(yīng)一個線程來并行。

圖2 蒙卡輸運(yùn)框架

當(dāng)然，若是有對程序足夠的理解，并且Fortran和C都很精通的情況下，則可以直接將Fortran程序CUDA并行化。

2 測 試

我們借助GDB調(diào)試工具，將測試過程分為由下到上，和由上到下兩步。首先，由下到上的對單個程序逐級測試；然后，根據(jù)程序?qū)懗龆喾N輸入?yún)?shù)，由上往下整體測試。

判定程序正確的方法就是此程序有相同的輸入和輸出，有隨機(jī)數(shù)的程序會給我們的測試帶來很大的困難。如上面提到的蒙卡輸運(yùn)程序，我們既要保證程序中輸運(yùn)過程的隨機(jī)性，又要通過測試保證程序的正確性。一般大家會想到產(chǎn)生一個很大的隨機(jī)數(shù)文件，分別讀入到Fortran和C程序中，此方法可行，但是在粒子數(shù)很多的情況下，效率很低。文章就此問題提出了很好的解決方案，此處不再詳細(xì)解述。

2.1 Fortan→C測試

對于變量少的程序，我們只需要手動打印出需要檢測的變量值進(jìn)行對比，但是對于有幾千個全局變量的計(jì)算程序，逐一手動輸出效率會很低。因此我們首先要找到程序中用到的全局變量，然后根據(jù)這些變量書寫main函數(shù)測試。這個問題我們可以借助Perl、Shell等腳本語言完成。其步驟如下：

（1）人工找到程序中所有的全局變量，其類型，維數(shù)，每一維的長度按照某種格式寫到文件A中；

（2）人工找出程序中的所有程序、子程序及函數(shù)的名字，寫到B中；

（3）書寫腳本，根據(jù)文件A，在所要測試的Fortran程序的初始化部分，打印出所有全局變量的值，作為C程序的輸入；在所要測試的Fortran程序結(jié)束之前，打印出所有全局變量的值，作為判斷C程序的標(biāo)準(zhǔn)；

（4）書寫腳本，實(shí)現(xiàn)初始化函數(shù)，即給C語言的變量初始化；

（5）書寫腳本，實(shí)現(xiàn)讀入Fortran的輸出值，判斷C程序的正確性。

在具體的腳本實(shí)現(xiàn)過程中，需要對Fortran語法詳細(xì)分解，如一個程序可能有多處結(jié)束，而在每個結(jié)束前都需要輸出打印。為了方便，同時打印出變量的類型、維數(shù)及每一維的長度。

2.2 Fortan→CUDA測試

CUDA程序的測試并不像C程序的測試那樣簡單，因?yàn)橛捎谒惴ㄔ?，在功能不變的情況下整個程序可能會被打亂，甚至對變量數(shù)組進(jìn)行排序，由于原來的數(shù)組會打亂，致使不能用GDB調(diào)試工具進(jìn)行對比，并且無法定位錯誤或者判斷計(jì)算中的正確性。雖然程序及數(shù)組順序亂了，但是程序的功能不會變，并且在相同功能的地方這些數(shù)組之和不會變，所以我們可以在功能相同的地方對數(shù)據(jù)之和進(jìn)行對比。

3 結(jié) 語

面對科學(xué)計(jì)算中串行程序的瓶頸，我們需要應(yīng)用并行化方法來解決，本文就Fortran向基于CUDA架構(gòu)的GPU移植過程中所遇到的一些問題進(jìn)行總結(jié)。當(dāng)然為了更高的計(jì)算效率，可以對初步的程序優(yōu)化。

參考文獻(xiàn)

[1]龔春葉.面向異構(gòu)體系結(jié)構(gòu)的粒子輸運(yùn)并行算法研究[D].長沙：國防科學(xué)技術(shù)大學(xué)，2011.

[2] NVIDIA.CUDA C PROGRAMMING GUIDE[Z].2012.

[3] Stephen J.Chapman. Fortran 95/2003程序設(shè)計(jì)[M].劉瑾，龐巖梅，趙越，等，譯.北京：中國電力出版社，2009.

[4] Jason Sanders，EdwardKandrot.GPU高性能編程CUDA實(shí)戰(zhàn)[M]. 聶雪軍，等，譯.北京：機(jī)械工業(yè)出版社，2011：43-68.

[5] Randal L.Scbwartz，TomPboenix brain d foy. Perl語言入門[M].盛春，蔣永清，王暉，譯.南京：東南大學(xué)出版社，2007.