下一代計算機(jī)系統(tǒng)將由異構(gòu)平臺組成

下一代計算機(jī)系統(tǒng)將由異構(gòu)平臺組成

主要芯片制造商（如nVIDIA）最近的一些舉動較之前更確切無疑地表明，微處理器及大型高性能計算（HPC）系統(tǒng)未來的設(shè)計從本質(zhì)上說都將是混合/異構(gòu)的。這些異構(gòu)系統(tǒng)將依賴于這兩大類型的組件以不同的比例集成。

多核及眾核CPU技術(shù)：核數(shù)仍將繼續(xù)增加，因為寄期望于既想封裝越來越多的組件到一個芯片上，同時又想繞開功耗墻、指令級并行墻及存儲器墻（等挑戰(zhàn)）。

專用硬件及大規(guī)模并行加速器：例如，nVIDIA的GPU近幾年在浮點性能上已超越了標(biāo)準(zhǔn)CPU。而且即便不是更容易，它們或許也已變得和多核CPU編程一樣容易了。

未來設(shè)計中這兩種組件類型間的相對平衡尚無法確定，而且似乎還會隨著時間的推移而變動。目前看起來確鑿無疑的是下一代計算機(jī)系統(tǒng)（從筆記本到超級計算機(jī)）都會由異構(gòu)組件所組成。事實上，千萬億次（每秒1015次浮點運(yùn)算）的性能屏障也是被這種系統(tǒng)攻克的。

然而在基于異構(gòu)處理器的新型計算領(lǐng)域中，開發(fā)者們所面臨的問題及挑戰(zhàn)依然十分嚴(yán)峻。軟件基礎(chǔ)架構(gòu)的關(guān)鍵部分早就難以跟上變化的步伐。在某些情況下，性能無法隨著核數(shù)而擴(kuò)展，因為不斷增加的大部分時間都消耗在了數(shù)據(jù)移動而不是運(yùn)算上。在另一些情況下，軟件的性能調(diào)優(yōu)在硬件到位后的數(shù)年才姍姍完成，剛發(fā)布就已過時。在一些情況下，如在新近發(fā)布的一些GPU上，軟件根本就無法運(yùn)行，因為編程環(huán)境變動得太過劇烈。

這篇文章是Jack Dongarra教授為《例釋CUDA》所作的序。《例釋CUDA》一書探討了軟件開發(fā)挑戰(zhàn)的核心。

該書通過舉例的形式介紹了CUDA C的編程，并洞察了構(gòu)建及高效使用nVIDIA GPU的過程。它講解了并行計算的基本性概念，從簡單的例子到調(diào)試（包括邏輯的和性能的），同時也涵蓋了一些使用和構(gòu)建應(yīng)用相關(guān)的高級主題和問題。中文譯本由上海交通大學(xué)林新華翻譯。

Jack Dongarra 美國田納西大學(xué)校特聘教授，美國橡樹嶺國家實驗室杰出研究員