123,123

內(nèi)容簡(jiǎn)介

　　高性能計(jì)算機(jī)的性能持續(xù)增長(zhǎng)，然而由于負(fù)載不均、資源競(jìng)爭(zhēng)等性能問(wèn)題，大量并行程序無(wú)法高效地利用底層硬件系統(tǒng)，導(dǎo)致了極大的資源浪費(fèi)。圍繞上述挑戰(zhàn)，本書(shū)在大規(guī)模并行程序性能分析與優(yōu)化方面開(kāi)展了深入研究，主要的特色為結(jié)合編譯技術(shù)和圖分析技術(shù)進(jìn)行性能分析與優(yōu)化指導(dǎo)。書(shū)中介紹了性能分析與優(yōu)化的相關(guān)背景和當(dāng)前面臨的重要挑戰(zhàn)，并針對(duì)這些挑戰(zhàn)進(jìn)行了四方面的研究工作：針對(duì)并行程序性能瓶頸定位難的挑戰(zhàn)，提出了基于圖分析技術(shù)的自動(dòng)可擴(kuò)展性瓶頸檢測(cè)方法，并實(shí)現(xiàn)了輕量級(jí)的瓶頸檢測(cè)系統(tǒng)；針對(duì)大規(guī)模并行程序性能分析系統(tǒng)開(kāi)發(fā)復(fù)雜度高的挑戰(zhàn)，提出了面向性能分析的領(lǐng)域特定編程框架；針對(duì)性能優(yōu)化策略選擇難的挑戰(zhàn)，提出了異步策略感知的性能建模方法；基于上述性能分析與建模技術(shù)，設(shè)計(jì)并實(shí)現(xiàn)了面向領(lǐng)域的多層次自動(dòng)性能優(yōu)化系統(tǒng)。本書(shū)可為具有一定計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)或高性能計(jì)算知識(shí)的本科生、研究生及研究人員，特別是研究方向?yàn)椴⑿杏?jì)算、性能分析與優(yōu)化等相關(guān)領(lǐng)域的研究者提供一定的參考與幫助。

作者簡(jiǎn)介

　　金煜陽(yáng)，清華大學(xué)計(jì)算機(jī)系高性能所博士后，助理研究員。2022年于清華大學(xué)計(jì)算機(jī)系高性能所獲得博士學(xué)位。主要研究興趣包括高性能計(jì)算、性能分析與優(yōu)化、編譯器等，相關(guān)研究成果發(fā)表于SC、PPoPP、TPDS等高性能計(jì)算領(lǐng)域國(guó)際頂級(jí)會(huì)議與期刊，曾獲清華大學(xué)優(yōu)秀博士學(xué)位論文獎(jiǎng)、清華大學(xué)優(yōu)秀博士畢業(yè)生等稱號(hào)。

圖書(shū)目錄

第 1 章引言 1
1.1 本書(shū)背景及意義 1
1.1.1 性能分析技術(shù)的現(xiàn)狀 4
1.1.2 性能優(yōu)化技術(shù)的現(xiàn)狀 5
1.2 大規(guī)模并行程序性能分析與優(yōu)化面臨的關(guān)鍵問(wèn)題 6
1.3 本書(shū)的主要研究?jī)?nèi)容與貢獻(xiàn) 8
1.3.1 本書(shū)的主要貢獻(xiàn) 8
1.3.2 本書(shū)的組織及各章內(nèi)容簡(jiǎn)介 9
第 2 章相關(guān)工作 11
2.1 性能分析相關(guān)研究 11
2.1.1 程序分析 11
2.1.2 性能分析技術(shù) 14
2.2 性能預(yù)測(cè)相關(guān)研究 18
2.2.1 性能建模 18
2.2.2 性能模擬 21
2.3 性能優(yōu)化相關(guān)研究 22
2.3.1 并行程序優(yōu)化 22
2.3.2 統(tǒng)一編程模型 23
2.3.3 自動(dòng)優(yōu)化框架 24
第 3 章基于圖的并行程序可擴(kuò)展性瓶頸檢測(cè) 26
3.1 整體框架 28
3.2 圖的生成 29
3.2.1 靜態(tài)分析 29
3.2.2 動(dòng)態(tài)分析 34
3.2.3 程序性能圖的生成 41
3.3 可擴(kuò)展性瓶頸檢測(cè) 42
3.3.1 性能問(wèn)題頂點(diǎn)檢測(cè) 42
3.3.2 反向追蹤根因分析 44
3.4 實(shí)現(xiàn)與使用方法 46
3.5 實(shí)驗(yàn)結(jié)果 47
3.5.1 實(shí)驗(yàn)環(huán)境 47
3.5.2 程序結(jié)構(gòu)圖分析 48
3.5.3 開(kāi)銷(xiāo)分析 49
3.5.4 應(yīng)用案例 51
3.6 小結(jié) 57
第 4 章面向性能分析的領(lǐng)域特定編程框架 59
4.1 整體框架 62
4.1.1 PerFlow系統(tǒng)框架 62
4.1.2 編程示例：通信分析任務(wù) 64
4.2 程序性能抽象 64
4.2.1 程序抽象圖的定義 65
4.2.2 靜動(dòng)態(tài)分析 66
4.2.3 程序抽象圖的構(gòu)建 66
4.2.4 程序抽象圖的視圖 69
4.3 性能分析過(guò)程抽象 71
4.3.1 性能分析數(shù)據(jù)流圖 71
4.3.2 性能分析數(shù)據(jù)流圖的元素 72
4.3.3 性能分析子任務(wù) 73
4.3.4 性能分析范例 76
4.3.5 框架的使用方法 78
4.4 實(shí)驗(yàn)結(jié)果 79
4.4.1 實(shí)驗(yàn)配置 79
4.4.2 開(kāi)銷(xiāo)分析 80
4.4.3 程序抽象圖信息 81
4.4.4 應(yīng)用案例 82
4.5 小結(jié) 93
第 5 章異步策略感知的精確性能建模 95
5.1 整體框架 96
5.2 模塊內(nèi)建模 98
5.2.1 層次化建模技術(shù) 98
5.2.2 解析—統(tǒng)計(jì)結(jié)合的建模技術(shù) 99
5.3 模塊間模擬 101
5.3.1 異步策略表達(dá) 101
5.3.2 硬件感知性能模擬 101
5.4 HPL 分析 103
5.4.1 HPL 介紹 103
5.4.2 HPL 各模塊的模塊內(nèi)模型 105
5.5 實(shí)驗(yàn)與分析 107
5.5.1 實(shí)驗(yàn)配置 107
5.5.2 端到端預(yù)測(cè)精度測(cè)試 108
5.5.3 模塊預(yù)測(cè)精度測(cè)試 110
5.5.4 假設(shè)分析 110
5.5.5 預(yù)測(cè)效率測(cè)試 112
5.6 小結(jié) 112
第 6 章面向領(lǐng)域的多層次性能優(yōu)化框架 114
6.1 框架設(shè)計(jì) 115
6.2 面向計(jì)算流體力學(xué)領(lǐng)域的中間表達(dá)和語(yǔ)言 117
6.2.1 領(lǐng)域中間表達(dá) 117
6.2.2 領(lǐng)域特定語(yǔ)言 121
6.3 多層次中間表達(dá)遞降 125
6.3.1 領(lǐng)域中間表達(dá)遞降 126
6.3.2 通用中間表達(dá)遞降 126
6.4 多層次感知優(yōu)化 128
6.4.1 領(lǐng)域級(jí)優(yōu)化 128
6.4.2 通用優(yōu)化 132
6.4.3 硬件級(jí)優(yōu)化 132
6.5 實(shí)驗(yàn). 134
6.5.1 實(shí)驗(yàn)配置 134
6.5.2 端到端性能 135
6.5.3 性能模型的有效性測(cè)試 135
6.6 小結(jié) 139
第 7 章總結(jié)與展望 140
7.1 本書(shū)工作總結(jié) 140
7.2 后續(xù)研究方向 141
參考文獻(xiàn) 143
致謝 156