多核應用編程實戰(zhàn)

第1章 硬件、進程和線程
1.1 計算機的內(nèi)部結(jié)構(gòu)
1.2 多核處理器的緣起
1.2.1 在單芯片上支持多線程
1.2.2 通過處理器核心流水線作業(yè)提高指令發(fā)出率
1.2.3 使用緩存保存最近使用的數(shù)據(jù)
1.2.4 用虛擬內(nèi)存存儲數(shù)據(jù)
1.2.5 從虛擬地址轉(zhuǎn)換到物理地址
1.3 多處理器系統(tǒng)的特征
1.4 源代碼到匯編語言的轉(zhuǎn)換
1.4.1 32位與64位代碼的性能
1.4.2 確保內(nèi)存操作的正確順序
1.4.3 進程和線程的差異
1.5 小結(jié)

第2章 高性能編碼
2.1 定義性能
2.2 了解算法復雜度
2.2.1 算法復雜度的示例
2.2.2 算法復雜度的重要性
2.2.3 謹慎運用算法復雜度
2.3 結(jié)構(gòu)如何影響性能
2.3.1 在源代碼和生成結(jié)構(gòu)上權(quán)衡性能和便利性
2.3.2 利用庫結(jié)構(gòu)化應用程序
2.3.3 數(shù)據(jù)結(jié)構(gòu)對性能的影響
2.4 編譯器的作用
2.4.1 兩種編譯器優(yōu)化
2.4.2 選擇合適的編譯器選項
2.4.3 如何用跨文件優(yōu)化提高性能
2.4.4 使用配置文件反饋
2.4.5 潛在的指針別名會如何抑制編譯器優(yōu)化
2.5 通過分析確定占用時間的地方
2.6 怎樣避免手動優(yōu)化
2.7 從設計角度看性能
2.8 小結(jié)

第3章 識別并行機會
3.1 使用多進程提高系統(tǒng)工作效率
3.2 多用戶使用一個系統(tǒng)
3.3 通過整合提高機器工作效率
3.3.1 用容器隔離共享一個系統(tǒng)的應用程序
3.3.2 使用虛擬機監(jiān)控程序托管多個操作系統(tǒng)
3.4 采用并行機制提高單個任務的性能
3.4.1 理解并行應用程序
3.4.2 并行如何影響算法的選擇
3.4.3 Amdahl定律
3.4.4 確定最大實際線程數(shù)
3.4.5 同步成本怎樣降低擴展性
3.5 并行模式
3.5.1 使用SIMD指令的數(shù)據(jù)并行
3.5.2 通過進程或線程實現(xiàn)并行化
3.5.3 多個獨立任務
3.5.4 多個松散耦合的任務
3.5.5 相同任務的多個副本
3.5.6 單個任務拆分到多個線程
3.5.7 使用流水線任務完成某個事項
3.5.8 將工作分配給客戶端和服務器
3.5.9 將責任劃分給生產(chǎn)者和消費者
3.5.10 結(jié)合多種并行化策略
3.6 依賴關系對并行運行代碼能力的影響
3.6.1 反依賴和輸出依賴
3.6.2 通過推測打破依賴
3.6.3 關鍵路徑
3.7 發(fā)現(xiàn)并行機會
3.8 小結(jié)

第4章 同步和數(shù)據(jù)共享
4.1 數(shù)據(jù)爭用
4.1.1 使用工具檢測數(shù)據(jù)爭用
4.1.2 避免數(shù)據(jù)爭用
4.2 同步原語
4.2.1 互斥量和臨界區(qū)
4.2.2 自旋鎖
4.2.3 信號量
4.2.4 讀寫鎖
4.2.5 屏障
4.2.6 原子操作和無鎖代碼
4.3 死鎖和活鎖
4.4 線程和進程間的通信
4.4.1 內(nèi)存、共享內(nèi)存和內(nèi)存映射文件
4.4.2 條件變量
4.4.3 信號和事件
4.4.4 消息隊列
4.4.5 命名管道
4.4.6 通過網(wǎng)絡棧進行通信
4.4.7 線程之間共享數(shù)據(jù)的其他方法
4.5 存儲線程私有數(shù)據(jù)
4.6 小結(jié)

第5章 使用POSIX線程
5.1 創(chuàng)建線程
5.1.1 線程終止
5.1.2 用子線程接收和傳遞數(shù)據(jù)
5.1.3 分離線程
5.1.4 設置pthread的屬性
5.2 編譯多線程代碼
5.3 進程終止
5.4 線程之間共享數(shù)據(jù)
5.4.1 使用互斥鎖保護訪問
5.4.2 互斥鎖屬性
5.4.3 使用自旋鎖
5.4.4 讀寫鎖
5.4.5 屏障
5.4.6 信號量
5.4.7 條件變量
5.5 變量和內(nèi)存
5.6 多進程編程
5.6.1 在進程之間共享內(nèi)存
5.6.2 在進程之間共享信號量
5.6.3 消息隊列
5.6.4 管道和命名管道
5.6.5 使用信號與進程通信
5.7 套接字
5.8 可重入代碼和編譯器標志
5.9 小結(jié)

第6章 Windows線程
6.1 創(chuàng)建Windows本機線程
6.1.1 終止線程
6.1.2 創(chuàng)建和重新啟動掛起的線程
6.1.3 使用內(nèi)核資源的句柄
6.2 同步和資源共享的方式
6.2.1 線程間需要同步的一個例子
6.2.2 保護對臨界區(qū)代碼的訪問
6.2.3 用互斥量保護代碼段
6.2.4 輕量級讀寫鎖
6.2.5 信號量
6.2.6 條件變量
6.2.7 向其他線程或進程發(fā)出事件完成的信號
6.3 Windows中的寬字符串處理
6.4 創(chuàng)建進程
6.4.1 在進程之間共享內(nèi)存
6.4.2 在子進程中繼承句柄
6.4.3 互斥量命名及其在進程間的共享
6.4.4 用管道通信
6.4.5 用套接字進行通信
6.5 變量的原子更新
6.6 分配線程本地存儲
6.7 設置線程的優(yōu)先級
6.8 小結(jié)

第7章 自動并行化和OpenMP
7.1 使用自動并行化產(chǎn)生并行代碼
7.1.1 識別和并行約簡
7.1.2 對包含調(diào)用的代碼進行自動并行化
7.1.3 協(xié)助編譯器實現(xiàn)代碼的自動并行化
7.2 使用OpenMP生成并行應用程序
7.2.1 使用OpenMP并行化循環(huán)
7.2.2 OpenMP應用程序的運行時行為
7.2.3 OpenMP并行區(qū)域中的變量作用域
7.2.4 使用OpenMP并行化約簡
7.2.5 在并行區(qū)域外訪問私有數(shù)據(jù)
7.2.6 使用調(diào)度改進工作分配
7.2.7 用并行段完成獨立工作
7.2.8 嵌套并行
7.2.9 使用OpenMP動態(tài)定義并行任務
7.2.10 保持數(shù)據(jù)對線程私有
7.2.11 控制OpenMP運行時環(huán)境
7.2.12 等待工作完成
7.2.13 限制執(zhí)行代碼區(qū)域的線程
7.3 確保并行區(qū)域的代碼按順序執(zhí)行
7.4 折疊循環(huán)改進工作負荷均衡
7.5 強制實現(xiàn)內(nèi)存一致性
7.6 并行化示例
7.7 小結(jié)

第8章 手工編碼的同步和共享
8.1 原子操作
8.1.1 用比較和交換指令構(gòu)成更復雜的原子操作
8.1.2 強制實現(xiàn)內(nèi)存排序以確保正確操作
8.1.3 編譯器對內(nèi)存排序指令的支持
8.1.4 編譯器對操作的重新排序
8.1.5 易失變量
8.2 操作系統(tǒng)提供的原子操作
8.3 無鎖算法
8.3.1 Dekker算法
8.3.2 帶循環(huán)緩存的生產(chǎn)者/消費者
8.3.3 擴展到多個消費者或生產(chǎn)者
8.3.4 將生產(chǎn)者/消費者擴展到多個線程
8.3.5 更改生產(chǎn)者/消費者代碼為使用原子操作
8.3.6 ABA問題
8.4 小結(jié)

第9章 基于多核處理器的擴展
9.1 對應用程序擴展的限制
9.1.1 串行代碼對性能的限制
9.1.2 超線性擴展
9.1.3 工作負荷不均衡
9.1.4 熱鎖
9.1.5 庫代碼擴展
9.1.6 工作量不足
9.1.7 算法限制
9.2 擴展的硬件限制
9.2.1 核心之間的帶寬共享
9.2.2 偽共享
9.2.3 緩存沖突和容量
9.2.4 流水線資源匱乏
9.3 操作系統(tǒng)對擴展性的限制
9.3.1 過度訂閱
9.3.2 使用處理器綁定改善內(nèi)存局部性
9.3.3 優(yōu)先級反轉(zhuǎn)
9.4 多核處理器和擴展
9.5 小結(jié)

第10章 其他并行技術(shù)
10.1 基于GPU的運算
10.2 語言擴展
10.2.1 線程構(gòu)建模塊
10.2.2 Cilk++
10.2.3 GrandCentralDispatch
10.2.4 為未來C和C++標準提議的可能功能
10.2.5 微軟的C++/CLI
10.3 其他語言
10.4 集群技術(shù)
10.4.1 MPI
10.4.2 以MapReduce作為擴展策略
10.4.3 網(wǎng)格
10.5 事務性內(nèi)存
10.6 向量化
10.7 小結(jié)

第11章 結(jié)束語
11.1 編寫并行應用程序
11.1.1 識別任務
11.1.2 估算性能提升
11.1.3 確定依賴關系
11.1.4 數(shù)據(jù)爭用和互斥鎖擴展限制
11.1.5 鎖的粒度
11.2 多核處理器上的并行代碼
11.3 并行化的未來

參考文獻
索引