MIC高性能計算編程指南（簡體書）

《MIC高性能計算編程指南》是全球第一本全面介紹MIC軟硬件體系架構、應用及編程開發優化的書籍。書中介紹了使用MIC進行通用計算所需要瞭解的硬件架構、語法、程序優化技巧等知識，是進行MIC高性能與通用計算程序開發的入門教材和參考書。《MIC高性能計算編程指南》共分12章。第1章介紹高性能計算的發展歷程；第2章深入介紹MIC的軟硬件架構；第3章介紹MIC編程環境的搭建；第4章引入一個簡單的MIC實例；第5章簡要介紹與MIC編程相關的OpenMP和MPI相關知識；第6章詳細講解了MIC編程的語法；第7章介紹MIC編程用到的工具軟件；第8章介紹MIC可以使用的數學庫及其用法；第9章詳細講解如何優化MIC程序，從多個方面系統闡述了MIC優化的方式和方法；第10章通過一個典型的矩陣乘法示例，展示MIC優化方法的應用；第11章介紹將MIC技術應用於工程中的流程和方法；第12章引入兩個實際工程的例子，講解如何將MIC技術應用於實際生產過程當中。《MIC高性能計算編程指南》可作為MIC的入門學習和編程參考書，主要面向從事高性能計算的程序員與工程師、MIC加速計算專業領域的科研人員，以及對MIC通用計算感興趣的程序員，也可作為開設相關課程的高等院校與科研機構的教材。．

王恩東，浪潮-Intel中國並行計算聯合實驗室主任，研究員，國務院特殊津貼專家，“863”計劃領域專家，高效能服務器和存儲技術國家重點實驗室主任、浪潮集團高級副總裁，兼任國際信息處理聯合會（IFIP）中國委員會主席、中國計算機學會副理事長等職，獲國家科技進步獎3項，並獲何梁何利獎，發明專利26項。張清，浪潮-Intel中國並行計算聯合實驗室首席工程師，浪潮HPc應用技術經理，主要從事高性能計算、並行計算，研究CPU多核、GPU、MIC眾核技術，曾在生命科學、石油、氣象、金融等HPC領域主持多個異構並行計算項目。沈鉑，浪潮-Intel中國並行計算聯合實驗室應用研發資深工程師，主要從事高性能算法、軟件開發與優化等方面的技術研究與應用工作，具有多年的生命科學、石油物探、氣象等領域開發調優經驗。．

《MIC高性能計算編程指南》由浪潮—Intel聯合實驗室的幾位成員共同完成。書中介紹了英特爾至強融核產品的相關知識、使用至強融核進行高性能計算的編程方法、優化使用至強融核程序的方法，以及在實際應用中的兩個利用至強融核技術提高性能的成功案例。《MIC高性能計算編程指南》結構清晰、通俗易懂，從編程基礎到優化到具體工程開發，表述言簡意賅，用簡單代碼實踐闡述理論，并配有大量的圖、表、程序片段、完整案例幫助讀者理解。

序一序二前言第一篇 MIC基礎篇第1章 MIC高性能計算1．1 多核、眾核計算的發展1．2 MIC技術簡介1．3 為什麼要選擇MIC1．3．1 SMP1．3．2 集群（cluster）1．3．3 GPGPU第2章 MIC硬件及軟件架構2．1 MIC硬件架構2．1．1 術語解析2．1．2 MIC硬件架構概覽2．1．3 MIC Core2．1．4 環形互聯總線Ring2．1．5 CLOCK2．1．6 頁表（Page Tables）2．1．7 系統接口2．1．8 性能監控單元和事件管理器2．1．9 電源管理2．2 MIC軟件架構2．2．1 概述2．2．2 Bootstrap2．2．3 Linux加載器2．2．4 微操作系統（OS）2．2．5 對稱通信接口（SCIF）2．2．6 主機驅動2．2．7 sysfs節點2．2．8 MPI應用的MIC軟件棧2．2．9 應用編程接口（API）第3章 MIC安裝、環境配置3．1 MIC環境配置3．1．1 前期準備3．1．2 安裝Host端的Linux操作系統3．1．3 安裝MIC驅動3．1．4 安裝在MIC上編譯C/C++的編譯器3．2 SDK示例運行第4章 第一個MIC實例--計算PI第5章 OpenMP和MPI編程基礎5．1 OpenMP基礎5．1．1 OpenMP簡介5．1．2 OpenMP編程模型5．1．3 OpenMP語法簡要介紹5．2 MPI基礎5．2．1 啟動和終止MPI庫5．2．2 獲取信息5．2．3 發送和接收消息第6章 MIC編程6．1 MIC編程模型6．2 應用模式6．2．1 CPU原生模式6．2．2 CPU為主MIC為輔模式6．2．3 CPU與MIC對等模式6．2．4 MIC為主CPU為輔模式6．2．5 MIC原生模式6．3 MIC基本語法6．3．1 offload6．3．2 變量和函數聲明6．3．3 頭文件6．3．4 環境變量6．3．5 編譯選項6．3．6 其他問題6．4 MIC上的MPI6．4．1 MIC上的MPI限制6．4．2 MIC上MPI編程模型6．4．3 MIC上的MPI環境配置6．4．4 編譯及使用6．4．5 MIC上的MPI示例6．5 SCIF編程6．5．1 什麼是SCIF6．5．2 SCIF的基本概念介紹6．5．3 SCIF基本通信過程6．5．4 SCIF用到的API函數第7章 MIC軟件調試與性能分析工具7．1 Intel軟件工具鏈對MIC的支持7．2 MIC軟件調試工具IDB7．2．1 IDB簡介7．2．2 IDB的操作界面7．2．3 IDB對MIC架構的支持與要求7．2．4 使用IDB調試MIC程序7．3 MIC性能分析工具VTune第8章 Intel MIC MKL庫使用方法8．1 Intel MKL核心函數庫介紹8．2 在MIC卡上使用Intel MKL8．2．1 編譯器輔助offload方式8．2．2 自動offload方式8．3 FFT在MIC上的使用8．3．1 FFT簡介8．3．2 FFT在MIC上的使用方法一8．3．3 FFT在MIC上的使用方法二8．4 BLAS在MIC上的使用8．4．1 BLAS簡介8．4．2 在MIC上調用BLAS庫方法第二篇 性能優化篇第9章 MIC性能優化9．1 MIC性能優化策略9．2 MIC優化方法9．2．1 並行度優化9．2．2 內存管理優化9．2．3 數據傳輸優化9．2．4 存儲器訪問優化9．2．5 向量化優化9．2．6 負載均衡優化9．2．7 MIC線程擴展性優化第10章 MIC優化示例：矩陣乘法10．1 矩陣乘法串行算法10．2 OpenMP多線程矩陣乘法10．3 MIC多線程矩陣乘法10．3．1 基本版本10．3．2 向量化優化10．3．3 SIMD指令優化10．3．4 矩陣分塊乘法第三篇 工程開發篇第11章 基於MIC的HPC應用開發過程11．1 熱點測試11．1．1 準備工作11．1．2 熱點測試及定位11．2 程序分析11．2．1 程序移植模式分析11．2．2 計算規模分析11．2．3 特點分析11．2．4 熱點並行性分析11．2．5 向量化分析11．2．6 MIC內存分析11．2．7 程序分析總結11．3 MIC程序開發過程11．3．1 基於CPU的OpenMP並行11．3．2 基於MIC的線程擴展11．3．3 單節點CPU+MIC協同並行11．3．4 MIC集群並行第12章 基於MIC的HPC應用實例12．1 基於單節點CPU+MIC協同計算電子斷層三維重構並行算法12．1．1 電子斷層三維重構技術及SIRT算法介紹12．1．2 SIRT串行程序分析12．1．3 基於OpenMP的SIRT並行程序開發12．1．4 基於MIC平臺的SIRT並行程序開發12．1．5 單節點多卡及CPU+MIC異構協同計算架構設計12．2 基於多節點CPU+MIC協同計算大渦模擬並行算法12．2．1 格子-Boltzmann大渦模擬算法介紹12．2．2 大渦模擬串行程序分析12．2．3 基於OpenMP的大渦模擬並行算法12．2．4 基於MIC的大渦模擬並行算法12．2．5 基於多節點CPU+MIC協同計算平臺的大渦模擬並行算法參考文獻．

因為MIC核（core）是×86架構的核，所以Bootstrap在自檢時類似于BIOS。Bootstrap會在板卡第一次加電的時候啟動，但是也會在發生災難性失敗后由主機端重啟時運行。Bootstrap的責任是初始化MIC卡和啟動laOS。
Bootstrap由兩個不同的代碼塊構成，FBOOT0和FBOOT1。FBOOT0屬于片上ROM存儲器，無法升級。FBOOT1在Flash上，可以升級。
2.2.2.1 FBOOT0
當卡重置以后，第一個執行的指令就在FBOOT0上。這個代碼段是可信根（root oftrust，注：系統會無條件地信任可信根），因為它是不能被更改的。它是為了驗證第二部分，即FBOOT1，并將可信根傳遞給FBOOT1。如果驗證失敗，則FBOOT0會切斷環和核中的電源，防止任何其他動作。從這個狀態恢復的唯一途徑是手工更改卡上的跳線，讓卡進入僵尸模式（zombie mode）。僵尸模式允許主機重編程Flash芯片，將壞掉的FBOOT1代碼塊恢復。
FBOOT0的執行流如下：
（1）設置CAR模式（Cache as RAM，注：一種將cache作為內存的技術）以減少執行時間。
（2）過渡到64—bit保護模式。
（3）驗證FBOOT1。
（4）如果驗證失敗，關閉卡。
（5）如果驗證成功，把控制權交給FBOOT1。
2.2.2.2 FBOOT1
FBOOT1的責任是配置卡和啟動μOS。配置卡包括初始化所有核、非核單元和內存。這種處理方式和典型的×86內核一樣。代碼必須在64位保護模式下啟動才能訪問必要的配置寄存器。
當啟動第三方μOS——當然是基于MPSS的Linux μOS，可信根不會向下傳遞。可信根只會在維護模式下傳遞，并且只是在需要特權操作的時候。維護模式會鎖定一些寄存器并重寫一些硬件。
在驗證結束后確定啟動的ktOS類型。FBOOT1回叫（call back）FBOOTO，FBOOT0用嵌入其中的公鑰運行驗證過程。只有維護模式的μOS會簽名私鑰，其他模式只能使用未簽名的。如果驗證通過，則會啟動維護模式的μOS。如果驗證失敗，則假定使用第三方的pOS并使用Linux啟動協議，鎖定對敏感寄存器的訪問以保護知識產權。
FBOOT1的執行流如下：
（1）設置內存頻率然后重置卡。
（2）完成核的初始化。