課程內(nèi)容：

由于技術(shù)限制，保持單個處理器性能的持續(xù)提升變得越來越困難。因此，目前的趨勢是將多個處理器集成到單個芯片上，并利用由此產(chǎn)生的并行資源來獲得更高的計算能力。然而，這可能需要采用與硬件和軟件截然不同的方法，特別是對于通用應(yīng)用。本課程將詳細探討這些問題。

課程目標：

本課程旨在探討當前將多個處理器集成到單個芯片的趨勢帶來的各種軟件和硬件問題，以通過并行處理解決單核處理器速度停滯的問題。

課程大綱：

1、簡介：技術(shù)趨勢、局限性和后果。向多核的遷移。程序中的并行性、ILP、線程級、數(shù)據(jù)并行性。

2、并行架構(gòu)：SIMD、MIMD、共享內(nèi)存、分布式內(nèi)存、優(yōu)缺點。

3、并行編程：多線程編程、數(shù)據(jù)并行編程、顯式與隱式并行、自動并行化。共享內(nèi)存的案例。

4、共享內(nèi)存多處理器：基本結(jié)構(gòu)、高速緩存一致性問題。MESI協(xié)議。局限性?；谀夸浀囊恢滦?。

5、使用鎖和屏障編程：同步需求。顯式同步的問題。

6、其他并行編程方法：MPI和OpenMP。

7、推測：自動并行化的捷徑？

8、事務(wù)性內(nèi)存：原理。硬件和軟件方法。

9、內(nèi)存問題：內(nèi)存系統(tǒng)設(shè)計。內(nèi)存一致性。

10、其他架構(gòu)和編程方法：GPGPU、CUDA

11、數(shù)據(jù)驅(qū)動并行：數(shù)據(jù)流原理和函數(shù)式編程。

學(xué)習(xí)成果：

通過本課程的學(xué)習(xí)，學(xué)生將能夠：

1、描述芯片多處理器硬件（例如多核CPU和GPU）的設(shè)計和構(gòu)造以及相關(guān)編程語言的主要問題以及關(guān)鍵建議解決方案。

2、評估編程語言擴展的多個具體示例，這些擴展支持在共享內(nèi)存多處理器上編寫正確高效的代碼。

3、比較硬件結(jié)構(gòu)的多個擴展，例如，內(nèi)存一致性、同步、推測和事務(wù)性內(nèi)存，以提高在芯片多處理器上執(zhí)行的代碼的性能。

4、比較編程語言的多個擴展和支持用戶和操作系統(tǒng)級數(shù)據(jù)結(jié)構(gòu)的擴展，以提高在芯片多處理器上執(zhí)行的代碼的性能。

5、根據(jù)從并行編程練習(xí)中獲得的體驗，評估常用編程語言中并發(fā)支持的有效性，包括線程、鎖和屏障的使用。