MPI 并行计算
教师: 黃 杰森
2015/03/20 ~ 2015/06/04
17时数/9周次 (报名结束)

概要

随着电脑科技的发展,并行计算机的进步也是一日千里。在各个研究领域里,并行计算所扮演的角色可以说是与日剧增。因为并行计算机可以快速的处理大量的数据与进行计算,在日益要求准确及快速求解的情形下,使用并行计算变成了现代科学人的必备技能。本课程希望透过熟悉Message Passing Interface (MPI) 这个标准语法,进而带领学生了解当代并行计算机的架构与平行算法等相关知识,进而培养学生学习新一代并行计算机的能力。 备注:德国马克是少数将数学家放在钱币的国家。

课程目标

本課程希望透過熟悉Message Passing Interface (MPI) 這個標準語法,進而帶領學生瞭解當代平行計算機的架構與平行演算法等相關知識,進而培養學生學習新一代平行計算機的能力。

授课教师

黃杰森

黃杰森老師的研究方向在於多孔媒體流,區域分割法,無網格法,金融數學及平行計算。黃杰森老師先後執行遠距課程,開放式課程及磨課師課程,自1999年起便先後在國立中山大學開設平行計算課程。

课程进度表

第1周:Unit 1. Introduction to Parallel Computing

第2周:Unit 2. Dichotomy of Parallel Computing Platforms

第3周:Unit 3. Communication Costs in Parallel Machines

第4周:Unit 4. Analytical Modeling of Parallel Systems

第5周: Midterm Exam

第6周:Unit 5. Collective Communication and Computation Operations

第7周:Unit 6. Topologies and Embedding

第8周:Unit 7. Using MPI for Simple I/O

第9周:Unit 8. Accessing Arrays Stored in Files

第10周:Unit 9. Introduction to Remote Memory

第11周:Final Exam

课程内容

周次

教学单元主题

教学单元影片

1

Introduction to Parallel Computing

1-1介绍并行计算

1-2介绍并行计算在各领域的运用

Trends in Microprocessor Architectures

1-3介绍微处理器的架构

1-4内存与并行计算的关系

2

Dichotomy of Parallel Computing Platforms

2-1并行计算的分类

2-2SIMD and MIMD 处理器

2-3Shared Space 与Message Passing平台

3

Communication Costs in Parallel Machines

3-1并行计算的传递成本

Programming Using the Message Passing Paradigm

3-2Message-Passing的基本架构

3-3基本MPI指令Send Recv

4

Analytical Modeling of Parallel Systems

4-1并行计算的效率评估方式

4-2了解Analytical Model

Scalability of Parallel Systems

4-3分析speed up 及effencicy

4-4Cost optimal 运行时间

5

Collective Communication and Computation Operations

5-1群组传递消息(一)

5-2群组传递消息(二)

Non-Parallel I/O

5-3如何进行输入输出

5-4如何使用单一结点

Understand deadlock

5-5基本MPI指令Sendrecv_Replace

5-6了解MPI_Datatype

6

Topologies and Embedding

6-1了解如何创建高维拓朴结点

6-2MPI_Cart_create

Groups and Communicators

6-3结点间的群组关系

6-4了解MPI_Cart_sub

7

Using MPI for Simple I/O

7-1了解平行I/O

7-2了解MPI_File_open

Noncontiguous Accesses

7-3平行I/O 高端

7-4了解MPI_File_set_view

8

Accessing Arrays Stored in Files

8-1了解如何使用ghost region

8-2了解MPI_Type_create_subarray

Achieving High I/O Performance with MPI

8-3了解四阶段的平行I/O

8-4了解MPI_File_read_all

9

Introduction to Remote Memory Operations

9-1了解Remote Memory Operations

9-2了解MPI_Win_create

实际算例

9-3并行计算线性方程序求解

9-4并行计算偏微分方程方程序求解

上课形式

課程預計上課時間為18節(50分鐘/節),分成9單元,每單元分成兩小節,總上課時間為80分鐘,習題講解與討論20分鐘,預計上課時間為9週。
每一小節皆先製作教學檔案,隨即製作教學錄影檔,教學錄影檔與教學檔案(以PDF檔型式)都會上傳於網站以供學員自行下載閱讀,並配合課後練習與線上評量等活動以瞭解學員之吸收狀況。
透過多功能的教學網站的各項功能,我們希望能在學生學習過程能夠隨時隨地得到需要的幫助,譬如本站包括上課的所有資源,教材,上課課程影片,學生可於課前或課後,得到上課的材料。

评分标准

  • 作業:50%
  • 期中考:25%
  • 期末考:25%

通过标准


课程及格标准:70分满分:100分

先修科目或先备能力

具備基本計算機程式語言撰寫能力之學生,如c或c++。

建议参考书目

Using MPI-2, Advanced Features of the Message-Passing Interfaceby William Gropp, Ewing L. Lusk and Rajeev Thakur. The MIT Press.

其它

本課程證書費用:500元

如何申請證書?

1.點選右上方的「小白人」。

2.點選「證書下載」。

3.畫面即會轉到申請證書系統中,請點選「我要申請證書」。

4.點選「我要搜尋」開始申請證書。

詳細證書下載流程說明請點這裡