用于科学计算及其他的GPU编程

教学大纲

• 第1周

  课程组织，并行编程概念和GPU体系结构

  • 课程介绍和欢迎Pascal Bouvry

    Pascal Bouvry教授谈到了本课程的概述以及多年来GPU如何发展。以及如何用于科学和工程以及AI/ML计算。

  • Ezhilmathi Krishnasamy的课程介绍

    Dr. Ezhilmathi Krishnasamy talks about an overview of this GPU programming course and its use for scientific computing. Furthermore, it also talks about course organization and what you will be learning as a participant.

  • 介绍第1周活动

    该视频将简要说明整个星期的内容以及您将要学习的内容。此外，它还简要介绍了每篇文章的主要思想和概念。因此，这使学习者获得了一个好主意。

  • 简介（第1条，测验和讨论）

    本节将显示GPU计算在科学计算和人工智能中的重要性；以及如何将GPU纳入现代超级计算机中。

  • 课程组织和GPU访问（第2条，测验和讨论）

    本节概述了课程，先决条件和课程结构的结果。最后，它建议访问GPU硬件和软件的方法。

  • 并行计算机架构（第3条，测验和讨论）

    在本节中，我们将研究计算机并行体系结构的基础知识。它显示了CPU并行体系结构的概述。通过知道这一点，后来将有助于了解GPU体系结构。

  • General Parallel Programming Concepts (Article 4, Quiz and Discussion)

    本节将介绍一般并行编程的介绍。通过本节将有助于查看CPU和GPU（加速器）上的并行编程之间的差异。

  • GPU架构（第5条，测验和讨论）

    在本节中，我们研究了通用的GPU体系结构，内存，内核以及GPU多年来如何改善数据通信。

• 第2周

  CUDA（基本）：CUDA编程简介

  • Introduction to Week 2 Activities

    该视频将简要说明整个星期的内容以及您将要学习的内容。此外，它还简要介绍了每篇文章的主要思想和概念。因此，这使学习者获得了一个好主意。

  • Basic Programming (Article 1, Quiz and Discussion)

    This section shows our first hello world programming using the GPU. We will then go through how the device, kernel, thread synchronize, and device synchronize are organized in the CUDA code.

  • 了解CUDA线程（第2条，测验和讨论）

    本节将为您提供详细的概述，了解如何组织CUDA线程以及如何在NVIDIA GPU上映射。另外，它还显示了如何将不同的线程块转换为另一种形式。

  • C/C ++的CUDA API（第3条，测验和讨论）

    在本节中，我们将介绍CUDA编程中可用的一些API，该API将指示编译器执行分配的作业。

  • 向量操作（第4条，测验和讨论）

    在本节中，我们将研究如何从数值线性代数的矢量操作进行CUDA编程。

  • 矩阵操作（第5条，测验和讨论）

    在本节中，我们将介绍如何为矩阵乘法应用程序编写CUDA编程。

• 第三周

  CUDA (advanced): Numerical Algebra, Advanced Topics, Profiling and Tuning

  • 介绍第3周活动

    该视频将简要说明整个星期的内容以及您将要学习的内容。此外，它还简要介绍了每篇文章的主要思想和概念。因此，这使学习者获得了一个好主意。

  • Shared Memory Matrix Opertaions (Article 1, Quiz and Discussion)

    本节使用共享内存和瓷砖矩阵概念研究了优化矩阵操作。

  • 统一记忆（第2条，测验和讨论）

    This section will study the unified memory concept in the CUDA programming on Nvidia GPU. The unified memory concept makes programmers less effort for writing the CUDA program for data handling.

  • CUDA流（第3条，测验和讨论）

    CUDA流用于CUDA API调用的并发操作。当设备上有计算并发生通信时，它非常有用。

  • CUDA申请分析（第4条，测验和讨论）

    本节将显示如何介绍NVIDIA CUDA代码。GPU有许多内核，不同的内存选项和分析将有助于编写优化的GPU代码。

  • 绩效优化和调整（第5条，测验和讨论）

    本节显示了CUDA编程的一些性能调整选项。如果未调整代码，那么我们甚至可能会获得不良的性能，这可能表现不佳，即退出代码或CPU代码。

• 第4周

  OpenACC（基本）：OpenACC编程模型简介

  • 介绍第4周活动

    该视频将简要说明整个星期的内容以及您将要学习的内容。此外，它还简要介绍了每篇文章的主要思想和概念。因此，这使学习者获得了一个好主意。

  • Introduction to OpenACC (Article 1, Quiz and Discussion)

    In this section, we show and discuss the introduction to OpenACC. We consider both C/C++ and Fortran programming languages here.

  • OpenACC的功能（第2条，测验和讨论）

    在本节中，我们将展示并讨论OpenACC功能的概述。

  • OpenACC计算结构（第3条，测验和讨论）

    This section shows and discusses the introduction to OpenACC compute constructs. These are essential to learning how to parallelize the serial code.

  • OpenACC中的数据环境（第4条，测验和讨论）

    In this section, we show a few of the data handling clauses that are available in OpenACC. These are very important APIs for data transfer and writing.

  • OpenACC中的编程（第5条，测验和讨论）

    本节介绍了C/C ++和Fortran编程语言的OpenACC编程模型的温和介绍。

• 第5周

  OpenACC (advanced): Numerical Algebra, Advanced Topics, Profiling and Tuning

  • 介绍第5周活动

    该视频将简要说明整个星期的内容以及您将要学习的内容。此外，它还简要介绍了每篇文章的主要思想和概念。因此，这使学习者获得了一个好主意。

  • 向量操作（第1条，测验和讨论）

    在本节中，我们将使用C/C ++和Fortran编程语言进行简单的向量添加。

  • 矩阵操作（第2条，测验和讨论）

    在本节中，我们将研究如何使用openACC进行C/C ++和Fortran语言进行矩阵乘法。我们还将使用一些基本的OpenACC子句和示例。

  • 共享记忆和异步（第3条，测验和讨论）

    在本节中，我们将通过使用OpenACC以及如何启用与CUDA中的CUDA流相似的sync来展示如何使用GPU的共享内存。

  • 分析（第4条，测验和讨论）

    在本节中，我们将展示如何介绍OpenACC代码。通过这样做，我们将知道每个功能花费多少时间。但是，还花了时间来进行CPU和GPU和OpenACC API之间的内存传递。

  • 调整和优化（第5条，测验和讨论）

    As you all now might have familiar with OpenACC and would have noticed that, it is easy to parallelize the serial code into OpenACC. But most of the tricks involve code tuning and optimization; this is what we focus on now.

Who will you learn with?