2026 年 1 月 22 日，2025 冬季 InfiniTensor 大模型与人工智能系统训练营 OpenCL 编程系列第二课《OpenCL 编程抽象与语法》开讲。

本节课主要讲解 OpenCL 的核心抽象、编程语法、常用操作。

OpenCL 核心抽象模型

1. 平台模型—— 硬件抽象

• 核心概念： 主机（Host）与设备（Device）的异构架构。
• 层级结构：
  • 主机 (Host)：通常指CPU，负责控制中心、任务调度和数据同步。
  • 设备 (Device)：异构计算硬件（如GPU、多核CPU、DSP）。
  • 计算单元 (Compute Unit)：设备中的并行计算模块。
  • 处理单元 (Processing Element, PE)：最小的执行单元，对应硬件线程。

2. 内存模型 —— 存储规范

• 存储分级：

  • 主机内存
  • 全局内存：类似显存，所有工作项可读写。
  • 常量内存：独立的地址空间，用于存储在内核执行期间保持不变的数据。通过专门的常量缓存（Constant Cache）实现高速访问。
  • 局部内存：计算单元内共享，工作组内所有线程共享。
  • 私有内存：线程独有，仅自己使用。

• 内存对象 (Memory Objects)：
  • Buffer：连续线性内存，通过指针访问（类似 C 语言数组）。
  • Image：带坐标和格式信息的图像内存。
  • Pipe：队列型内存对象，用于设备端内核之间实现生产者-消费者通信模型。
  • 数据交互方式：读/写、填充 (Fill)、映射/解映射 (Map/Unmap)、拷贝 (Copy)。
• 共享虚拟内存(SVM)：
  • 粗粒度 SVM：共享地址空间，但需显式映射/解映射切换使用权。
  • 细粒度 SVM：允许主机和设备在无需映射的情况下访问共享地址空间，但并发访问需要通过同步或原子操作保证一致性。
  • 细粒度系统 SVM：最强形态，主机malloc的指针可直接在设备使用，无需申请，运行时自动同步。

3. 执行模型 —— 运行流程

• 三大核心概念：
  • 上下文：资源仓库与隔离边界（包含设备、内核对象、程序对象、内存对象）。
  • 命令队列 ：设备的执行清单（内核入队、存储器入队、同步命令）。
    • 执行模式：顺序执行 vs 乱序执行（需依赖 Event同步）。
  • 内核：在设备上执行的计算函数。
• 内核执行原理：
  • 索引空间 (NDRange)： 全局尺寸、局部尺寸和偏移 。

4. 编程模型

• 数据并行 ：划分数据分配给不同计算单元（常用模型）。
• 任务并行 ：将程序拆分为独立任务单元。利用 Event机制组织有依赖关系的任务执行。

OpenCL C 基础语法

1. 代码基本规则

• 必须使用__kernel(或kernel) 为前置符。
• 必须返回 void 类型，即无返回值。
• 通过指针参数传递结果。

2. 限定符

• 2.1 函数限定符： __kernel，以及 __attribute__（用于编译优化，如工作组大小）。
• 2.2 地址空间限定符： global, local, constant, private。
  • （1）特殊规则：

• （2）全局地址空间：

• （3）常量地址空间：
  • 全局
  • 只读
  • 初始化

• 2.3 访问限定符：
  read_only, write_only, read_write（主要用于图像类型）。

3. 运算符

标量与向量：支持类似 C 的运算符，并扩展了向量操作（硬件级优化，类似 Python 数组运算但更底层）。

4. 矢量数据拷贝：

• 标量 ↔ 矢量：使用内建函数vload / vstore。

• 矢量 ↔ 矢量：使用“=”直接赋值。

5. 原子函数

• 作用：解决多线程读写共享内存的数据一致性问题。
• 特性：不可分割性、支持内存范围、性能影响（类似加锁）。
• 常用操作：原子读写、原子算术操作、原子逻辑运算（与/或/异或）、原子比较交换。

6.工作组函数

• 背景：利用工作组内共享内存进行高效协同。
• 常用函数：

OpenCL 常用内核操作

1. 工作组同步

• 组内同步 barrier：
  限制：仅适用于工作组内，不支持工作组间全局同步（硬件限制）

• 组间同步：
  • OpenCL 不支持组间同步（硬件限制）。
  • 替代方案：
    ①原子操作：可用于全局求和，但性能瓶颈、扩展性差。
    ②主机端处理：GPU做局部归约，CPU做最终归约。
    ③ 模拟锁：结合原子操作和全局标志位（复杂且性能差）。

2. 归约操作

• 核心思想：通过多次“合并”逐步减少数据量，最终将结果聚合成一个单一输出。

OpenCL 基础算子示例

1. 向量加法——串行实现

2. 多线程实现

在多核 CPU 架构中，利用多线程技术优化向量加法的核心逻辑——数据并行 (Data Parallelism)：与串行实现不同，这里将整个计算任务划分成了独立的“块” (Chunks)。任务分配：线程 0 (Thread 0)：负责处理数据的一个子集（如图中的索引 0-4）。线程 1 (Thread 1)：同时负责处理数据的另一个子集（如图中的索引 9-12）。并发执行：在 Time 0 时刻，线程 0 正在计算 $A[0]+B[0]$，而同一时刻，线程 1 也在计算 $A[9]+B[9]$。两个线程互不干扰，并行推进。优势：理论上，使用 $M$ 个线程可以将计算时间缩短为原来的 $1/M$（不考虑线程创建和上下文切换的开销）。这是高性能计算的基础思想——通过增加计算资源来换取时间。

3.OpencL 并行实现

与 CPU 多线程将数据切分为大块不同，OpenCL 的策略是将计算任务切分到最细粒度（Fine-grained）。工作项 (Work-item)：我们将每一个独立的加法操作（$A[i] + B[i]$）分配给一个独立的“工作项”（类似 CUDA 中的 Thread）。映射关系：Item 0：负责计算索引 0 的数据。Item 1：负责计算索引 1 的数据。...Item N：负责计算索引 N 的数据。

执行时序：如图所示，所有工作项在 Time 0 处于活跃状态（取决于硬件核心数，逻辑上是同时启动的）。这种架构消除了代码中的显式循环结构，将循环的迭代“展开”到了硬件的并行度上。

总结

本课主要讲解了 OpenCL 的核心抽象、编程语法、常用操作。下节课将讲解复杂算子实践与性能优化方法。

💡 学习贴士

更多细节及完整课程内容，请观看直播或查看课程回放。

链接：https://www.infinitensor.com/camp/winter2025

📚 训练营报名持续进行中

扫码报名与加入群聊，或点击 「阅读原文」 直达官网报名