01
HIGH-BANDWIDTH INPUT
HBM 并行送入大量数据
GPU 需要持续获取大量数据。HBM 用宽而短的接口，尽量减少计算核心等待数据的时间。
Graphics Processing Unit
GPU 图形处理器
GPU 把大量类似计算分给众多核心同时处理，用并行吞吐量换取大规模计算效率。
更多细节
主图先讲清数据与调度通路，需要时再展开
01GPU 为什么适合大规模并行计算？
GPU 把更多芯片面积用在大量计算单元上。当一项任务能被拆成许多相似小任务时，这些单元可以同时工作，提高总吞吐量。
02SM 和 Tensor Core 是什么关系？
SM 是 GPU 的主要并行计算模块，其中包含多类执行单元。Tensor Core 是其中针对矩阵乘加等运算进行优化的专用单元，不等于整个 GPU 核心。
03GPU 是不是任何任务都比 CPU 快？
GPU 更擅长可拆分、重复度高、需要大量并行计算的工作。
CPU 更擅长低延迟、分支多、流程复杂的通用任务。
真实系统CPU 负责组织和控制，GPU 负责适合并行的计算，两者协同工作。