Zephyr - Study: CUDA Programming (1)

1. Introduction

    1. GPU 和 CPU 是用 PCIe 连接的
    2. GPU 不是独立的计算平台，需要 CPU 协作，在说 GPU 并行计算的时候，是指基于CPU+GPU的异构计算架构

    3. GPU 做稠密矩阵向量计算，可以快十倍以上

    4. GPU 适合做数据并行的计算密集型任务：大型矩阵运算

        CPU 可以实现复杂的逻辑运算，适合控制密集型任务

    5. CPU 线程是重量级 上下文切换开销大

        GPU 线程是轻量级

2.