【扫盲】关于GPU的那些事

既可以利用线程间通讯做一些复杂的应用和算法加速，又可以在Block的粒度上自由调度计算任务，在不同计算能力的硬件平台上自适应的调整任务安排。每个核都在执行单指令多线程的程序(SIMT)。GPU相比CPU提供更高的指令吞吐量和内存带宽，GPU和CPU在功能上的差异是因为它们的设计目标不同，GPU 专门用于高度并行计算，因此设计时更多的晶体管用于数据处理，而不是数据缓存和流量控制。比如卷积计算其实是重复相同的动作，即使计算中数据之间的相互影响也具有“局域性”，一个数据单元上的计算最多需要它某个邻域上的数据。