有关GPU硬件的理解
1 显卡的DRAM相当于CPU的RAM (Random access memory, 内存)。
二者共同的特点是通电的时候才能使用,不正常断电数据就丢失,但正常情况下,会将数据存储到硬盘中。显存又称帧缓冲器(用于场景显示)。
2 GPU其实相当于是多核的CPU,但是性能相比CPU要弱得多。其实GPU也可以做的像CPU那样强,只是这样成本会高很多。
3 显卡内存(显存/DRAM,Dynamic Random Access Memory,即动态随机存取存储器)和内存(RAM)统称memory(记忆体)。
3 硬盘速度慢,RAM速度快。
原因在于硬盘读取数据的时候,需要指针转到相应的位置,然后读取数据。而RAM靠的是电子指令,因此RAM要比硬盘快得多。而不多用RAM的原因是因为比较贵。
由图可知,GPU与DRAM,CPU与RAM,都是各自独立的,他们都位于图形显卡里头。register 和shared memory都是每个thread私有的,他们都位于GPU里头,而local, global, constant和texture都位于DRAM中,constant和texture在GPU中有 caches (高速缓存), 所以相对速度比较快,而global没有,所以存在global中的数据使用时latency比较大。
4 当我们用randon()函数产生随机数后,是存储在RAM当中的。当我们从文件读入数据,其实是将硬盘中的数据转存到RAM当中。
5 CPU缓存(Cache Memory)是位于CPU与内存之间的临时存储器,它的容量比内存小的多但是交换速率却比内存要快得多。同理GPU缓存。
6 带宽(band width)又叫频宽,是指在固定的的时间可传输的资料数量,亦即在传输管道中可以传递数据的能力。在数字设备中,频宽通常以bps表示,即每秒可传输之位数。所谓的内存带宽,指的也就是内存总线所能提供的数据传输能力。