ChatGPT厉害背后的GPU概念、工作原理，及与CPU的区别

ChatGPT之所以如此厉害，是因为它用到了几万张NVIDA Tesla A100显卡做AI推理和图形计算。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

本文就简单分享下GPU的相关内容，欢迎阅读。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

GPU是什么？

GPU的英文全称Graphics Processing Unit，图形处理单元。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

说直白一点：GPU是一款专门的图形处理芯片，做图形渲染、数值分析、金融分析、密码破解，以及其他数学计算与几何运算的。GPU可以在PC、工作站、游戏主机、手机、平板等多种智能终端设备上运行。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

GPU和显卡的关系，就像是CPU和主板的关系。前者是显卡的心脏，后者是主板的心脏。有些小伙伴会把GPU和显卡当成一个东西，其实还有些差别的，显卡不仅包括GPU，还有一些显存、VRM稳压模块、MRAM芯片、总线、风扇、外围设备接口等等。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

GPU和CPU谁最强呢？

这个其实不好说，好点的GPU内部的晶体管数量可以超过CPU，CPU的强项是做逻辑运算，GPU的强项是做数学运算和图形渲染。这就ChatGPT用大量高性能显卡做AI推理的原因。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

接下来，我们做个简单的对比。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

• 结构组成不同

CPU和GPU都是运算的处理器，在架构组成上都包括3个部分：运算单元ALU、控制单元Control和缓存单元Cache。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

但是，三者的组成比例却相差很大。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

在CPU中缓存单元大概占50%，控制单元25%，运算单元25%；文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

在GPU中缓存单元大概占5%，控制单元5%，运算单元90%。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

结构组成上的巨大差异说明：CPU的运算能力更加均衡，但是不适合做大量的运算；GPU更适合做大量运算。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

这倒不是说GPU更牛X，实际上GPU更像是一大群工厂流水线上的工人，适合做大量的简单运算，很复杂的搞不了。但是简单的事情做得非常快，比CPU要快得多。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

相比GPU，CPU更像是技术专家，可以做复杂的运算，比如逻辑运算、响应用户请求、网络通信等。但是因为ALU占比较少、内核少，所以适合做相对少量的复杂运算。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

• • 缓存不同

在CPU里面，大概50%是缓存单元，并且是四级缓存结构；而在GPU中，缓存是一级或者二级的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

• • 浮点运算方式不同

CPU性能更加注重线程的性能，在控制部分做的事情较多，这样做就是为了确保控制指令不能中断，在浮点计算上功耗少。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

相较于CPU，GPU的结构更为简单，基本上它也只做单精度或双精度浮点运算。GPU的运算速度更快，吞吐量也更高。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

• • 响应方式不同

CPU基本上是实时响应，采用多级缓存来保障多个任务的响应速度。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

GPU往往采用的是批处理的机制，即：任务先排好队，挨个处理。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

GPU对于图形处理

我们假设在实时渲染中，一帧1080*720P的图片，那么这张图就有大概777600个像素点。如果按照最基本的24帧/秒的帧率计算。1秒钟就要求计算机处理18662400个，即：1866.24万个像素点。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

这还是高清的情况下，如果是1090*1080、2K、4K甚至8K的视频渲染，可想而知，这个计算量是何其巨大。尤其是在像游戏这样的实时渲染场景下，显然仅仅依靠CPU渲染是会超时的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

实际上，在屏幕中显示的三维物体都要经过多重的坐标变换，并且物体的表面会受到环境中各种光线的影响，呈现不同的颜色和阴影。这就包括了光线的漫射、折射、透射、散射等。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

接下来，我们以英伟达NVIDIA RTX3090 为例，看下GPU是如何进行渲染的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

RTX3090的流式多处理器有10496个，每个内核都有具备整数运算和浮点运算的部分，还有用于在操作数中排队和收集结果的部分。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

所谓流式多处理器可以认为是一个独立的任务处理单元，也可以认为一颗GPU包含了10496个CPU同时处理各个图片处理任务。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

我们就可以通过算法和程序，对1秒钟18662400个像素点的整体任务进行切割分片，让10496颗处理器并行计算。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

这样的话，每个处理器负责大概每秒处理18662400/10496，即1778个像素点的渲染任务就行了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

如下图所示，在GPU中会划分为多个流式处理区，每个处理区包含数百个内核，每个内核相当于一颗简化版的CPU，具备整数运算和浮点运算的功能，以及排队和结果收集功能。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

注意，除了流处理器CUDA以外，影响GPU性能的还有文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

1. 核心频率：频率越高，性能越强、功耗也越高。
2. 显示位宽：单位是bit，位宽决定了显卡同时可以处理的数据量，越大越好。
3. 显存容量：显存容量越大，代表能缓存的数据就越多。
4. 显存频率：单位是MHz或bps，显存频率越高，图形数据传输速度就越快。

总结

一言以蔽之，GPU不管是处理图形渲染、数值分析，还是处理AI推理。底层逻辑都是将极为繁重的数学进行任务拆解，化繁为简。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

然后，利用GPU多流处理器的机制，将大量的运算拆解为一个个小的、简单的运算，并行处理。我们也可以认为一个GPU就是一个集群，里面每个流处理器都是一颗CPU，这样就容易理解了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

 文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html

以上是关于GPU概念、工作原理的简要介绍。说是简单，其实在图形处理方面，还有很多深层次的处理逻辑没有展开，比如像素位置变换、三角原理等等。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunda/44097.html