最近GPU可以说站到了风口浪尖。
经过多轮的市场传言猜测与情绪反转，美国政府最终对英伟达的H20芯片升级了出口管制，随即英伟达CEO黄仁勋时隔3个月再次到访中国，表示希望继续与中国合作，可见此举在业内引发的震动。
目前，大家讨论最多的话题就是GPU ，但是我发现大家对GPU卡核心参数规格有模糊不清，今天的我们就手把手带大家快速理解“GPU各个核心参数规格”，比如算力、显存（显存类型、显存带宽）、卡间互联、功耗等等，下面我们马上开始！
1.显卡和GPU的区别
显卡和GPU常常被提及，但它们的概念和功能有所不同。
简单地说：
GPU是显卡中的核心组件，它是一个专用的处理器，专门设计用于快速和高效地执行复杂的图形和并行计算任务。GPU可以比作电脑中的CPU，但专门针对图形计算进行了优化。
显卡是一个包含GPU的完整硬件单元，通常安装在电脑的主板上。显卡除了包含GPU外，还包括了显存、电源电路、散热系统等多个组件。它是一个独立的硬件设备，负责将GPU处理的图像数据输出到显示设备如显示器。
简单来说，GPU是显卡的心脏，负责图形处理的核心任务，而显卡是整个硬件设备，包括GPU和其他支持组件。显卡的性能不仅依赖于GPU的能力，还受到显存、冷却系统等其他组件的影响。
2.GPU中关键参数的含义介绍
GPU（图形处理单元）负责处理所有图形和视频输出相关的任务。理解GPU的关键参数可以帮助您评估其性能和适用性。下面是一些GPU的重要参数及其含义：
算力大小：指的是GPU执行浮点运算的能力，通常以TFLOPS(每秒浮点操作次数)为单位衡量。高计算能力对科学计算、模拟和深度学习等计算密集型任务至关重要。它能加速模型训练、数据分析以及复杂模拟的处理速度。
核心数量：GPU的核心数量也被称为CUDA核心（NVIDIA的术语）或流处理器（AMD的术语）。核心数量是评估GPU并行处理能力的重要指标。核心数量越多，GPU在执行图形和并行计算任务时通常表现得越好。
核心频率：也称为GPU的时钟速度，以MHz（兆赫）或GHz（吉赫）计量。它表示GPU核心的运行速度。频率越高，GPU处理信息的速度越快。
显存类型：GPU使用的显存类型直接影响其性能。常见的类型包括GDDR5、GDDR6等，其中GDDR6相比GDDR5提供更高的速度和带宽。
显存容量：显存是GPU用来临时存储正在处理的图像数据的内存。容量越大，GPU处理高分辨率和复杂图形任务的能力越强。
显存带宽：这是一个衡量GPU与其显存之间数据传输速度的指标。带宽越高，意味着数据交换越快，GPU的性能也越强。
制造工艺：指GPU芯片制造时使用的半导体技术，以纳米（nm）为单位。工艺越先进，通常意味着功耗更低，性能更高。
TDP（热设计功率）：衡量GPU最大功耗的指标，直接影响散热需求。TDP越高，通常表示GPU性能更强，但也意味着需要更好的冷却系统。
支持的技术：包括NVlink技术、光线追踪、AI加速、虚拟现实等。这些技术的支持不仅显示了GPU的现代化程度，还能拓宽其应用领域。
那么问题来了，很多IT领域的朋友理解上述内容相对比较简单，但是很多智算中心非技术人员，他们理解起来会比较吃力，换句话说“技术小白”怎么快速理解呢？接下来是重点，我们通过类比的方式来跟大家介绍GPU卡的各种参数。
3.打比方快速理解各种GPU参数规格
算力大小：各类算力参数眼花缭乱，比如FP64、FP32、FP16、还有FP16 Tensor Core等，到底该用哪个数值呢？一般情况下，按照目前的主流方案，通常会采用FP16 Tenser加速的989TFPOPS，约1个P来计算，当然某些项目依然还是用稀疏的算力单卡2P，有啥说法吗？
其实这种大多是为了营销，一般用稀疏矩阵加速后数值做营销，对使用场景有条件限制（并不是所有的场景都能达稀疏算力的性能）。
结合个人理解，我们举一个不是特别恰当的例子。我们可以将GPU算力比作一辆货车，不同的算力值比作货车不同的档位所能达到的运行速度，Tenser Core就好比英伟达专门为了AI加速优化出来的速度，就像货车的涡轮增压系统，能够为货车提供更强劲的性能。
核心数量：核心数量比较容易理解，我们可以将之跟CPU的核心数量来类比。当然，GPU多的核心数量要远远超过CPU的核心数量。
这里我们可以将GPU的核心数量比作一节节车厢的货运火车，货车的车厢越多，运送货物的能力就越强。
核心频率：这个同样可以类比CPU的频率，相当于火车的运输速度，频率越高，火车运输理货物的速度越快。
同理，核心频率越高的GPU，处理信息的速度就越快。
显存类型：GPU使用的显存类型直接影响其性能。
常见的类型包括GDDR5、GDDR6等，其中GDDR6相比GDDR5提供更高的速度和带宽，不同类型的显存就相当于不同火车的车厢。
显存类型：显存大小决定了GPU能够“装下”多少的数据，类比就是每节火车车厢能装下多大尺寸（重量）的货物。
显存类型与带宽密切相关，HBM显存好比火车用机械装卸货速度快且好，普通GDDR好比人工的装卸货方式，要慢很多。
显存带宽：
就相当于卸货或者装货的火车能承载的最大速度，带宽越高，意味着数据交换越快，GPU的性能也越强。
制造工艺：这个就相当于制作火车的工艺，你制作普通绿皮火车的工艺肯定不容制作高铁的工艺制作出来的火车能运货。工艺越先进，通常意味着功耗更低，性能更高。
支持的技术：这个就像越高级的火车支持的功能越多，GPU的新技术包括光线追踪、AI加速、虚拟现实等。这些技术的支持不仅显示了GPU的现代化程度，还能拓宽其应用领域。
NVLink技术：以大模型训练为例单卡的显存容量有限无法放进去大模型训练的数据，怎么办呢？
需要多卡协作，英伟达NVLink技术就是解决的这个问题，这就好比一个车厢装不下就需要挂多个车厢，就相当于每个火车车厢之间的连接器。
总之，随着科技的飞速发展，GPU显卡已经成为现代计算机系统中不可或缺的一部分。在挑选一款合适的GPU显卡时，了解其关键参数是至关重要的。通过本文的介绍，相信您已经对GPU显卡的关键参数有了更加深入的了解，并能够更好地选择适合自己的GPU。
