GPU的算力指的是什么？

GPU的計(jì)算能力可以使用FLOPS表示，FLOPS是floating-point operations per second的縮寫,表示“每秒所執(zhí)行的浮點(diǎn)運(yùn)算次數(shù)”。是被用來估算處理的計(jì)算能力

1 MFLOPS = 每秒可以執(zhí)行一百萬(10^6)次浮點(diǎn)運(yùn)算

1 GFLOPS = 每秒可以執(zhí)行十億(10^9)次浮點(diǎn)運(yùn)算

1 TFLOPS = 每秒可以執(zhí)行一萬億(10^12)次浮點(diǎn)運(yùn)算

1TOPS：代表的是每秒執(zhí)行一萬億次運(yùn)算次數(shù)

TFLOPS和 TOPS都是描述深度學(xué)習(xí)設(shè)備計(jì)算能力的單位

這2者的區(qū)別在于：FL即float浮點(diǎn)，大多數(shù)NPU（Neural Processing Unit）都是定點(diǎn)運(yùn)算，通常是用 TOPS來標(biāo)稱算力。它們之間的轉(zhuǎn)換通?？梢杂霉?#xff1a;1TFLOPS=2*1TOPS來計(jì)算，但是需要注意TFLOPS中有單精度FP32 和半精度FP16的區(qū)別，一般默認(rèn)是FP16。

Nvidia GPU的流處理器單元是兩個(gè)ALU單元，每個(gè)時(shí)鐘周期進(jìn)行兩次浮點(diǎn)預(yù)算。。

FLOPS＝ 處理器個(gè)數(shù) × 處理器主頻? ×? 單個(gè)處理器一個(gè)時(shí)鐘周期進(jìn)行浮點(diǎn)運(yùn)算次數(shù)

以最新的RTX4080為例：核心數(shù)量是：9728，最大主頻為：2.51GHz。那么計(jì)算如下：

顯卡FLOPS ＝9728 *2.51＊2＝ 48834.56Gflops=49 TFLOPS