مشخصات پردازندههای گرافیکی (GPU)
مشخصات دقیق GPUهای دیتاسنتر NVIDIA و AMD: حافظه، پهنای باند، توان پردازشی در هر دقت، مصرف و ارتباطات.
اعداد توان پردازشی Tensor/Matrix بدون sparsity (dense) درج شدهاند. وندورها معمولاً عدد با sparsity را که دو برابر است تبلیغ میکنند.
۷ محصول
| مدل | ظرفیت حافظه | پهنای باند حافظه | FP16/BF16 Tensor/Matrix | حداکثر توان (TDP/TBP) |
|---|---|---|---|---|
| AMD Instinct MI325X AMD · CDNA 3 | 256 GB | 6,000 GB/s | 1,307.4 TFLOPS | 1,000 W |
| AMD Instinct MI300X AMD · CDNA 3 | 192 GB | 5,300 GB/s | 1,307.4 TFLOPS | 750 W |
| NVIDIA H200 SXM NVIDIA · Hopper | 141 GB | 4,800 GB/s | 989.5 TFLOPS | 700 W |
| NVIDIA A100 SXM 80GB NVIDIA · Ampere | 80 GB | 2,039 GB/s | 312 TFLOPS | 400 W |
| NVIDIA H100 PCIe NVIDIA · Hopper | 80 GB | 2,000 GB/s | 756.5 TFLOPS | 350 W |
| NVIDIA H100 SXM NVIDIA · Hopper | 80 GB | 3,350 GB/s | 989.5 TFLOPS | 700 W |
| NVIDIA L40S NVIDIA · Ada Lovelace | 48 GB | 864 GB/s | 362 TFLOPS | 350 W |