مشخصات پردازنده‌های گرافیکی (GPU)

مشخصات دقیق GPUهای دیتاسنتر NVIDIA و AMD: حافظه، پهنای باند، توان پردازشی در هر دقت، مصرف و ارتباطات.

اعداد توان پردازشی Tensor/Matrix بدون sparsity (dense) درج شده‌اند. وندورها معمولاً عدد با sparsity را که دو برابر است تبلیغ می‌کنند.

۷ محصول

مدل ظرفیت حافظه پهنای باند حافظه FP16/BF16 Tensor/Matrix حداکثر توان (TDP/TBP)
AMD Instinct MI325X AMD · CDNA 3 256 GB 6,000 GB/s 1,307.4 TFLOPS 1,000 W
AMD Instinct MI300X AMD · CDNA 3 192 GB 5,300 GB/s 1,307.4 TFLOPS 750 W
NVIDIA H200 SXM NVIDIA · Hopper 141 GB 4,800 GB/s 989.5 TFLOPS 700 W
NVIDIA A100 SXM 80GB NVIDIA · Ampere 80 GB 2,039 GB/s 312 TFLOPS 400 W
NVIDIA H100 PCIe NVIDIA · Hopper 80 GB 2,000 GB/s 756.5 TFLOPS 350 W
NVIDIA H100 SXM NVIDIA · Hopper 80 GB 3,350 GB/s 989.5 TFLOPS 700 W
NVIDIA L40S NVIDIA · Ada Lovelace 48 GB 864 GB/s 362 TFLOPS 350 W

مقایسه‌ی دو محصول

در برابر