NVIDIA A100 SXM 80GB در برابر NVIDIA H100 PCIe
NVIDIA · Ampere
NVIDIA A100 SXM 80GB
در انتظار بازبینی
NVIDIA · Hopper
NVIDIA H100 PCIe
در انتظار بازبینی
تفاوتهای اصلی
- پهنای باند حافظه: NVIDIA A100 SXM 80GB ۲٪ بیشتر (2,039 GB/s در برابر 2,000 GB/s)
- FP16/BF16 Tensor/Matrix: NVIDIA H100 PCIe ۱۴۲٪ بیشتر (756.5 TFLOPS در برابر 312 TFLOPS)
- حداکثر توان (TDP/TBP): NVIDIA H100 PCIe ۱۳٪ کمتر (350 W در برابر 400 W)
اعداد توان پردازشی Tensor/Matrix بدون sparsity (dense) درج شدهاند. وندورها معمولاً عدد با sparsity را که دو برابر است تبلیغ میکنند.
| مشخصه | NVIDIA A100 SXM 80GB | NVIDIA H100 PCIe |
|---|---|---|
| کلیات | ||
| معماری | Ampere | Hopper |
| فرایند ساخت | TSMC 7N | TSMC 4N |
| فرمفکتور | SXM | PCIe |
| حافظه | ||
| ظرفیت حافظه | 80 GB | 80 GB |
| نوع حافظه | HBM2e | HBM2e |
| پهنای باند حافظه | 2,039 GB/s | 2,000 GB/s |
| ECC | دارد | دارد |
| توان پردازشی (dense) | ||
| FP64 | 9.7 TFLOPS | 26 TFLOPS |
| FP64 Tensor/Matrix | 19.5 TFLOPS | 51 TFLOPS |
| FP32 | 19.5 TFLOPS | 51 TFLOPS |
| TF32 Tensor/Matrix | 156 TFLOPS | 378 TFLOPS |
| FP16/BF16 Tensor/Matrix | 312 TFLOPS | 756.5 TFLOPS |
| FP8 Tensor/Matrix | — | 1,513 TFLOPS |
| INT8 Tensor/Matrix | 624 TOPS | 1,513 TOPS |
| توان مصرفی | ||
| حداکثر توان (TDP/TBP) | 400 W | 350 W |
| ارتباطات | ||
| اتصال GPU به GPU | NVLink 3 | NVLink bridge |
| پهنای باند اتصال GPU به GPU | 600 GB/s | 600 GB/s |
| نسل PCIe | 4 | 5 |
| تعداد لین PCIe | 16 | 16 |
| تقسیمبندی سختافزاری | MIG، تا ۷ نمونه | MIG، تا ۷ نمونه |
مقدار بهتر