NVIDIA H100 SXM در برابر NVIDIA H200 SXM
تفاوتهای اصلی
- ظرفیت حافظه: NVIDIA H200 SXM ۷۶٪ بیشتر (141 GB در برابر 80 GB)
- پهنای باند حافظه: NVIDIA H200 SXM ۴۳٪ بیشتر (4,800 GB/s در برابر 3,350 GB/s)
اعداد توان پردازشی Tensor/Matrix بدون sparsity (dense) درج شدهاند. وندورها معمولاً عدد با sparsity را که دو برابر است تبلیغ میکنند.
| مشخصه | NVIDIA H100 SXM | NVIDIA H200 SXM |
|---|---|---|
| کلیات | ||
| معماری | Hopper | Hopper |
| فرایند ساخت | TSMC 4N | TSMC 4N |
| فرمفکتور | SXM | SXM |
| حافظه | ||
| ظرفیت حافظه | 80 GB | 141 GB |
| نوع حافظه | HBM3 | HBM3e |
| پهنای باند حافظه | 3,350 GB/s | 4,800 GB/s |
| ECC | دارد | دارد |
| توان پردازشی (dense) | ||
| FP64 | 34 TFLOPS | 34 TFLOPS |
| FP64 Tensor/Matrix | 67 TFLOPS | 67 TFLOPS |
| FP32 | 67 TFLOPS | 67 TFLOPS |
| TF32 Tensor/Matrix | 494.5 TFLOPS | 494.5 TFLOPS |
| FP16/BF16 Tensor/Matrix | 989.5 TFLOPS | 989.5 TFLOPS |
| FP8 Tensor/Matrix | 1,979 TFLOPS | 1,979 TFLOPS |
| INT8 Tensor/Matrix | 1,979 TOPS | 1,979 TOPS |
| توان مصرفی | ||
| حداکثر توان (TDP/TBP) | 700 W | 700 W |
| ارتباطات | ||
| اتصال GPU به GPU | NVLink 4 | NVLink 4 |
| پهنای باند اتصال GPU به GPU | 900 GB/s | 900 GB/s |
| نسل PCIe | 5 | 5 |
| تعداد لین PCIe | 16 | 16 |
| تقسیمبندی سختافزاری | MIG، تا ۷ نمونه | MIG، تا ۷ نمونه |
مقدار بهتر