NVIDIA H100 PCIe در برابر NVIDIA L40S
NVIDIA · Hopper
NVIDIA H100 PCIe
در انتظار بازبینی
NVIDIA · Ada Lovelace
NVIDIA L40S
در انتظار بازبینی
تفاوتهای اصلی
- ظرفیت حافظه: NVIDIA H100 PCIe ۶۷٪ بیشتر (80 GB در برابر 48 GB)
- پهنای باند حافظه: NVIDIA H100 PCIe ۱۳۱٪ بیشتر (2,000 GB/s در برابر 864 GB/s)
- FP16/BF16 Tensor/Matrix: NVIDIA H100 PCIe ۱۰۹٪ بیشتر (756.5 TFLOPS در برابر 362 TFLOPS)
اعداد توان پردازشی Tensor/Matrix بدون sparsity (dense) درج شدهاند. وندورها معمولاً عدد با sparsity را که دو برابر است تبلیغ میکنند.
| مشخصه | NVIDIA H100 PCIe | NVIDIA L40S |
|---|---|---|
| کلیات | ||
| معماری | Hopper | Ada Lovelace |
| فرایند ساخت | TSMC 4N | TSMC 4N |
| فرمفکتور | PCIe | PCIe |
| حافظه | ||
| ظرفیت حافظه | 80 GB | 48 GB |
| نوع حافظه | HBM2e | GDDR6 |
| پهنای باند حافظه | 2,000 GB/s | 864 GB/s |
| ECC | دارد | دارد |
| توان پردازشی (dense) | ||
| FP64 | 26 TFLOPS | — |
| FP64 Tensor/Matrix | 51 TFLOPS | — |
| FP32 | 51 TFLOPS | 91.6 TFLOPS |
| TF32 Tensor/Matrix | 378 TFLOPS | 183 TFLOPS |
| FP16/BF16 Tensor/Matrix | 756.5 TFLOPS | 362 TFLOPS |
| FP8 Tensor/Matrix | 1,513 TFLOPS | 733 TFLOPS |
| INT8 Tensor/Matrix | 1,513 TOPS | 733 TOPS |
| توان مصرفی | ||
| حداکثر توان (TDP/TBP) | 350 W | 350 W |
| ارتباطات | ||
| اتصال GPU به GPU | NVLink bridge | — |
| پهنای باند اتصال GPU به GPU | 600 GB/s | — |
| نسل PCIe | 5 | 4 |
| تعداد لین PCIe | 16 | 16 |
| تقسیمبندی سختافزاری | MIG، تا ۷ نمونه | — |
مقدار بهتر