NVIDIA H100 PCIe
نسخهی کارت PCIe از H100 برای سرورهای استاندارد؛ مصرف و توان پردازشی کمتر از نسخهی SXM و حافظهی HBM2e.
این مشخصات هنوز توسط ویراستار با منبع رسمی تطبیق داده نشده است. پیش از تصمیم خرید، datasheet وندور را هم ببینید.
ظرفیت حافظه
80 GB
پهنای باند حافظه
2,000 GB/s
FP16/BF16 Tensor/Matrix
756.5 TFLOPS
حداکثر توان (TDP/TBP)
350 W
اعداد توان پردازشی Tensor/Matrix بدون sparsity (dense) درج شدهاند. وندورها معمولاً عدد با sparsity را که دو برابر است تبلیغ میکنند.
کلیات
| معماری | Hopper |
|---|---|
| فرایند ساخت | TSMC 4N |
| فرمفکتور | PCIe |
حافظه
| ظرفیت حافظه | 80 GB |
|---|---|
| نوع حافظه | HBM2e |
| پهنای باند حافظه | 2,000 GB/s |
| ECC | دارد |
توان پردازشی (dense)
| FP64 | 26 TFLOPS |
|---|---|
| FP64 Tensor/Matrix | 51 TFLOPS |
| FP32 | 51 TFLOPS |
| TF32 Tensor/Matrix | 378 TFLOPS |
| FP16/BF16 Tensor/Matrix | 756.5 TFLOPS |
| FP8 Tensor/Matrix | 1,513 TFLOPS |
| INT8 Tensor/Matrix | 1,513 TOPS |
توان مصرفی
| حداکثر توان (TDP/TBP) | 350 W |
|---|
ارتباطات
| اتصال GPU به GPU | NVLink bridge |
|---|---|
| پهنای باند اتصال GPU به GPU | 600 GB/s |
| نسل PCIe | 5 |
| تعداد لین PCIe | 16 |
| تقسیمبندی سختافزاری مثلاً MIG در NVIDIA | MIG، تا ۷ نمونه |
منابع
- NVIDIA H100 Tensor Core GPU www.nvidia.com