NVIDIA A100 SXM 80GB
GPU دیتاسنتر نسل Ampere که هنوز در بسیاری از کلاسترها کار میکند؛ ۸۰ گیگابایت HBM2e، بدون پشتیبانی سخت افزاری از FP8.
این مشخصات هنوز توسط ویراستار با منبع رسمی تطبیق داده نشده است. پیش از تصمیم خرید، datasheet وندور را هم ببینید.
ظرفیت حافظه
80 GB
پهنای باند حافظه
2,039 GB/s
FP16/BF16 Tensor/Matrix
312 TFLOPS
حداکثر توان (TDP/TBP)
400 W
اعداد توان پردازشی Tensor/Matrix بدون sparsity (dense) درج شدهاند. وندورها معمولاً عدد با sparsity را که دو برابر است تبلیغ میکنند.
کلیات
| معماری | Ampere |
|---|---|
| فرایند ساخت | TSMC 7N |
| فرمفکتور | SXM |
حافظه
| ظرفیت حافظه | 80 GB |
|---|---|
| نوع حافظه | HBM2e |
| پهنای باند حافظه | 2,039 GB/s |
| ECC | دارد |
توان پردازشی (dense)
| FP64 | 9.7 TFLOPS |
|---|---|
| FP64 Tensor/Matrix | 19.5 TFLOPS |
| FP32 | 19.5 TFLOPS |
| TF32 Tensor/Matrix | 156 TFLOPS |
| FP16/BF16 Tensor/Matrix | 312 TFLOPS |
| FP8 Tensor/Matrix | — |
| INT8 Tensor/Matrix | 624 TOPS |
توان مصرفی
| حداکثر توان (TDP/TBP) | 400 W |
|---|
ارتباطات
| اتصال GPU به GPU | NVLink 3 |
|---|---|
| پهنای باند اتصال GPU به GPU | 600 GB/s |
| نسل PCIe | 4 |
| تعداد لین PCIe | 16 |
| تقسیمبندی سختافزاری مثلاً MIG در NVIDIA | MIG، تا ۷ نمونه |
منابع
- NVIDIA A100 Tensor Core GPU www.nvidia.com