AMD Instinct MI300X
شتاب دهندهی OAM شرکت AMD با ۱۹۲ گیگابایت HBM3؛ حافظهی بزرگ آن اجازه میدهد مدلهای بزرگ روی تعداد GPU کمتری جا شوند.
این مشخصات هنوز توسط ویراستار با منبع رسمی تطبیق داده نشده است. پیش از تصمیم خرید، datasheet وندور را هم ببینید.
ظرفیت حافظه
192 GB
پهنای باند حافظه
5,300 GB/s
FP16/BF16 Tensor/Matrix
1,307.4 TFLOPS
حداکثر توان (TDP/TBP)
750 W
اعداد توان پردازشی Tensor/Matrix بدون sparsity (dense) درج شدهاند. وندورها معمولاً عدد با sparsity را که دو برابر است تبلیغ میکنند.
کلیات
| معماری | CDNA 3 |
|---|---|
| فرایند ساخت | TSMC 5nm / 6nm (chiplet) |
| فرمفکتور | OAM |
حافظه
| ظرفیت حافظه | 192 GB |
|---|---|
| نوع حافظه | HBM3 |
| پهنای باند حافظه | 5,300 GB/s |
| ECC | دارد |
توان پردازشی (dense)
| FP64 | 81.7 TFLOPS |
|---|---|
| FP64 Tensor/Matrix | 163.4 TFLOPS |
| FP32 | 163.4 TFLOPS |
| TF32 Tensor/Matrix | 653.7 TFLOPS |
| FP16/BF16 Tensor/Matrix | 1,307.4 TFLOPS |
| FP8 Tensor/Matrix | 2,614.9 TFLOPS |
| INT8 Tensor/Matrix | 2,614.9 TOPS |
توان مصرفی
| حداکثر توان (TDP/TBP) | 750 W |
|---|
ارتباطات
| اتصال GPU به GPU | Infinity Fabric |
|---|---|
| پهنای باند اتصال GPU به GPU | 896 GB/s |
| نسل PCIe | 5 |
| تعداد لین PCIe | 16 |
| تقسیمبندی سختافزاری مثلاً MIG در NVIDIA | — |
منابع
- AMD Instinct MI300X Accelerator www.amd.com