کابل و فیبر / ترنسیور و ماژول

کابل DAC، AOC یا ترنسیور نوری: کدام را انتخاب کنیم؟

مقایسه‌ی کابل DAC، AOC و ترنسیور نوری با فیبر؛ برد هر سرعت طبق IEEE 802.3، مصرف برق، تأخیر و FEC، هزینه، breakout، سازگاری با سوییچ و انتخاب برای هر فاصله.

نوشته‌ی تیم پیکوگاید ۱۱ دقیقه مطالعه
در این صفحه
  1. مقایسه‌ی کلی
  2. DAC از نوع passive: برد در هر سرعت
  3. CA-N، CA-S و CA-L در 25G و 100G
  4. DAC از نوع active
  5. AOC
  6. ترنسیور نوری و فیبر
  7. مصرف برق
  8. تأخیر و FEC
  9. breakout
  10. سازگاری با وندور
  11. کدام را انتخاب کنیم

داخل یک رک و تا حدود ۳ متر، DAC از نوع passive (کابل مسی twinax با ماژول ثابت در دو سر) ارزان‌ترین، کم مصرف‌ترین و کم تأخیرترین اتصال است؛ با بالا رفتن سرعت، برد آن کوتاه‌تر می‌شود و در 100G در هر لین به حدود ۲ متر می‌رسد. برای چند متر تا چند ده متر، مثلاً بین رک‌های یک ردیف، AOC (کابل فیبر با ترنسیور ثابت در دو سر) سبک‌تر و نازک‌تر است ولی به اندازه‌ی ماژول نوری برق می‌گیرد. هر مسیری که از پچ پنل و فیبر ساختار یافته عبور می‌کند یا از حدود ۳۰ متر بلندتر است، ترنسیور نوری جدا با فیبر می‌خواهد؛ گران‌ترین گزینه است، ولی هر سر جداگانه عوض می‌شود و فیبر سر جایش می‌ماند. ماژول هر سر باید در فهرست سازگاری وندور دستگاه همان سر باشد؛ DAC و AOC چون یک تکه‌اند، باید در فهرست هر دو دستگاه آمده باشند.

مقایسه‌ی کلی

DAC از نوع passive DAC از نوع active AOC ترنسیور و فیبر
ساختار twinax مسی، بدون قطعه‌ی فعال در مسیر سیگنال twinax با equalization فعال فیبر ثابت با ترنسیور در دو سر دو ماژول جدا و پچ کورد یا ترانک فیبر
برد معمول 1 تا 5 m در 10G و 25G؛ تا 3 m در 50G به ازای لین؛ حدود 2 m در 100G به ازای لین 7 و 10 m در 10G (Cisco)؛ 2.5 تا 5 m در نسل‌های جدید (NVIDIA) تا 30 m در Cisco؛ تا 100 m در AOC صد گیگ NVIDIA از 70 m روی multimode تا 10 km و بیشتر روی single-mode
مصرف برق کمترین کم تقریباً برابر دو ماژول نوری بیشترین یا برابر AOC
تأخیر کمترین کم کمی بیشتر (تبدیل نوری و در سرعت‌های بالا retiming) مانند AOC
رده‌ی هزینه کمترین کم تا متوسط متوسط بیشترین
وزن و قطر سنگین و ضخیم، شعاع خمش بزرگ مانند passive سبک و نازک سبک
عبور از پچ پنل ندارد ندارد ندارد دارد
خرابی یک سر تعویض کل کابل تعویض کل کابل تعویض کل کابل تعویض همان ماژول

DAC از نوع passive: برد در هر سرعت

DAC از نوع passive هیچ قطعه‌ی فعالی در مسیر سیگنال ندارد و فقط در هر سر یک EEPROM دارد که نوع کابل و میزان تضعیف مورد انتظار را به دستگاه اعلام می‌کند. برد آن را تضعیف سیگنال در مس تعیین می‌کند و با هر افزایش سرعت هر لین، IEEE هدف برد کوتاه‌تری گذاشته است:

PHY در IEEE 802.3 استاندارد سرعت هر لین هدف برد روی twinax
40GBASE-CR4 802.3ba 10G دست کم 7 m
100GBASE-CR4 802.3bj 25G دست کم 5 m
25GBASE-CR و 25GBASE-CR-S 802.3by 25G دست کم 5 m و دست کم 3 m
50GBASE-CR، 100GBASE-CR2، 200GBASE-CR4 802.3cd 50G دست کم 3 m
100GBASE-CR1، 200GBASE-CR2، 400GBASE-CR4 802.3ck 100G دست کم 2 m

این‌ها هدف‌های حداقلی استانداردند و طول واقعی کابل‌ها را datasheet وندور تعیین می‌کند. نمونه‌ها:

  • 10G: Cisco کابل SFP+ از نوع passive را در طول‌های 1 تا 5 متر عرضه می‌کند (تا 3 متر با سیم 30AWG و 4 و 5 متر با سیم ضخیم‌تر 24 یا 26AWG).
  • 100G: Cisco کابل QSFP-100G-CU را از 1 تا 5 متر دارد. در کابل‌های 100G شرکت NVIDIA، طول‌های تا 2 متر از رده‌ی CA-25G-N (بدون نیاز به FEC) و 3 تا 5 متر از رده‌ی CA-25G-L (با RS-FEC) هستند.
  • 400G: کابل QSFP-DD از نوع passive در Cisco از 0.5 تا 3 متر است. صفحه‌ی LinkX در NVIDIA برای نسل‌های فعلی حداکثر برد DAC را 2.5 تا 3 متر اعلام می‌کند.

CA-N، CA-S و CA-L در 25G و 100G

IEEE 802.3by برای کابل‌های 25G به ازای لین سه رده بر اساس میزان تضعیف تعریف کرده است و رده، نوع FEC لازم را تعیین می‌کند. طبق راهنمای کابل NVIDIA:

  • CA-N: کابل 0.5 تا 3 متری با سیم ضخیم‌تر (26AWG) و شیلد بهتر؛ FEC لازم نیست و می‌شود آن را خاموش کرد.
  • CA-S: به BASE-R FEC (FireCode) نیاز دارد.
  • CA-L: کابل 3 تا 5 متری با سیم نازک‌تر (30AWG) و شیلد کمتر؛ به RS-FEC نیاز دارد.

FEC در سوییچ و کارت شبکه پردازش می‌شود، نه در کابل، و هر دو سر لینک باید یک نوع FEC را اجرا کنند. طبق NVIDIA، تنظیم ناهمسان FEC در دو دستگاه یکی از مشکلات رایج در راه اندازی لینک‌های پر سرعت است.

DAC از نوع active

در DAC از نوع active، مدار equalization در کابل سیگنال را تقویت و اصلاح می‌کند تا برد مس کمی بیشتر شود. Cisco در 10G کابل twinax از نوع active را در طول‌های 7 و 10 متر با مصرف 1 وات عرضه می‌کند. NVIDIA در نسل‌های جدید کابل LACC (Linear Active Copper Cable) با برد 2.5 تا 5 متر بسته به سرعت دارد و آن را برای اتصال رک به رک در شبکه‌های AI معرفی می‌کند. DAC از نوع active هنوز همان وزن و ضخامت مس را دارد؛ فقط چند متر به برد اضافه می‌کند.

AOC

AOC یک کابل فیبر است که ترنسیور در دو سر آن ثابت شده و فیبرها از بدنه جدا نمی‌شوند. طبق راهنمای NVIDIA:

  • AOC فقط تست الکتریکی لازم دارد و کانکتور نوری در دسترس نیست؛ پس تمیز کردن کانکتور هم لازم نیست. اگر ابزار و تجربه‌ی تمیز کردن کانکتور فیبر ندارید، AOC امن‌تر از ترنسیور و پچ کورد است.
  • دو سر AOC یک مجموعه‌ی تست شده‌اند و مشکل هم‌خوانی نوری بین ماژول‌های دو سازنده پیش نمی‌آید.
  • برد معمول AOC از 3 تا حدود 100 متر است. NVIDIA AOC بلندتر از 100 متر را عملی نمی‌داند، چون در صورت خرابی باید کل کابل را از مسیر بیرون کشید و کابل تازه کشید.
  • وزن: فیبر هشت رشته‌ای حدود 10 گرم بر متر است. AOC پنج متری 200G شرکت NVIDIA حدود 166 گرم وزن دارد و DAC سه متری 200G همان شرکت حدود 387 گرم.

طول AOC در Cisco برای 10G از 1 تا 10 متر و برای 100G و 400G از 1 تا 30 متر است. AOC صد گیگ multimode شرکت NVIDIA تا 100 متر ساخته می‌شود.

AOC از پچ پنل عبور نمی‌کند. برای مسیری که باید از ترانک فیبر ساختار یافته بگذرد یا مسیرش مدام تغییر می‌کند، ترنسیور جدا بگیرید.

ترنسیور نوری و فیبر

اینجا دو ماژول جدا در دو سر و یک پچ کورد یا ترانک فیبر بین آن‌ها دارید. انعطاف این روش از دو جا می‌آید: فیبر مستقل از ماژول است و هر سر جداگانه عوض می‌شود. نوع ماژول (SR، DR، FR، LR و …) برد را تعیین می‌کند؛ مثلاً 100GBASE-SR4 در Cisco تا 70 متر روی OM3 و 100 متر روی OM4، و 400G-DR4 تا 500 متر روی single-mode. فهرست کامل اپتیک‌ها و کانکتورها در راهنمای ماژول SFP تا QSFP-DD و انتخاب نوع فیبر در فیبر single-mode یا multimode آمده است.

دو نکته‌ی عملی:

  • کانکتور ماژول و پچ کورد را پیش از هر اتصال تمیز کنید. NVIDIA این کار را برای ترنسیورها لازم می‌داند، چون پرتو نور بسیار باریک است و ذره‌ی کوچک روی کانکتور توان دریافتی را پایین می‌آورد.
  • وقتی بعداً سرعت را بالا می‌برید، فیبر نصب شده سر جایش می‌ماند، به شرطی که نوع فیبر و کانکتور با اپتیک جدید هم‌خوان باشد؛ مثلاً SR4 کانکتور MPO می‌خواهد و DR با LC دوبل کار می‌کند.

مصرف برق

عددهای datasheet سیسکو برای هر سر کابل یا هر ماژول:

سرعت DAC از نوع passive DAC از نوع active AOC ماژول نوری
10G (SFP+) 0.1 W 1 W 1 W SR و LR هر کدام 1 W
100G (QSFP28) 1.5 W - 3.5 W SR4 و CWDM4 هر کدام 3.5 W، LR4 برابر 4.0 W، DR برابر 4.3 W
400G (QSFP-DD) حداکثر 1.5 W - حداکثر 12 W حداکثر 12 W (LR8 برابر 13 W)

در 10G تفاوت برق ناچیز است. در 400G هر لینک با DAC حداکثر حدود 3 وات می‌گیرد و با AOC یا دو ماژول نوری حدود 24 وات؛ روی یک سوییچ 32 پورتی 400G این اختلاف چند صد وات برق و گرما است. سقف توان هر پورت را هم در راهنمای سخت افزار سوییچ ببینید؛ در برخی سوییچ‌ها تعداد یا جای ماژول‌های پر مصرف محدود است. AOC صد گیگ NVIDIA با retiming به طور معمول 2.2 وات برای هر سر مصرف دارد.

تأخیر و FEC

  • DAC از نوع passive قطعه‌ی فعالی در مسیر ندارد و NVIDIA آن را اتصالی با مصرف و تأخیر بسیار کم معرفی می‌کند.
  • AOC و ترنسیور سیگنال را به نور و برعکس تبدیل می‌کنند و در سرعت‌های بالا retiming (CDR) هم دارند که کمی تأخیر اضافه می‌کند.
  • بخش مهم‌تر تأخیر در بسیاری از لینک‌ها FEC است که در دستگاه انجام می‌شود. طبق NVIDIA، با کابل CA-N سوییچ‌های NVIDIA خودکار از RS-FEC به BASE-R FEC می‌روند که حدود 30 درصد تأخیر کمتری دارد و خاموش کردن دستی FEC حدود 120 نانوثانیه در هر جهت صرفه جویی می‌کند.
  • لینک‌های 200G و 400G با مدولاسیون PAM4 کار می‌کنند و طبق NVIDIA در آن‌ها FEC همیشه لازم است (در AOC و ترنسیور، retiming هم). رده بندی CA-N و CA-L فقط برای DACهای 25G و 100G است و در این سرعت‌ها گزینه‌ی خاموش کردن FEC وجود ندارد.

برای شبکه‌ی ذخیره سازی یا HPC که چند صد نانوثانیه هم مهم است، در 25G و 100G کابل DAC از نوع CA-N بگیرید و تنظیم FEC را روی هر دو سر بررسی کنید.

breakout

پورت چند لینه‌ی سوییچ را می‌توان به چند پورت کم سرعت‌تر تقسیم کرد:

  • DAC از نوع breakout: Cisco کابل QSFP-4SFP25G-CU (یک 100G به چهار 25G) را از 1 تا 5 متر، QDD-4ZQ100-CU (یک 400G به چهار QSFP56 با 100GBASE-CR2) و QDD-2Q200-CU (یک 400G به دو 200GBASE-CR4) را از 1 تا 3 متر دارد. کابل‌های splitter مسی NVIDIA حداکثر 3 متر هستند.
  • AOC از نوع breakout: NVIDIA splitter نوری با شاخه‌های تا 20 یا 30 متر دارد.
  • ترنسیور و فیبر: ماژول QDD-400G-DR4-S سیسکو به چهار ماژول QSFP28 از نوع 100G-DR تا 500 متر breakout می‌شود. برای این کار کابل breakout از MPO به چهار LC دوبل لازم است.

در تجهیزات NVIDIA فقط پورت‌های سوییچ قابل تقسیم‌اند، نه پورت کارت شبکه، و طبق راهنمای همین شرکت تعداد پورت‌هایی که روی یک سوییچ breakout می‌شوند به تعداد MACهای تراشه‌ی سوییچ بستگی دارد. پورت سوییچ باید در حالت split یا breakout پیکربندی شود. جدول breakout مدل سوییچ خودتان را پیش از خرید کابل ببینید.

سازگاری با وندور

هر سر DAC و AOC، مثل هر ترنسیور، یک EEPROM دارد که نام سازنده و شماره‌ی قطعه را به دستگاه اعلام می‌کند. بسیاری از سوییچ‌ها این اطلاعات را می‌خوانند و ماژول یا کابل ناشناخته را نمی‌پذیرند یا پشتیبانی نمی‌کنند. هر وندور فهرست کابل و ماژول‌های پشتیبانی شده برای هر مدل دستگاه را منتشر می‌کند:

  • Cisco: ابزار Optics-to-Device Compatibility Matrix (TMG) در tmgmatrix.cisco.com برای هر دستگاه ماژول‌ها و کابل‌های سازگار را نشان می‌دهد. Cisco در همین صفحه اعلام می‌کند اپتیک ثالث را پشتیبانی نمی‌کند.
  • Juniper: ابزار Hardware Compatibility Tool ترنسیورها و کابل‌های پشتیبانی شده را برای هر محصول فهرست می‌کند.
  • NVIDIA: در release notes firmware هر کارت شبکه و سوییچ، بخش Validated and Supported Cables فهرست DAC، ACC، AOC و ترنسیورهای تأیید شده را می‌آورد. طبق همین سند، کابل ثالثی که NVIDIA تأیید نکرده قابل استفاده است، ولی هیچ تضمینی برای کارایی آن داده نمی‌شود.

وقتی دو سر لینک دستگاه‌های دو وندور مختلف‌اند (مثلاً سوییچ Cisco و کارت شبکه‌ی NVIDIA در سرور)، یک کابل واحد باید هم مورد پذیرش سوییچ باشد و هم کارت شبکه. با ترنسیور جدا این مشکل کمتر است، چون هر سر می‌تواند ماژول تأیید شده‌ی وندور همان دستگاه را داشته باشد؛ به شرطی که هر دو یک استاندارد، طول موج و FEC را اجرا کنند. رفتار سوییچ‌های Cisco، Juniper و MikroTik با ماژول غیر اصلی در راهنمای ماژول‌ها آمده است.

کدام را انتخاب کنیم

سناریو انتخاب
سرور به سوییچ ToR در همان رک، تا 3 متر (در 100G به ازای لین تا 2 متر) DAC از نوع passive
سرور یا سوییچ در رک کناری، 3 تا 7 متر، در 10G یا 25G DAC بلندتر با FEC مناسب، DAC از نوع active، یا AOC
لینک 100G به ازای لین (400G با چهار لین و بالاتر) بیش از 2 تا 3 متر AOC یا ترنسیور؛ برای 3 تا 5 متر LACC در صورت پشتیبانی دستگاه
بین رک‌های یک ردیف، 10 تا 30 متر، بدون پچ پنل AOC
مسیر از پچ پنل و ترانک فیبر، یا جابجایی مکرر ترنسیور و فیبر
بین سالن‌ها یا ساختمان‌ها ترنسیور single-mode
رک پر تراکم با کابل‌های زیاد و مشکل جریان هوا AOC به جای DAC بلند و ضخیم
سوییچ و سرور از دو وندور با سیاست سخت درباره‌ی ماژول ترنسیور تأیید شده‌ی هر وندور در سر خودش، یا کابلی که در فهرست هر دو آمده
تقسیم پورت 400G سوییچ به چهار سرور 100G DAC از نوع breakout در همان رک؛ DR4 با کابل MPO به LC برای فاصله‌ی بیشتر

اگر بین دو سوییچ به پهنای باند بیشتر نیاز دارید و پورت سریع‌تر ندارید، چند لینک موازی را با LACP تجمیع کنید. برای ماژول‌های 400G و 800G، تفاوت دو قالب رایج را در QSFP-DD یا OSFP ببینید.

منابع

  1. IEEE P802.3ba Objectives (40GBASE-CR4) www.ieee802.org
  2. IEEE P802.3bj Objectives (100GBASE-CR4) www.ieee802.org
  3. IEEE P802.3by Objectives (25GBASE-CR) www.ieee802.org
  4. IEEE P802.3cd Objectives (50/100/200GBASE-CR) www.ieee802.org
  5. IEEE P802.3ck Objectives (100/200/400GBASE-CR) www.ieee802.org
  6. Cisco 10GBASE SFP+ Modules Data Sheet www.cisco.com
  7. Cisco 100GBASE QSFP-100G Modules Data Sheet www.cisco.com
  8. Cisco 400G QSFP-DD Cable and Transceiver Modules Data Sheet www.cisco.com
  9. Cisco Optics-to-Device Compatibility Matrix (TMG) tmgmatrix.cisco.com
  10. NVIDIA LinkX Cables and Transceivers www.nvidia.com
  11. NVIDIA Cable Management Guidelines and FAQ docs.nvidia.com
  12. NVIDIA MCP1600-C0xxEyyz 100GbE QSFP28 DAC Cable Product Specifications networking-docs.nvidia.com
  13. NVIDIA MFA1A00-xxxx 100Gb/s QSFP28 MMF Active Optical Cable Product Specifications networking-docs.nvidia.com
  14. NVIDIA ConnectX-7 Firmware Release Notes — Validated and Supported Cables and Switches networking-docs.nvidia.com
  15. Juniper Hardware Compatibility Tool apps.juniper.net