سرور / HPE ProLiant

ریدبندی سرور HP: ساخت RAID در Smart Array و MR (Gen10 و Gen11)

ریدبندی سرور HP در Gen10 و Gen11؛ سطح‌های RAID هر کنترلر Smart Array و MR، نقش cache و energy pack و ساخت RAID با UEFI System Utilities، SSA، ssacli و StorCLI.

نوشته‌ی تیم پیکوگاید ۱۰ دقیقه مطالعه
در این صفحه
  1. کدام کنترلر، کدام RAID
  2. پیش از شروع
  3. Gen10: ساخت RAID در UEFI System Utilities
  4. Gen10: ساخت RAID با SSA
  5. ssacli از داخل سیستم عامل
  6. Gen11: ساخت RAID در کنترلر MR
  7. وضعیت دیسک‌ها: JBOD یا Unconfigured Good
  8. UEFI System Utilities
  9. HPE MR Storage Administrator و StorCLI
  10. بعد از ساخت RAID
  11. مشکلات رایج
  12. قدم بعدی

ریدبندی سرور HP به کنترلر آن بستگی دارد. در Gen10 کنترلرها از خانواده‌ی Smart Array SR هستند (S100i نرم افزاری، E208i و کنترلرهای کلاس P مثل P408i-a و P816i-a) و RAID را در UEFI System Utilities با کلید F9 یا در Smart Storage Administrator (SSA) از مسیر Intelligent Provisioning با کلید F10 می‌سازید. در Gen11 کنترلرهای رایج از خانواده‌ی HPE MR بر پایه‌ی MegaRAID هستند (MR216، MR408 و MR416) و RAID در UEFI System Utilities، HPE MR Storage Administrator یا StorCLI ساخته می‌شود. RAID 6 و write cache فقط در کنترلرهای کلاس P در Gen10 و سری MR400 در Gen11 هستند و cache با یک energy pack (باتری یا خازن) در برابر قطع برق محافظت می‌شود. تفاوت کنترلرهای DL380 در دو نسل در مقایسه‌ی DL380 Gen10 و Gen11 آمده است.

کدام کنترلر، کدام RAID

نسل کنترلر RAID cache نکته
Gen10 S100i SR (نرم افزاری) 0، 1، 5، 10 RAM سیستم به عنوان read cache فقط SATA، فقط بوت UEFI، فقط Windows Server
Gen10 E208i-a، E208i-p 0، 1، 5، 10 ندارد mixed mode (RAID و HBA هم‌زمان)
Gen10 P408i-a، P408i-p 0، 1، 5، 6، 10، 50، 60، 1 Triple، 10 Triple 2 GB FBWC energy pack الزامی
Gen10 P816i-a همان سطح‌های P408i 4 GB FBWC ۱۶ lane؛ energy pack الزامی
Gen11 MR216i-o، MR216i-p 0، 1، 10 ندارد برای HBA و pass-through؛ energy pack پشتیبانی نمی‌شود
Gen11 MR408i-o، MR408i-p 0، 1، 5، 6، 10، 50، 60 4 GB FBWC ۸ lane؛ energy pack اختیاری
Gen11 MR416i-o، MR416i-p 0، 1، 5، 6، 10، 50، 60 8 GB FBWC ۱۶ lane؛ energy pack اختیاری
  • RAID 1 Triple و 10 Triple (نام قبلی: RAID 1 ADM و 10 ADM) داده را روی سه دیسک آینه می‌کنند. حداقل سه دیسک لازم است، تعداد دیسک باید مضرب ۳ باشد و ظرفیت قابل استفاده یک سوم کل است.
  • FBWC (flash-backed write cache) هنگام قطع برق محتوای DRAM کنترلر را روی flash می‌نویسد و energy pack فقط برای همین مدت کوتاه برق می‌دهد. طبق QuickSpecs، energy pack برای کنترلرهای کلاس P در Gen10 الزامی است.
  • SR در Gen11: کنترلر SR932i-p Gen11 (۳۲ lane، 8 GB cache) از خانواده‌ی SR است و مثل Gen10 با SSA پیکربندی می‌شود.
  • ترکیب ممنوع: طبق QuickSpecs، کنترلر Smart Array را نمی‌توان کنار کنترلر MegaRAID در یک سرور نصب کرد؛ تنها استثنا E208e-p است.

HPE برای انتخاب سطح این قاعده را می‌دهد: RAID 1 و 10 برای کارایی نوشتن، RAID 5 و 50 برای ظرفیت، RAID 6 و 60 برای تحمل خطا و ظرفیت، و RAID 1 و 10 Triple برای تحمل خطا و نوشتن. توضیح کامل هر سطح در سطح‌های RAID آمده است.

پیش از شروع

  • کنترلر را بشناسید: نام کنترلر در صفحه‌ی POST و در فهرست System Configuration در UEFI دیده می‌شود. از سیستم عامل، ssacli ctrl all show برای Smart Array و storcli64 show برای MR فهرست کنترلرها را می‌دهد.
  • energy pack: HPE Smart Storage Battery یا Hybrid Capacitor را فقط با سرور خاموش و کابل برق جدا شده نصب کنید. وضعیت آن را در iLO در Power & Thermal → Power ببینید. باتری 96W بعد از خالی شدن حدود دو ساعت برای شارژ کامل وقت می‌خواهد.
  • firmware: ابزارهای SSA، MR Storage Administrator و StorCLI و firmware کنترلر در Service Pack for ProLiant (SPP) می‌آیند؛ پیش از ساخت RAID آخرین SPP سرور را اجرا کنید.
  • کنسول از راه دور: همه‌ی مراحل از کنسول iLO هم انجام می‌شود (راه اندازی iLO در سرورهای HPE).
  • ZFS و Ceph: این دو دیسک خام می‌خواهند و مستندات Proxmox ساخت ZFS روی RAID سخت افزاری را پشتیبانی نمی‌کنند. برای vSAN حالت کنترلر را در Broadcom Compatibility Guide بسنجید. در Smart Array هر دیسکی که عضو logical drive یا spare نباشد به طور پیش فرض مستقیم به سیستم عامل داده می‌شود (mixed mode). در MR باید دیسک در وضعیت JBOD باشد (پایین‌تر).

Gen10: ساخت RAID در UEFI System Utilities

سریع‌ترین روش هنگام راه اندازی اولیه:

  1. هنگام POST کلید F9 را بزنید.
  2. System Configuration → نام کنترلر (مثلاً HPE Smart Array P408i-a SR Gen10) → Array Configuration → Create Array را باز کنید.
  3. دیسک‌ها را انتخاب و Proceed to next Form را بزنید.
  4. سطح RAID را انتخاب کنید و دوباره Proceed to next Form.
  5. در Set Logical Drive Configuration این موارد را تعیین کنید:
تنظیم توضیح
Logical Drive Label نام دلخواه، مثلاً OS
Strip Size/Full Stripe Size در RAID سخت افزاری از 16 KiB تا 1024 KiB، بسته به تعداد دیسک و سطح RAID
Size پیش فرض همه‌ی فضای موجود؛ حداقل 16 MiB
Acceleration Method controller cache یا none
  1. Submit Changes را بزنید، به منوی اصلی برگردید، ذخیره را تأیید و سرور را ریبوت کنید.

UEFI System Utilities مجموعه‌ی محدودی از کارها را دارد. تغییر سطح RAID یا strip size، expand کردن array، extend کردن logical drive، تعیین boot controller و فعال کردن SmartCache فقط در SSA انجام می‌شوند.

Gen10: ساخت RAID با SSA

  1. هنگام POST کلید F10 را بزنید و Intelligent Provisioning را انتخاب کنید. از رابط وب iLO هم با Lifecycle Management به Intelligent Provisioning می‌رسید.
  2. Perform Maintenance → RAID Configuration را باز کنید؛ پنجره‌ی SSA باز می‌شود.
  3. کنترلر را انتخاب کنید و Configure را بزنید.
  4. Create Array را بزنید، دیسک‌ها را انتخاب و دوباره Create Array را بزنید.
  5. RAID Level، Strip Size/Full Stripe Size، Sectors/Track و Size را تعیین و Create Logical Drive را بزنید.
  6. Finish را بزنید.

روی دیسک‌های SSD، قابلیت SmartPath به طور پیش فرض روشن است و logical drive از cache کنترلر استفاده نمی‌کند. اگر برای volume SSD cache کنترلر را می‌خواهید، ابتدا SmartPath آن array را خاموش کنید. تقسیم cache بین خواندن و نوشتن هم در SSA قابل تغییر است؛ پیش فرض ۹۰ درصد برای write cache است.

ssacli از داخل سیستم عامل

SSA CLI در لینوکس با ssacli، در ویندوز از C:\Program Files\Smart Storage Administrator\ssacli\bin\ssacli.exe و در ESXi از /opt/smartstorageadmin/ssacli/bin/ssacli اجرا می‌شود:

ssacli ctrl all show config
ssacli ctrl slot=0 pd all show
ssacli ctrl slot=0 create type=ld drives=1I:1:1,1I:1:2 raid=1
ssacli ctrl slot=0 ld all show

شماره‌ی slot و شناسه‌ی دیسک‌ها (قالب port:box:bay) را از خروجی دو دستور اول بردارید. مقدارهای مجاز raid این‌ها هستند: 0، 1، 1adm، 1+0، 1+0adm، 5، 50، 6 و 60. اگر raid را ندهید، بالاترین سطحی که کنترلر و تعداد دیسک‌ها اجازه می‌دهند انتخاب می‌شود، به جز 50 و 60. size به MB است و پیش فرض آن max.

Gen11: ساخت RAID در کنترلر MR

وضعیت دیسک‌ها: JBOD یا Unconfigured Good

در کنترلر MR هر دیسک یکی از این وضعیت‌ها را دارد: عضو logical drive، Unconfigured Good (پیکربندی نشده و پنهان از سیستم عامل)، spare، یا JBOD (مستقیم به سیستم عامل داده می‌شود). فقط دیسک Unconfigured Good در logical drive قرار می‌گیرد. وضعیت دیسک تازه را گزینه‌ی Auto-Config تعیین می‌کند: در سری MR200 پیش فرض JBOD است و در سری MR400 پیش فرض None، یعنی دیسک Unconfigured Good می‌ماند. تغییر Auto-Config از firmware نسخه‌ی 52.26.3-5250 به بعد ممکن است.

UEFI System Utilities

  1. هنگام POST کلید F9 را بزنید.
  2. System Configuration → HPE MRxxx Gen11 → Main Menu → Configuration Management → Create Logical Drive را باز کنید.
  3. اگر دیسک JBOD دارید، در همین صفحه فهرست می‌شوند؛ آن‌هایی را که برای RAID لازم دارید به Unconfigured Good تبدیل کنید.
  4. تنظیم‌ها را انتخاب کنید:
تنظیم مقدار
RAID level RAID0، RAID1، RAID5، RAID6، RAID10، RAID50 یا RAID60، بسته به تعداد دیسک
Select Drives From Unconfigured Capacity برای دیسک‌های خالی
Logical Drive Name و Size پیش فرض بیشترین ظرفیت ممکن
Strip size اندازه‌ی strip روی هر دیسک
Read cache policy Read ahead یا No read ahead
I/O Policy Direct یا Cached
Drive cache Unchanged، Enable یا Disable
Default initialization No، Fast (فقط 100 MB اول) یا Full
  1. Save Configuration را بزنید، هشدارها را بخوانید و با Confirm و Yes تأیید کنید.

سیاست نوشتن logical drive یکی از سه حالت است: Write Through (بدون cache)، Write Back (کنترلر بسته به وضعیت خود بین write back و write through جا به جا می‌شود) و Always Write Back.

HPE MR Storage Administrator و StorCLI

MR Storage Administrator یک برنامه‌ی تحت وب است که بعد از نصب سیستم عامل، ساخت و مدیریت logical drive، مشاهده‌ی رویدادها و ارسال هشدار ایمیلی را انجام می‌دهد. این ابزار فقط کنترلرهای MR را مدیریت می‌کند، نه SR را. StorCLI نسخه‌ی خط فرمان است و هر دو از SPP نصب می‌شوند. قالب دستورها طبق راهنمای StorCLI:

storcli64 /c0 show
storcli64 /c0/eall/sall show
storcli64 /c0/e252/s0-1 set good
storcli64 /c0 add vd type=raid1 drives=252:0-1 wb ra
storcli64 /c0/vall show
  • /c0 کنترلر اول است. شماره‌ی enclosure (e252) و slot را از خروجی دستور دوم بردارید.
  • set good دیسک JBOD را Unconfigured Good می‌کند و دیسک از دید سیستم عامل خارج می‌شود. اگر روی دیسک سیستم عامل هست، این دستور force می‌خواهد؛ پیش از اجرا مطمئن شوید دیسک اشتباه را انتخاب نکرده‌اید.
  • wb و ra یعنی write back و read ahead که پیش فرض هم هستند. type یکی از raid0، raid1، raid5، raid6، raid10، raid50 یا raid60 است و strip اندازه‌ی strip را تعیین می‌کند.

بعد از ساخت RAID

  • بوت: در UEFI، logical drive جدید را در Boot Order اول بگذارید. سیستم عامل را با Virtual Media در iLO نصب کنید.
  • ESXi: برای نصب hypervisor روی همین logical drive، نصب ESXi و vCenter را ببینید. ESX 9 برای دیسک بوت RAID 1 را توصیه می‌کند.
  • Proxmox با ZFS: logical drive نسازید؛ دیسک‌ها را در Smart Array unassigned و در MR به صورت JBOD بگذارید و ZFS را در installer بسازید (نصب Proxmox VE).
  • Windows: اگر installer دیسک را نمی‌بیند، درایور کنترلر را هنگام نصب دستی بارگذاری کنید.

مشکلات رایج

  • دیسک در Create Logical Drive کنترلر MR دیده نمی‌شود: دیسک در وضعیت JBOD است، به خصوص در MR216 که پیش فرضش JBOD است. آن را Unconfigured Good کنید.
  • کارایی نوشتن پایین است و cache فعال نیست: وضعیت energy pack و cache را در iLO (پنل Smart Storage Energy Pack) و در SSA یا MR Storage Administrator بررسی کنید؛ energy pack نصب نشده یا سالم نیست، یا در کنترلر PCIe کابل سه پین backup power وصل نیست (کنترلرهای نوع a برق را از خود اسلات می‌گیرند).
  • volume روی SSD از cache استفاده نمی‌کند: SmartPath روشن است؛ در SSA خاموشش کنید.
  • گزینه‌ی تغییر سطح RAID یا expand در UEFI نیست: این کارها فقط در SSA انجام می‌شوند.
  • S100i در لینوکس یا ESXi کار نمی‌کند: S100i فقط روی Windows Server پشتیبانی می‌شود. برای لینوکس و ESXi کنترلر E208i یا کلاس P لازم است، یا دیسک‌ها را بدون RAID به سیستم عامل بدهید.

قدم بعدی

بعد از ساخت logical drive، یک spare تعریف کنید تا بازسازی بدون دخالت دستی شروع شود، و هشدارهای iLO را به ایمیل تیم وصل کنید تا خرابی دیسک یا energy pack دیده شود. انتخاب نوع دیسک برای هر logical drive در مقایسه‌ی HDD، SSD، SAS و NVMe آمده است.

منابع

  1. HPE Smart Array SR Gen10 Controller User Guide (30-F5AC2861-015) support.hpe.com
  2. HPE Smart Array SR Gen10 Controller User Guide — P-class support.hpe.com
  3. HPE Smart Array SR Gen10 Controller User Guide — Comparison of SSA and UEFI System Utilities support.hpe.com
  4. HPE Smart Array SR Gen10 Controller User Guide — Creating an array using UEFI System Utilities support.hpe.com
  5. HPE Smart Array SR Gen10 Controller User Guide — Mixed mode (RAID and HBA simultaneously) support.hpe.com
  6. HPE Smart Array SR Gen10 Controller User Guide — Flash-backed write cache support.hpe.com
  7. HPE Smart Array SR Controllers QuickSpecs (a00047736enw) www.hpe.com
  8. Intelligent Provisioning User Guide for HPE ProLiant Gen10 — Accessing SSA support.hpe.com
  9. HPE Smart Storage Administrator GUI User Guide support.hpe.com
  10. HPE Smart Storage Administrator CLI User Guide support.hpe.com
  11. HPE MR Gen11 Controller User Guide (30-07388CA7-004) support.hpe.com
  12. HPE MR Gen11 Controller User Guide — 400 series support.hpe.com
  13. HPE MR Gen11 Controller User Guide — Creating a logical drive support.hpe.com
  14. HPE MR Gen11 Controller User Guide — Mixed mode, RAID and JBOD simultaneously support.hpe.com
  15. HPE SR Gen11 Controller User Guide — 900 series support.hpe.com
  16. Broadcom — StorCLI Reference Manual docs.broadcom.com
  17. Proxmox Backup Server Documentation — Installation (ZFS on hardware RAID) pbs.proxmox.com