هوش مصنوعی / زیرساخت هوش مصنوعی سخت افزار لازم برای اجرای LLM روی سرور: GPU، حافظه و توان برای اجرای مدل زبانی روی سرور چه GPU و چقدر VRAM لازم است؛ حساب حافظهی مدل و KV cache، نقش پهنای باند، مقایسهی GPUها، برق و خنک کنندگی و سه سناریوی نمونه. ۳۰ شهریور ۱۴۰۵ · ۱۲ دقیقه مطالعه