معرفی محصولات هوش مصنوعی NVIDIA DGX :
بخش اول: سرورهای NVIDIA DGX (سیستمهای کامل AI)
سری DGX سیستمهای یکپارچه مخصوص آموزش و اجرای مدلهای هوش مصنوعی در مقیاس سازمانی هستند.
-
نسل Blackwell (جدیدترین نسل)
- NVIDIA DGX B200
- معماری: Blackwell
- GPU: هشت عدد NVIDIA B200
- حافظه کل GPU: تا 1.5 ترابایت HBM3e
- مناسب برای: آموزش مدلهای LLM بسیار بزرگ، دیتاسنترهای پیشرفته
- NVIDIA DGX GB200
- مبتنی بر Superchip Grace Blackwell
- ترکیب CPU Grace + GPU Blackwell
- طراحی شده برای AI Factory و مقیاس فوقکلان
-
نسل Hopper
- NVIDIA DGX H100
- 8× NVIDIA H100 (SXM)
- حافظه کل: 640GB یا 1.28TB HBM3 (بسته به نسخه)
- یکی از رایجترین سیستمهای AI در حال حاضر
-
نسل Ampere
- NVIDIA DGX A100
- 8× NVIDIA A100 (40GB یا 80GB)
- پشتیبانی از NVLink نسل سوم
- هنوز در بسیاری از دیتاسنترها فعال است
-
سیستمهای کوچکتر / لبه (Edge)
- NVIDIA DGX Station A100
- 4× A100
- مناسب شرکتهای متوسط و تیمهای تحقیقاتی
-
NVIDIA DGX Station (نسل H100)
- تک GPU H100
- فرم ورکاستیشن رومیزی
-
نسلهای قدیمیتر (Legacy)
- DGX‑2 (با 16× V100)
- DGX‑1 (با V100 یا P100)
بخش دوم: کارتهای GPU دیتاسنتری NVIDIA (بهصورت جداگانه)
در این بخش کارتهایی که مستقل فروخته میشوند (SXM یا PCIe) لیست شدهاند:
-
نسل Blackwell (جدیدترین)
- NVIDIA B200 (SXM)
- NVIDIA GB200 Superchip (Grace + Blackwell مجتمع)
- NVIDIA B100
-
نسل Hopper
- NVIDIA H100
- نسخه SXM
- نسخه PCIe
- NVIDIA H200 (HBM3e، حافظه بیشتر از H100)
-
نسل Ampere
- NVIDIA A100
- 40GB
- 80GB
- NVIDIA A800 (نسخه محدودشده بازار چین)
- NVIDIA A30
- NVIDIA A40
- NVIDIA A16
- NVIDIA A2
-
نسل Volta
- NVIDIA V100
- NVIDIA V100S
-
نسل Turing (دیتاسنتری)
- NVIDIA T4
دستهبندی سریع بر اساس کاربرد
| کاربرد | مدلهای مناسب |
| آموزش LLM بسیار بزرگ | DGX B200 / DGX H100 / B200 / H100 |
| آموزش متوسط | DGX A100 / A100 |
| Inference سنگین | H100 / H200 / L4 |
| Inference اقتصادی | T4 / A2 |
| Edge AI | DGX Station / A2 / L4 |
مقایسه فنی محصولات هوش مصنوعی NVIDIA
در ادامه یک جدول مقایسه فنی جامع و دیتاسنتری از مهمترین GPUهای NVIDIA برای AI (نسلهای Ampere، Hopper و Blackwell) آوردهایم.
اعداد مربوط به نسخههای دیتاسنتری (SXM در صورت وجود) هستند و مقادیر Tensor TFLOPS بر اساس حالت Dense ذکر شدهاند.
توجه: مقادیر توان مصرفی و عملکرد بسته به نسخه (SXM / PCIe) و تنظیمات سازنده ممکن است کمی متفاوت باشند.
مقایسه نسل Blackwell
| مدل | معماری | CUDA Cores | حافظه | پهنای باند حافظه | توان مصرفی | NVLink | FP8 Tensor | FP16 Tensor |
| B200 (SXM) | Blackwell | ~192K+ | 192GB HBM3e | ~8 TB/s | ~1000W | NVLink 5 | ~15 PFLOPS | ~7.5 PFLOPS |
| B100 (SXM) | Blackwell | ~170K+ | 192GB HBM3e | ~8 TB/s | ~700W | NVLink 5 | ~10 PFLOPS | ~5 PFLOPS |
نسل Hopper
| مدل | معماری | CUDA Cores | حافظه | پهنای باند | توان مصرفی | NVLink | FP8 Tensor | FP16 Tensor |
| H200 (SXM) | Hopper | 16896 | 141GB HBM3e | 4.8 TB/s | ~700W | NVLink 4 | ~4 PFLOPS | ~2 PFLOPS |
| H100 (SXM) | Hopper | 16896 | 80GB HBM3 | 3.35 TB/s | 700W | NVLink 4 | ~4 PFLOPS | ~2 PFLOPS |
| H100 (PCIe) | Hopper | 14592 | 80GB HBM2e | 2 TB/s | 350W | ندارد (PCIe only) | ~2 PFLOPS | ~1 PFLOPS |
و نسل Ampere
| مدل | معماری | CUDA Cores | حافظه | پهنای باند | توان مصرفی | NVLink | FP16 Tensor |
| A100 80GB (SXM) | Ampere | 6912 | 80GB HBM2e | 2 TB/s | 400W | NVLink 3 | ~312 TFLOPS |
| A100 40GB (PCIe) | Ampere | 6912 | 40GB HBM2e | 1.6 TB/s | 250W | محدود | ~312 TFLOPS |
| A30 | Ampere | 3584 | 24GB HBM2 | 933 GB/s | 165W | NVLink 3 | ~165 TFLOPS |
| A10 | Ampere | 9216 | 24GB GDDR6 | 600 GB/s | 150W | ندارد | ~125 TFLOPS |
| A2 | Ampere | 1280 | 16GB GDDR6 | 200 GB/s | 60W | ندارد | ~36 TFLOPS |
کارتهای Inference محبوب
| مدل | معماری | حافظه | توان | FP16 |
| L40S | Ada Lovelace | 48GB GDDR6 | 350W | ~733 TFLOPS (Tensor) |
| L4 | Ada Lovelace | 24GB GDDR6 | 72W | ~242 TFLOPS |
مقایسه سریع نسلها (برای LLM)
| نسل | بیشینه حافظه | بیشینه FP8 | بیشینه پهنای باند |
| Blackwell | 192GB | ~15 PFLOPS | ~8 TB/s |
| Hopper | 141GB | ~4 PFLOPS | 4.8 TB/s |
| Ampere | 80GB | ندارد | 2 TB/s |
جمعبندی فنی
- بالاترین عملکرد مطلق → B200
- بهترین نسبت عملکرد به مصرف در Hopper → H100 SXM
- پایدار و مقرونبهصرفه برای Training متوسط → A100
- Inference کممصرف → L4
- Inference سنگین سازمانی → L40S یا H100
تیم فنی شرکت کوشا فناوران مبتکر آمادگی خود را برای یاری به حفاظت از داده های ارزشمند شما اعلام می دارد . این اقدامات شامل طراحی و پیاده سازی طرح تداوم کسب و کار و بازیابی داده ها پس از بحران ، طراحی و پیاده سازی طرح پشتیبان گیری امن داده و هاردنینگ و امن سازی زیر ساخت فناوری اطلاعات می باشند.