VDURA V12؛ انتقال الگوی ذخیره‌سازیHyperscale به کارخانه‌های هوش مصنوعی
تاریخ انتشار: ۱ اکتبر ۲۰۲۶
نویسنده: علی آذر (Ali Azhar)
شرکت‌های ارائه‌دهنده زیرساخت ابری نسل جدید یا Neocloud، سرمایه‌گذاری هنگفتی روی پردازنده‌های گرافیکی (GPU) انجام می‌دهند و برای توجیه این هزینه‌ها باید اطمینان حاصل کنند که GPUها تا حد امکان درگیر پردازش‌های مفید باقی می‌مانند. در این میان، زیرساخت ذخیره‌سازی نقشی تعیین‌کننده دارد؛ زیرا سرعت انتقال داده به پردازنده‌های گرافیکی و دریافت نتایج از آن‌ها می‌تواند بر میزان بهره‌وری کل خوشه هوش مصنوعی تأثیر بگذارد. در برخی خوشه‌ها، ذخیره‌سازی حتی به یکی از گلوگاه‌های اصلی عملکرد تبدیل شده است.
شرکت‌های (Hyperscaler) سال‌هاست با چالش‌های مشابهی روبه‌رو هستند. اکنون شرکت VDURA قصد دارد بخشی از تجربه و الگوهای عملیاتی این شرکت‌ها را با انتشار نسخه V12 به زیرساخت‌های موسوم به کارخانه هوش مصنوعی (AI Factory) منتقل کند. این نسخه به‌صورت عمومی عرضه شده و برای استفاده روی سخت‌افزارهای Supermicro تأیید شده است.
مدیریت هوشمند لایه‌های ذخیره‌سازی؛ استفاده هدفمند از فلش
یکی از محورهای اصلی VDURA V12، استفاده بهینه‌تر از حافظه‌های فلش گران‌قیمت است. مجموعه‌داده‌های فعال مورد استفاده در آموزش مدل‌ها و سایر داده‌های پرتکرار ممکن است به عملکرد بالای ذخیره‌سازی NVMe نیاز داشته باشند؛ اما نسخه‌های قدیمی نقاط بازیابی مدل (Checkpoint) و مجموعه‌داده‌های آرشیوی لزوماً به چنین سرعتی احتیاج ندارند.
VDURA قصد دارد با استفاده از یک معماری ذخیره‌سازی یکپارچه، امکان بهره‌گیری هم‌زمان از فلش و دیسک‌های سخت را فراهم کند؛ بدون آنکه سازمان‌ها مجبور باشند داده‌های خود را میان چند سامانه ذخیره‌سازی مستقل تقسیم کنند.
این شرکت قابلیت جدید خود را Context-Aware Tiering یا «لایه‌بندی آگاه از زمینه» می‌نامد. این قابلیت داده‌ها را میان حافظه‌های فلش و دیسک‌های سخت جابه‌جا می‌کند: داده‌های پرتکرار و فعال روی فلش باقی می‌مانند و داده‌های کم‌کاربردتر به دیسک منتقل می‌شوند. با وجود این جابه‌جایی، کاربران همچنان با یک مخزن ذخیره‌سازی یکپارچه سروکار دارند.
این رویکرد می‌تواند هزینه استفاده از فلش را کاهش دهد؛ زیرا دیگر لازم نیست تمام ظرفیت ذخیره‌سازی سامانه با تجهیزات گران‌قیمت فلش تأمین شود.
جداسازی مستأجران در زیرساخت‌های چندمستأجری
قابلیت‌های چندمستأجری (Multi-Tenant) در نسخه V12 به‌وضوح نیازهای ارائه‌دهندگان زیرساخت Neocloud را هدف قرار می‌دهند. این شرکت‌ها زیرساخت پردازشی و ذخیره‌سازی خود را میان مشتریان مختلف به اشتراک می‌گذارند؛ در حالی که هر مشتری ممکن است به سطح متفاوتی از عملکرد، امنیت و کنترل دسترسی نیاز داشته باشد.
در نسخه V12، اپراتورها می‌توانند برای هر مستأجر، فضای نام (Namespace)، سیاست‌های کیفیت خدمات (QoS)، کلیدهای رمزنگاری و حتی کنترل‌های شبکه مستقل تعریف کنند.
این قابلیت‌ها به ارائه‌دهندگان خدمات کمک می‌کنند محیط‌های مشتریان را از یکدیگر جدا کنند و منابع ذخیره‌سازی را با توجه به نیازهای هر بار کاری مدیریت کنند. در زیرساخت‌های اشتراکی، چنین جداسازی‌ای برای کنترل عملکرد، اعمال سیاست‌های امنیتی و ارائه خدمات قابل پیش‌بینی اهمیت دارد.
یکپارچگی با Kubernetes و خودکارسازی مدیریت ذخیره‌سازی
VDURA در نسخه جدید، پشتیبانی از رابط ذخیره‌سازی کانتینری Kubernetes یا CSI، رابط‌های برنامه‌نویسی REST و ابزارهای زیرساخت به‌عنوان کد (Infrastructure as Code) را اضافه کرده است.
این ابزارها روش‌های بیشتری برای مدیریت ذخیره‌سازی در اختیار اپراتورها قرار می‌دهند. اهمیت موضوع فقط در افزایش تعداد ابزارهای مدیریتی نیست؛ بلکه در امکان مدیریت زیرساخت ذخیره‌سازی با استفاده از ابزارهایی است که تیم‌های فناوری اطلاعات ممکن است پیش‌تر برای مدیریت بخش پردازشی و GPUها به کار گرفته باشند.
هرچه نیاز به مدیریت جداگانه و دستی زیرساخت ذخیره‌سازی کمتر شود، بهره‌برداری از کل محیط ساده‌تر خواهد بود. این یکپارچگی به‌ویژه برای ارائه‌دهندگانی اهمیت دارد که تعداد زیادی خوشه پردازشی و مشتری را در مقیاس بزرگ اداره می‌کنند.
حفظ حافظه KV Cache برای بهبود استنتاج هوش مصنوعی
یکی دیگر از قابلیت‌های مهم VDURA V12 به فرایند استنتاج مدل‌های هوش مصنوعی مربوط می‌شود. در محیط Kubernetes، یک Pod ممکن است متوقف شود، دوباره راه‌اندازی شود، از کار بیفتد یا با نمونه دیگری جایگزین شود. در چنین شرایطی، پرسش مهم این است که چه اتفاقی برای حافظه کش کلید ـ مقدار یا KV Cache رخ می‌دهد.
KV Cache اطلاعات میانی حاصل از پردازش توکن‌ها را نگه می‌دارد و به مدل کمک می‌کند برای ادامه تولید پاسخ، محاسبات قبلی را دوباره انجام ندهد. از دست رفتن این اطلاعات می‌تواند باعث شود بخشی از زمینه مکالمه یا پردازش مجدداً محاسبه شود.
VDURA V12 با قابلیت KVCache Writeback برای حفظ این زمینه طراحی شده است. این قابلیت، داده‌های کش را در فضای ذخیره‌سازی ثبت می‌کند تا در صورت تغییر وضعیت Pod، امکان بازیابی آن‌ها در ادامه فراهم باشد.
به گفته VDURA، این روش می‌تواند نیاز مدل به بازسازی زمینه قبلی را کاهش دهد. در نتیجه، زمان لازم برای تولید نخستین توکن (Time to First Token) و میزان پردازش موردنیاز GPU ممکن است کاهش یابد.
البته میزان این بهبود در محیط واقعی به نوع بار کاری، نحوه مدیریت کش، الگوی دسترسی به داده و پیکربندی زیرساخت بستگی دارد. بنابراین، ارزیابی عملکرد این قابلیت در هر استقرار عملیاتی ضروری است.
نقش Supermicro در عرضه VDURA V12
تأیید سازگاری VDURA V12 با سخت‌افزارهای Supermicro به مشتریان امکان می‌دهد از پیکربندی‌هایی استفاده کنند که سازگاری آن‌ها از پیش ارزیابی شده است؛ در نتیجه، نیازی نیست همه اجزای سخت‌افزاری را به‌صورت مستقل انتخاب و آزمایش کنند.
این نسخه روی سامانه‌های Building Block شرکت Supermicro اجرا می‌شود که از پردازنده‌های AMD EPYC، ذخیره‌سازی NVMe و پیکربندی‌های ترکیبی با ظرفیت بالاتر پشتیبانی می‌کنند.
VDURA اعلام کرده است که معماری آن می‌تواند از محیط‌های کوچک با چند GPU تا زیرساخت‌هایی با حداکثر ۱۰۰ هزار GPU مقیاس‌پذیر باشد. در این معماری، گره‌های ذخیره‌سازی از طریق فناوری RDMA با سرورهای مجهز به GPU ارتباط برقرار می‌کنند. این روش برای انتقال سریع داده طراحی شده است و به گفته شرکت، نیاز به ایجاد یک شبکه مستقل برای ارتباطات پشتیبان ذخیره‌سازی را برطرف می‌کند.
انتخاب ترکیب مناسب فلش و دیسک در مقیاس پتابایتی
در ظرفیت‌هایی حدود ۲۰ پتابایت (PB)، ترکیب رسانه‌های ذخیره‌سازی تأثیر قابل‌توجهی بر هزینه نهایی زیرساخت دارد. به گفته VDURA، مشتریان می‌توانند بر اساس نوع بار کاری، ترکیب‌های متفاوتی را انتخاب کنند: استفاده عمده از ظرفیت ارزان‌تر دیسکی، پیاده‌سازی تمام‌فلش یا انتخاب پیکربندی‌های ترکیبی میان این دو گزینه.
این انعطاف‌پذیری به سازمان‌ها اجازه می‌دهد هزینه و عملکرد را متناسب با نیازهای واقعی خود تنظیم کنند. برای مثال، داده‌های فعال مورد استفاده در آموزش یا استنتاج می‌توانند از ذخیره‌سازی سریع‌تر بهره ببرند؛ در حالی که داده‌های آرشیوی و نسخه‌های قدیمی‌تر مدل‌ها روی رسانه‌های اقتصادی‌تر نگهداری شوند.با این حال، انتخاب ترکیب مناسب تنها به ظرفیت و قیمت رسانه‌ها وابسته نیست. نرخ انتقال داده، الگوی دسترسی، میزان هم‌زمانی درخواست‌ها و نیازهای هر بار کاری نیز باید در طراحی نهایی در نظر گرفته شوند.
ادعاهای VDURA درباره عملکرد و هزینه مالکیت
VDURA مدعی است که معماری جدید این شرکت می‌تواند بیش از دو برابر عملکرد به‌ازای هر وات مصرفی ارائه دهد و هزینه کل مالکیت (TCO) را در مقایسه با سامانه‌های رقیب با نرخ تغذیه داده مشابه، بیش از ۶۰ درصد کاهش دهد.این ارقام، ادعاهای خود شرکت هستند و نباید بدون ارزیابی مستقل به‌عنوان نتایج قطعی برای همه محیط‌ها در نظر گرفته شوند. میزان صرفه‌جویی واقعی می‌تواند بر اساس نوع بار کاری، ظرفیت موردنیاز، ترکیب فلش و دیسک، هزینه انرژی و پیکربندی سخت‌افزاری متفاوت باشد.برای سنجش این ادعاها، مقایسه در شرایط عملیاتی مشابه و با معیارهایی مانند توان عملیاتی ذخیره‌سازی، تأخیر، مصرف انرژی و هزینه چرخه عمر زیرساخت ضروری است.
هدف اصلی V12؛ افزایش بهره‌وری خوشه‌های GPU
کن کلافی (Ken Claffey)، مدیرعامل VDURA، عرضه این نسخه را پاسخی به نیازهایی دانسته است که اپراتورها به‌طور مکرر مطرح می‌کنند: تأمین مداوم داده موردنیاز GPUها، جداسازی مستأجران، خودکارسازی مدیریت ذخیره‌سازی و افزایش ظرفیت بدون نیاز به ایجاد یک سامانه مستقل دیگر.او V12 را نسخه‌ای بسته‌بندی‌شده از رویکرد نرم‌افزارمحور و مبتنی بر ترکیب انواع منابع سخت‌افزاری توصیف کرده است؛ رویکردی که شرکت‌های ابرمقیاس‌گر از مدت‌ها قبل در زیرساخت‌های داخلی خود به کار می‌گیرند.این رویکرد نشان‌دهنده تغییر نگاه به ذخیره‌سازی در زیرساخت‌های هوش مصنوعی است. ذخیره‌سازی دیگر صرفاً محصولی مستقل برای نگهداری داده محسوب نمی‌شود؛ بلکه ارزش آن تا حد زیادی با تأثیری سنجیده می‌شود که بر بهره‌وری و اقتصاد خوشه پردازشی مجاور خود دارد.برای ارائه‌دهندگان Neocloud، هدف فقط افزایش ظرفیت نیست؛ بلکه باید از بیکارماندن شتاب‌دهنده‌های گران‌قیمت جلوگیری کرد، بدون آنکه برای دستیابی به این هدف، لایه ذخیره‌سازی به‌اندازه بخش پردازشی پرهزینه شود.VDURA V12 تلاش می‌کند هر دو هدف را دنبال کند. با این حال، میزان موفقیت این رویکرد در عمل به نتایج استقرارهای واقعی و ارزیابی عملکرد مشتریان در ماه‌های آینده وابسته خواهد بود.
جمع‌بندی
VDURA V12 با تمرکز بر لایه‌بندی هوشمند داده، جداسازی مستأجران، یکپارچگی با Kubernetes، حفظ KV Cache و مقیاس‌پذیری زیرساخت ذخیره‌سازی، تلاش می‌کند نیازهای جدید کارخانه‌های هوش مصنوعی را پاسخ دهد. در محیط‌هایی که هزینه GPUها بالاست، عملکرد ذخیره‌سازی مستقیماً بر میزان بهره‌وری منابع پردازشی تأثیر می‌گذارد.استفاده هدفمند از فلش و دیسک، خودکارسازی عملیات و حفظ داده‌های میانی استنتاج می‌تواند به کاهش هزینه و افزایش کارایی کمک کند؛ هرچند نتیجه نهایی به نوع بار کاری و نحوه پیاده‌سازی وابسته است.
پیام اصلی این تحول آن است که در زیرساخت هوش مصنوعی، ذخیره‌سازی باید به‌گونه‌ای طراحی شود که نه‌تنها ظرفیت موردنیاز را فراهم کند، بلکه پردازنده‌های گرافیکی را با حداقل اتلاف زمان و هزینه تغذیه کند.
منبع : HPCwire
نویسنده : Ali Azhar
محصول : VDURA V12
تیم فنی شرکت کوشا فناوران مبتکر آمادگی خود را برای یاری به حفاظت از داده های ارزشمند شما اعلام می دارد.این اقدامات شامل طراحی و پیاده سازی طرح تداوم کسب و کار و بازیابی داده ها پس از بحران ، طراحی و پیاده سازی طرح پشتیبان گیری امن داده و هاردنینگ و امن سازی زیر ساخت فناوری اطلاعات می باشند.