دل شتاب دهنده های پیشرفته هوش مصنوعی MI300X AMD را در سرورهای هوش مصنوعی «PowerEdge» ارائه می کند.

Dell همکاری خود را با AMD گسترش داده است و اکنون بالاترین شتاب دهنده های هوش مصنوعی Team Red Instinct MI300X را در سرورهای پیشرفته خود به همراه راه حل های هوش مصنوعی مولد جدید ارائه می دهد.

Dell تصمیم گرفت پردازنده‌های گرافیکی هوش مصنوعی AMD Instinct MI300X را در سرورهای خود ادغام کند و یک راه‌حل سفارشی GenAI را برای Team Red به نمایش بگذارد.

(بیانیه مطبوعاتی): از آنجایی که هوش مصنوعی به سرعت به تکامل خود ادامه می دهد، ادغام فناوری های منبع باز و شتاب سخت افزاری پیشرفته باعث نوآوری در صنعت می شود. Dell Technologies و AMD در خط مقدم هستند و راه‌حل‌های زیرساختی را ارائه می‌کنند که تا ۷۵ درصد مقرون‌به‌صرفه‌تر از IaaS ابری عمومی هستند و برای تقویت برنامه‌های هوش مصنوعی مولد در سازمان طراحی شده‌اند.

ما هیجان‌زده هستیم که مجموعه‌ای از به‌روزرسانی‌ها را برای استقرار اکوسیستم‌ها و چارچوب‌های هوش مصنوعی باز به اشتراک بگذاریم. ابتدا، Dell PowerEdge XE9680 اکنون با شتاب‌دهنده‌های AMD Instinct MI300X عرضه می‌شود و گزینه‌های عملکرد هوش مصنوعی را برای مشتریانمان افزایش می‌دهد. دوم، ما طراحی معتبر Dell را برای هوش مصنوعی مولد با AMD منتشر کرده‌ایم که توسعه برنامه‌های سفارشی را با پایه‌های چارچوب باز امکان‌پذیر می‌کند. سوم، خدمات استقرار جدید ما که در ماه سپتامبر در دسترس است، ادغام صاف این نوآوری ها را در عملیات شما تضمین می کند.

اکنون ارسال می شود – PowerEdge XE9680 با شتاب دهنده های AMD Instinct MI300X

PowerEdge XE9680 با شتاب‌دهنده‌های AMD Instinct MI300X قابلیت‌های با کارایی بالا را ارائه می‌کند که برای شرکت‌هایی طراحی شده است که از هوش مصنوعی مولد استفاده می‌کنند و دارای هشت شتاب‌دهنده MI300X، ترکیبی از 1.5 ترابایت حافظه HBM3، و 42 پتافلاپ با حداکثر عملکرد تئوری 8 است.

این پیکربندی قدرتمند آموزش و استنباط سریع‌تر مدل‌های زبانی بزرگ را امکان‌پذیر می‌سازد و به سازمان‌ها کمک می‌کند تا بینش‌های مبتنی بر هوش مصنوعی و برنامه‌های کاربردی نوآورانه را کارآمدتر ارائه دهند. آزمایش اخیر در پیکربندی یک گره، هزینه کل ارزش مالکیت اصلی را نشان می دهد:

• مدل پارامتر Llama 2 70B را روی یک شتاب دهنده AMD Instinct MI300X در سرور Dell PowerEdge XE9680 مستقر کرد.
• با استفاده از هر هشت شتاب دهنده AMD Instinct MI300X در سرور Dell PowerEdge XE9680، هشت نمونه همزمان از این مدل را به کار گرفت.
• مدل پارامتر Llama 2 70B را با دقت FP16 روی یک سرور Dell PowerEdge XE9680 با هشت شتاب‌دهنده AMD Instinct MI300X به‌خوبی تنظیم کرد.

XE9680 با استقرار ساده از طریق Dell OpenManage Enterprise، اتوماسیون هوشمند از طریق نرم‌افزار APEX AIOps و امنیت پیشرفته با بازیابی سایبری یکپارچه و رویکرد Zero Trust، به کسب‌وکارها این امکان را می‌دهد تا به سرعت راه‌حل‌های GenAI خود را پیاده‌سازی و مقیاس‌بندی کنند و در عین حال وضعیت امنیتی قوی را حفظ کنند.

امروز در دسترس است – طراحی معتبر Dell برای هوش مصنوعی مولد با AMD

در ماه مه اعلام شد و امروز در دسترس است طراحی معتبر Dell برای هوش مصنوعی مولد با AMD گام بعدی راه‌حل‌های هوش مصنوعی Dell است که استقرار GenAI قابل اعتماد را برای سازمان‌ها آسان‌تر می‌کند. این راهنمای طراحی به سازمان‌ها و توسعه‌دهندگان دستورالعمل‌های جامعی برای پیاده‌سازی استنتاج LLM و سفارشی‌سازی مدل، و همچنین تکنیک‌های پیشرفته‌ای مانند تنظیم دقیق و بازیابی نسل افزوده (RAG) می‌دهد. توسعه دهندگان که بر اساس استانداردهای باز ساخته شده اند و نیاز به مجموعه نرم افزارهای اختصاصی هوش مصنوعی را کاهش می دهند، می توانند توسعه را ساده کرده و گردش کار را آزادانه با مدل های منبع باز LLM شرکای خود از جمله Hugging Face و Meta سفارشی کنند.

بارهای کاری مدرن را تسریع کنید. نوآوری و مقیاسی که کسب و کارها و نتایج کارآمد و چابک را ممکن می سازد.

• طراحی معتبر Dell که توسط شتاب‌دهنده‌های AMD Instinct MI300X پشتیبانی می‌شود، مقیاس‌گذاری تقریباً خطی و آموزش و استنباط GenAI توزیع شده با تأخیر کم را امکان‌پذیر می‌کند.
• PowerScale F710 بینش‌های زمان به هوای سریع‌تری را با دستاوردهای عظیم در عملکرد جریان ارائه می‌کند که تمام مراحل خط لوله هوش مصنوعی را تسریع می‌کند.
• Dell PowerSwitch Z9664F-ON، با ارائه 64 پورت 400GbE، پارچه های اترنت با تأخیر کم و توان عملیاتی بالا را برای خوشه های هوش مصنوعی مدرن ارائه می دهد.
• NIC بهینه سازی شده با هوش مصنوعی Broadcom Thor2، 400G را ارائه می دهد و شتاب دهنده های MI300X را با کمترین انرژی مورد نیاز صنعت به هم متصل می کند.

توسعه اپلیکیشن را تقویت کنید. نرم افزارهای منبع باز و اکوسیستم ها به توسعه دهندگان و دانشمندان داده اجازه می دهند تا آزادانه نوآوری کنند.

• چارچوب‌های مبتنی بر ROCm AMD، اکوسیستم راه‌حل‌های هوش مصنوعی Dell Generative را گسترش می‌دهند و شامل پشتیبانی از مدل‌های زبان بزرگ منبع باز مانند PyTorch، TensorFlow، ONNX-RT، و JAX، و همچنین مجموعه کاملی از درایورها، ابزارهای توسعه‌دهنده و API برای AMD Instinct می‌شوند. شتاب دهنده ها
• Dell Omnia ایجاد و مدیریت خوشه های هوش مصنوعی را ساده می کند که پیکربندی خودکار را برای پردازش حجم کار کارآمد انجام می دهد.
• توزیع Enterprise SONiC توسط Dell Technologies یک راه حل شبکه مقیاس پذیر ارائه می دهد که پلت فرم منبع باز SONiC را با Dell PowerSwitch ترکیب می کند و ویژگی های پیشرفته و پشتیبانی در سطح سازمانی را ارائه می دهد.

طراحی‌های معتبر Dell برای هوش مصنوعی مولد ساختن پلتفرم‌های GenAI متناسب با نیازهای مشتریان دل را با حذف حدس‌ها از ملاحظات یکپارچه‌سازی، عملکرد و اندازه آسان می‌کند.

منبع خبر: دل