پردازنده‌های گرافیکی Nvidia H100 Tensor Core به Oracle Cloud می‌آیند

Oracle Cloud اکنون نمونه‌های فلزی خالی را با پردازنده‌های گرافیکی Nvidia H100 برای آموزش هوش مصنوعی و استنتاج و برنامه‌های محاسباتی با کارایی بالا ارائه می‌کند. پردازنده‌های گرافیکی Nvidia L40S در راه هستند.

در پاسخ به تقاضای رو به رشد برای برنامه‌های هوش مصنوعی مولد و مدل های زبان بزرگ (LLM)، Oracle Cloud Infrastructure (OCI) پردازنده های گرافیکی Nvidia H100 Tensor Core را در دسترس قرار داده است. در پلت فرم OCI Compute. پردازنده‌های گرافیکی Nvidia L40S نیز به زودی به این پلتفرم می‌آیند.

Oracle گفت OCI Compute اکنون نمونه‌های فلزی خالی را با پردازنده‌های گرافیکی Nvidia H100 ارائه می‌کند که توسط انویدیا هاپر برای هوش مصنوعی، بنابراین “جهش عملکرد مرتبه‌ای” را برای هوش مصنوعی در مقیاس بزرگ و برنامه‌های محاسباتی با کارایی بالا ممکن می‌سازد. پردازنده گرافیکی Nvidia H100 برای کارهای محاسباتی با منابع فشرده، از جمله آموزش مدل های LLM طراحی شده است.

به گفته اوراکل، سازمان‌هایی که از پردازنده‌های گرافیکی Nvidia H100 استفاده می‌کنند، در مقایسه با بهره‌برداری از پردازنده‌های گرافیکی Nvidia A100 Tensor Core، ۳۰ برابر افزایش عملکرد استنتاج هوش مصنوعی و ۴ برابر افزایش در آموزش هوش مصنوعی دارند. شکل BM.GPU H100.8 OCI Compute شامل هشت پردازنده گرافیکی Nvidia H100 است که هر کدام دارای ۸۰ گیگابایت حافظه GPU HBM2 است.

نمونه‌های OCI Compute bare-metal با پردازنده‌های گرافیکی Nvidia L40S برای دسترسی زودهنگام در اواخر امسال در دسترس خواهند بود و در اوایل سال ۲۰۲۴ در دسترس قرار خواهند گرفت. پردازنده‌های گرافیکی Nvidia L40S، بر اساس Nvidia معماری Ada Lovelace برای گرافیک، هوش مصنوعی و بازی، به عنوان یک GPU جهانی برای مرکز داده عمل می‌کند و چندین شتاب حجم کار برای استنتاج و آموزش LLM، محاسبات بصری، و برنامه های ویدیویی.