محیط Google Cloud’s Colab Enterprise برای کمک به تنظیم LLM

در کنفرانس Cloud Next، این شرکت ویژگی‌های جدیدی را برای MLOهای پیشرفته برای هوش مصنوعی مولد اضافه کرد و Ray on Vertex AI را برای مقیاس‌بندی کارآمد بارهای کاری هوش مصنوعی راه‌اندازی کرد.

Google Cloud روز سه‌شنبه یک محیط نوت‌بوک علم داده مدیریت شده با نام Colab Enterprise را راه‌اندازی کرد تا به دانشمندان داده کمک کند مدل‌های زبان بزرگ (LLM) را برای شرکت‌های خود سفارشی‌سازی و تنظیم کنند.

در حال حاضر، در پیش‌نمایش عمومی با در دسترس بودن عمومی برای ماه سپتامبر، Colab Enterprise مبتنی بر نوت‌بوک Jupyter مبتنی بر ابر Google به نام Colab است. گوگل گفت که Colab در حال حاضر هفت میلیون کاربر فعال ماهانه دارد.

“با پشتیبانی Vertex Al، Colab Enterprise دسترسی به همه چیزهایی را که پلتفرم Vertex Al از Model Garden ارائه می دهد و طیف وسیعی از ابزارهای تنظیم، منابع محاسباتی انعطاف پذیر و انواع ماشین، تا علم داده و < را فراهم می کند. a>MLOps tooling،” این شرکت در بیانیه ای گفت.

Colab Enterprise یک تجربه نوت بوک را برای BigQuery Studio ایجاد می کند – یک فضای کاری مشترک جدید برای کشف، کاوش، تجزیه و تحلیل و پیش بینی داده ها در BigQuery.

به گفته این شرکت، این ویژگی به کاربران سازمانی اجازه می‌دهد تا یک نوت‌بوک را در BigQuery برای آماده‌سازی داده‌ها راه‌اندازی کنند و سپس روی همان نوت‌بوک در Vertex AI برای زیرساخت‌ها و ابزارهای هوش مصنوعی ادامه دهند.

«تیم‌ها می‌توانند مستقیماً به داده‌ها در هر کجا که کار می‌کنند دسترسی داشته باشند. شرکت Colab Enterprise با توانایی اشتراک‌گذاری نوت‌بوک‌ها در بین اعضای تیم و محیط‌ها می‌تواند به طور موثر مرزهای بین داده‌ها و حجم کاری Al را حذف کند.

Google همچنین با افزودن Ray on Vertex AI پشتیبانی از چارچوب‌های منبع باز خود را گسترش می‌دهد. Ray به چارچوب‌های پشتیبانی‌شده موجود مانند Tensorflow، PyTorch، scikit-learn و XGBoost.

به گفته Google،

استفاده از Ray به شرکت‌ها کمک می‌کند هزینه‌ها را کاهش دهند و بهره‌وری را افزایش دهند.

این شرکت گفت که پشتیبانی Ray از Vertex AI به دانشمندان داده اجازه می دهد تا یک خوشه Ray ایجاد کنند و آن را به نوت بوک Colab Enterprise متصل کنند تا یک کار آموزشی مدل را مقیاس بندی کنند، و افزود که مدل های منبع باز مانند Llama 2، Dolly یا Falcon را می توان در محیط نوت بوک علم داده مدیریت شده برای تنظیم و نمونه سازی باز کرد.

افزایش MLOps برای هوش مصنوعی مولد

Google همچنین قابلیت‌های جدید MLOps را با هدف هوش مصنوعی مولد معرفی می‌کند. این شرکت گفت: «ما همچنین در حال معرفی یک روش تنظیم جدید برای Imagen به نام Style Tuning هستیم، بنابراین شرکت‌ها می‌توانند تصاویری را مطابق با دستورالعمل‌های برند خاص یا سایر نیازهای خلاقانه خود ایجاد کنند، با حداقل ۱۰ تصویر مرجع مورد نیاز». تنظیم نظارت شده به طور کلی برای متن PalM 2 در دسترس است.

قابلیت‌های دیگر شامل دو ویژگی جدید است – متریک خودکار و خودکار کنار هم – که تکرار مداوم و بهبود مدل‌های یادگیری ماشین را با اجازه دادن به شرکت‌ها برای ارزیابی کیفیت مدل‌های ML خود ترویج می‌کند.

در حالی که متریک خودکار یک مدل را بر اساس یک کار و مجموعه داده تعریف شده ارزیابی می کند، Automatic Side by Side از یک مدل بزرگ برای ارزیابی خروجی چندین مدل در حال آزمایش استفاده می کند.

Google Cloud همچنین در حال افزودن نسل جدیدی از Vertex AI Feature Store است تا به شرکت‌ها کمک کند از تکرار داده‌ها جلوگیری کنند و خط‌مشی‌های دسترسی به داده را حفظ کنند.

به گفته شرکت

فروشگاه ویژگی جدید که بر اساس BigQuery ساخته شده است، به طور بومی از نوع داده جاسازی های برداری برای سهولت دسترسی به داده های بدون ساختار در زمان واقعی پشتیبانی می کند.