AWS Bedrock، SageMaker را به‌روزرسانی می‌کند تا پیشنهادات هوش مصنوعی مولد را تقویت کند

به روز رسانی ها شامل اضافه شدن مدل های پایه جدید به همراه قابلیت های برداری برای چندین پایگاه داده است.

در کنفرانس جاری re:Invent 2023، AWS به‌روزرسانی‌های متعددی را برای سرویس‌های SageMaker، Bedrock و پایگاه داده خود به منظور تقویت پیشنهادات هوش مصنوعی مولد خود رونمایی کرد.

سوامی سیواسوبرامانیان، معاون داده و هوش مصنوعی AWS، روز چهارشنبه در روی صحنه، از به‌روزرسانی‌های مدل‌های پایه موجود در سرویس برنامه‌سازی مولد هوش مصنوعی، Amazon Bedrock، پرده برداری کرد.

مدل های به روز شده اضافه شده به Bedrock شامل Anthropic’s Claude 2.1 و Meta Llama 2 70B هستند که هر دو به طور کلی در دسترس هستند. آمازون همچنین مدل های پایه Titan Text Lite و Titan Text Express اختصاصی خود را به Bedrock اضافه کرده است.

علاوه بر این، ارائه‌دهنده خدمات ابری مدلی را در پیش‌نمایش، Amazon Titan Image Generator، به سرویس ساخت اپلیکیشن هوش مصنوعی اضافه کرده است.

به گفته AWS، این مدل، که می‌تواند برای تولید سریع و تکرار تصاویر با هزینه کم مورد استفاده قرار گیرد، می‌تواند اعلان‌های پیچیده را درک کند و تصاویر مرتبط با ترکیب بندی دقیق اشیاء و اعوجاج محدود تولید کند.

شرکت‌ها می‌توانند قبل از پیکربندی ابعاد و تعیین تعداد تغییراتی که مدل باید ایجاد کند، از مدل در کنسول آمازون Bedrock استفاده کنند. p>

واترمارک نامرئی تصاویر هوش مصنوعی را شناسایی می کند

تصاویر تولید شده توسط Titan دارای یک واترمارک نامرئی هستند که با ارائه مکانیزمی محتاط برای شناسایی تصاویر تولید شده توسط هوش مصنوعی به کاهش انتشار اطلاعات نادرست کمک می کند.

مدل های پایه که در حال حاضر در Bedrock موجود است شامل مدل های زبان بزرگ (LLM) از اصطبل های AI21 Labs، Cohere Command، Meta، Anthropic و Stability AI.

این مدل‌ها، به استثنای Anthropic’s Claude 2، می‌توانند در بستر Bedrock تنظیم شوند و افزود که انتظار می‌رود پشتیبانی از تنظیم دقیق Claude 2 به زودی منتشر شود.

به منظور کمک به شرکت‌ها در ایجاد جاسازی‌ها برای آموزش یا ارائه مدل‌های پایه، AWS همچنین آمازون Titan Multimodal Embeddings خود را به طور کلی در دسترس قرار می‌دهد.

شرکت در بیانیه‌ای گفت: «این مدل تصاویر و متن کوتاه را به جاسازی‌ها تبدیل می‌کند – نمایش‌های عددی که به مدل اجازه می‌دهد به راحتی معانی معنایی و روابط بین داده‌ها را درک کند – که در پایگاه داده برداری مشتری ذخیره می‌شوند.

>

ارزیابی بهترین مدل پایه برای برنامه‌های هوش مصنوعی مولد

علاوه بر این، AWS ویژگی جدیدی را در Bedrock منتشر کرده است که به شرکت‌ها اجازه می‌دهد بهترین مدل پایه را برای موارد استفاده و نیازهای تجاری خود ارزیابی، مقایسه و انتخاب کنند.

ارزیابی مدل دوبله شده در Amazon Bedrock و در حال حاضر در پیش نمایش است، این ویژگی با هدف ساده سازی چندین کار مانند شناسایی معیارها، راه اندازی ابزارهای ارزیابی و اجرای ارزیابی ها است، و افزود که این باعث صرفه جویی در زمان و هزینه می شود.

سیواسوبرامانیان گفت: «در کنسول بستر آمازون، شرکت‌ها مدل‌هایی را که می‌خواهند برای یک کار مشخص مقایسه کنند، مانند پاسخ‌گویی به سؤال یا خلاصه‌سازی محتوا، انتخاب می‌کنند. دقت، استحکام و سمیت) و مجموعه داده های آزمایشی خود را آپلود کرده یا از مجموعه داده های داخلی و در دسترس عموم انتخاب کنید.

سیواسوبرامانیان گفت: برای معیارهای ذهنی یا محتوای ظریف که نیاز به قضاوت پیچیده دارند، شرکت‌ها می‌توانند گردش‌های کار ارزیابی مبتنی بر انسان را راه‌اندازی کنند – که از نیروی کار داخلی یک شرکت استفاده می‌کند – یا از نیروی کار مدیریت شده ارائه شده توسط AWS برای ارزیابی پاسخ‌های مدل استفاده کنند.

از دیگر به‌روزرسانی‌های Bedrock می‌توان به Guardrails اشاره کرد که در حال حاضر در حال پیش‌نمایش است و هدف آن کمک به شرکت‌ها برای پایبندی به اصول هوش مصنوعی است. AWS همچنین پایگاه های دانش و آمازون Agents for Bedrock را به طور کلی در دسترس قرار داده است.

قابلیت های SageMaker برای مقیاس بندی مدل های زبان بزرگ

به منظور کمک به شرکت‌ها در آموزش و استقرار مدل‌های زبان بزرگ، AWS دو پیشنهاد جدید – SageMaker HyperPod و SageMaker Inference – را در سرویس هوش مصنوعی Amazon SageMaker و آموزش ماشینی خود معرفی کرد.

بر خلاف فرآیند آموزش مدل دستی – که مستعد تاخیر، هزینه‌های غیرضروری و سایر عوارض است – HyperPod کارهای سنگین مربوط به ساخت و بهینه‌سازی زیرساخت‌های یادگیری ماشین را برای مدل‌های آموزشی حذف می‌کند و زمان آموزش را تا ۴۰% کاهش می‌دهد. شرکت گفت.

پیشنهاد جدید با کتابخانه‌های آموزشی توزیع‌شده SageMaker از پیش پیکربندی شده است، که به کاربران اجازه می‌دهد تا به‌طور خودکار بارهای آموزشی را در هزاران شتاب‌دهنده تقسیم کنند، بنابراین برای بهبود عملکرد مدل، می‌توان حجم‌های کاری را به صورت موازی پردازش کرد.

HyperPod، طبق گفته Sivasubramanian، همچنین تضمین می‌کند که مشتریان می‌توانند بدون وقفه آموزش مدل را با ذخیره دوره‌ای پست‌های بازرسی ادامه دهند.

کمک به شرکت‌ها برای کاهش هزینه استقرار مدل هوش مصنوعی

از سوی دیگر، استنتاج SageMaker برای کمک به شرکت در کاهش هزینه استقرار مدل و کاهش تأخیر در پاسخ‌های مدل هدف‌گذاری شده است. برای انجام این کار، استنتاج به شرکت‌ها اجازه می‌دهد تا چندین مدل را در یک نمونه ابری یکسان برای استفاده بهتر از شتاب‌دهنده‌های زیربنایی مستقر کنند.

شرکت‌ها همچنین می‌توانند سیاست‌های مقیاس‌بندی را برای هر مدل به‌طور جداگانه کنترل کنند، و در عین حال بهینه‌سازی هزینه‌های زیرساخت، سازگاری با الگوهای استفاده از مدل را آسان‌تر می‌کند، و افزود که SageMaker به طور فعال مواردی را که در حال پردازش درخواست‌های استنتاج هستند نظارت می‌کند و به‌طور هوشمند درخواست‌ها را بر اساس مسیریابی می‌کند. که در آن نمونه ها در دسترس هستند.

AWS همچنین پلتفرم یادگیری ماشین کد کم خود را که هدف آن تحلیلگران تجاری است،  SageMaker Canvas، به روز کرده است.

سیواسوبرامانیان گفت: تحلیلگران می توانند از زبان طبیعی برای تهیه داده ها در داخل Canvas به منظور تولید مدل های یادگیری ماشین استفاده کنند. پلتفرم no code از LLM ها از Anthropic، Cohere، و AI21 Labs پشتیبانی می کند.

SageMaker همچنین اکنون دارای قابلیت Model Evaluation است که اکنون SageMaker Clarify نامیده می‌شود که از داخل SageMaker Studio قابل دسترسی است.

سایر به‌روزرسانی‌های مرتبط با هوش مصنوعی شامل پشتیبانی به‌روز از پایگاه‌های اطلاعاتی برداری برای Amazon Bedrock است. این پایگاه داده ها شامل Amazon Aurora و MongoDB است. سایر پایگاه های داده پشتیبانی شده عبارتند از Pinecone، Redis Enterprise Cloud، و Vector Engine برای Amazon OpenSearch Serverless.