AWS نرده‌های حفاظ هوش مصنوعی Amazon Bedrock و سایر ویژگی‌ها را در دسترس عموم قرار می‌دهد

به روز رسانی ها شامل مدل های جدید زبان بزرگ و قابلیت وارد کردن مدل های سفارشی است که در حال حاضر در پیش نمایش است.

این شرکت روز سه‌شنبه گفت

خدمات وب آمازون (AWS) برخی از ویژگی‌های سرویس ساخت برنامه کاربردی هوش مصنوعی مولد، Amazon Bedrock را در دسترس عموم قرار می‌دهد.< /p>

این ویژگی‌ها شامل نرده‌های محافظ برای AI، ابزار ارزیابی مدل، و مدل های جدید زبان بزرگ (LLM).

ویژگی نرده‌های محافظ برای هوش مصنوعی، به نام Guardrails برای Amazon Bedrock، سال گذشته به نمایش گذاشته شد و از آن زمان در پیش‌نمایش است.

Guardrails for Amazon Bedrock، که به عنوان یک جادوگر در Bedrock ظاهر می‌شود، می‌تواند تا ۸۵ درصد از محتوای مضر را مسدود کند، این شرکت گفت که می‌تواند در مدل‌های تنظیم‌شده دقیق، عوامل هوش مصنوعی و همه موارد استفاده شود. LLM به عنوان بخشی از Bedrock در دسترس است.

این LLMها عبارتند از Amazon Titan Text، Anthropic Claude، Meta Llama 2، AI21 Jurassic و Cohere Command.

شرکت‌ها می‌توانند از جادوگر Guardrails برای ساختن محافظ‌ها مطابق با خط‌مشی‌های شرکت خود و اجرای آن‌ها استفاده کنند.

این حفاظت‌ها شامل موضوعات رد شده، فیلترهای محتوا، و شخصاً می‌شود. ویرایش اطلاعات قابل شناسایی (PII).

شرکت در یک پست وبلاگ توضیح داد: «شرکت‌ها می‌توانند مجموعه‌ای از موضوعات را که در زمینه برنامه شما نامطلوب هستند، با استفاده از یک توضیح کوتاه زبان طبیعی تعریف کنند،» و افزود که نرده محافظ را می‌توان آزمایش کرد تا ببیند آیا به این شکل پاسخ می‌دهد یا خیر. به ازای نیاز.

فیلترهای محتوا به‌طور جداگانه، دسترسی به دکمه‌های جابه‌جایی را فراهم می‌کنند که به شرکت‌ها اجازه می‌دهد محتوای مضر را در دسته‌های نفرت، توهین، جنسی، و خشونت حذف کنند.

ویژگی ویرایش PII در Guardrails برای Amazon Bedrock، که در حال حاضر در حال کار است، انتظار می‌رود به شرکت‌ها اجازه دهد اطلاعات شخصی مانند ایمیل و شماره تلفن‌های پاسخ‌های LLM را ویرایش کنند.

علاوه بر این، Guardrails برای Amazon Bedrock با Amazon CloudWatch، به طوری که شرکت‌ها می‌توانند ورودی‌های کاربر و مدل‌سازی پاسخ‌هایی را که خط‌مشی‌های تعریف‌شده در نرده‌های محافظ را نقض می‌کنند، نظارت و تجزیه و تحلیل کنند.

AWS در حال بازی کردن با IBM و دیگران است

درست مانند AWS، چندین ارائه‌دهنده مدل دیگر مانند IBM، Google Cloud، Nvidia و Microsoft ویژگی‌های مشابهی را برای کمک به شرکت‌ها برای کنترل تعصب هوش مصنوعی ارائه می‌کنند.

به گفته هیون پارک، تحلیلگر ارشد Amalgam Insights، AWS از IBM، Google، Microsoft، Apple، Meta، Databricks و هر شرکت دیگری که خدمات هوش مصنوعی را در ارائه گاردریل های کنترل شده ارائه می کند، دنبال می کند.

“به طور فزاینده ای آشکار می شود که پول واقعی در هوش مصنوعی به حاکمیت، اعتماد، امنیت، دقت معنایی و تخصص موضوعی پاسخ های ارائه شده مربوط می شود. پارک توضیح داد: AWS نمی‌تواند به سادگی با سریع‌تر و بزرگ‌تر بودن با هوش مصنوعی همراه شود، همچنین باید همان نرده‌های محافظ یا نرده‌های محافظ بهتری را مانند سایر فروشندگان هوش مصنوعی ارائه دهد تا تجربه‌ای مشتری محور ارائه دهد.

با این حال، او همچنین خاطرنشان کرد که IBM، در میان سایر ارائه‌دهندگان مدل یا فروشندگان هوش مصنوعی، در ایجاد نرده‌های محافظ برای هوش مصنوعی، IBM، بیش از یک سال است که این کار را برای دستیار هوش مصنوعی خود واتسون انجام می‌دهد. دهه.

پارک توضیح داد: «اگرچه تلاش‌های IBM کاملاً موفقیت‌آمیز نبودند، تجربه‌ای که IBM در کار با مراقبت‌های بهداشتی، دولت، آب‌وهوا و بسیاری از مجموعه‌های داده چالش‌برانگیز دیگر به دست آورد، به یک شروع اولیه در توسعه نرده‌های محافظ هوش مصنوعی منجر شده است.» و اضافه کرد که AWS هنوز به اندازه کافی برای معرفی نرده های محافظ برای هوش مصنوعی زود است تا زمین از دست رفته را جبران کند، زیرا هنوز روزهای اولیه برای LLM ها و هوش مصنوعی مولد است.

قابلیت واردات مدل سفارشی برای Bedrock

به عنوان بخشی از به‌روزرسانی‌ها، AWS یک قابلیت واردات مدل سفارشی جدید را نیز اضافه می‌کند که به شرکت‌ها اجازه می‌دهد مدل‌های سفارشی‌سازی شده خود را به Bedrock بیاورند، که ادعا می‌کند به کاهش هزینه‌های عملیاتی و تسریع توسعه برنامه کمک می‌کند.

این قابلیت اضافه شده است زیرا ارائه‌دهنده خدمات ابری تقاضای شرکت‌هایی را می‌بیند که مدل‌های خود را می‌سازند یا مدل‌های در دسترس عموم را در بخش صنعت خود با داده‌های خود تنظیم می‌کنند تا به ابزارهایی مانند پایگاه‌های دانش، حفاظ‌ها دسترسی پیدا کنند. شری مارکوس، مدیر علوم کاربردی در AWS، گفت: ارزیابی مدل و عوامل از طریق Bedrock.

با این حال، Amalgam Insights’ Park اشاره کرد که AWS احتمالاً و به احتمال زیاد API را برای کمک به شرکت هایی اضافه می کند که داده های زیادی در AWS دارند و از SageMaker آن استفاده کرده اند. a> خدماتی برای آموزش مدل های هوش مصنوعی آنها.

پارک توضیح داد که این همچنین به شرکت‌ها کمک می‌کند تا برای همه خدمات از طریق یک صورت‌حساب بپردازند، نه اینکه مجبور به راه‌اندازی چندین رابطه فروشنده باشند، و اضافه کرد که این استراتژی هدفش نشان دادن این است که حجم‌های کاری مرتبط با هوش مصنوعی به بهترین وجه در AWS پشتیبانی می‌شوند.

قابلیت واردات مدل سفارشی، که در پیش نمایش است، از طریق یک API مدیریت شده در Bedrock قابل دسترسی است و از سه معماری مدل باز، از جمله Flan-T5، Llama، و Mistral پشتیبانی می کند.

قابلیت ارزیابی مدل و LLM ها به در دسترس بودن عمومی می روند

AWS قابلیت ارزیابی مدل Bedrock را که سال گذشته در re:Invent به نمایش گذاشته شد به در دسترس بودن عمومی منتقل می‌کند.

شرکت گفت:

دوبله ارزیابی مدل در Amazon Bedrock، این ویژگی با هدف ساده‌سازی چندین کار مانند شناسایی معیارها، راه‌اندازی ابزارهای ارزیابی، و اجرای ارزیابی‌ها و در عین حال صرفه‌جویی در زمان و هزینه بود.

به‌روزرسانی‌های انجام‌شده برای Bedrock همچنین شامل اضافه شدن LLM‌های جدید، مانند مدل‌های جدید Llama 3 و خانواده Cohere’s Command است.

همزمان، ارائه‌دهنده خدمات ابری نیز مدل Amazon Titan Image Generator را در دسترس عموم قرار می‌دهد.

این مدل، که در سال گذشته به نمایش گذاشته شد، دارای ویژگی علامت گذاری نامرئی در آزمایش بود. مارکوس گفت که نسخه معمولی این مدل، واترمارک های نامرئی را به تمام تصاویری که ایجاد می کند اضافه می کند.

مارکوس گفت: “ما همچنین یک API تشخیص واترمارک جدید را در پیش نمایش اعلام خواهیم کرد که تعیین می کند آیا تصویر ارائه شده دارای واترمارک AWS است یا خیر.”

یکی دیگر از به‌روزرسانی‌های مهم LLM، اضافه شدن مدل Amazon Titan Text Embeddings V2 است که AWS ادعا می‌کند برای موارد استفاده بازیابی نسل افزوده (RAG) بهینه شده است، مانند بازیابی اطلاعات، پرسش و پاسخ به ربات‌های چت و توصیه‌های شخصی‌شده پاسخ دهید.

به گفته مارکوس، مدل V2 که هفته آینده عرضه خواهد شد، با فعال کردن آنچه AWS تعبیه‌های انعطاف‌پذیر نامیده است، هزینه‌های ذخیره‌سازی و محاسبه را کاهش می‌دهد.

مارکوس توضیح داد: «جاسازی‌های انعطاف‌پذیر فضای ذخیره‌سازی کلی را تا ۴ برابر کاهش می‌دهند، به طور قابل توجهی هزینه‌های عملیاتی را کاهش می‌دهند و در عین حال ۹۷ درصد دقت را برای موارد استفاده RAG حفظ می‌کنند.

مشتریان فعلی Amazon Bedrock شامل مواردی مانند Salesforce، Dentsu، Amazon، و Pearson هستند.