AWS به نظر می رسد هزینه های ذخیره سازی LLM را با بردارهای آمازون S3 کاهش دهد

AWS می گوید شما می توانید بدون پایگاه داده های ویژه وکتور برای برنامه های تولیدی هوش مصنوعی و عامل AI انجام دهید.

AWS پیش نمایش یک پیشنهاد ذخیره سازی تخصصی ، وکتورهای آمازون S3 ، که ادعا می کند می تواند هزینه بارگذاری ، ذخیره سازی و پرس و جو را تا ۹۰ ٪ در مقایسه با استفاده از یک پایگاه داده وکتور کاهش دهد ، حرکتی که احتمالاً مورد علاقه کسانی است که برنامه های کاربردی AI یا عامل AI را در ابر اجرا می کنند.

مدل های یادگیری ماشین به طور معمول داده ها را به عنوان بردارها نشان می دهند – گروه هایی از پارامترهای توصیف یک شی – و سیستم های AI از این تعبیه های بردار برای جستجوی کارآمد و استدلال بین قطعات مختلف داده استفاده می کنند.

بردارها به طور معمول در تخصص پایگاه داده های وکتور یا داده های مربوط به بازیابی و بازیابی شباهت برای بازیابی و بازیابی و بازیابی و بازیابی و بازیابی و بازیابی و بازیابی شباهت.

در مقابل ، AWS پیشنهاد می کند که شرکت ها از نوع جدیدی از سطل S3 ساخته شده برای ذخیره و پرس و جو از طریق مجموعه اختصاصی API ها ، وکتور آمازون S3 استفاده کنند ، که می گوید نیاز به تهیه زیرساخت برای یک پایگاه داده وکتور را از بین می برد.

رایا موکرجی ، تحلیلگر ارشد گروه Everest Group ، گفت: آمازون S3 یا هر ذخیره شیء مبتنی بر ابر دیگر برای اجرای و نگهداری در مقایسه با پایگاه داده های بردار به دلیل تفاوت در ساختار و الزامات سخت افزاری آنها ارزان تر است و بنابراین به شرکت ها کمک می کند تا معماری را ساده کنند ، سربار عملیاتی و کاهش هزینه را کاهش دهند.

در حالی که ذخیره سازی شیء برای کنترل حجم وسیعی از داده های بدون ساختار با استفاده از یک معماری مسطح که به حداقل می رسد و از بازیابی کارآمد پرونده های فردی پشتیبانی می کند ، برای جستجوی شباهت های با کارایی بالا در داده های پیچیده ، با ابعاد بالا و غالباً به روشهای ویژه فهرست بندی و شتاب سخت افزاری که می تواند Exprouducture و Exprouducture و Operational Exprouducture و Exprouduction را هدایت کند ، مهندسی شده است.

هر سطل وکتور S3 Amazon می تواند حداکثر ۱۰،۰۰۰ شاخص بردار جداگانه را پشتیبانی کند ، و هر شاخص قادر به ذخیره ده ها میلیون بردار ، به طور خودکار بهینه سازی ذخیره سازی برای عملکرد و هزینه است زیرا بردارها مطابق با AWS نوشته می شوند ، به روز می شوند یا حذف می شوند.

علاوه بر این ، AWS بردارهای S3 را با پایگاههای دانش آمازون آمازون یکپارچه کرده است ، و آمازون سرویس OpenSearch.

این باید از استفاده کارآمد از منابع حتی با رشد و تحول مجموعه داده ها اطمینان حاصل کند.

در حالی که ادغام با پایگاه های دانش بستر و استودیوی یکپارچه Sagemaker به توسعه دهندگان کمک می کند تا برنامه های RAG ایجاد کنند که راندمان هزینه LLM های تنظیم دقیق و کاهش توهم را تضمین می کند ، یکپارچه سازی OpenSearch انعطاف پذیری را برای شرکت ها فراهم می کند تا بردارهای قابل دسترسی را ذخیره کنند.

هنگامی که این بردارها مورد نیاز است ، توسعه دهندگان می توانند آنها را به صورت پویا به جستجوی OpenSearch برای جستجوی زمان واقعی و کم تحرک تغییر دهند.

شرکت ها و توسعه دهندگان می توانند بردارهای آمازون S3 را امتحان کنند ، و ادغام آن با آمازون Bedrock ، سرویس Amazon OpenSearch و Amazon Sagemaker در شرق ایالات متحده (N. ویرجینیا) ، شرق ایالات متحده (اوهایو) ، ایالات متحده غربی (اورگان) ، اروپا (فرانکفورت) و آسیا اقیانوسیه (سیدنی) مناطق.