LLMهای درون پایگاه داده Oracle HeatWave برای کمک به کاهش هزینه های زیرساخت

اوراکل ویژگی‌های جدیدی را به سرویسی که قبلاً MySQL HeatWave نامیده می‌شد اضافه کرده است تا به توسعه برنامه‌های مبتنی بر هوش مصنوعی کمک کند.

Oracle در حال افزودن ویژگی های جدید مبتنی بر هوش مصنوعی به سرویس ابری تجزیه و تحلیل داده Heatwave خود است که قبلاً به عنوان MySQL HeatWave شناخته می شد.

نیپون آگاروال، معاون ارشد، گفت

نام جدید نشان می‌دهد که چگونه HeatWave چیزی بیش از پشتیبانی MySQL ارائه می‌کند و همچنین شامل هوش مصنوعی HeatWave Gen، HeatWave Lakehouse و HeatWave AutoML می‌شود. رئیس HeatWave در اوراکل.  

در کنفرانس سالانه CloudWorld خود در سپتامبر ۲۰۲۳، Oracle پیش‌نمایش مجموعه‌ای از به‌روزرسانی‌های مولد مبتنی بر هوش مصنوعی را برای آنچه در آن زمان MySQL HeatWave نام داشت، ارائه کرد.

این به‌روزرسانی‌ها شامل رابطی بودند که توسط مدل زبان بزرگ (LLM) هدایت می‌شد، که به کاربران سازمانی امکان می‌داد با جنبه‌های مختلف سرویس به زبان طبیعی تعامل داشته باشند، یک جدید a>Vector Store، Heatwave Chat و AutoML پشتیبانی از HeatWave Lakehouse.

Oracle گفت: برخی از این به‌روزرسانی‌ها، همراه با قابلیت‌های اضافی، برای ایجاد پیشنهاد HeatWave Gen AI در HeatWave ترکیب شده‌اند، و افزود که همه این قابلیت‌ها و ویژگی‌ها اکنون به طور کلی بدون هزینه اضافی در دسترس هستند.

پشتیبانی از LLM در پایگاه داده برای کاهش هزینه

به گفته تحلیلگران

اوراکل برای اولین بار در میان فروشندگان پایگاه داده، پشتیبانی از LLMها را در داخل پایگاه داده اضافه کرده است.

پشتیبانی LLM درون پایگاه داده HeatWave Gen AI، که از LLM های کوچکتر با پارامترهای کمتری مانند Mistral-7B و Llama 3-8B در حال اجرا در داخل پایگاه داده استفاده می کند، انتظار می رود هزینه زیرساخت را برای شرکت ها کاهش دهد. آنها اضافه کردند.

“این رویکرد نه تنها مصرف حافظه را کاهش می دهد، بلکه استفاده از CPU را به جای پردازنده گرافیکی امکان پذیر می کند، و مقرون به صرفه است، که با توجه به هزینه GPU ها حداقل در کوتاه مدت تا زمانی که AMD و اینتل با انویدیا روبرو می شوند. Westfall، مدیر تحقیقات گروه Futurum.

دیوید منینگر، مدیر اجرایی پژوهشگاه Ventana در ISG گفت:

یک دلیل دیگر برای استفاده از LLM های کوچکتر در داخل پایگاه داده، توانایی تأثیرگذاری بیشتر بر مدل با تنظیم دقیق است.

منینگر توضیح داد: «با یک مدل کوچکتر، زمینه ارائه شده از طریق تکنیک‌های بازیابی نسل افزوده (RAG) تأثیر بیشتری بر نتایج دارد.

Westfall همچنین مدل‌های گرانیتی IBM را مثال می‌زند و می‌گوید که رویکرد استفاده از مدل‌های کوچک‌تر، به‌ویژه برای موارد استفاده سازمانی، در حال تبدیل شدن به یک روند است.

طبق گفته Oracle، LLM‌های درون پایگاه داده به شرکت‌ها اجازه می‌دهند داده‌ها را جستجو کنند، محتوا تولید یا خلاصه کنند و RAG را با HeatWave’s Vector Store انجام دهند.

به طور جداگانه، HeatWave Gen AI همچنین با OCI Generative Service این شرکت ادغام می‌شود و به شرکت‌ها امکان دسترسی به مدل‌های از پیش آموزش‌دیده و دیگر مدل‌های پایه ارائه‌دهندگان LLM را می‌دهد.

فروشگاه برداری تغییر نام تجاری و پردازش برداری کوچک شده

تعدادی از فروشندگان پایگاه داده که قبلاً پایگاه‌های اطلاعاتی برداری ویژه ارائه نکرده‌اند، در ۱۲ ماه گذشته قابلیت‌های برداری را به محصولات خود اضافه کرده‌اند—MongoDB، DataStax ، Pinecone، و CosmosDB برای NoSQL از جمله آنها — مشتریان را قادر می‌سازد تا موارد استفاده مبتنی بر هوش مصنوعی را روی داده‌های ذخیره‌شده در این پایگاه‌های داده بدون انتقال داده به یک ذخیره یا پایگاه داده برداری جداگانه.

Oracle’s Vector Store، که قبلاً در ماه سپتامبر به نمایش گذاشته شده بود، پس از دریافت داده‌ها به طور خودکار جاسازی‌ها ایجاد می‌کند تا درخواست‌ها را سریع‌تر پردازش کند.

یکی دیگر از قابلیت‌هایی که به HeatWave Gen AI اضافه شده است، پردازش برداری مقیاس‌پذیر است که به HeatWave اجازه می‌دهد از VECTOR به عنوان یک نوع داده پشتیبانی کند و به نوبه خود به شرکت‌ها کمک می‌کند تا درخواست‌ها را سریع‌تر پردازش کنند.

منینگر گفت: «به عبارت ساده، این مانند افزودن RAG به یک پایگاه داده رابطه‌ای استاندارد است. “شما مقداری متن را در یک جدول همراه با جاسازی آن متن به عنوان نوع داده VECTOR ذخیره می کنید. سپس وقتی پرس و جو می کنید، متن درخواست شما به یک جاسازی تبدیل می شود. جاسازی با موارد موجود در جدول مقایسه می شود و مواردی که کمترین فاصله را دارند شبیه ترین هستند.  

یک رابط گرافیکی از طریق چت HeatWave

یکی دیگر از قابلیت‌های جدید اضافه شده به HeatWave Gen AI HeatWave Chat است—یک افزونه Visual Code برای MySQL Shell که یک رابط گرافیکی برای HeatWave GenAI فراهم می‌کند و توسعه‌دهندگان را قادر می‌سازد تا سؤالات را به زبان طبیعی یا SQL بپرسید.

منینگر گفت: حفظ تاریخچه گپ باعث می شود توسعه دهندگان بتوانند نتایج جستجو را به طور مکرر اصلاح کنند.

HeatWave Chat با ویژگی دیگری به نام Lakehouse Navigator ارائه می‌شود که به کاربران سازمانی اجازه می‌دهد فایل‌ها را از ذخیره‌سازی اشیا برای ایجاد یک ذخیره‌سازی برداری جدید انتخاب کنند.

وست فال گفت:

این ادغام برای افزایش تجربه کاربر و کارایی توسعه دهندگان و تحلیلگرانی که یک فروشگاه برداری ایجاد می کنند، طراحی شده است.