در این همکاری پایگاه داده مبتنی بر آپاچی کاساندرا از فناوری بولت ThirdAI برای دستیابی به عملکرد آموزش هوش مصنوعی بهتر در CPUها استفاده می کند.
DataStax در روز چهارشنبه اعلام کرد که با استارتاپ مستقر در هیوستون ThirdAI همکاری می کند تا مدل های زبان بزرگ (LLM) را ارائه کند ) به پیشنهادات پایگاه داده خود، مانند DataStax Enterprise برای داخل محل و NoSQL database-as-a-a-service AstraDB.
به گفته مدیر محصول DataStax، Ed Anuff، این مشارکت بخشی از استراتژی این شرکت برای رساندن هوش مصنوعی به جایی است که داده ها در آن قرار دارند.
ThirdAI را می توان در همان خوشه، در محل یا در فضای ابری نصب کرد، جایی که DataStax در حال اجرا است، زیرا دارای یک کتابخانه کوچک است و نصب می تواند با Python
«مزایای آن این است که دادهها نباید از DataStax به محیط دیگری منتقل شوند، فقط به ThirdAI که در مجاورت آن است منتقل میشوند. یکی از سخنگویان DataStax گفت: این امر حریم خصوصی کامل و همچنین سرعت را تضمین می کند زیرا هیچ زمانی در انتقال داده ها از طریق شبکه از دست نمی رود.
سخنگوی افزود: “ThirdAI را می توان به عنوان یک بسته Python اجرا کرد یا از طریق API، بسته به ترجیح مشتری، به آن دسترسی داشت.”
شرکتهایی که DataStax Enterprise یا AstraDB را اجرا میکنند میتوانند از دادههای موجود در آن پایگاههای داده و فناوری ThirdAI و LLMها برای توسعه برنامههای هوش مصنوعی تولیدی خود استفاده کنند. مدلهای پایه از ThirdAI را میتوان برای درک دادهها و پاسخ به سؤالات آموزش داد، مانند اینکه کدام توصیه محصول احتمالاً بر اساس سابقه مشتری منجر به فروش میشود.
ادغام LLM های ThirdAI باعث می شود که DataStax از فناوری Bolt استارتاپ استفاده کند. /a>، که می تواند عملکرد آموزش هوش مصنوعی بهتری را در CPU در مقایسه با GPU برای مدل های نسبتا کوچکتر به دست آورد. مزیت این کار این است که پردازندهها معمولاً قیمت پایینتری نسبت به پردازندههای گرافیکی دارند که معمولاً برای بارهای کاری هوش مصنوعی و یادگیری ماشین استفاده میشوند.
“موتور بولت، که یک شتاب دهنده الگوریتمی برای آموزش مدل های یادگیری عمیق است، می تواند محاسبات را به صورت تصاعدی کاهش دهد. ThirdAI در یک پست وبلاگ گفت: الگوریتم آموزش شبکه عصبی را در ۱٪ یا کمتر از عملیات ممیز شناور در ثانیه (FLOPS) به دست می آورد، برخلاف ترفندهای استاندارد مانند کوانتیزه کردن، هرس کردن، و پراکندگی ساختاری، که فقط یک بهبود فاکتور ثابت جزئی ارائه می دهد. /p>
“افزایش سرعت به طور طبیعی در هر CPU مشاهده می شود، خواه اینتل، AMD، یا ARM. حتی نسخههای قدیمیتر CPUهای کالایی میتوانند به همان اندازه قادر به آموزش میلیارد مدل پارامتر سریعتر از پردازندههای گرافیکی A100 باشند.
طبق ThirdAI، بولت همچنین میتواند با «فقط چند تغییر» خط در خطوط لوله یادگیری ماشین پایتون موجود فراخوانی شود.
اعلام با ThirdAI اولین مورد در برنامه مشارکت جدیدی است که DataStax در حال راه اندازی است تا فناوری بیشتری را از استارتاپ های هوش مصنوعی ارائه کند که می تواند به شرکت های دارای داده های مستقر در پایگاه داده Datastax در توسعه برنامه های کاربردی هوش مصنوعی مولد کمک کند.
پست های مرتبط
DataStax روی ThirdAI ضربه می زند تا هوش مصنوعی مولد را به پایگاه داده های ارائه شده خود بیاورد
DataStax روی ThirdAI ضربه می زند تا هوش مصنوعی مولد را به پایگاه داده های ارائه شده خود بیاورد
DataStax روی ThirdAI ضربه می زند تا هوش مصنوعی مولد را به پایگاه داده های ارائه شده خود بیاورد