۲۹ شهریور ۱۴۰۳

Techboy

اخبار و اطلاعات روز تکنولوژی

۴ ویژگی جدید هوش مصنوعی برای توسعه دهندگان در SingleStoreDB

از جستجوی سریع‌تر وکتور گرفته تا نوت‌بوک‌های مشترک، SingleStore اخیراً چندین نوآوری متمرکز بر هوش مصنوعی را با در نظر گرفتن توسعه‌دهندگان رونمایی کرده است. شیرجه بزنیم

از جستجوی سریع‌تر وکتور گرفته تا نوت‌بوک‌های مشترک، SingleStore اخیراً چندین نوآوری متمرکز بر هوش مصنوعی را با در نظر گرفتن توسعه‌دهندگان رونمایی کرده است. شیرجه بزنیم

هوش مصنوعی مولد تاثیر فوری و عظیمی بر توسعه نرم افزار داشته است. توسعه‌دهندگان نرم‌افزار از ابزارهای هوش مصنوعی مولد که به کدنویسی کمک می‌کنند استقبال کرده‌اند، و به شدت در تلاش هستند تا خودشان برنامه‌های هوش مصنوعی تولیدی بسازند. پایگاه‌های داده می‌توانند به شما کمک کنند – به‌ویژه پایگاه‌های داده سریع، مقیاس‌پذیر و چند مدل مانند SingleStore.

در افتتاحیه SingleStore Now در کنفرانس، SingleStore چندین نوآوری متمرکز بر هوش مصنوعی را با در نظر گرفتن توسعه دهندگان اعلام کرد. اینها عبارتند از SingleStore Scope، Aura، Notebooks و Elegance SDK. با توجه به تأثیری که AI و LLM بر توسعه دهندگان می گذارند، منطقی است که به روش هایی که این نوآوری ها توسعه برنامه های کاربردی هوش مصنوعی را آسان تر می کنند، غواصی کنیم.

SingleStore Scope

اگر به هر طریقی با هوش مصنوعی یا LLM کار می‌کنید، می‌دانید که پایگاه‌های اطلاعاتی برداری بسیار محبوب‌تر شده‌اند زیرا توانایی آن‌ها در جستجوی نزدیک‌ترین n نمایش داده‌ها را دارند. شما در حال کار با سپس می توانید از آن نتایج جستجو برای ارائه زمینه اضافی به LLM خود برای دقیق تر کردن پاسخ ها استفاده کنید. SingleStoreDB چندین سال است که از توابع برداری و جستجوی برداری پشتیبانی می‌کند، اما برنامه‌های هوش مصنوعی مولد از شما می‌خواهند که در میان میلیون‌ها یا میلیاردها جاسازی برداری در میلی‌ثانیه جستجو کنید – که با استفاده از k-نزدیک‌ترین همسایه (kNN) دشوار می‌شود. ) در مجموعه داده های عظیم.

Scope جستجوی تقریبی نزدیکترین همسایه (ANN) را به عنوان یک گزینه اضافی به جستجوی k-نزدیکترین همسایه (kNN) موجود اضافه می کند. تفاوت اصلی بین ANN و kNN در نام آن است: تقریبی در مقابل نزدیکترین. آزمایش اولیه نشان می‌دهد که ANN برای جستجوی برداری سریع‌تر است و موارد استفاده از هوش مصنوعی شما را از سریع به زمان واقعی تبدیل می‌کند. جستجوی برداری بی‌درنگ تضمین می‌کند که برنامه‌های کاربردی شما فوراً به درخواست‌ها پاسخ می‌دهند، حتی زمانی که آن داده‌ها به تازگی در پایگاه داده نوشته شده‌اند.

Scope از تعدادی تکنیک برای عملکرد بیشتر توابع جستجوی شما استفاده می کند، به عنوان مثال فایل معکوس (IVF) با کمی سازی محصول (PQ). با IVF با PQ، می توانید زمان ساخت شاخص خود را کاهش دهید و در عین حال نسبت فشرده سازی و ردپای حافظه جستجوهای برداری خود را بهبود ببخشید. فراتر از IVF با PQ، Scope رویکرد جهان کوچک قابل پیمایش سلسله مراتبی (HNSW) را اضافه می کند تا امکان جستجوهای شاخص برداری با کارایی بالا با استفاده از ابعاد بالا را فراهم کند.

با Scope، می‌توانید همه این رویکردهای نمایه‌سازی جدید را همراه با جستجوی متن کامل، ترکیب کنید تا جستجوی معنایی ترکیبی (شباهت برداری) و واژگانی/کلیدی را در یک جستار ترکیب کنید.

Google مش سرویس Istio را به CNCF اهدا می کند

در زیر می توانید نمونه ای از استفاده از جستجوی ترکیبی را مشاهده کنید. برای مشاهده کد در بافت وسیع‌تر آن، نوت‌بوک کامل را در فضاهای فروشگاه تکی بررسی کنید.

hyb_query = 'Articles about Aussie captures'
hyb_embedding = model.encode(hyb_query)

# Create the SQL statement.
hyb_statement = sa.text('''
   SELECT
       title,
       description,
       genre,
       DOT_PRODUCT(embedding, :embedding) AS semantic_score,
       MATCH(title, description) AGAINST (:query) AS keyword_score,
       (semantic_score + keyword_score) / 2 AS combined_score
   FROM news.news_articles
   ORDER BY combined_score DESC
   LIMIT 10
   ''')

# Execute the SQL statement.
hyb_results = pd.DataFrame(conn.execute(hyb_statement, dict(embedding=hyb_embedding, query=hyb_query)))
hyb_results

پرسمان بالا میانگین نمرات جستجوهای معنایی و کلیدواژه را پیدا می‌کند، آنها را ترکیب می‌کند و مقالات خبری را بر اساس این امتیاز محاسبه‌شده مرتب می‌کند. با حذف پیچیدگی اضافی انجام جستجوهای لغوی/کلیدی و معنایی به طور جداگانه، جستجوی ترکیبی کد برنامه شما را ساده می‌کند.

پیاده‌سازی این استراتژی‌های نمایه‌سازی جدید توسط SingleStore به ما امکان می‌دهد تا به‌سرعت استراتژی‌های جدید را به محض در دسترس قرار گرفتن، ترکیب کنیم، و اطمینان حاصل کنیم که برنامه شما با پشتیبانی SingleStoreDB همیشه بهترین عملکرد خود را خواهد داشت.

SingleStore Aura

هنگامی که با مجموعه داده های بسیار بزرگ کار می کنید، یکی از بهترین کارهایی که می توانید برای کنترل عملکرد و هزینه خود انجام دهید این است که کار محاسباتی را تا حد امکان نزدیک به داده ها انجام دهید. SingleStore Aura به شما امکان می دهد منابع محاسباتی (CPU و GPU) را برای بارهای کاری هوش مصنوعی، آموزش ماشینی یا ETL (استخراج، تبدیل، بارگذاری) در کنار داده های خود مستقر کنید. با Aura، مشتریان SingleStore می‌توانند از این منابع محاسباتی جدید برای اجرای مدل‌های یادگیری ماشین یا سایر نرم‌افزارهای خود استفاده کنند، به گونه‌ای که به آنها امکان می‌دهد تا زمینه کامل داده‌های سازمانی خود را داشته باشند، بدون اینکه نگران عملکرد خروجی و هزینه باشند.

همراه Aura با Aura Job Service (پیش‌نمایش خصوصی)، می‌توانید کارهای SQL و Python را از داخل SingleStore Notebooks برنامه‌ریزی کنید تا داده‌های آن‌ها را پردازش کنید، آموزش دهید یا تنظیم دقیق مدل یادگیری ماشین یا انجام کارهای پیچیده تغییر داده. اگر شرکت شما اغلب تنظیمات دقیق مدل AI یا LLM شما را به روز می کند، اکنون می توانید این کار را به روشی برنامه ریزی شده انجام دهید — با استفاده از پلت فرم های محاسباتی بهینه شده که در کنار داده های شما قرار دارند.

نوت‌بوک‌های فروشگاهی

بسیاری از مهندسان و دانشمندان داده کار با نوت‌بوک‌های ژوپیتر، میزبانی شده، تعاملی و اسناد قابل اشتراک‌گذاری را که می‌توانید در آن‌ها می‌توانید بلوک‌های کد بنویسید و اجرا کنید، با اسناد در هم آمیخته شده و داده‌ها را تجسم کنید، راحت هستند. آنچه اغلب در یک محیط Jupyter وجود ندارد، اتصالات بومی به پایگاه داده شما و عملکرد SQL است.

با اعلام در دسترس بودن عمومی Notebooks SingleStore، SingleStore کاوش، تجسم و همکاری با داده ها و همتایان خود را در زمان واقعی برای شما آسان می کند. شروع به کار با Notebooks SingleStore بسیار ساده است:

  1. آزمایی رایگان SingleStoreDB Cloud خود را شروع کنید
  2. فرایند ورود را تکمیل کنید
  3. استقرار یک فضای کاری
با راهنمایی های نوع پایتون شروع کنید

در قسمت پیمایش در سمت چپ، Notebooks را خواهید دید. روی علامت مثبت کنار Notebooks کلیک کنید و جزئیات را پر کنید. اگر می‌خواهید این نوت بوک را با همکاران خود به اشتراک بگذارید، مطمئن شوید که اشتراک‌گذاری شده را در قسمت مکان انتخاب کنید. زبان پیش فرض سلول را روی زبانی که در نوت بوک استفاده می کنید تنظیم کنید، سپس روی ایجاد کلیک کنید.

singlestore notebooks

توجه: همچنین می‌توانید یکی از الگوها را انتخاب کنید یا از گالری انتخاب کنید، اگر می‌خواهید ببینید یک نوت‌بوک چگونه به نظر می‌رسد.

برای یک مثال مفید، من یک نوت بوک از گالری وارد کرده ام به نام «شروع به کار با DataFrames در SingleStoreDB». این نوت بوک شما را در فرآیند استفاده از pandas DataFrames راهنمایی می کند تا از ماهیت توزیع شده SingleStoreDB بهتر استفاده کنید.

singlestore dataframes

وقتی فضای کاری و پایگاه داده را در بالای نوت بوک انتخاب می کنید، متغیر connection_url را به روز می کند تا بتوانید سریع و آسان به داده های خود متصل شوید و با آنها کار کنید.

در این نوت بوک، ما از یک دستور ساده، conn = ibis.singlestoredb.connect() برای ایجاد اتصال به پایگاه داده استفاده می کنیم. دیگر نگران کنار هم قرار دادن رشته اتصال نباشید، یک چیز دیگر را از فرآیند پیچیده نمونه‌سازی اولیه چیزی با استفاده از داده‌های خود حذف کنید.

singlestore dataframes 02

در Notebooks، برای اجرای آن بلوک کد، به سادگی دکمه Play را در کنار هر سلول انتخاب کنید. در تصویر بالا، ما بسته‌های ibis و pandas را وارد می‌کنیم.

SingleStore Notebooks یک پلت فرم بسیار قدرتمند است که به شما امکان می دهد برنامه های کاربردی را نمونه سازی کنید، تجزیه و تحلیل داده ها را انجام دهید و به سرعت کارهایی را که ممکن است نیاز به انجام آنها با استفاده از داده های خود در داخل SingleStoreDB داشته باشید، تکرار کنید. این نمونه سازی سریع روشی بسیار موثر برای مشاهده اینکه چگونه می توانید هوش مصنوعی، LLM یا سایر روش های کلان داده را در کسب و کار خود پیاده سازی کنید.

حتماً SingleStore Spaces را بررسی کنید تا نمونه بزرگی از نوت‌بوک‌ها را ببینید که هر چیزی را از تصویر به نمایش می‌گذارند مطابق با ساخت برنامه‌های LLM که از تولید افزوده‌شده بازیابی (RAG) روی داده‌های شما استفاده می‌کنند.

SingleStore Elegance

SingleStore Elegance یک بسته NPM است که برای کمک به توسعه دهندگان React طراحی شده است تا با استفاده از اتصالات SingleStore Kai یا MySQL به پایگاه داده، به سرعت برنامه ها را در بالای SingleStoreDB بسازند. با انتشار Elegance، هرگز زمان بهتری برای توسعه یک برنامه هوش مصنوعی که توسط SingleStoreDB پشتیبانی می‌شود، وجود نداشت.

بزرگترین گلوگاه در مدل های زبان بزرگ

Elegance یک SDK قدرتمند ارائه می دهد که تعدادی از ویژگی ها را پوشش می دهد:

  • جستجوی برداری
  • تکمیل گپ
  • جاسازی و تولید فایل از CSV یا PDF
  • SQL و پرس و جوهای جمع
  • پشتیبانی از اتصال پایگاه داده SQL و Kai
  • کنترل‌کننده‌های آماده برای استفاده Node.js و قلاب‌های React

شروع به کار با برنامه نمایشی به همین سادگی است فقط چند مرحله ساده را دنبال کنید:

  1. کلون کردن این مخزن:
    کلون گیت https://github.com/singlestore-labs/elegance-sdk-app-books-chat.git
  2. برای SingleStoreDB ثبت نام کنید.
  3. ایجاد پایگاه داده: books_chat_mysql.
  4. یک فایل env. به روز شده بر اساس فایل .env.sample موجود در مخزن ایجاد کنید.
  5. وابستگی ها را نصب کنید:
    npm i
  6. برنامه را شروع کنید:
    sh ./scripts/start.sh
  7. مرورگر وب خود را باز کنید: http://localhost:3000.
git clone https://github.com/singlestore-labs/elegance-sdk-app-books-chat.git
npm i
sh ./scripts/start.sh

اگر ترجیح می‌دهید از ابتدا شروع کنید و به تنهایی چیزی بسازید، می‌توانید با یک npm ساده @singlestore/elegance-sdk را شروع کنید و مراحل صفحه بسته ما را دنبال کنید. npmjs.com.

در زمان واقعی، همین الان

چشم انداز کسب و کار به سرعت با جریان اصلی AI و LLM در حال تغییر است و تقریباً همه را وادار می کند که ارزیابی کنند که آیا باید نوعی از هوش مصنوعی را پیاده سازی کنند یا نه. بسیاری از شرکت ها در حال حاضر POC ها را جمع آوری می کنند. این نسخه‌ها نشان می‌دهند که SingleStore 100% بر ایجاد یک پایگاه داده تجزیه و تحلیل و هوش مصنوعی در زمان واقعی تمرکز دارد که ابزار مورد نیاز برای ساخت سریع و کارآمد برنامه‌های کاربردی خود را در اختیار شما قرار می‌دهد – پروژه‌های هوش مصنوعی و LLM شما را سریع‌تر به بازار عرضه می‌کند.

این نوآوری‌های هوش مصنوعی که از SingleStore Now پدیدار شده‌اند را به پایان می‌رساند. در صورتی که نتوانستید شخصاً رویداد را برگزار کنید، می‌توانید تمام جلسات را در صورت تقاضا تماشا کنید.

وس کندی مبشر اصلی در SingleStore است، جایی که محتوا، محیط‌های نمایشی، و ویدیوها و روش هایی را بررسی می کنیم که بتوانیم مشتریان را در جایی که هستند ملاقات کنیم. او سابقه متنوعی در زمینه فناوری دارد که همه چیز را از مهندس مجازی سازی، مهندس فروش تا بازاریابی فنی پوشش می دهد.

Generative AI Insights مکانی را برای رهبران فناوری – از جمله فروشندگان و سایر مشارکت‌کنندگان خارجی – فراهم می‌کند تا چالش‌ها و فرصت‌های هوش مصنوعی مولد را بررسی و بحث کنند. این انتخاب گسترده است، از غواصی عمیق فناوری گرفته تا مطالعات موردی گرفته تا نظرات متخصص، اما همچنین ذهنی است، بر اساس قضاوت ما در مورد اینکه کدام موضوعات و درمان‌ها به بهترین وجه به مخاطبان فنی پیشرفته InfoWorld خدمت می‌کنند. InfoWorld وثیقه بازاریابی را برای انتشار نمی پذیرد و حق ویرایش تمام محتوای ارائه شده را برای خود محفوظ می دارد. تماس با doug_dineley@foundryco.com.