DBRX LLM منبع باز Databricks توانست Llama 2، Mixtral و Grok را شکست دهد.

Databricks می‌گوید DBRX، آخرین LLM منبع باز آن، از رقبای متن‌باز خود بهتر عمل می‌کند و به طور بالقوه راهی کم‌هزینه را به شرکت‌ها ارائه می‌کند تا آن را بر روی داده‌های خود برای موارد استفاده مولد هوش مصنوعی آموزش دهند.

Data lakehouse ارائه‌دهنده Databricks خانواده‌ای از مدل‌های زبان بزرگ (LLM) منبع باز منتشر کرده است که می‌گوید عملکرد بهتری از GPT 3.5 و مدل های منبع باز مانند Mixtral، Claude 3، < a>Llama 2 و Grok-1 در تست‌های معیار معیاری.

DBRX را می توان به صورت رایگان از GitHub و صورت در آغوش برای تحقیقات یا استفاده تجاری.

این به شرکت‌ها این فرصت را می‌دهد که نه تنها هزینه‌های توسعه موارد استفاده از هوش مصنوعی مولد را با داده‌های سازمانی خود کاهش دهند، بدون اینکه توسط ارائه‌دهندگان مدل‌های بسته، مانند OpenAI، در استفاده تجاری مانع شوند.

>

راهبرد راه اندازی DBRX می تواند به آوریل سال گذشته بازمی گردد، زمانی که این شرکت اولین LLM منبع باز خود را راه اندازی کرد، Dolly 2.0، تا نشان دهد که شرکت ها جایگزین هایی برای مدل هایی مانند GPT 3.5 و GPT-4 دارند.

DBRX در AWS، Google Cloud و Microsoft Azure از طریق Azure Databricks پشتیبانی می‌شود، بنابراین شرکت‌ها می‌توانند مدل را دانلود کرده و آن را در واحدهای پردازش گرافیکی (GPU) در هر کجا که می‌خواهند اجرا کنند.

از طرف دیگر، شرکت‌ها همچنین می‌توانند اشتراک DBRX و ابزارهای اضافی، مانند نسل تقویت‌شده بازیابی (RAG) را برای سفارشی‌سازی LLM از طریق ارائه خدمات مدل موزاییک هوش مصنوعی Databricks انتخاب کنند.

Mosaic AI Model Serving از طریق آنچه شرکت Foundation Model API نامیده است، به DBRX متصل می‌شود، که به شرکت‌ها اجازه می‌دهد به LLM‌ها از یک نقطه پایانی سرویس دسترسی داشته باشند و آن‌ها را جستجو کنند.

APIهای مدل بنیادی در دو حالت قیمت‌گذاری ارائه می‌شوند—پرداخت به ازای توکن و توان عملیاتی ارائه شده.

در حالی که پرداخت به ازای هر توکن بر اساس درخواست‌های همزمان صورت‌حساب می‌شود، میزان توان به ازای هر نمونه GPU در ساعت صورت‌حساب می‌شود. هر دو نرخ، از جمله هزینه نمونه ابری، از ۰.۰۷۰ دلار به ازای هر واحد Databricks شروع می‌شوند.

این شرکت همچنین یک باند قیمت را برای پیکربندی‌های مختلف GPU ارائه می‌کند. p>

به عنوان بخشی از راه اندازی LLM، Databricks دو مدل را تحت یک مجوز باز منتشر کرده است با محدودیت‌های خاص: پایه DBRX، یک مدل پایه از پیش آموزش دیده، و دستورالعمل DBRX، یک نسخه دقیق برای تعاملات چند نوبتی.

انتظار می‌رود DBRX از طریق Nvidia API Catalog و در انویدیا NIM  میکروسرویس استنتاج.

در حالی که DBRX از اکثر مدل‌های موجود امروز بهتر عمل می‌کند، طبق آزمایش‌های Databricks، GPT-4 OpenAI آن را در اکثر معیارها پشت سر گذاشته است.