Aisuite: یک دروازه AI منبع باز برای دسترسی LLM متحد

پروژه پایتون از اندرو NG یک رویکرد ساده برای همکاری با چندین ارائه دهنده LLM ارائه می دهد و به یک نقطه درد قابل توجه در گردش کار توسعه AI پرداخته است.

تکثیر مدل های بزرگ زبان (llms) به توسعه دهندگان طیف وسیعی از انتخاب ها داده است. در حالی که اکنون توسعه دهندگان به مدل های برش از OpenAI ، Anthropic ، Google ، AWS و تعداد زیادی از ارائه دهندگان دیگر دسترسی دارند ، هر یک با ساختارهای API منحصر به فرد خود ، مکانیسم های احراز هویت و قالب های پاسخ همراه هستند. این تکه تکه شدن باعث شده است تا توسعه دهندگان با API های مختلف ، مستندات خاص ارائه دهنده و الزامات ادغام کشتی بگیرند. نتیجه افزایش پیچیدگی توسعه ، جدول زمانی پروژه گسترده و بدهی فنی قابل توجهی است زیرا تیم ها برای حفظ همزمان ادغام چندین ارائه دهنده تلاش می کنند.

aisuite به عنوان یک راه حل انقلابی برای این تکه تکه شدن ظاهر شده است و به توسعه دهندگان ارائه می دهد که به بهترین وجه می تواند به عنوان “آداپتور جهانی برای دنیای LLM” توصیف شود. ” By functioning as a thin wrapper around existing Python client libraries, AiSuite transforms the chaotic landscape of multiple LLM providers into a streamlined, unified experience that بهره وری توسعه دهنده و انعطاف پذیری برنامه را در اولویت قرار می دهد.

بررسی اجمالی پروژه-آیزوئیت

Aisuite یک کتابخانه پایتون منبع باز است که توسط اندرو نگ و تیمش برای ساده سازی ادغام مدل های مختلف هوش مصنوعی از ارائه دهندگان مختلف ساخته شده است. از ژوئن سال ۲۰۲۵ ، مخزن GitHub این پروژه بیش از ۱۲،۰۰۰ ستاره به دست آورده است ، که نشان دهنده محبوبیت روزافزون آن در جامعه توسعه AI است.

در هسته اصلی خود ، آیزوئیت یک رابط یکپارچه را فراهم می کند که توسعه دهندگان را قادر می سازد با چندین مدل زبان بزرگ از طریق یک API استاندارد مشابه با OpenAi ارتباط برقرار کنند. این رویکرد به توسعه دهندگان اجازه می دهد تا بدون نیاز به بازنویسی کد خود ، به راحتی بین مدل ها از ارائه دهندگان مختلف جابجا شوند و آن را به ابزاری ارزشمند برای کسانی که با چندین سرویس AI کار می کنند تبدیل کند.

این پروژه در حال حاضر از طیف گسترده ای از ارائه دهندگان LLM از جمله Openai ، Anthropic ، AWS ، Azure ، Cerebras ، Groq ، بغل کردن چهره ، mistral ، Ollama ، Sambanova و Watsonx پشتیبانی می کند. آیزوئیت با ارائه این پشتیبانی جامع ، به یک نقطه درد قابل توجه در گردش کار توسعه AI می پردازد: تکه تکه شدن API ها در ارائه دهندگان مختلف.

آیزوئیت چه مشکلی را حل می کند؟

توسعه دهندگان که با چندین ارائه دهنده LLM کار می کنند ، به دلیل ماهیت پراکنده اکوسیستم هوش مصنوعی ، اغلب با چالش های قابل توجهی روبرو هستند. هر ارائه دهنده دارای api ساختار ، مکانیسم های احراز هویت ، و فرمت های پاسخی است.

چشم انداز فعلی ادغام LLM ناکارآمد است و اغلب به توسعه دهندگان نیاز دارد تا برای هر ارائه دهنده ای که مایل به استفاده از آنها هستند ، کد سفارشی بنویسند. این منجر به چندین نقطه درد می شود:

• مدیریت قالب های مختلف API و روش های احراز هویت برای هر ارائه دهنده
• مشکل در مقایسه عملکرد در مدلهای مختلف
• افزایش زمان توسعه هنگام جابجایی بین ارائه دهندگان
• چالش های نگهداری کد هنگامی که ارائه دهندگان API های خود را به روز می کنند

این محدودیت ها به ویژه بر توسعه دهندگان ، محققان هوش مصنوعی و شرکت هایی که برنامه های کاربردی با LLM ایجاد می کنند ، تأثیر می گذارد. سازمان هایی که به دنبال استفاده از چندین ارائه دهنده LLM هستند ، از پیچیدگی مدیریت ادغام های مختلف و عدم استاندارد سازی در سراسر اکوسیستم محدود می شوند.

آیزوئیت با ارائه یک رابط واحد و مداوم که اختلافات بین ارائه دهندگان را از بین می برد ، به این چالش ها می پردازد. این به توسعه دهندگان این امکان را می دهد تا به جای مدیریت پیچیدگی های API های متعدد ، روی ساخت برنامه های خود تمرکز کنند.

نگاهی دقیق تر به آیزویت

آیزوئیت به گونه ای طراحی شده است که هم انعطاف پذیر و هم قدرتمند باشد. در قلب خود توانایی ترجمه تمام تماس های API به یک قالب آشنا ، صرف نظر از ارائه دهنده اصلی است. این بدان معناست که توسعه دهندگان می توانند با تغییر یک رشته در کد خود ، مانند مدل های OpenAI: GPT-4O به anthropic: claude-3-7-sonnet .

کتابخانه از رابط مشابه OpenAi پیروی می کند ، و این کار را برای توسعه دهندگان که قبلاً با آن API آشنا هستند آسان می کند. این انتخاب طراحی ، انتقال صاف را برای تیم هایی که به دنبال گسترش فراتر از یک ارائه دهنده واحد هستند ، تضمین می کند.

یکی از ویژگی های اصلی Aisuite ، فرآیند نصب ساده آن است. توسعه دهندگان می توانند فقط بسته بندی پایه را نصب کنند یا کتابخانه های ارائه دهنده خاص را بر اساس نیازهای خود شامل کنند:

pip install aisuite  # Installs just the base package
pip install 'aisuite[anthropic]'  # Installs aisuite with Anthropic support
pip install 'aisuite[all]'  # Installs all provider-specific libraries

تنظیم آیزوئیت ساده است و فقط به کلیدهای API برای ارائه دهندگان که قصد استفاده از آنها را دارید ، نیاز دارد. این کلیدها را می توان به عنوان متغیرهای محیط تنظیم کرد یا مستقیماً به سازنده مشتری Aisuite منتقل شد.

در اینجا یک مثال ساده از استفاده از آیزوئیت برای تولید پاسخ از مدلهای مختلف آورده شده است:

import aisuite as ai
client = ai.Client()

messages = [
    {"role": "system", "content": "Respond in Pirate English."},
    {"role": "user", "content": "Tell me a joke."}
]

# Using OpenAI's model
response = client.chat.completions.create(
    model="openai:gpt-4o",
    messages=messages,
    temperature=0.75
)
print(response.choices[0].message.content)

# Using Anthropic's model
response = client.chat.completions.create(
    model="anthropic:claude-3-5-sonnet-20240620",
    messages=messages,
    temperature=0.75
)
print(response.choices[0].message.content)

این مثال نشان می دهد که چگونه توسعه دهندگان به راحتی می توانند با تغییر پارامتر مدل ، بین ارائه دهندگان مختلف جابجا شوند. بقیه کد یکسان است و رابط یکپارچه آیزوئیت را به نمایش می گذارد.

موارد استفاده کلیدی برای آیزوئیت

آیزوئیت در چندین مورد استفاده کلیدی برتری دارد که تطبیق پذیری و ارزش آن را در گردش کار توسعه AI برجسته می کند.

آیزوئیت توسعه دهندگان را قادر می سازد چندین ارائه دهنده LLM را در برنامه های خود به راحتی ادغام و مقایسه کنند. این به تیم ها اجازه می دهد:

• از مدل های مختلف برای کارهای خاص بر اساس نقاط قوت آنها استفاده کنید
• آزمایش A/B را در بین ارائه دهندگان برای تعیین عملکرد بهینه انجام دهید
• برای اطمینان از در دسترس بودن زیاد ، مکانیسم های برگشت پذیر ایجاد کنید

با ارائه یک API سازگار در ارائه دهندگان مختلف LLM ، آیزوئیت از یک فرآیند توسعه ساده تر پشتیبانی می کند. توسعه دهندگان می توانند:

• به سرعت نمونه اولیه با مدل های مختلف بدون تغییر کد
• به راحتی بین مدل ها برای آزمایش و مقایسه تغییر دهید
• منحنی یادگیری برای اعضای تیم که با ارائه دهندگان جدید کار می کنند ، کاهش دهید

رابط یکپارچه آیزوئیت

آن را به ابزاری عالی برای اهداف آموزشی و پژوهشی تبدیل می کند. کاربران می توانند:

• پاسخ های مدل های مختلف را با همان سریع مقایسه کنید
• عملکرد را در بین ارائه دهندگان برای کارهای خاص ارزیابی کنید
• با پارامترهای مختلف در بین مدلها آزمایش کنید

علاوه بر این اخیر به آیزوئیت قابلیت های فراخوانی عملکردی است که اجرای گردش کار عامل را ساده می کند. این ویژگی به توسعه دهندگان این امکان را می دهد تا کارکردهایی را که LLM ها می توانند با آنها تعریف کنند ، تعریف کنند و ساخت برنامه های پیچیده AI که با ابزارها و خدمات خارجی تعامل دارند ، آسانتر می شود.

خط پایین-aisuite

آیزوئیت نشان دهنده پیشرفت قابل توجهی در زمینه ابزارهای توسعه AI است. با ارائه یک رابط یکپارچه برای ارائه دهندگان LLM چندگانه ، به یک نقطه درد بحرانی در اکوسیستم AI فعلی می پردازد: تکه تکه شدن API ها و پیچیدگی کار با مدل های مختلف.

مجوز منبع باز پروژه (MIT) ، جامعه فعال و پشتیبانی جامع ارائه دهنده آن را به گزینه ای جذاب برای توسعه دهندگان که به دنبال ساخت برنامه های انعطاف پذیر و قوی هوش مصنوعی هستند ، تبدیل می کند. از آنجا که چشم انداز هوش مصنوعی همچنان در حال تحول است ، ابزارهایی مانند Aisuite نقش مهمی در این امر دارند که توسعه دهندگان را قادر به استفاده از بهترین مدل ها برای نیازهای خاص خود بدون اینکه در یک ارائه دهنده واحد قفل شوند ، استفاده کنند.

با یک فرآیند نصب ساده ، رابط آشنا و مجموعه ویژگی های در حال رشد ، Aisuite به خوبی موقعیت دارد تا به ابزاری استاندارد در ابزار توسعه دهنده AI تبدیل شود. این که آیا شما در حال ایجاد یک چت بابات ساده یا یک سیستم پیچیده هوش مصنوعی هستید ، رویکرد ساده آیزوئیت برای همکاری با چندین ارائه دهنده LLM می تواند زمان توسعه و پیچیدگی را به میزان قابل توجهی کاهش دهد.