بیشتر عملکرد genAI مبتنی بر ابر بوی بد می دهد

بدون بهترین شیوه های اولیه معماری کامپیوتر، سیستم های هوش مصنوعی مولد کند هستند. در اینجا چند نکته برای بهینه سازی سیستم های پیچیده وجود دارد.

از من پرسیده شده که آیا سیستم‌های هوش مصنوعی مولد همیشه کند هستند؟ البته من پاسخ می دهم: «آهسته، در مقایسه با چه؟» پاسخی که همیشه دریافت می کنم خنده دار است. آهسته تر از چیزی که فکر می کردیم.» و دایره ادامه دارد.

عملاً در توسعه و استقرار هوش مصنوعی مولد، کارایی یک فکر بعدی است. اکثر سیستم‌های هوش مصنوعی مولد بر روی ابر، و حتی نه ابر، هنوز یاد نگرفته‌اند که عملکرد سیستم‌های هوش مصنوعی مولدشان چگونه باید باشد، هیچ قدمی برای تعیین عملکرد برندارند و در نهایت از عملکرد پس از استقرار شکایت می‌کنند. یا اغلب، کاربران شکایت می‌کنند، و سپس طراحان و توسعه‌دهندگان هوش مصنوعی از من شکایت می‌کنند.

چالش‌های عملکرد هوش مصنوعی مولد

در اصل، سیستم‌های هوش مصنوعی مولد، سیستم‌های داده‌محور پیچیده و توزیع‌شده‌ای هستند که ساخت، استقرار و بهره‌برداری از آنها چالش برانگیز است. همه آنها متفاوت هستند، با قطعات متحرک متفاوت. بیشتر بخش‌ها در همه جا توزیع شده‌اند، از پایگاه‌های داده منبع برای داده‌های آموزشی، داده‌های خروجی، تا موتورهای استنتاج اصلی که اغلب در ارائه‌دهندگان ابری وجود دارند.

این لیست من از رایج ترین مشکلات است:

مناظر پیچیده استقرار. سیستم های هوش مصنوعی مولد اغلب شامل اجزای مختلفی هستند. آنها شامل خدمات جذب داده، ذخیره سازی، محاسبات و شبکه می شوند. معماری این مولفه ها برای کار به صورت هم افزایی اغلب منجر به پیچیدگی بیش از حد می شود، جایی که مسائل عملکرد، که توسط ضعیف ترین اجزا تعیین می شود، با جداسازی متفاوت است. من شبکه های ضعیف و پایگاه داده های اشباع را دیده ام. این چیزها مستقیماً با هوش مصنوعی مولد مرتبط نیستند، اما با این وجود می‌توانند باعث مشکلات عملکرد شوند.

تنظیم مدل هوش مصنوعی. عملکرد صرفاً تابعی از زیرساخت نیست، که نتیجه‌ای است که بسیاری به آن می‌رسند. مدل‌های هوش مصنوعی باید تنظیم و بهینه‌سازی شوند و به تخصص فنی عمیقی نیاز دارند که تعداد کمی دارند.

فروشندگان می توانستند با ایجاد بهترین شیوه ها در تنظیم عملکرد بهتر کار کنند. بسیاری از شرکت‌ها نگران هستند که ممکن است اوضاع را بدتر کنند یا مسائلی را معرفی کنند که منجر به نتایج اشتباه شود. این را نمی‌توان نادیده گرفت، و بسته به نوع سیستم هوش مصنوعی مولد که در فضای ابری روی آن کار می‌کنید، باید با کار کردن با ارائه‌دهندگان خدمات هوش مصنوعی مولد آن را کشف کنید.

نگرانی‌های امنیتی. محافظت از مدل‌های هوش مصنوعی و داده‌های آن‌ها در برابر دسترسی‌های غیرمجاز و نقض‌ها ناگفته نماند، به‌ویژه در محیط‌های ابری که چند اجاره‌نشینی رایج است. بسیاری از مشکلات عملکرد، خطرات امنیتی را به همراه دارد.

در بسیاری از موارد، مکانیسم‌های امنیتی، مانند رمزگذاری، مشکلات عملکردی را معرفی می‌کنند که اگر حل نشود، با رشد داده‌ها بدتر می‌شود. معماری و آزمایش دوستان شما در اینجا هستند. برای درک اینکه چگونه امنیت بر عملکرد هوش مصنوعی مولد تأثیر می گذارد کمی زمان بگذارید.

انطباق با مقررات. مربوط به امنیت، پایبندی به حاکمیت داده و استانداردهای انطباق است. آنها می توانند لایه های بیشتری از پیچیدگی مدیریت عملکرد را تحمیل کنند.

مانند امنیت، ما باید نحوه کار با این الزامات را بیابیم. بیشتر اوقات، ما می‌توانیم یک رسانه شاد برای ارائه انطباق مورد نیاز خود پیدا کنیم. مانند عملکرد بهینه شده، فقط کمی آزمایش و خطا نیاز دارد.

بهترین شیوه های هوش مصنوعی مولد

به خاطر داشته باشید که اگر بهترین روش ها را در اینجا فهرست کنم، آنها کلی نگر هستند. آن‌ها نوع خاصی از سیستم‌های هوش مصنوعی مولد را که شما اجرا می‌کنید، در نظر نمی‌گیرند، که همگی مؤلفه‌ها و ملاحظات پلتفرم بسیار متفاوتی دارند. شما باید با ارائه دهنده هوش مصنوعی مولد خاص خود در مورد نحوه انجام این موارد برای موارد استفاده خاص خود بررسی کنید. با توجه به این هشدار، در اینجا چند مورد وجود دارد که باید در نظر بگیرید:

اتوماسیون را برای مقیاس‌بندی و بهینه‌سازی منابع یا مقیاس‌بندی خودکار، که ارائه‌دهندگان ابر ارائه می‌دهند، پیاده‌سازی کنید. این شامل استفاده از تکنیک‌ها و رویکردهای عملیات یادگیری ماشینی (MLOps) برای عملکرد مدل‌های هوش مصنوعی است.

از محاسبات بدون سرور استفاده کنید، که مدیریت زیرساخت را انتزاعی می‌کند. این بدان معناست که دیگر نباید منابعی را که هوش مصنوعی مولد شما به آن نیاز دارد اختصاص دهید. به صورت خودکار انجام می شود اگرچه من همیشه با سپردن کلیدها به یک فرآیند خودکار که منابعی را که ما باید برای آن هزینه کنیم تخصیص می دهد موافق نیستم، با توجه به همه چیزهایی که باید به آنها توجه کنید، این یک چیز کمتر است که باید در مورد آن نگران باشید.

آزمایش بار و ارزیابی عملکرد منظم را انجام دهید. اطمینان حاصل کنید که سیستم‌های هوش مصنوعی مولد شما می‌توانند بیشترین تقاضا را برطرف کنند. اکثراً از این کار می گذرند و حدس می زنند که بار در بالای منحنی چقدر خواهد بود. آیا می توانید بگویید “قطع”؟

رویکرد یادگیری مستمر را به کار بگیرید. مدل‌های هوش مصنوعی باید مرتباً با داده‌های جدید به‌روزرسانی شوند و برای حفظ عملکرد و مرتبط بودن، اصلاح شوند.

از تخصص و پشتیبانی ارائه دهندگان خدمات ابری استفاده کنید. همچنین، مطمئن شوید که جوامع آنلاینی را که پشته فناوری خاص شما را پشتیبانی می کنند، نظارت کنید. پاسخ‌های زیادی را در آنجا خواهید یافت که مشاوران ۷۰۰ دلاری در ساعت نمی‌توانند ارائه کنند.

من گمان می‌کنم که عملکرد هوش مصنوعی مولد بیش از امروز به یک منطقه مورد توجه تبدیل شود. با توجه به مقدار منابع و پول نقدی که روی این فضای در حال انفجار تمرکز می کنیم، شاید باید اینطور باشد.