متا Code Llama LLM را برای کدنویسی منتشر کرد

Code Llama یک نسخه تخصصی از مدل زبان بزرگ Llama 2 است که برای تولید و بحث کد به خوبی تنظیم شده است.

شرکت مادر فیسبوک متا یک ابزار مبتنی بر هوش مصنوعی برای کدنویسی به نام Code Llama معرفی کرده است.

یک مدل زبان بزرگ (LLM) که می‌تواند از پیام‌های متنی برای تولید کد استفاده کند، Code Llama یک نسخه تخصصی کد Llama 2 است. این با آموزش بیشتر روی مجموعه داده‌های کد خاص، نمونه‌برداری از داده‌های بیشتر از همان مجموعه داده برای مدت طولانی‌تر ساخته شد. Code Llama می‌تواند کد و زبان طبیعی در مورد کد را از هر دو دستور کد و زبان طبیعی ایجاد کند، مانند «برای من تابعی بنویس که دنباله فیبوناچی را خروجی می‌کند». این ابزار همچنین می تواند برای تکمیل کد و اشکال زدایی استفاده شود. زبان های پشتیبانی شده عبارتند از Python، C++، Java، PHP، TypeScript، JavaScript، C# و Bash.

برنامه‌نویسان می‌توانند از صفحه وب Meta AI< درخواست دسترسی به Code Llama کنند. /a>. رایگان برای تحقیقات و استفاده تجاری، Code Llama در سه اندازه، با پارامترهای ۷B، ۱۳B و ۳۴B منتشر می شود. هر مدل با ۵۰۰ میلیارد کد کد و داده های مربوط به کد آموزش داده می شود. مدل های پایه و دستورالعمل ۷B و ۱۳B با قابلیت fill-in-the-middle (FIM) آموزش دیده اند که امکان درج کد را در کد موجود فراهم می کند. این کار از کارهایی مانند تکمیل کد خارج از جعبه پشتیبانی می کند.

این سه مدل نیازمندی‌های مختلف سرویس دهی و تأخیر را برآورده می‌کنند، به عنوان مثال، مدل ۷B روی یک واحد پردازش گرافیکی ارائه می‌شود در حالی که مدل ۳۴B بهترین نتایج را نشان می‌دهد و امکان کمک به کدنویسی بهتر را فراهم می‌کند. متا دو نوع دیگر از این ابزار را تنظیم کرده است: Code Llama – Python بیشتر بر روی ۱۰۰B توکن کد Python تنظیم شد و Code Llama – Instruct برای درک دستورالعمل‌های زبان طبیعی به‌خوبی تنظیم شد.