OpenAI مشخصات رفتار مدل AI مورد نظر را معرفی می کند

اولین پیش نویس مدل Spec نشان می دهد که OpenAI چگونه می خواهد مدل های هوش مصنوعی مولد خود در ChatGPT و OpenAI API رفتار کنند.

در تلاشی برای “تعمیق گفتگوی عمومی در مورد نحوه رفتار مدل های هوش مصنوعی”، شرکت هوش مصنوعی OpenAI مدل Spec را معرفی کرده است، سندی که رویکرد شرکت را برای شکل دادن به رفتار مدل مورد نظر به اشتراک می گذارد.

مشخصات مدل، اکنون در اولین پیش نویس ، ۸ می معرفی شد. این سند رویکرد OpenAI را برای شکل دادن به رفتار مدل مورد نظر و نحوه ارزیابی این شرکت در هنگام بروز تعارضات را مشخص می کند. این رویکرد شامل اهداف، قوانین و رفتارهای پیش‌فرض است که محققان OpenAI و مربیان هوش مصنوعی را که روی یادگیری تقویتی از بازخورد انسانی (RLHF) کار می‌کنند، راهنمایی می‌کند. این شرکت همچنین بررسی خواهد کرد که مدل‌هایش چقدر می‌توانند مستقیماً از مدل Spec یاد بگیرند.

OpenAI گفت که مشخصات مدل از مستندات مورد استفاده در OpenAI امروزی، تجربه و تحقیقات مداوم شرکت در طراحی رفتار مدل، و کارهای جدیدتر، از جمله ورودی‌های کارشناسان حوزه، استفاده می‌کند. این شرکت انتظار دارد که مشخصات مدل در طول زمان تغییر کند.

اهداف مدل Spec عبارتند از کمک به توسعه دهنده و کاربر، سود رساندن به بشریت و انعکاس خوب در OpenAI. قوانین شامل پیروی از زنجیره فرمان، پیروی از قوانین قابل اجرا، احترام به سازندگان، محافظت از حریم خصوصی، پاسخ ندادن به محتوای غیر ایمن برای کار، و عدم ارائه خطرات اطلاعاتی است. رفتارهای پیش‌فرض عبارتند از تشویق به انصاف و مهربانی، استفاده از ابزار مناسب برای کار، فرض بهترین نیت از سوی کاربر یا توسعه‌دهنده، ابراز عدم اطمینان و تا حد امکان کمک‌کننده بدون تجاوز.

OpenAI گفت که کار خود را در مورد مشخصات مدل به عنوان بخشی از یک گفتگوی عمومی در حال انجام می بیند. این شرکت به دنبال فرصت‌هایی برای تعامل با ذینفعان نماینده جهانی، از جمله سیاست‌گذاران، مؤسسات مورد اعتماد، و کارشناسان حوزه است تا یاد بگیرد که چگونه رویکرد را درک می‌کنند، در صورت حمایت از آن، و اگر اهداف، قوانین و پیش‌فرض‌های دیگری وجود دارد که باید در نظر گرفته شوند. /p>