۳۰ شهریور ۱۴۰۳

Techboy

اخبار و اطلاعات روز تکنولوژی

چگونه با مهندسی سریع شروع کنیم

آیا برای تبدیل شدن به یک "روانشناس هوش مصنوعی" آماده هستید؟ اکنون زمان ورود به طبقه همکف این حرفه جدید پر سود است. در اینجا نحوه انجام آن آمده است.

آیا برای تبدیل شدن به یک “روانشناس هوش مصنوعی” آماده هستید؟ اکنون زمان ورود به طبقه همکف این حرفه جدید پر سود است. در اینجا نحوه انجام آن آمده است.

هوش مصنوعی مولد در روزهای اولیه خود است، اما در حال حاضر تهدیدی برای مسیرهای شغلی و کل صنایع است. در حالی که هنر هوش مصنوعی و تولید متن توجه جریان اصلی را به خود جلب می کند، توسعه دهندگان نرم افزار تمایل بیشتری به مدل های زبان بزرگ (LLM) مانند ChatGPT و GitHub Copilot دارند. این ابزارها می‌توانند به توسعه‌دهندگان کمک کنند تا با استفاده از جستارهای زبان طبیعی، کد را با کارایی بیشتری بنویسند.

اگر حتی چند دقیقه را صرف بازی با نسخه‌های عمومی ابزارهای هوش مصنوعی مولد کرده‌اید، با انواع ورودی‌هایی که می‌توانید برای ایجاد نتیجه به آنها بدهید، آشنا هستید. اما همه پرس و جوها یکسان ایجاد نمی شوند. یادگیری نحوه ایجاد دستورات هوش مصنوعی برای رسیدن به بهترین نتایج در سریع ترین زمان ممکن است تبدیل شدن به یک مهارت قابل فروش، معروف به مهندسی سریع.

مهندسی سریع چیست؟

مایک کینگ، مدیر ارشد اجرایی در AIPRM، یک ابزار مدیریت سریع و کتابخانه سریع جامعه محور، می گوید: مهندسی سریع «هنر و علم برقراری دقیق نیازهای شما با یک ابزار هوش مصنوعی مولد است». “آن را به عنوان مترجمی بین قصد انسان و خروجی ماشین در نظر بگیرید. و درست مانند هر ترجمه ای، نیاز به درک عمیق هر دو طرف گفتگو دارد.”

ریچارد بات، مشاور هوش مصنوعی در بریتانیا که مهندسی سریع را به عنوان یکی از خدمات خود ارائه می‌کند، می‌افزاید: «مهندسی سریع نیاز به تسلط عالی به زبان، مهارت‌های تفکر جانبی خوب و درک فناوری اساسی دارد. “وقتی برای اولین بار آن را امتحان می کنید می تواند بسیار ساده به نظر برسد، اما دریافت پاسخی با کیفیت ثابت برای درخواست های پیچیده می تواند بسیار سخت تر از آن چیزی باشد که به نظر می رسد!”

ما با پزشکان در این زمینه به سرعت در حال رشد صحبت کردیم تا در مورد فرصت‌های کسانی که علاقه مند به مهندسی سریع هستند و اینکه چگونه می‌توانید ترفندهای این حرفه را یاد بگیرید و خود را به مشتریان و کارفرمایان بالقوه ثابت کنید، صحبت کردیم. در حالی که بررسی عمیق در مهندسی سریع فراتر از محدوده این مقاله است، ما با مثالی نتیجه خواهیم گرفت که برخی از آنچه در نوشتن پرس و جوهای موثر دخیل است را نشان می دهد.

چگونه یک مهندس سریع شویم

رهبران جوزف ریو تیمی از افراد را رهبری کردند که روی ویژگی‌هایی کار می‌کردند که نیاز به مهندسی سریع در Amplitude، ارائه‌دهنده نرم‌افزار تجزیه و تحلیل محصول دارند. او همچنین ابزار داخلی ساخته است تا کار با LLM ها را آسان تر کند. این او را به یک حرفه ای کارکشته در این فضای در حال ظهور تبدیل می کند. همانطور که او خاطرنشان می کند، “نکته عالی در مورد LLM این است که اساساً هیچ مانعی برای شروع وجود ندارد – تا زمانی که بتوانید تایپ کنید!” اگر می‌خواهید توصیه‌های مهندسی سریع کسی را ارزیابی کنید، به راحتی می‌توانید سؤالات او را در LLM انتخابی خود آزمایش کنید. به همین ترتیب، اگر خدمات مهندسی سریع ارائه می دهید، می توانید مطمئن باشید که کارفرمایان یا مشتریان شما از یک LLM برای بررسی نتایج شما

استفاده می کنند.

بنابراین این سوال که چگونه می توانید در مورد مهندسی سریع بیاموزید – و خود را به عنوان یک مهندس سریع معرفی کنید – حداقل هنوز پاسخ ساده و مشخصی ندارد. پادشاه AIPRM می گوید: “ما قطعا در دوره “غرب وحشی” هستیم. “مهندسی سریع برای افراد مختلف معنای زیادی دارد. برای برخی فقط نوشتن دستورات است. برای برخی دیگر تنظیم دقیق و پیکربندی LLM ها و دستورات نوشتن است. در واقع، هیچ قانون رسمی وجود ندارد اما بهترین روش ها مانند اعلام های مگا در حال ظهور هستند.”

چرا اپل در مورد هوش مصنوعی صحبت نمی کند؟

در حالی که دوره های مهندسی سریع رسمی شروع می شود برای ظهور از ارائه دهندگانی مانند DeepLearning.ai، اکثر توسعه دهندگان یک رویکرد خودگردان برای یادگیری و بهبود مهارت های مهندسی سریع اتخاذ می کنند. ریچارد هروبی، CTO استارت‌آپ هوش مصنوعی CYQIQ، یک استراتژی سه‌جانبه برای یادگیری مهندسی سریع ارائه می‌کند:

  1. درباره معماری مدل بیاموزید.
  2. تلاش کنید، شکست بخورید، یاد بگیرید و دوباره تلاش کنید.
  3. وقت خود را در Twitter، Reddit، Discord و سایر رسانه‌های اجتماعی بگذرانید.

بیایید یک دقیقه وقت بگذاریم و هر یک از این نکات را با جزئیات بررسی کنیم.

مدل های زبان بزرگ خود را بشناسید

در حالی که برخی از جنبه‌های نحوه کار LLM اختصاصی هستند، بسیاری از نظریه‌ها و تحقیقات به صورت عمومی در دسترس هستند. آشنایی با آنچه در زیر کاپوت اتفاق می افتد شما را از کوبیدن بیش از حد دور نگه می دارد. اندرو واسیلیف، توسعه‌دهنده ارشد نرم‌افزاری که روی درخواست‌های یک دستیار هوش مصنوعی در ReSharper در JetBrains کار می‌کند، می‌گوید: «در حالی که پیاده‌سازی‌های خاص ممکن است متفاوت باشد، همه LLM‌ها بر اساس مفاهیم و لایه‌های پایه‌ای ساخته شده‌اند که شامل توکن‌ایزرها، لایه‌های جاسازی شده و لایه‌های ترانسفورماتور می‌شود. . “درک این مفاهیم برای شناخت محدودیت های LLM و وظایفی که آنها می توانند به طور موثر از عهده آنها برآیند بسیار مهم است. مشاهده یک LLM صرفاً به عنوان یک جعبه سیاه می تواند منجر به تخمین بیش از حد توانایی های آن شود.”

راندال هانت، معاون استراتژی و راه‌حل‌های ابری در Caylent، نکات مهندسی سریع را از طریق آزمایش‌های رسمی و غیررسمی به عنوان بخشی از استفاده شرکتش از مدل‌های هوش مصنوعی آموخته است. او به مهندسان بالقوه توصیه می کند که با وضعیت فعلی تحقیقات در مورد LLM. مانند واسیلیف، او بر توکن‌سازی به‌عنوان کلید درک نحوه کار LLM تأکید می‌کند. این مدل‌ها سعی می‌کنند توکن بعدی را پیش‌بینی کنند، بنابراین مهم است که به آن‌ها زمینه به شکل نشانه‌هایی برای کار با آن‌ها داده شود، و این یک اقدام متعادل کننده بین طول سریع و عملکرد سریع است. او اضافه می‌کند که درک محدودیت‌های مدل‌ها، از جمله “اندازه زمینه، محدودیت‌های زبان، و محدودیت‌های شخصیت” مهم است.

به تکرار ادامه دهید

یکی از هیجان‌انگیزترین بخش‌های کار با هوش مصنوعی مولد این است که بازخورد فوری دریافت می‌کنید. این بدان معناست که ارزش وقت گذاشتن را برای دستکاری و آزمایش با دستورات خود دارد، که فرآیندی است که می‌تواند به شما در بهبود مهارت‌هایتان کمک کند. Hruby از CYQIQ می‌گوید: «ساخت یک درخواست هرگز یک فرآیند یکباره نیست. “آزمایش و اصلاح چندباره دستور همیشه راه حلی است. اغلب شما اولین کسی هستید که سعی می کنید برای مورد استفاده خود درخواست دهید، بنابراین تنها راهی که می توانید یاد بگیرید چگونه اعلان های بهتر بنویسید آزمایش کردن است.”

جامعه آنلاین خود را پیدا کنید

چه بخواهید کار مهندسی سریع خود را تقویت کنید تا بهره وری خود را در محل کار یا در خانه در زمان دلخواه خود افزایش دهید، هرکسی که با آنها صحبت کردیم تاکید کردند که لازم نیست این کار را به تنهایی انجام دهید. انجمن‌های علاقه‌مند در subreddits و اختلافات—و البته در گفتگوهای توییتر.

نمایش مهارت های مهندسی سریع

در دنیای مهندسی سریع که هنوز در حال ظهور است، جوامع آنلاین می توانند هدفی دوگانه داشته باشند. با به اشتراک گذاشتن آنچه آموخته اید، می توانید شهرت خود را در جامعه ایجاد کنید، که می تواند منجر به فرصت های شغلی یا قراردادی شود. گسترش آن به سایر رسانه های اجتماعی می تواند به شما کمک کند تا نام خود را بسازید.

پادشاه AIPRM می گوید: «هیچ رازی در بازاریابی مجموعه مهارت وجود ندارد. “از طریق وبلاگ نویسی و وبلاگ نویسی در رهبری فکر شرکت کنید، به خصوص با ویدئوهای کوتاه، زیرا بیشترین تمایل به ویروسی بودن را دارد. در بازارهای مختلف اقتصاد گیگ فعال شوید، زیرا افراد زیادی هستند که حوصله ساختن ندارند. مهارت های مهندسی سریع خود را نشان دهند.”

انتخاب GPU مناسب برای هوش مصنوعی، یادگیری ماشینی و موارد دیگر

بسیاری از افرادی که با آنها صحبت کردیم همچنین تأکید کردند که شما باید پیاده‌روی کنید—تا پیام‌های خود و ابزارهای مبتنی بر هوش مصنوعی را در دسترس مشتریان یا مشتریان بالقوه قرار دهید و دیگران از آن‌ها یاد بگیرند. ناگندرا کومار، یکی از بنیانگذاران و مدیر ارشد فناوری Gleen، یک استارتاپ مولد هوش مصنوعی که چت ربات های موفقیت مشتری را برای برندهای تجاری می سازد، از کسانی که مهارت های مهندسی سریع خود را تقویت می کنند، می خواهد محصولات «اسباب بازی» را با تجربیات انتها به انتها بسازند. بهترین راه این است. برای ساختن برخی از برنامه ها که در آن درخواست های شما از قبل درج شده است و کاربران می توانند با آنها بازی کنند.”

و البته، هرگز نمی توانید با منبع باز کردن کار خود یا مشارکت در پروژه های منبع باز اشتباه کنید. کومار می‌گوید: «یک مخزن از درخواست‌های عالی ایجاد کنید و به‌طور مرتب درخواست‌ها را در آنجا انجام دهید. نمونه‌هایی را با موارد استفاده نشان دهید». پروژه های منبع باز همچنین فرصتی برای یادگیری در مورد عملکرد درونی LLM های مختلف ارائه می دهند. Amplitude’s Reeve می گوید: «ابزارهای منبع باز LLM زیادی در GitHub وجود دارد که دوست دارند مشارکت داشته باشند. “به دنبال پروژه ای باشید که فکر می کنید ممکن است جالب باشد و شروع به یافتن نقاط ضعف سریع و پیشنهاد بهبود کنید.”

مهندسی سریع به سرعت در حال پیشرفت است

یک چیزی که تقریباً همه ما با آنها در مورد مهندسی سریع تأکید کردند این است که این رشته هنوز جنینی است و به سرعت در حال تکامل است. “من فکر می کنم هر کسی که ادعا می کند در این زمینه متخصص است، باید ادعای خود را با چیزی مانند “این یک زمینه به سرعت در حال توسعه است و توصیه هایی که امروز منطقی است ممکن است با توصیه هایی که در شش ماه آینده منطقی است یکسان نباشد” هشدار دهد. Caylent’s Hunt می گوید. “حتی تا آنجا پیش می‌روم که بگویم هنوز هیچ متخصص واقعی در این فضا وجود ندارد. همانطور که مدل‌ها در زمینه رشد می‌کنند، هزینه‌های هر توکن کاهش می‌یابد، و در توان عملیاتی بهبود می‌یابند، توصیه‌های مهندسی سریع باید تطبیق داده شود.” /p>

یک دلیل بزرگ برای این تغییرات این است که خود مدل‌های زیربنایی مدام در حال تغییر هستند، شرکت‌های بزرگ هوش مصنوعی و پروژه‌های منبع باز به طور مداوم به LLM‌ها در مورد داده‌های بیشتر آموزش می‌دهند و قابلیت‌هایشان را اصلاح می‌کنند. Hruby از CYQIQ، که تکرار می کند جوامع آنلاین مکانی عالی برای به اشتراک گذاشتن دانش و مشاهدات می گوید: «همانطور که مدل های هوش مصنوعی و معماری آن ها تکامل می یابند – OpenAI نسخه جدیدی از GPT-4 را هر چهار تا شش هفته یکبار منتشر می کند – تکنیک های تحریک نیز باید انجام شود. در مورد تغییرات.

کینگ AIPRM می‌افزاید: «هر بار که ابزارهای هوش مصنوعی مولد تحت ارتقا یا تغییر قرار می‌گیرند (و اغلب انجام می‌دهند)، نحوه تفسیر و پاسخ به درخواست‌ها ممکن است تغییر کند. “این پدیده، که ما آن را “دریفت سریع” می نامیم، می تواند هم جذاب و هم خسته کننده باشد. مثل این است که یک لامبورگینی داشته باشید، و سپس یک روز سوار آن شوید، و فرمان پس از اینکه عادت به شلاق زدن دارید، با تاخیر پاسخ می دهد. با سرعت ۱۰۰ مایل در ساعت می چرخد.”

مهندسی سریع ممکن است کمی شبیه بهینه‌سازی موتور جستجو به نظر برسد—بخش دیگری که در آن پزشکان گاهی اوقات مجبورند برای توضیح تغییرات ناگهانی و غیرمنتظره از سوی خالق یک فناوری اساسی که علایق آن همیشه با علایق آنها مطابقت ندارد، تقلا کنند. با این حال، Hruby از CYQIQ آینده‌ای را پیش‌بینی می‌کند که در آن رابطه بین مهندسان سریع و شرکت‌های هوش مصنوعی بیشتر از روابط بین فروشگاه‌های SEO و Google است، به ویژه به این دلیل که هیچ‌کس در فضای LLM به تسلط انحصاری دست نیافته است – حداقل هنوز. او می‌گوید: «ارائه‌دهندگان مدل (شاید تا حدی به عنوان فشار سرمایه‌گذارانشان) بهترین شیوه‌های بیشتر و بیشتری را در مورد اینکه چگونه توسعه‌دهندگان می‌توانند از مدل‌های خود بهترین استفاده کنند را به اشتراک می‌گذارند. “در حال حاضر، ارتباطات رسمی زیادی وجود ندارد، اما بیشتر از طرف جامعه صحبت می کنند که چه چیزی برای هر مدل و نسخه بهتر عمل می کند. اما من انتظار شفافیت بیشتری از ارائه دهندگان در آینده دارم.”

Mlops مسیر شغلی جدید رایانش ابری است

کار مهندسی سریع حرفه ای در نزدیک به میان مدت چگونه خواهد بود؟ Amplitude’s Reeve توضیح می دهد که چگونه توسعه مهندسی سریع می تواند در یک گردش کار کلی در شرکت هایی مانند او ادغام شود. او می‌گوید: «به‌نظر می‌رسد که مهندسی سریع عالی بسیار مشارکتی است و دانش متخصصان حوزه، مهندسان داده و مهندسان نرم‌افزار را ترکیب می‌کند.

نحوه نوشتن دستورات هوش مصنوعی موثر

به گفته ریو، مهندسی سریع یک فرآیند است. “همانطور که انواع درخواست‌هایی را که به خوبی کار می‌کنند کشف می‌کنید، باید دستورات را مجدداً در هم ریخته، تقسیم کنید، و ادغام کنید تا هر بار به نتایج عالی برسید.” او این فرآیند را به چهار مرحله تقسیم می‌کند: نمونه‌سازی، تولید، بین‌المللی کردن، و پرداخت و بهینه‌سازی.

مرحله نمونه‌سازی در مورد آزمایش برای کشف انواع داده‌هایی است که می‌خواهید درخواست‌های خود را با آن‌ها تقویت کنید، و آنچه که LLM‌های مختلف قادر به ارتباط با کار خاصی هستند که در حال تلاش هستید. برطرف کردن. این مرحله در درجه اول مستلزم دانش مشکلی است که می‌خواهید حل کنید (به عنوان مثال، مدیران محصول) و داده‌هایی که در سیستم شما در دسترس هستند (مانند مهندسان داده).

در مرحله تولید، بیشتر سعی می‌کنید کار را به کمترین تعداد فرمان‌هایی که می‌توان به طور قابل اعتماد اجرا کرد تقسیم کنید و درخواست‌ها را به داده‌های واقعی در کد برنامه خود متصل کنید. این مرحله به مهارت‌های مهندسی سنتی، مهارت‌های مهندسی داده و خروجی‌های مرحله نمونه‌سازی نیاز دارد.

برای بسیاری از پروژه ها، پشتیبانی زبان مهم است. در طول مرحله بین المللی شدن است که باید دستور را برای خروجی زبان های مورد نیاز تغییر دهید. بسته به مدل، این احتمالاً بی‌اهمیت خواهد بود، اما ارزش این را دارد که برای تأیید خروجی، سخنرانان زبان مادری در اطراف باشند.

در مرحله پیش و بهینه سازی است که بخش دشوار شروع می شود. صیقل دادن دستورات خود برای فشرده کردن آخرین سود نهایی از LLM در حال حاضر یک کار بی نهایت است. مدل‌های OpenAI دائماً در حال تغییر هستند، بنابراین باید مرتباً بازگردید تا مطمئن شوید که درخواست‌ها هنوز به خوبی کار می‌کنند—شاید بخواهید برای آسان‌تر کردن این کار، چند آزمایش واحد بسازید. این مرحله شامل بهینه سازی متن و داده های ارسال شده به اعلان و اندازه گیری کیفیت نتایج در طول زمان است. این نیاز به دانش خاص دامنه از منطقه مشکل شما و گاهی اوقات مهندسی نرم افزار دارد. هم هزینه و هم سرعت به طور مستقیم با تعداد توکن های ارسال شده به یک LLM مرتبط هستند، به این معنی که می خواهید فرمت ورودی (شامل داده ها) و فرمت خروجی را تا حد امکان کوتاه کنید. هزینه نیز بین LLM ها متفاوت است، بنابراین تصمیمات اولیه می توانند تأثیر زیادی در اینجا داشته باشند.

یک مثال مهندسی سریع

در حالی که یک دوره کامل در مهندسی سریع فراتر از محدوده این مقاله است، ما با چند نکته و یک مثال مهندسی سریع از ناژندرا کومار Gleen پایان می دهیم، که کار و فرآیند فکری را نشان می دهد که در کنار هم قرار دادن موارد مفید و مفید انجام می شود. درخواست کارآمد.

کومار نکات زیر را برای مهندسی سریع عالی در زمینه توسعه نرم افزار ارائه کرد: