۴ مهارت کلیدی devsecops برای دوران هوش مصنوعی مولد

مهارت‌های سطح بالا مانند اعتبارسنجی و نظارت بر LLM‌ها و یادگیری پشته هوش مصنوعی، زمینه‌های خوبی برای مقابله با فن‌آوران است.

• رهبران فناوری اطلاعات باید یک تغییر مسئولیت هوش مصنوعی را هدایت کنند
• از هوش مصنوعی درخواست کنید، اما پاسخ را تحقیق و تأیید کنید
• بهبود LLM با مهندسی داده
• پشته هوش مصنوعی از copilots تا modelops را بیاموزید
• امنیت Shift-left و تست اتوماسیون

زمانی که رایانش ابری برای شرکت آماده شد و ابزارهایی مانند ادغام مداوم و تحویل مداوم، زیرساخت به عنوان کد و Kubernetes به جریان اصلی تبدیل شد، تغییر پارادایم واضحی را در توسعه و عملیات نشان داد. کار جداسازی توسعه‌دهندگان و عملیات‌ها به مسئولیت‌های devops تبدیل شد و تیم‌های مشارکتی از پیکربندی زیرساخت‌های کار دستی، مقیاس‌گذاری محیط‌های محاسباتی، و استقرار برنامه‌ها به اتوماسیون پیشرفته‌تر و گردش‌های کاری هماهنگ تغییر کردند.

کارشناسان بر این باورند که قابلیت‌های هوش مصنوعی مولد، نسخه‌های کمکی و مدل‌های زبان بزرگ (LLM) آغازگر دوره جدیدی از نحوه کار توسعه‌دهندگان، دانشمندان داده و مهندسان هستند. و نوآوری کنید. آنها انتظار دارند که هوش مصنوعی بهره‌وری، کیفیت و نوآوری را بهبود بخشد، اما تیم‌های devsecops باید مجموعه جدیدی از داده‌ها، امنیت و سایر ریسک‌های عملیاتی را درک و مدیریت کنند. مهمتر از آن، CIOها و تیم‌های توسعه‌دهنده، امنیت اطلاعات و علم داده نقش مهمی در فعال‌سازی و محافظت از سازمان با استفاده از قابلیت‌های هوش مصنوعی مولد خواهند داشت.

رهبران فناوری اطلاعات باید یک تغییر مسئولیت هوش مصنوعی را هدایت کنند

CIOها و رهبران فناوری اطلاعات باید تیم‌ها و کارمندان خود را برای این تغییر پارادایم و نحوه هوش مصنوعی مولد بر اولویت های تحول دیجیتال تاثیر می گذارد. نیکول هلمر، معاون توسعه و یادگیری موفقیت مشتری در SAP، می‌گوید آموزش باید در اولویت باشد. او می‌گوید: «شرکت‌ها باید آموزش برای توسعه‌دهندگان را در اولویت قرار دهند، و عامل مهم در افزایش سازگاری، ایجاد فضایی برای توسعه‌دهندگان برای یادگیری، کاوش، و کسب تجربه عملی با این فناوری‌های جدید هوش مصنوعی است.

این تغییر ممکن است عمیق و تاکتیکی باشد زیرا اتوماسیون فناوری اطلاعات بیشتر تولید می‌شود و فناوری اطلاعات را قادر می‌سازد تا به سمت نوآوری، معماری و مسئولیت‌های امنیتی بیشتر سوق پیدا کند.

دکتر هریک وین، مدیر ارشد فناوری TCS. در عوض، آنها باید بیشتر بر روی تجزیه و تحلیل نیازمندی‌های محصول، تعریف معیارهای پذیرش، نرم‌افزار و طراحی معماری تمرکز کنند، که همگی به تفکر انتقادی، طراحی، تعیین هدف استراتژیک و مهارت‌های خلاقانه حل مسئله نیاز دارند.

در اینجا چهار توسعه دهنده، علم داده و سایر مهارت های فناوری اطلاعات برای توسعه این دوره از هوش مصنوعی مولد وجود دارد.

هوش مصنوعی را درخواست کنید، اما پاسخ را تحقیق و تأیید کنید

هنگام کار با ابزارهای هوش مصنوعی مولد، از جمله ChatGPT، copilots، و دیگر LLM. اما مهارت مهم‌تر ارزیابی نتایج، تشخیص توهمات، و به طور مستقل توصیه های هوش مصنوعی مولد را تأیید می کند.

دیوید بروکس، SVP و مبشر اصلی در کوپادو. یک ذهنیت «اعتماد کنید اما تأیید کنید» را در نظر بگیرید که در آن تمام محتوای تولید شده را می‌خوانید تا بفهمید آیا منطقی است یا خیر.

کودی دی آرکلند، مدیر روابط توسعه‌دهنده در LaunchDarkly، می‌گوید مهارت‌های درخواست و اعتبارسنجی باید در آزمایش‌های LLM اعمال شود. . اگر به درستی استفاده شود، توسعه‌دهندگان می‌توانند با ایجاد سریع تغییرات آزمایشی جدید، از یک LLM برای ارتقای آزمایش محصول خود استفاده کنند، به‌ویژه زمانی که این درخواست حول فرضیه‌های آنها و با در نظر گرفتن مخاطب مناسب باشد. یاد بگیرید که شکاف‌های پاسخ‌هایی را که می‌دهند و چگونه می‌توانید ۹۰ درصدی که به شما می‌دهد را بگیرید و شکاف را روی ۱۰ درصد نهایی کم کنید، شما را به یک تمرین‌کننده بسیار مؤثرتر تبدیل می‌کند.”

توصیه من به مهندسان devsecops این است که رویکردهای حل مسئله را تغییر دهند. قبل از LLM، مهندسان به تحقیق، اعتبارسنجی، پیاده سازی و آزمایش راه حل ها می پرداختند. امروزه، مهندسان باید در شروع فرآیند، درخواست را وارد کنند، اما مراحل باقیمانده را هنگام آزمایش از دست ندهند.

بهبود LLM با مهندسی داده

وقتی از آکشی بوشان، شریک Tola Capital خواستم مجموعه مهارت های مولد هوش مصنوعی مهمی را انتخاب کند، او پاسخ داد: “مهندسی داده در حال تبدیل شدن به مهمترین مهارت است زیرا ما به افرادی نیاز داریم که خطوط لوله بسازند تا داده ها را به مدل تغذیه کنند.”

قبل از LLM، بسیاری از سازمان‌ها بر ایجاد خطوط داده قوی، بهبود کیفیت داده‌ها، فعال کردن علوم داده شهروندی قابلیت ها و ایجاد حاکمیت داده های پیشگیرانه بر روی داده های ساخت یافته. LLM ها برای آموزش و فعال کردن زمینه وسیع تری نیاز به دامنه گسترده ای از داده های بدون ساختار، از جمله متن، اسناد، و چند رسانه ای دارند. سازمان‌ها برای یادگیری ابزارهای جدید برای پشتیبانی از خطوط لوله داده بدون ساختار و توسعه جاسازی‌های LLM به دانشمندان داده و متخصصان مدیریت داده نیاز خواهند داشت، و فرصت‌هایی برای مهندسان devsecops برای ادغام برنامه‌ها و خودکارسازی زیرساخت‌های اساسی وجود خواهد داشت.

Rohit Choudhary، یکی از بنیانگذاران و مدیر عامل می گوید: “مدل های هوش مصنوعی مولد به شدت به داده ها برای آموزش و ارزیابی متکی هستند، بنابراین مهارت های هماهنگ سازی خط لوله داده برای تمیز کردن، پیش پردازش و تبدیل داده ها به قالبی مناسب برای یادگیری ماشین ضروری است.” href=”https://acceldata.io” rel=”nofollow”>Acceldata. “مهارت های تجسم برای درک توزیع داده ها، شناسایی الگوها و تجزیه و تحلیل عملکرد مدل نیز مهم هستند.”

همه فن‌آوران فرصت‌هایی خواهند داشت تا مهارت‌های جدید مهندسی داده را بیاموزند و آنها را برای نیازهای در حال رشد کسب‌وکار به کار ببرند.

پشته هوش مصنوعی از copilots تا modelops را بیاموزید

ارائه‌دهندگان پلت‌فرم فناوری قابلیت‌های هوش مصنوعی مولد را در IDEها، پلتفرم‌های مدیریت خدمات فناوری اطلاعات و سایر ابزارهای توسعه چابک معرفی می‌کنند. کوپیلوت‌هایی که کد را بر اساس درخواست‌های توسعه‌دهندگان تولید می‌کنند، فرصت‌های امیدوارکننده‌ای برای توسعه‌دهندگان هستند، اما نیاز به ارزیابی نتایج برای یکپارچه‌سازی، عملکرد، امنیت و ملاحظات قانونی دارند.

Pryon موسس و مدیر عامل ایگور جابلوکوف. “هم صنعت devops stack و هم صنعت امنیت سایبری باید به دنبال شناسایی کدهای مولد باشند تا اطمینان حاصل کنند که هیچ گونه مشکل و نقص حق چاپ به شرکت وارد نمی شود.”

سازمان‌های دارای مالکیت معنوی قابل توجه می‌توانند جاسازی و توسعه LLM‌های خصوصی‌سازی شده را برای تحریک و استفاده از جستارهای زبان طبیعی در برابر این داده‌ها ایجاد کنند. به عنوان مثال می توان به جستجوی اطلاعات مالی، توسعه LLM در داده های بیماران مراقبت های بهداشتی، یا ایجاد ابزارهای آموزشی جدید اشاره کرد. توسعه دهندگان و دانشمندان داده که می خواهند به توسعه LLM کمک کنند، چندین فناوری جدید برای یادگیری دارند.

نیکولاوس واسیلوگلو، معاون یادگیری ماشین تحقیقاتی در RelationalAI. «در حالی که استفاده از مدل‌های زبان غول‌پیکر با ۱۰۰ میلیارد پارامتر رایج است، شواهد کافی وجود دارد که نشان می‌دهد بازی ممکن است با تنظیم دقیق و ساخت صدها مدل کوچک‌تر تغییر کند. مدیریت چرخه عمر این مدل ها یکی دیگر از کارهایی است که پیش پا افتاده نیست.»

در نهایت، اگرچه توسعه اثبات مفهوم و آزمایش مهم است، اما هدف باید ارائه قابلیت‌های هوش مصنوعی مولد آماده تولید، نظارت بر نتایج آنها و بهبود مستمر آنها باشد. رشته های MLops و modelops از یادگیری ماشینی به هوش مصنوعی مولد گسترش می یابد و برای پشتیبانی کامل از توسعه و پشتیبانی از چرخه های زندگی مورد نیاز است.

Kjell Carlsson، رئیس استراتژی علم داده و تبشیر در دومینو، می‌گوید: «توانایی عملیاتی کردن مدل‌های هوش مصنوعی مولد و خطوط لوله آنها به سرعت تبدیل به با ارزش ترین مهارت در هوش مصنوعی می شود، زیرا این بزرگترین مانع در ایجاد تاثیر با هوش مصنوعی مولد است.”

امنیت Shift-left و تست اتوماسیون

همه کارشناسان بیان می‌کنند که تحقیق، اعتبارسنجی و آزمایش پاسخ‌های هوش مصنوعی مولد رشته‌های حیاتی هستند، اما بسیاری از سازمان‌های فناوری اطلاعات فاقد کارکنان، مهارت‌ها و ابزارهای امنیتی و اتوماسیون تست QA برای رویارویی با چالش‌های رو به رشد هستند. توسعه‌دهندگان، مهندسان عملیات و دانشمندان داده باید روی این مهارت‌های امنیتی و تست خودکار سرمایه‌گذاری کنند تا به پر کردن این شکاف‌ها کمک کنند.

مارکو آناستاسوف، یکی از بنیانگذاران Semaphore CI/CD. “مهارت های قدیمی مانند تست دستی و امنیت siled ممکن است اهمیت کمتری پیدا کنند زیرا هوش مصنوعی و اتوماسیون بیشتر این کار را به عهده می گیرند.”

IT باید آزمایش مستمر و رشته‌های امنیتی را هرجا که قابلیت‌های هوش مصنوعی مولد را در جریان کاری خود وارد می‌کنند، از کدهای تولیدشده توسط هوش مصنوعی استفاده می‌کنند یا با توسعه LLM‌ها آزمایش می‌کنند، ایجاد کند.

استفن مگیل می‌گوید: «تیم‌های توسعه‌دهنده باید مهارت‌هایی را اولویت‌بندی کنند که شکاف بین هوش مصنوعی و توسعه‌دهندگان را پر می‌کند، مانند تسلط بر تشخیص تهدید مبتنی بر هوش مصنوعی، اطمینان از امنیت خطوط لوله خودکار CI/CD، و درک رفع اشکال مبتنی بر هوش مصنوعی». ، معاون نوآوری محصول در Sonatype. سرمایه‌گذاری در زمینه‌هایی که بزرگ‌ترین دردسر برای تیم‌ها هستند، مانند فقدان بینش در مورد نحوه ساخت کد یا گسترش کد ناشی از تولید بیش از حد کد، نیز بسیار مهم است، در حالی که می‌توان تاکید کمتری بر کارهای دستی و واکنشی داشت.

با این حال، تمرکز بر امنیت و آزمایش در مورد نحوه استفاده IT از هوش مصنوعی مولد کافی نیست، زیرا بسیاری از بخش‌ها و کارمندان دیگر در حال آزمایش ChatGPT و سایر ابزارهای هوش مصنوعی هستند.

دیوید هابر، مدیرعامل و یکی از بنیانگذاران Lakera، می گوید که تیم های توسعه دهنده باید امنیت هوش مصنوعی را درک کنند. مهارت‌هایی را برای کاهش آسیب‌پذیری‌های رایج مانند تزریق‌های سریع یا مسمومیت با داده‌های آموزشی ایجاد کنید و تمرین‌های تیم قرمز مبتنی بر LLM را انجام دهید. تیم‌های Devops باید مکانیسم‌های نظارت مستمر و واکنش به حادثه را برای شناسایی سریع تهدیدات در حال ظهور و پاسخگویی قبل از تبدیل شدن به یک مشکل در سراسر شرکت اجرا کنند.

آیا هوش مصنوعی مولد جهان را تغییر می‌دهد یا خطرات و مقررات سرعت نوآوری را کاهش می‌دهند؟ هر پیشرفت تکنولوژیکی بزرگ با فرصت ها، چالش ها و ریسک های فنی جدید همراه است. یادگیری ابزارها و به کارگیری رویکردهای آزمایش محور، شیوه‌های کلیدی برای فن‌آوران برای انطباق با هوش مصنوعی مولد است، و با توجه به اینکه بخش‌ها به دنبال عملیاتی کردن قابلیت‌های مبتنی بر هوش مصنوعی هستند، مسئولیت‌های امنیتی رو به رشدی وجود دارد که باید به آنها رسیدگی شود.