Cloudflare فایروال را برای هوش مصنوعی معرفی کرد

Cloudflare گفت که فایروال برای هوش مصنوعی، درخواست‌های کاربر را به مدل‌های زبانی بزرگ تجزیه و تحلیل می‌کند تا تلاش‌ها برای استخراج داده‌ها یا سوءاستفاده از یک مدل را شناسایی کند.

Cloudflare توسعه فایروال برای هوش مصنوعی را اعلام کرده است، یک لایه حفاظتی که می تواند در مقابل مدل های زبان بزرگ (LLM) مستقر شود که قول می دهد سوء استفاده ها را قبل از آنها شناسایی کند. به مدل ها برسید.

در ۴ مارس رونمایی شد، فایروال برای هوش مصنوعی در نظر گرفته شده است که یک فایروال برنامه های کاربردی وب (WAF) برای برنامه هایی که از LLM استفاده می کنند، شامل مجموعه‌ای از ابزارهایی که می‌توانند در مقابل برنامه‌ها مستقر شوند تا آسیب‌پذیری‌ها را شناسایی کرده و تهدیدهای مدل‌ها را مشاهده کنند.

Cloudflare گفت فایروال برای هوش مصنوعی ابزارهای سنتی WAF مانند محدود کردن نرخ و تشخیص داده‌های حساس را با یک لایه حفاظتی جدید ترکیب می‌کند که مدل را تجزیه و تحلیل می‌کند و از کاربران ارسال‌شده می‌خواهد تلاش‌هایی را برای بهره‌برداری از مدل شناسایی کنند. فایروال برای هوش مصنوعی بر روی شبکه Cloudflare اجرا می شود و به Cloudflare این امکان را می دهد تا حملات را زودتر شناسایی کند و از کاربران و مدل ها در برابر حملات و سوء استفاده ها محافظت کند. محصول در حال حاضر در حال توسعه است.

برخی آسیب‌پذیری‌هایی که بر برنامه‌های کاربردی وب و API سنتی تأثیر می‌گذارند، مانند تزریق و استخراج داده‌ها، در دنیای LLM نیز اعمال می‌شوند. اما مجموعه جدیدی از تهدیدات اکنون به دلیل نحوه عملکرد LLM مرتبط هستند. برای مثال، محققان اخیراً یک آسیب‌پذیری را در هوش مصنوعی کشف کرده‌اند. Cloudflare گفت که پلتفرم همکاری که به آنها اجازه می دهد مدل ها را ربوده و اقدامات غیرمجاز انجام دهند.

فایروال Cloudflare برای هوش مصنوعی مانند یک WAF سنتی مستقر خواهد شد، که در آن هر درخواست API با یک اعلان LLM برای الگوها و امضاهای حملات احتمالی اسکن می شود. می‌توان آن را در مقابل مدل‌های میزبانی شده در پلت‌فرم هوش مصنوعی Cloudflare Workers یا مدل‌هایی که در هر ثالث میزبانی می‌شوند، مستقر کرد. – زیرساخت های حزب همچنین، می‌توان از آن در کنار Cloudflare AI Gateway استفاده کرد.

فایروال برای هوش مصنوعی مجموعه‌ای از تشخیص‌ها را اجرا می‌کند که برای شناسایی تلاش‌های تزریق سریع و سایر سوء استفاده‌ها طراحی شده‌اند، مانند اطمینان از اینکه موضوع درخواست در محدوده‌های تعریف‌شده توسط مالک مدل باقی می‌ماند. فایروال برای هوش مصنوعی همچنین به دنبال درخواست‌های تعبیه‌شده در درخواست‌های HTTP می‌گردد یا به مشتریان اجازه می‌دهد قوانینی را براساس جایی که در بدنه JSON درخواست پیدا می‌شود، ایجاد کنند.

Cloudflare گفت: پس از فعال شدن، فایروال برای هوش مصنوعی هر درخواستی را تجزیه و تحلیل می کند و امتیازی را بر اساس احتمال مخرب بودن آن ارائه می دهد.