رهبران فناوری از قوانین جدید هوش مصنوعی سخن می گویند

هوش مصنوعی در ظاهر به قوانین نگاه می کند – و بسیاری در صنعت از آنچه می بینند عصبی هستند.

• مقررات می تواند به به حداقل رساندن خطر کمک کند
• اجرا بسیار کلیدی است … و نامشخص
• خطر یک مهاجرت آرام
• زمینه بازی نامتعادل برای استارت‌آپ‌ها
• چرا چرخ را دوباره اختراع کنیم؟
• اکنون برای تنظیم مقررات آماده شوید

ماه گذشته، دولت بایدن یک فرمان اجرایی فراگیر صادر کرد. تمرکز بر هوش مصنوعی. این فرمان به ویژه بر نگرانی‌های مربوط به حریم خصوصی و احتمال سوگیری در تصمیم‌گیری با کمک هوش مصنوعی متمرکز بود. هر یک می تواند به طور بالقوه حقوق مدنی شهروندان را نقض کند. فرمان اجرایی نشانه ملموسی بود که هوش مصنوعی در رادار نظارتی دولت قرار دارد.

ما با متخصصان هوش مصنوعی درباره این دستور صحبت کردیم و متوجه شدیم که آنها هم در مورد ماهیت مقررات پیشنهادی و هم در مورد احتمال محدودیت‌های بیشتر نگران هستند. البته هیچ صنعتی دوست ندارد تحت نظارت باشد، اما ارزش آن را دارد که کسانی که در سنگر کار می کنند چه می گویند. نظرات آنها نقاط دردناک احتمالی تعاملات آینده بین دولت ایالات متحده و صنعت در حال رشد هوش مصنوعی را برجسته می کند.

مقررات می تواند به به حداقل رساندن خطر کمک کند

برخی از تمرین‌کنندگان تشویق شدند که دولت فدرال شروع به تنظیم هوش مصنوعی کرده است. چون تانگ، بنیانگذار و شریک عمومی برکلی اسکای دک فاند، می گوید: «دولت به عنوان یک سرمایه گذار و عضو جامعه، باید نقش سازنده ای در مدیریت پیامدهای اینجا ایفا کند. او می‌گوید: «مجموعه‌ای از مقررات مناسب، پذیرش هوش مصنوعی را در شرکت افزایش می‌دهد. شفاف سازی نرده های محافظ در مورد حریم خصوصی داده ها و تبعیض به خریداران و کاربران سازمانی کمک می کند تا “ریسک های پشت به کارگیری این ابزارهای جدید را درک و مدیریت کنند.”

بخش‌های خاصی از فرمان اجرایی نیز مورد تمجید قرار گرفت. آرجون نارایان، رئیس بخش اعتماد و ایمنی Smart News می‌گوید: امیدوارکننده‌ترین بخش EO، ایجاد یک برنامه امنیت سایبری پیشرفته برای شناسایی و رفع آسیب‌پذیری‌های حیاتی است. این برنامه و همچنین فشار بزرگ برای ارتقای سواد هوش مصنوعی و استخدام متخصصان هوش مصنوعی، راه طولانی را برای ایجاد نظارت بسیار مورد نیاز، بهبود نرده‌های حفاظتی، و مهم‌تر از همه حکمرانی – بدون خفه کردن تحقیقات و نوآوری‌های مبتنی بر هوش مصنوعی انجام می‌دهد. در بخش‌های حیاتی اقتصاد.”

اجرا بسیار کلیدی است … و نامشخص

با این حال، بسیاری از واکنش ها کمتر از مثبت بود. برای مثال، یکی از حیاتی‌ترین جنبه‌های مقررات، اجراست – اما بسیاری در صنعت هوش مصنوعی می‌گویند که مشخص نیست دستور اجرایی چگونه اجرا می‌شود.

یاشین منراج، مدیرعامل Pvotal Technologies می‌گوید: «به نظر می‌رسد هیچ چارچوب ملموسی وجود ندارد که این EO در این مرحله قابل اجرا یا مدیریت باشد. “این فقط یک گام اول نظری به سمت حکومت است.”

باب برائر، بنیانگذار و مدیر عامل Interzoid، معتقد است که فقدان جزئیات، تمرین‌کنندگان دنیای واقعی را عقب می‌اندازد. او می‌گوید: «بسیاری از این سند مبهم است و بذرها را برای کمیته‌های آینده و نهادهای نظارتی آهسته می‌کارد. “نگرانی، به عنوان مثال، با دستوراتی که مدل‌های هوش مصنوعی باید قبل از انتشار، “ابزارهای” دولتی را که هنوز تعریف نشده‌اند، پاک کنند. با توجه به توسعه سریع و تنوع مدل‌های هوش مصنوعی، چنین سیستمی غیرعملی به نظر می‌رسد.”

اسکات لالیبرت، مدیر عامل و رهبر جهانی در گروه فناوری نوظهور پروتیویتی، شکاف‌های بین دستورات سفارش و واقعیت‌های کاربرد عملی آن‌ها را توضیح می‌دهد. او می‌گوید: «بسیاری از پیشنهادات [دستور اجرایی] هنوز راه‌حل‌های عملی مانند علامت‌گذاری محتوای تولید شده توسط هوش مصنوعی و تشخیص سوگیری ندارند. “روش‌های رایج برای فرآیندهای پیشنهادی، مانند تست‌های ایمنی تیم قرمز، وجود ندارد، و توسعه یک رویکرد مورد قبول صنعت نیاز به کار دارد. لالیبرته می‌گوید که فراخوان برای هماهنگی جهانی “قابل ستایش است، اما ما شاهد این مبارزه بوده‌ایم. برای سال‌ها رسیدن به یک رویکرد مشترک برای حفظ حریم خصوصی جهانی، و دستیابی به اجماع جهانی در مورد دستورالعمل‌های هوش مصنوعی حتی دشوارتر خواهد بود.”

تهدید یک مهاجرت آرام

چشم انداز جهانی هوش مصنوعی برای بسیاری از کارشناسانی که با آنها صحبت می کردیم، مورد توجه بود. همه اشکال مقررات در غیاب هماهنگی بین‌المللی می‌توانند منجر به “آبیتراژ نظارتی” شوند، جایی که صنایع نسبتا قابل حمل به دنبال کمترین صلاحیت قضایی برای انجام کار خود هستند. بسیاری از تمرین‌کنندگان بر این باورند که هوش مصنوعی، که تخیل بسیاری از فن‌آوران در سراسر جهان را به خود جلب کرده است، برای چنین حرکاتی آماده است.

منراج از Pvotal می‌گوید: «مدل نظارت به شدت سرعت پیشرفت را کاهش می‌دهد و شرکت‌های آمریکایی را که از این قانون پیروی می‌کنند در ضرر قابل توجهی برای شرکت‌های فعال در کشورهایی مانند چین، روسیه یا هند قرار می‌دهد. “ما در حال حاضر شاهد مهاجرتی آرام از استارتاپ ها به دبی، کنیا و سایر مکان ها هستیم که در آنها آزادی بیشتر و هزینه های سربار ارزان تری دارند. منراج خاطرنشان می کند که شرکت هایی که در جاهای دیگر مغازه راه اندازی می کنند هنوز هم می توانند از فناوری های ایالات متحده “بدون مانع شدن توسط دولت” بهره ببرند. نگرانی های نظارتی را تحمیل کرد.”

ریچارد گاردنر به‌عنوان بنیان‌گذار Anzer، شرکتی که بر فروش مبتنی بر هوش مصنوعی متمرکز است، قطعاً این فشار را احساس می‌کند. او می گوید: «با توجه به این ملاحظات، ما در حال بررسی جابجایی عملیات هوش مصنوعی به خارج از ایالات متحده هستیم. “بدون شک، مهاجرت گسترده ای از پلتفرم های هوش مصنوعی وجود خواهد داشت که به همین حرکت فکر می کنند، به ویژه از آنجایی که تعهدات گزارش دهی جدید فعالیت های تحقیق و توسعه را متوقف می کند.”

Tang of the Berkeley SkyDeck Fund می بیند که این مشکل فراتر از دنیای شرکت ها است. او می‌گوید: «این خطر واقعی وجود دارد که برخی از بهترین پروژه‌های منبع باز مکان‌یابی در خارج از کشور را انتخاب کنند و به طور کامل از مقررات ایالات متحده اجتناب کنند. تعدادی از بهترین مدل های LLM منبع باز آموزش داده شده در شش ماه گذشته شامل پیشنهادهایی از امارات متحده عربی، فرانسه و چین است. او معتقد است راه حل در همکاری بین المللی نهفته است. “درست مانند کنترل تسلیحات مستلزم خرید و همکاری جهانی است، ما کاملاً به کشورها نیاز داریم که به تلاش برای طراحی و اجرای مجموعه‌ای از قوانین متحد بپیوندند. بدون یک تلاش هماهنگ منسجم، این امر محکوم به شکست است.”

زمین بازی نامتعادل برای استارت آپ ها

حتی در داخل ایالات متحده، این نگرانی وجود دارد که مقررات ممکن است به اندازه کافی سخت باشد تا زمینه بازی نامتعادل ایجاد کند. Sreekanth Menon، رهبر خدمات AI/ML جهانی در Genpact می‌گوید: «مقررات متمرکز هزینه‌های پنهانی را در قالب تیم‌های انطباق فنی و قانونی تحمیل می‌کند که می‌تواند به‌طور غیرمنصفانه به نفع شرکت‌های مستقر باشد، زیرا کسب‌وکارهای کوچک‌تر ممکن است منابع لازم برای هدایت مؤثر چنین انطباق را نداشته باشند. او می‌گوید که این بار کار را برای شرکت‌ها دشوار می‌سازد تا از سیستم نظارتی متمرکز استفاده کنند.

جیگنش پاتل استاد علوم کامپیوتر در دانشگاه کارنگی ملون و یکی از بنیانگذاران DataChat است، یک پلت فرم بدون کد که به کاربران تجاری امکان می دهد تجزیه و تحلیل داده های پیچیده را از درخواست های ساده انگلیسی استخراج کنند. پاتل در حال حاضر به این فکر می کند که مقررات آینده چه معنایی برای استارتاپ خود دارد. او می‌گوید: «در حال حاضر، فرمان اجرایی تأثیر قابل‌توجهی بر DataChat ندارد. با این حال، اگر در ادامه مسیر، مسیر ساخت مدل‌های خود را از ابتدا دنبال کنیم، ممکن است نگران نیازهای اضافی باشیم. اما می تواند برای استارتاپ ها چالش برانگیز باشد.”

“ما باید مطمئن شویم که هزینه انطباق آنقدر بالا نیست که “هوش مصنوعی بزرگ” شبیه “داروسازی بزرگ” شود، با نوآوری که واقعاً در انحصار مجموعه کوچکی از بازیکنان است که می توانند سرمایه گذاری های هنگفت مورد نیاز برای جلب رضایت قانون گذاران را تامین کنند. تانگ می افزاید. “برای جلوگیری از کنترل آینده هوش مصنوعی توسط الیگارشی هایی که می توانند داده ها یا سرمایه را در انحصار خود درآورند، باید برش های خاصی برای منبع باز وجود داشته باشد.”

چرا چرخ را دوباره اختراع کنیم؟

در حالی که تقریباً همه کارشناسانی که با آنها صحبت کردیم به ماهیت بالقوه تحول آفرین هوش مصنوعی اعتقاد داشتند، بسیاری از آنها تعجب کردند که آیا ایجاد یک چارچوب کاملاً جدید از مقررات در زمانی که دولت چندین دهه قوانینی را در مورد امنیت سایبری و ایمنی داده‌ها در کتاب دارد ضروری است یا خیر. به عنوان مثال، Brauer از Interzoid جنبه های متمرکز بر حریم خصوصی دستور اجرایی را تا حدودی گیج کننده یافت. او می‌گوید: «به نظر می‌رسد نگرانی‌های مربوط به حریم خصوصی هوش مصنوعی با مواردی که قبلاً توسط مقررات موتورهای جستجو، فروشندگان داده‌ها و قوانین حفظ حریم خصوصی مطرح شده بود، همپوشانی دارند. “پس چرا محدودیت های اضافی بر هوش مصنوعی اعمال کنیم؟”

جو گانلی، معاون دولت و امور نظارتی در Athenahealth، موافق است. او می‌گوید: «قانون‌گذاری باید بر نقش هوش مصنوعی در موارد استفاده خاص متمرکز شود، نه بر روی خود فناوری به عنوان یک کل. “به جای داشتن یک قانون واحد هوش مصنوعی، ما نیاز به به روز رسانی مقررات موجود داریم که از هوش مصنوعی استفاده می کند. به عنوان مثال، اگر سوگیری ذاتی در ابزارهای مورد استفاده برای استخدام وجود دارد، کمیسیون فرصت های شغلی برابر باید وارد عمل شود و الزامات را تغییر دهد.” p>

برخی از پزشکان همچنین خاطرنشان کردند که به نظر می‌رسد فرمان اجرایی دولت با برخی صنایع نسبت به سایرین ارتباط سبک‌تری دارد. Mark Doucette، مدیر ارشد داده و هوش مصنوعی در nCino، خاطرنشان می‌کند: «دستور اجرایی به‌طور شگفت‌انگیزی نسبت به سایر آژانس‌ها برای تنظیم‌کننده‌های مالی و وزارت خزانه‌داری سبک است». “در حالی که اقدامات سودمند مرتبط با خطرات هوش مصنوعی را تشویق می کند، تا حد زیادی از تحمیل الزامات الزام آور یا دستورات قانونی بر نهادهای نظارت مالی اجتناب می کند. این به شدت با تعهدات و دستورالعمل های محکم تر تحمیل شده بر بخش هایی مانند بازرگانی، امنیت داخلی، و دفتر مدیریت و بودجه در تضاد است. در جای دیگری به ترتیب گسترده.”

با این حال، Laliberte پروتیویتی فرض می‌کند که وزن دولت فدرال در نهایت بر روی استفاده بیشتر صنایع از هوش مصنوعی کاهش می‌یابد – و همانطور که گانلی و برائر پیشنهاد می‌کنند، این کار را در چارچوب‌های نظارتی موجود انجام خواهد داد. “در حالی که مقررات ایالات متحده در این فضا به زمان نیاز دارد تا جمع شود، از قوه مجریه انتظار داشته باشید که از مقررات و قوانین موجود برای اجرای پاسخگویی در مورد هوش مصنوعی استفاده کند، مشابه آنچه ما دیدیم و هنوز هم می بینیم که از قانون کمیسیون تجارت فدرال و قانون حمایت از مصرف کننده استفاده می کند. اعمال نقض حریم خصوصی،” او می گوید.

اکنون برای مقررات آینده آماده شوید

با وجود نگرانی‌ها و صحبت‌ها در مورد مهاجرت گسترده هوش مصنوعی، هیچ یک از تمرین‌کنندگان نگفته‌اند که تحولات صنعت قریب‌الوقوع است. Brauer از Interzoid می گوید: “برای اکثر شرکت ها و مشاغل فناوری ایالات متحده، دستور اجرایی عواقب فوری نخواهد داشت و تأثیر ناچیزی بر عملکرد روزانه خواهد داشت.” با این حال، او افزود: “هرکسی که در چشم انداز نوآورانه کشور قرار دارد، باید با هوشیاری بر مقررات در حال گسترش نظارت کند.”

Laliberte از Protiviti معتقد است که هر کسی در فضای هوش مصنوعی باید بداند که روزهای غرب وحشی ممکن است به پایان برسد – و باید از هم اکنون آماده شدن برای مقررات را شروع کند. او می‌گوید: «شرکت‌ها، به‌ویژه آن‌هایی که در صنایع تحت نظارت هستند، باید با داشتن عملکرد، سیاست، استاندارد و نقشه‌برداری کنترل هوش مصنوعی آماده شوند تا از ادعای سهل انگاری در صورت بروز مشکل جلوگیری کنند.» همچنین توصیه می‌شود از استفاده از هوش مصنوعی برای هر گونه عملکردی که می‌تواند منجر به سوگیری یا مسائل اخلاقی شود، اجتناب شود یا حداقل مورد بررسی دقیق قرار گیرد، زیرا این موارد احتمالاً تمرکز اولیه برای هرگونه اقدام اجرایی خواهد بود.» او می‌گوید با این دستور، “قوه اجرایی اعلام کرده است که آماده است تا در برابر رفتارهای ناپسند استفاده از هوش مصنوعی اقدام کند.”