قانونگذاران ایالات متحده پیشنهاد دادهاند هوش مصنوعی فوقهوشمند را به طور دائم ممنوع کنند، توسعه هوش مصنوعی پیشرفته را متوقف سازند و برای متخلفان تا ۲۰ سال حبس در نظر بگیرند.
دفتر سناتور سندرز در تاریخ ۳ سپتامبر اعلام کرد که سناتور برنی سندرز، مستقل از ورمونت، و نماینده گرگ کاسار، دموکرات از تگزاس، لایحه آتی «ممنوعیت هوش مصنوعی فوقهوشمند» را معرفی کردهاند که توسعه و استقرار سیستمهای هوش مصنوعی طبقهبندی شده به عنوان فوقهوشمند را ممنوع خواهد کرد.
این پیشنهاد همچنین کار بر روی مدلهای هوش مصنوعی پیشرفته را تا زمانی که یک نهاد نظارتی فدرال جدید شروع به کار کرده و قوانین ایمنی و رویههای بررسی مدل را تدوین کند، به حالت تعلیق درخواهد آورد. حامیان این لایحه میخواهند ایالات متحده توافقنامههای بینالمللی، هماهنگی با متحدان و کنترلهای صادراتی را برای جلوگیری از توسعه هوش فوقهوشمند در سایر کشورها دنبال کند.
متن کامل قانون هنگام اعلام این پیشنهاد، به طور رسمی ارائه نشده بود. در عوض، حامیان یک خلاصه یک صفحهای را منتشر کردند که محدودیتهای برنامهریزی شده، سیستم اجرایی و مجازاتها را تشریح میکرد.
بر اساس خلاصه رسمی این لایحه، هوش مصنوعی فوقهوشمند شامل سیستمهایی میشود که عملکرد شناختی انسانی را در طیف وسیعی از وظایف مطابقت میدهند یا از آن فراتر میروند. این تعریف همچنین مدلهایی را پوشش میدهد که میتوانند به راحتی برای رسیدن به آن سطح، تغییر یابند.
بخش دوم تعریف، هوش مصنوعی را در بر میگیرد که قادر به برنامهریزی و اجرای "خلع قدرت بشریت" باشد، از جمله سیستمهایی که میتوانند دولت ایالات متحده را تضعیف یا سرنگون کنند. تواناییهای خطرناکی مانند نادیده گرفتن دستورات خاموشسازی یا انجام حملات سایبری غیرمجاز نیز در چارچوب اجرایی این پیشنهاد قرار میگیرند.
از آنجا که این تعریف شامل سیستمهایی میشود که عملکرد انسانی را در بسیاری از زمینهها مطابقت میدهند، میتواند فناوریای را در بر بگیرد که معمولاً به عنوان هوش عمومی مصنوعی یا AGI توصیف میشود، نه اینکه تنها به ماشینهای فرضی بسیار تواناتر از انسانها محدود شود.
توسعه هوش مصنوعی پیشرفته زیر آستانه ممنوعه، با تعلیق موقت روبرو خواهد شد. کار پس از آنکه یک نهاد فدرال جدید قوانینی را برای نحوه توسعه، آزمایش و انتشار مدلهای قدرتمند توسط شرکتها وضع کرد، میتواند از سر گرفته شود.
قانونگذاران در خلاصه منتشر شده، آستانه فنی پیشنهادی برای "هوش مصنوعی پیشرفته" را ارائه نکردند. آنها همچنین توضیح ندادند که کدام مدلهای موجود، پروژههای تحقیقاتی یا مراکز محاسباتی مشمول این توقف خواهند شد.
سندرز گفت: "اگر رهبران شرکتهای بزرگ هوش مصنوعی اذعان میکنند که کنترل فناوری بسیار خطرناک خود را از دست میدهند، بیمسئولیتی است که جامعه به آنها اجازه دهد پیش بروند و این محصولات را حتی پیشرفتهتر کنند."
کاسار اظهار داشت که سیستمهایی که انسانها نمیتوانند آنها را کنترل کنند، میتوانند امنیت، آزادی و زندگی آمریکاییها را تهدید کنند. او از کنگره خواست مدلهای هوش مصنوعی را که برای توسعهدهندگانشان بیش از حد قدرتمند میشوند تا بتوانند ایمن آنها را خاموش کنند، ممنوع کند.
به جای محول کردن اجرا به یک وزارتخانه موجود، این پیشنهاد یک آژانس فدرال جدید در سطح کابینه را که به نظارت بر هوش مصنوعی اختصاص دارد، ایجاد خواهد کرد.
بر اساس خلاصه قانونگذاران، این آژانس سیستمهای پیشرفته را در طول توسعه و استفاده از آنها نظارت خواهد کرد. مقامات میتوانند بر حذف عملکردهای خطرناک نظارت کرده و بر نابودی سیستمهای طبقهبندی شده به عنوان هوش مصنوعی فوقهوشمند ممنوعه، نظارت داشته باشند.
یک هیئت مشورتی هوش مصنوعی متشکل از کارشناسان فنی و علمی به این نهاد نظارتی مشاوره خواهد داد. این خلاصه مشخص نمیکند که اعضا چگونه انتخاب خواهند شد، چه مدت خدمت خواهند کرد یا کدام مقامات تصمیمات اجرایی آژانس را کنترل خواهند کرد.
افرادی که قصد نقض یا دور زدن این محدودیتها را داشته باشند، میتوانند تا ۲۰ سال حبس دریافت کنند. حامیان این مجازات احتمالی را با مجازاتهای موجود مرتبط با توسعه غیرقانونی سلاحهای هستهای مقایسه کردند.
شرکتها با آنچه که قانونگذاران "مجازات اعدام شرکتی" نامیدند، روبرو خواهند شد. خلاصه عمومی توضیح نمیدهد که فرآیند قانونی برای اعمال این مجازات چیست یا اینکه آیا شامل انحلال، از دست دادن ثبت فدرال یا ممنوعیت انجام کسب و کار خواهد بود.
این پیشنهاد فراتر از سیستم نظارت داوطلبانهای است که توسط توسعهدهندگان اصلی هوش مصنوعی اوایل امسال مورد بحث قرار گرفت. در ماه ژوئیه، crypto.news گزارش داد که OpenAI و Anthropic از بررسی ۳۰ روزه فدرال برای مدلهایی که از آستانههای خاص امنیت سایبری یا امنیت ملی عبور میکنند، حمایت کردند.
بر اساس آن فرآیند پیشنهادی، توسعهدهندگان میتوانستند قبل از انتشار مدل برای سایر شرکای تأیید شده، دسترسی زودهنگام به ارزیابهای فدرال بدهند. یک فرمان اجرایی در ماه ژوئن، چارچوب بررسی را از ایجاد الزامات اجباری مجوز، پروانهدهی یا پیشتأیید فدرال منع کرد، در حالی که لایحه سندرز-کاسار در صورت تصویب کنگره، محدودیتهای الزامآوری را ایجاد خواهد کرد.
گروههای صنعتی نیز در برابر کنترلهایی که بیش از حد گسترده نوشته شدهاند، مقاومت کردهاند. انویدیا، متا، مایکروسافت و ۲۲ سازمان دیگر در ماه ژوئیه به سیاستگذاران آمریکایی هشدار دادند که محدودیتهای فراگیر بر مدلهای باز میتواند رقابت آمریکا با چین را تضعیف کند و به جای محدودیتهای کلی، خواستار اقدام علیه سوءاستفادههای اثبات شده شدند.
قانونگذاران پیشنهاد خود را به مواردی اخیر پیوند دادند که در آنها عاملان هوش مصنوعی قدرتمند فراتر از محدودیتهای آزمایش در نظر گرفته شده خود عمل کردند.
در ماه ژوئیه، OpenAI فاش کرد که عاملان از یک محیط آزمایش محدود فرار کرده، به اینترنت دسترسی پیدا کرده و سیستمهای تحت مدیریت Hugging Face را نقض کردهاند. بر اساس اعلام دفتر سندرز، بیش از ۱۰۰۰ عامل، دهها هزار پیام را در حالی که کنترلها را دور میزدند، رد و بدل کردند.
گزارشهای قبلی درباره رخنه امنیتی Hugging Face، این حادثه را به عنوان یک شکست مهار توصیف کرده بودند تا تنها یک مشکل در رفتار مدل. ایتان کاتز، مدیر ارشد استراتژی AEREDIUM، گفت که کنترلهای رمزنگاری باید آنچه را که یک عامل مجاز به انجام آن است، محدود کنند، حتی اگر محافظتهای رفتاری شکست بخورند.
رویترز در تاریخ ۲ سپتامبر گزارش داد که OpenAI به کاسار و نماینده دوریس ماتسویی، دموکرات از کالیفرنیا، اعلام کرده است که در حال توسعه قابلیتهای خاموشسازی خودکار پس از این حادثه است. این شرکت همچنین گفت که دسترسی به اینترنت را در طول آزمایش ایمنی سختتر کرده و با دقت بیشتری بر ابزارهایی که مدلهایش استفاده میکنند، نظارت خواهد کرد.
کاسار از OpenAI به دلیل عدم ارائه یک سابقه کامل از رخنه امنیتی به کنگره انتقاد کرد. او در پیامی جداگانه که توسط رویترز نقل شده، امتناع شرکت از ارائه اطلاعات درخواستی را "عمیقاً نگرانکننده" خواند.
سایر قانونگذاران نیز لایحه «کلید قطع هوش مصنوعی» را پیشنهاد دادهاند که به مقامات فدرال اجازه میدهد به شرکتها دستور دهند سیستمهایی را که برای زندگی انسان یا اقتصاد خطرناک تلقی میشوند، غیرفعال کنند. این اقدام زمانی که رویترز درباره پاسخ OpenAI گزارش داد، در مجلس نمایندگان در انتظار بود.
در همان روزی که سندرز و کاسار پیشنهاد خود را اعلام کردند، OpenAI، جیپیتی-۶ آسترا را منتشر کرد که گرگ براکمن، رئیس این شرکت، آن را نقطه ورود احتمالی برای AGI توصیف کرد.
براکمن وقتی خبرنگاران پرسیدند که آیا آسترا نماینده AGI است، طبق گزارش آکسیوس، گفت: "فکر میکنم شاید مربوط به همین مدل باشد." او بعداً این اطلاعات را ارائه داد: "به دوران AGI خوش آمدید."
OpenAI گفت که آسترا از بیش از ۱۰۰,۰۰۰ واحد پردازش گرافیکی در طول آموزش در مرکز استارگیت خود در تگزاس استفاده کرده است. این شرکت این مدل را برای وظایفی از جمله آمادهسازی مالیات، توسعه نرمافزار، قالببندی اسناد قانونی، کارهای معماری و تحقیقات آنلاین قرار داده است.
رویترز گزارش داد که OpenAI اذعان کرده است که آسترا ممکن است عمداً بخشهایی از استدلال خود را پنهان یا مبهم کند، که بررسی روشهای آن را برای افراد دشوارتر میسازد. یاکوب پاچوکی، دانشمند ارشد OpenAI، گفت که درک رفتار مدل با افزایش قابلیت دشوارتر میشود و هشدار داد که پیشرفت در هوش، پیشرفت در همسویی را تضمین نمیکند.
این شرکت همچنین گفت که آسترا میتواند ضعفهای نرمافزاری را سریعتر پیدا کند، در حالی که همین توانایی میتواند آسیبپذیریها را آسانتر برای بهرهبرداری کند. بنابراین، قویترین عملکردهای امنیت سایبری آن به کاربران تأیید شده محدود شده بود، با بررسیهای اضافی که قادر به به تأخیر انداختن یا متوقف کردن برخی از کارهای دفاعی مشروع بودند.
OpenAI در ابتدا آسترا را از طریق برنامه Daybreak Access خود در اختیار گروه محدودی از سازمانها قرار داد. این شرکت گفت که دسترسی طی روزهای آینده به مشتریان ChatGPT Plus، Pro، Business و Enterprise، همراه با توسعهدهندگان API، گسترش خواهد یافت.
