اوپنایآی از اعضای کنگره پرسیده است که آیا شرکتهای رقیب هوش مصنوعی میتوانند به طور قانونی با کند کردن توسعه موافقت کنند، در حالی که دانشمند ارشد آن، صنعت را به ایجاد استانداردهای ایمنی مشترک ترغیب میکند.
به گزارش وایرد (WIRED) که به نقل از افراد نزدیک به این شرکت صحبت کرده است، اوپنایآی در هفتههای اخیر از قانونگذاران پرسیده است که آیا توافقی بین شرکتهای هوش مصنوعی برای کند کردن توسعه، میتواند قوانین ضد انحصار را نقض کند یا خیر.
این درخواست از قانونگذاران در پی فراخوان یاکوب پاچوکی، دانشمند ارشد اوپنایآی، برای کند کردن داوطلبانه توسعه تا زمانی که توسعهدهندگان بتوانند بهتر ایمنی سیستمهای خود را اثبات کنند، مطرح شده است. اما شرکتها حتی زمانی که محققان خودشان نگرانیهایی دارند، تحت فشار هستند تا به پیشرفت ادامه دهند.
میراندا بوگن، مدیر ارشد فناوری در مرکز دموکراسی و فناوری، به دیکریپت (Decrypt) گفت: «رقابت تجاری و ژئوپلیتیکی در حوزه هوش مصنوعی بهشدت زیاد است و منجر به پویایی نگرانکنندهای میشود که در آن شرکتها ترغیب میشوند محصولات را قبل از درک کامل خطراتشان منتشر کنند.»
او افزود: «حتی زمانی که کارکنان داخلی میدانند تحقیقات و آزمایشهای بیشتری لازم است، شرکتهایشان با فشار زیادی برای دور زدن و نادیده گرفتن آزمایشهای ایمنی حیاتی مواجه هستند، با وجود شواهد فزایندهای درباره پیامدهای حرکت بیش از حد سریع.»
توافق برای کند کردن توسعه هوش مصنوعی میتواند با محدود کردن رقابت، نگرانیهای مربوط به قوانین ضد انحصار را ایجاد کند. سناتورها آدام شیف و جیم بنکس قوانینی را برای محافظت از برخی همکاریهای امنیتی، مشروط به اطلاعرسانی قبلی به وزارت دادگستری، معرفی کردهاند.
بحث بر سر کند کردن توسعه هوش مصنوعی در حالی مطرح میشود که ایالات متحده و چین برای رهبری در این فناوری رقابت میکنند. دونالد ترامپ، رئیسجمهور آمریکا، در ماه می اجرای یک فرمان اجرایی در مورد هوش مصنوعی را به دلیل نگرانی از تضعیف برتری آمریکا نسبت به چین به تاخیر انداخت. ترامپ بعداً این فرمان را در ماه ژوئن امضا کرد و فرآیند بررسی داوطلبانه برای مدلهای پیشرفته قبل از انتشار را ایجاد کرد.
فراتر از نگرانیهای امنیت ملی، انگیزههای مالی میتوانند توافق را دشوار کنند.
دانکن سابین، رئیس بخش ارتباطات در موسسه تحقیقاتی هوش ماشینی، به دیکریپت (Decrypt) گفت: «هر پیشرفت در شرایط کنونی، میلیونها یا میلیاردها دلار بیشتر بودجه به همراه دارد و سازندگان آن پیشرفت را در موقعیت قدرت و نفوذ بالاتری قرار میدهد.»
سابین با واقعی خواندن دینامیک مسابقه تسلیحاتی، گفت که اوپنایآی و آنتروپیک با وجود خطرات نامعلوم، تحت فشار هستند تا به پیشرفت ادامه دهند زیرا هر سیستم جدید به ساخت جانشینهای توانمندتر کمک میکند و اگر هر یک از شرکتها بدون توافق مشترک سرعت خود را کاهش دهد، به رقیب اجازه میدهد پیشی بگیرد.
او گفت: «این امر به ویژه به این دلیل صادق است که دستاوردهای هوش مصنوعی در حال انباشته شدن هستند؛ هر سیستم جدید آموزش و استقرار سیستم بعدی و پیشرفتهتر را آسانتر میکند. بدون نوعی مکانیزم هماهنگی، عقبنشینی صرفاً به این معنی است که دیگری پیش میافتد.»
در ماه اوت، اوپنایآی کار داخلی آسترا (Astra) را که فاقد اقدامات حفاظتی قویتر در برابر نگرانیهای امنیت سایبری بود، متوقف کرد. با این حال، هم اوپنایآی و هم آنتروپیک در ماه فوریه تعهدات ایمنی خود را کاهش دادند، و جارد کاپلان، مدیر ارشد علمی آنتروپیک، استدلال کرد که کند کردن مستقل توسعه، در حالی که رقبا به پیشرفت ادامه میدهند، منطقی نیست.
بحث بر سر کند کردن توسعه هوش مصنوعی این هفته پس از آن بالا گرفت که جیکوب کاکسون، مهندس سابق آنتروپیک، استعفای خود را علناً اعلام کرد و به نگرانیها در مورد خطراتی که توسعه مداوم هوش مصنوعی برای بشریت به همراه دارد، اشاره کرد.
کاکسون در X گفت: «افرادی که هوش مصنوعی میسازند، صادقانه معتقدند که این فناوری میتواند تا پایان دهه همه ما را از بین ببرد» و افزود که این یک «ترفند بازاریابی» نیست.
او نوشت: «در واقع، بسیاری از مدیران اجرایی و محققان ارشد، جملهبندی خود را در رسانهها طوری تنظیم میکنند که معقول به نظر برسند - اما من همین افراد را میشنوم که به صورت خصوصی ترس خود را ابراز میکنند. هیچ فعالیت انسانی دیگری چنین سطحی از خطر را ندارد.»
با این حال، سابین گفت که محققان با ترک کار ممکن است کار چندانی انجام ندهند، اگر شخص دیگری به سادگی جایگزین آنها شود.
او گفت: «اگر تعداد کافی از آنها به این آگاهی مشترک برسند که همه باید متوقف شوند، آنگاه میتوانند از مانع هماهنگی عبور کرده و با هم متوقف شوند، به جای اینکه فقط توسط فرد کمی کمتر محتاط بعدی جایگزین شوند.»
