موسسه لیبرترین کاتو هشدار میدهد که توقف اجباری توسعه هوش مصنوعی توسط دولت میتواند شرکتهای غالب را از رقابت مصون نگه دارد و فناوری مفید را به تعویق بیندازد، در حالی که قانونگذاران و مدیران اجرایی هوش مصنوعی بر اعمال محدودیتها اصرار دارند.
در یک پست وبلاگی که روز دوشنبه منتشر شد، جنیفر هادلسون، پژوهشگر سیاستهای فناوری در این اندیشکده، استدلال کرد که شرکتها میتوانند خطرات خاص را از طریق اقدامات حفاظتی داوطلبانه و استانداردهای مشترک، بدون توقف توسعه در کل صنعت، برطرف کنند.
او نوشت: «توقف اجباری توسط دولت نگرانیهای متعددی را ایجاد میکند و احتمالاً در تحقق بهبودهای ایمنی ادعایی خود شکست خواهد خورد»، و اضافه کرد که نوشتن قوانین دولتی کند است و تغییر آنها کندتر. «یک چارچوب نظارتی که برای مدلهای امروزی ساخته شده، ممکن است به طور فعال مانع مدلهای فردا شود و از پاسخهای بهتر یا ایمنتر جلوگیری کند.»
هادلسون خطرات هوش مصنوعی را تصدیق میکند اما هشدار میدهد که قوانینی که بر اساس توسعهدهندگان پیشرو شکل گرفتهاند، میتوانند به آنها کمک کنند تا قدرت را تثبیت کرده و رقابت را محدود کنند — شکلی از تسخیر بازار که رقابت را برای شرکتهای کوچکتر دشوارتر میکند. او همچنین استدلال میکند که توقف توسعه در ایالات متحده میتواند دفاع سایبری را تضعیف کند، در حالی که رقبای خارجی به پیشرفت خود ادامه میدهند.
تفاسیر او به دنبال پیشنهادی از سناتور برنی سندرز و نماینده گرگ کاسار مبنی بر توقف توسعه پیشرفته هوش مصنوعی تا زمان تدوین استانداردهای ایمنی فدرال و ممنوعیت دائمی فرا هوش مصنوعی است، در حالی که سم آلتمن، مدیرعامل OpenAI، از توسعه کندتر حمایت کرده و شرکتها را به تقویت تدابیر حفاظتی بدون انتظار برای قوانین فدرالی که او از آنها پشتیبانی میکند، تشویق کرده است.
هادلسون نوشت: «بسیاری از این درخواستها با سناریوهای آخرالزمانی شبیه به داستانهای علمی-تخیلی در مورد بدترین اتفاقات ممکن همراه هستند.» «با این حال، عجله برای قانونگذاری از روی ترس میتواند پیامدهای منفی بلندمدت بیشتری نسبت به خطری که ادعا میکند به آن رسیدگی میکند، داشته باشد.»
جک دورسی، رئیس و همبنیانگذار Block، نگرانیهای مشابهی را در مورد رقابت در پستی در X در روز دوشنبه ابراز کرد.
دورسی نوشت: «شرکتهای پیشرو در هوش ماشینی سزاوار شنیده شدن هستند. آنها تخصص و منافع تجاری برای محافظت دارند.» «قوانینی که حول منابع آنها ساخته شدهاند، میتواند آنها را تنها کسانی قرار دهد که قادر به مشارکت هستند. نگرانی صمیمانه در مورد ایمنی همچنان میتواند مانعی برای ورود ایجاد کند.»
دورسی گفت که او از انتشار آزاد استقبال میکند تا محققان بتوانند آنها را بازرسی، اصلاح و آزمایش کنند و ارزیابیها و محدودیتهای شناخته شده منتشر شود تا افراد خارجی بتوانند ادعاهای ایمنی توسعهدهندگان را به چالش بکشند.
او نوشت: «من از نظارت حمایت میکنم. من با محدودیتهای سراسری در صنعت که توسط رهبران امروزی مذاکره شدهاند مخالفم، زیرا آنها میتوانند افرادی را که ممکن است شکستها را افشا کنند یا جایگزینهایی بسازند، حذف کنند.» «حفظ مزیت تجاری یک شرکت، هدف ایمنی نیست.»
در پست خود، دورسی همچنین گفت که از آزمایش مستقل و اجرای عمومی و پاسخگو حمایت میکند، از جمله عدم انتشار مدلها در صورتی که شواهد نشان دهد انتشار آنها خطرات فاجعهبار را به طور مادی افزایش میدهد که اقدامات محدودتر نمیتوانند به اندازه کافی به آنها رسیدگی کنند.
او گفت: «محاسبات میتوانند بدون توقف توسعه، نظارت را برانگیزند. بررسی به معنای کسب اجازه از یک تنظیمکننده یا رقیب نیست.» «من الزامات تایید عمومی یا دورههای انتظار را نمیخواهم. هر تاخیر مبتنی بر ایمنی برای انتشار باید با استثنای خطر فاجعهبار توجیه شود.»
یک تحلیل اخیر شورای آتلانتیک استدلال میکند که فشار رقابتی نیازمند استانداردهای ایمنی قابل اجرای هوش مصنوعی است، در حالی که بیاعتمادی آمریکا و چین توافقات بینالمللی را پیچیده میکند. همکاری همچنین نگرانیهای ضد انحصار را افزایش میدهد: OpenAI از قانونگذاران پرسیده است که آیا توسعهدهندگان رقیب میتوانند به طور قانونی با کاهش سرعت توسعه موافقت کنند یا خیر.
