داریو آمودی، مدیرعامل آنتروپیک، روز چهارشنبه گفت که دولت‌ها دیگر نمی‌توانند مقررات هوش مصنوعی را به عنوان مشکلی برای مطالعه در نظر بگیرند و ایالات متحده به الزامات ایمنی الزام‌آور برای قدرتمندترین مدل‌های هوش مصنوعی نیاز دارد.

در این مقاله با عنوان "سیاست در مورد رشد نمایی هوش مصنوعی"، آمودی استدلال می‌کند که الزامات شفافیت دیگر کافی نیستند و خواستار تنظیم مقررات الزام‌آور برای سیستم‌های هوش مصنوعی پیشرو است.

آمودی نوشت: «هوش مصنوعی با سرعتی باورنکردنی در حال پیشرفت است – تنها در چهار سال، مدل‌های هوش مصنوعی از به سختی نوشتن یک خط کد منسجم به نوشتن بیشتر کدهای شرکت‌های بزرگ هوش مصنوعی رسیده‌اند.»

مقاله آمودی در حالی منتشر می‌شود که آنتروپیک دسترسی به کلود میتوس (Claude Mythos) را با راه‌اندازی میتوس 5 (Mythos 5) در روز سه‌شنبه گسترش داده است؛ این مدل هوش مصنوعی پیشرو محدود، برای سازمان‌های امنیت سایبری و شرکای دولتی طراحی شده است. محققان، از جمله مؤسسه امنیت هوش مصنوعی بریتانیا، دریافتند که این مدل می‌تواند حملات سایبری پیچیده را به طور خودکار اجرا کند.

به گفته آمودی، پیشنهاد او از ساختار نظارتی مورد استفاده اداره هوانوردی فدرال الهام گرفته شده است.

او نوشت: «مدل‌های هوش مصنوعی پیشرو، مانند هواپیماها، باید ملزم به گذراندن آزمایش‌ها و حسابرسی فنی باشند و در صورت عدم رعایت استانداردهای بالای ایمنی، انتشار آنها باید به عنوان تهدیدی برای ایمنی عمومی مسدود یا لغو شود.» او افزود: «من از دیدن دستور اجرایی دولت ترامپ که گام به گام به سمت نقش پررنگ‌تر دولت در هوش مصنوعی حرکت می‌کند، سپاسگزارم، اگرچه پیشنهاد آنتروپیک اقدامات بیشتری را توصیه می‌کند.»

بر اساس پیشنهاد آمودی، یک چارچوب نظارتی شامل آزمایش اجباری مدل‌های پیشرفته هوش مصنوعی توسط شخص ثالث، اختیار دولت برای جلوگیری از استقرار ناامن، و الزام شرکت‌ها به حفظ وزنه‌های مدل، انجام آزمایش‌های ایمنی، و گزارش حوادث جدی خواهد بود. او همچنین از دولت‌ها می‌خواهد که برای جابجایی مشاغل ناشی از هوش مصنوعی و پیشرفت‌ها در توسعه داروها آماده شوند، نظارت و سلاح‌های خودکار را در اجرای قانون داخلی محدود کنند، و همکاری بین کشورهای دموکراتیک را در زمینه فناوری‌های حیاتی هوش مصنوعی تقویت کنند.

او با اشاره به موارد گذشته‌ای که در مورد جابجایی مشاغل هشدار داده بود، نوشت: «اولاً، جابجایی پایدار مشاغل نامطلوب و خطرناک است و ما باید تمام تلاش خود را برای به حداقل رساندن یا جلوگیری از آن انجام دهیم، نه اینکه آن را محقق سازیم.» «ثانیاً، هر پاسخی به جابجایی مشاغل ناشی از هوش مصنوعی باید هم نیاز به تأمین اقتصادی همه را برطرف کند و هم نیاز مردم به یافتن معنا، هدف و عاملیت را.»

این مقاله همچنین در همان هفته‌ای منتشر می‌شود که آنتروپیک، کلود فیبل 5 (Claude Fable 5)، نسخه‌ای عمومی از کلود میتوس 5 (Claude Mythos 5) را راه‌اندازی کرد، که درخواست‌های خاص مربوط به امنیت سایبری، زیست‌شناسی، شیمی و توسعه هوش مصنوعی را به کلود اوپوس 4.8 (Claude Opus 4.8) که قابلیت‌های کمتری دارد، برای محافظت در برابر سوءاستفاده، هدایت می‌کند. این راه‌اندازی با انتقاد توسعه‌دهندگان و محققان به دلیل مصرف بالای توکن فیبل، الزامات اجباری ۳۰ روزه نگهداری داده‌ها و تدابیر امنیتی که می‌توانند قابلیت‌های مدل را بدون اطلاع کاربران کاهش دهند، مواجه شد.

درخواست آمودی برای تغییرات سیاستی در مورد توسعه هوش مصنوعی در حالی مطرح می‌شود که آنتروپیک در حال آماده‌سازی برای عرضه عمومی سهام است. اوایل این ماه، این شرکت پس از جمع‌آوری ۶۵ میلیارد دلار در دور سرمایه‌گذاری سری H با ارزش ۹۶۵ میلیارد دلار، اسناد مربوط به عرضه اولیه عمومی سهام را به کمیسیون بورس و اوراق بهادار ایالات متحده (SEC) ارائه کرد.

در حالی که آمودی این موضوع را رقابتی بین پیشرفت فناوری و سیاست عمومی عنوان کرد، منتقدان این سوال را مطرح کرده‌اند که آیا درخواست‌ها برای مقررات سخت‌تر هوش مصنوعی واقعاً به نفع عمومی است. در ماه آوریل، سم آلتمن، مدیرعامل OpenAI، آنتروپیک را به استفاده از «بازاریابی مبتنی بر ترس» برای ترویج کلود میتوس متهم کرد و استدلال کرد که نگرانی‌ها در مورد هوش مصنوعی پیشرفته می‌تواند برای توجیه تمرکز کنترل فناوری در دست تعداد کمی از شرکت‌ها استفاده شود.

آلتمن گفت: «شما می‌توانید این را به طرق مختلفی توجیه کنید و برخی از آن‌ها واقعی هستند، مثلاً نگرانی‌های ایمنی مشروعی وجود خواهد داشت. اما اگر آنچه می‌خواهید این باشد که «ما به کنترل هوش مصنوعی نیاز داریم، فقط ما، چون ما افراد قابل اعتماد هستیم»، به نظرم بازاریابی مبتنی بر ترس احتمالاً مؤثرترین راه برای توجیه آن است.»

آمودی این ایده را که نگرانی‌ها در مورد هوش مصنوعی پیشرفته عمدتاً یک مشکل روابط عمومی هستند، رد کرد و در عوض استدلال کرد که ترس‌ها در مورد این فناوری منعکس‌کننده نگرانی‌های مشروعی هستند که باید به آنها رسیدگی شود.

او با اشاره به فیلسوف تخیلی پانگلوس از کتاب کاندید ولتر، که به حفظ خوش‌بینی تزلزل‌ناپذیر مبنی بر اینکه همه چیز در هر شرایطی بهترین است، مشهور است، گفت: «مردم نگران هوش مصنوعی هستند زیرا به درستی درک می‌کنند که خطرات آن واقعی است، نه به این دلیل که مدیران عامل هوش مصنوعی به اندازه کافی پانگلوسی نبوده‌اند.»

او گفت: «من معتقدم وظیفه من به عنوان یک رهبر هوش مصنوعی است که در مورد این خطرات شفاف باشم و نگرانی عمومی در واکنش به این شفافیت، نشان‌دهنده مسئولیت‌پذیری دموکراتیک است که باید به درستی کار کند.»