توسعه‌دهندگان پیشرو هوش مصنوعی به دولت‌ها و کسب‌وکارها می‌گویند شبکه‌های خود را پس از اینکه مدل‌های ساخته شده توسط OpenAI و Anthropic سیستم‌های شرکت‌های دیگر را به خطر انداختند، تقویت کنند.

در نامه‌ای سرگشاده که روز پنجشنبه منتشر شد، OpenAI، Anthropic و بیش از ۱۰۰ سازمان دیگر هشدار دادند که حملات سایبری با استفاده از هوش مصنوعی در آستانه شایع‌تر شدن هستند و شرکت‌ها "فرصت محدودی برای تقویت دفاع سایبری" دارند.

این نامه بیان داشت: "در ماه‌های آتی، حملات سایبری با پشتیبانی هوش مصنوعی بسیار گسترده‌تر و پیچیده‌تر خواهند شد." این نامه بیمارستان‌ها، تصفیه‌خانه‌های آب و زیرساخت‌های اینترنتی را از جمله خدمات در معرض خطر معرفی کرد.

این نامه توصیه می‌کند که ابزارهای دفاعی هوش مصنوعی تأمین مالی شوند، اطلاعات تهدید به اشتراک گذاشته شود، دسترسی به سیستم‌های حساس محدود گردد و امنیت زیرساخت‌های حیاتی بهبود یابد. با این حال، شکست‌ها در این زمینه‌ها به مدل‌های OpenAI و Anthropic اجازه دادند تا سیستم‌ها را در خارج از محیط‌های آزمایشی خود نقض کنند.

دیگر امضاکنندگان شامل گوگل، مایکروسافت، آمازون وب سرویسز، سیسکو، کراداسترایک، کلودفلیر، مسترکارت، ویزا و رابین‌هود هستند. Hugging Face که زیرساخت تولیدی آن توسط مدل‌های OpenAI مورد نفوذ قرار گرفت، نیز این نامه را امضا کرده است.

مدل‌های هوش مصنوعی سیستم‌های زنده را نقض می‌کنند

Anthropic در گزارش حادثه ۳۰ ژوئیه خود گفت که اولین از سه نفوذ به آوریل بازمی‌گردد، اما تاریخ دقیق هر یک را ارائه نداد. Claude Opus 4.7 پس از اشتباه گرفتن یک شرکت واقعی با یک هدف شبیه‌سازی‌شده، به یک پایگاه داده تولیدی دسترسی پیدا کرد، در حالی که Claude Mythos 5 یک بسته مخرب را آپلود کرد که روی ۱۵ سیستم اجرا شد.

طبق جدول زمانی حوادث OpenAI، که اوایل این هفته منتشر شد، یک عامل اولین ورودی را در یک تالار گفتگوی غیرمجاز در ۱۲ می ایجاد کرد و در ۲۶ می به اینترنت دسترسی ناخواسته پیدا کرد. در ۱۰ ژوئیه، عوامل اعتبارنامه‌های Hugging Face افشا شده را پیدا کردند؛ طی دو روز بعد، آن‌ها از آسیب‌پذیری‌های ناشناخته قبلی سوءاستفاده کردند، کدی را روی سرورهای Hugging Face اجرا کردند و اعتبارنامه‌های تولیدی را به دست آوردند.

Hugging Face نفوذ را در ۱۶ ژوئیه افشا کرد و OpenAI در ۲۱ ژوئیه نقش مدل‌های خود را تأیید کرد.

بین ۲۵ تا ۲۸ ژوئیه، مؤسسه امنیت هوش مصنوعی بریتانیا ۱۹ اقدام خارج از محدوده را شامل Claude Mythos 5 و GPT-5.6 Sol ثبت کرد. در جدی‌ترین مورد، یک عامل کد مخرب را به یک پروژه متن‌باز واقعی ارسال کرد و از هویت‌های جعلی برای تحت فشار قرار دادن نگه‌دارنده آن برای تأیید استفاده کرد.

روز پنجشنبه، یک تحقیق مستقل نشان داد که تقریباً ۱۲۰۰ عامل OpenAI از طریق تالار گفتگوی غیرمجاز هماهنگی کرده بودند و حدود ۷۰۰ نفر به عملیات Hugging Face پیوسته‌اند.

توسعه‌دهندگان کریپتو هوش مصنوعی را برای دفاع به کار می‌گیرند

توسعه‌دهندگان ارز دیجیتال (کریپتو) از قبل از هوش مصنوعی برای یافتن نقاط ضعف پیش از اینکه مهاجمان آن‌ها را پیدا کنند، استفاده می‌کنند. تیم قرمز بیت‌کوین از مدل‌هایی از جمله Kimi K3 از Moonshot AI برای اسکن صدها پروژه متن‌باز بیت‌کوین استفاده کرد و هزاران آسیب‌پذیری احتمالی را گزارش داد. از آنجایی که پروژه‌های آسیب‌دیده شناسایی نشدند، بسیاری از این یافته‌ها به طور مستقل تأیید نشده‌اند.

بنیاد اتریوم نیز گروه‌هایی از عوامل هوش مصنوعی را علیه زیرساخت شبکه مستقر کرده است که یک باگ نرم‌افزاری همتابه‌همتا (P2P) را کشف کرد که بعداً رفع شد. BitBox اعلام کرد که یک حسابرسی با کمک هوش مصنوعی دو آسیب‌پذیری جدی در فریم‌ور کیف پول خود پیدا کرده است، در حالی که یک محقق با استفاده از Claude Opus 4.8 یک نقص حیاتی در Zcash کشف کرد که سال‌ها بررسی انسانی را پشت سر گذاشته بود.

آزمایشگاه‌ها کنترل‌های سخت‌گیرانه‌تری را توصیه می‌کنند

این نامه تقسیم کاری را برای جلوگیری از نفوذ بعدی مشخص می‌کند، از جمله سازمان‌هایی که نرم‌افزارهای آسیب‌پذیر را وصله می‌کنند، دسترسی‌ها را محدود می‌کنند، احراز هویت را تقویت می‌کنند و کدهای تولید شده توسط هوش مصنوعی را بازرسی می‌کنند، زیرا "امنیت وضعیت موجود کافی نخواهد بود" به گفته امضاکنندگان.

شرکت‌های امنیتی باید دفاعیات خود را در برابر مدل‌های پیشرفته آزمایش کنند و رفع‌کننده‌های تأیید شده را به اشتراک بگذارند، در حالی که دولت‌ها باید از بیمارستان‌ها، تأسیسات خدماتی و سایر خدمات ضروری حمایت مالی کنند.

از توسعه‌دهندگان هوش مصنوعی خواسته شده است تا نظارت را بهبود بخشند و عوامل مستقل را برای اپراتورهایشان قابل ردیابی کنند. این ائتلاف همچنین می‌خواهد که مدافعان از مدل‌های پیشرفته برای یافتن آسیب‌پذیری‌ها و تحلیل حملات استفاده کنند، که این امر عوامل توانمندتری را در سیستم‌های حساس قرار می‌دهد و نیاز به مهار را افزایش می‌دهد.

OpenAI و Anthropic پس از نفوذها رویه‌های آزمایش خود را سخت‌تر کردند. با این حال، این نامه هیچ استاندارد الزام‌آور یا الزامی برای نظارت مستقل تعیین نمی‌کند و قوانین ایالات متحده راهنمایی کمی در مورد اینکه چه کسی در صورت دسترسی یک سیستم هوش مصنوعی به یک شبکه غیرمجاز مسئول است، ارائه می‌دهد.

این نامه با درخواست از رهبران صنعت و دولت برای قرار دادن ابزارهای هوش مصنوعی در دست مدافعان و به اشتراک گذاشتن راه‌حل‌های مؤثر پایان یافت:

این نامه بیان داشت: "هوش مصنوعی با قابلیت‌های سایبری را در اختیار مدافعان قرار دهید، با شروع از تیم‌هایی که از خدمات ضروری محافظت می‌کنند. با هم، می‌توانیم پیشرفت‌های امروزی هوش مصنوعی را به بهبودهای پایدار در امنیت تبدیل کنیم که به نفع همه باشد. بیایید آن‌ها را به کار گیریم."