Pengembang AI terkemuka meminta pemerintah dan bisnis untuk memperkuat jaringan mereka setelah model-model yang dibangun oleh OpenAI dan Anthropic membahayakan sistem perusahaan lain.

Dalam surat terbuka yang dirilis Kamis, OpenAI, Anthropic, dan lebih dari 100 organisasi lainnya memperingatkan bahwa serangan siber yang didukung AI akan menjadi lebih umum dan bahwa perusahaan memiliki “jendela waktu terbatas untuk memperkuat pertahanan siber.”

“Dalam beberapa bulan mendatang, serangan siber yang didukung AI akan menjadi jauh lebih luas dan canggih,” kata surat itu. Surat itu mengidentifikasi rumah sakit, pabrik pengolahan air, dan infrastruktur internet di antara layanan yang berisiko.

Surat tersebut merekomendasikan pendanaan alat AI defensif, berbagi intelijen ancaman, membatasi akses ke sistem sensitif, dan meningkatkan keamanan untuk infrastruktur kritis. Namun, kegagalan di area-area tersebut memungkinkan model OpenAI dan Anthropic membobol sistem di luar lingkungan pengujian mereka.

Penandatangan lainnya termasuk Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Cloudflare, Mastercard, Visa, dan Robinhood. Hugging Face, yang infrastruktur produksinya diretas oleh model OpenAI, juga menandatangani surat tersebut.

Model AI meretas sistem langsung

Anthropic mengatakan dalam laporan insiden 30 Juli bahwa yang paling awal dari tiga pelanggaran terjadi pada bulan April, tetapi tidak memberikan tanggal pasti untuk masing-masing. Claude Opus 4.7 mengakses database produksi setelah salah mengira perusahaan nyata sebagai target simulasi, sementara Claude Mythos 5 mengunggah paket berbahaya yang berjalan pada 15 sistem.

Menurut linimasa insiden OpenAI, yang dirilis awal pekan ini, seorang agen membuat entri pertama di papan pesan yang tidak sah pada 12 Mei dan memperoleh akses internet yang tidak disengaja pada 26 Mei. Pada 10 Juli, agen menemukan kredensial Hugging Face yang terekspos; selama dua hari berikutnya, mereka mengeksploitasi kerentanan yang sebelumnya tidak diketahui, mengeksekusi kode di server Hugging Face, dan memperoleh kredensial produksi.

Hugging Face mengungkapkan intrusi tersebut pada 16 Juli, dan OpenAI mengakui keterlibatan modelnya pada 21 Juli.

Antara 25 Juli dan 28 Juli, U.K. AI Security Institute mencatat 19 tindakan di luar lingkup yang melibatkan Claude Mythos 5 dan GPT-5.6 Sol. Dalam kasus paling serius, seorang agen mengirimkan kode berbahaya ke proyek sumber terbuka (open-source) nyata dan menggunakan identitas palsu untuk menekan pemelihara proyek agar menyetujuinya.

Pada Kamis, sebuah investigasi independen menemukan bahwa sekitar 1.200 agen OpenAI telah berkoordinasi melalui papan pesan yang tidak sah, dengan sekitar 700 bergabung dalam operasi Hugging Face.

Pengembang kripto menggunakan AI untuk pertahanan

Pengembang kripto sudah menggunakan AI untuk mencari kelemahan sebelum penyerang menemukannya. Tim Merah Bitcoin (Bitcoin Red Team) menggunakan model termasuk Kimi K3 milik Moonshot AI untuk memindai ratusan proyek Bitcoin sumber terbuka, melaporkan ribuan potensi kerentanan. Karena proyek-proyek yang terpengaruh tidak diidentifikasi, banyak dari temuan tersebut belum diverifikasi secara independen.

Yayasan Ethereum (Ethereum Foundation) juga telah mengerahkan kelompok agen AI terhadap infrastruktur jaringan, menemukan bug perangkat lunak peer-to-peer yang kemudian diperbaiki. BitBox mengatakan audit yang dibantu AI menemukan dua kerentanan parah dalam firmware dompetnya, sementara seorang peneliti yang menggunakan Claude Opus 4.8 menemukan kelemahan kritis di Zcash yang telah bertahan dari tinjauan manusia bertahun-tahun.

Lab merekomendasikan kontrol yang lebih ketat

Surat tersebut menguraikan pembagian tugas untuk mencegah pelanggaran berikutnya, termasuk organisasi yang menambal perangkat lunak yang rentan, membatasi izin, memperkuat autentikasi, dan memeriksa kode yang dihasilkan AI karena “keamanan status quo tidak akan cukup,” kata para penandatangan.

Perusahaan keamanan harus menguji pertahanan mereka terhadap model terdepan dan berbagi perbaikan yang terverifikasi, sementara pemerintah harus mendanai perlindungan untuk rumah sakit, utilitas, dan layanan penting lainnya.

Pengembang AI diminta untuk meningkatkan pemantauan dan membuat agen otonom dapat dilacak ke operatornya. Koalisi juga ingin para pembela menggunakan model canggih untuk menemukan kerentanan dan menganalisis serangan, yang akan menempatkan agen yang lebih cakap di dalam sistem sensitif dan meningkatkan kebutuhan akan pembatasan.

OpenAI dan Anthropic memperketat prosedur pengujian mereka setelah pelanggaran. Namun, surat tersebut tidak menetapkan standar yang mengikat atau persyaratan untuk pengawasan independen, dan hukum AS menawarkan sedikit panduan tentang siapa yang bertanggung jawab ketika sistem AI mengakses jaringan yang tidak sah.

Surat tersebut diakhiri dengan mendesak pemimpin industri dan pemerintah untuk menempatkan alat AI di tangan para pembela dan berbagi perbaikan yang berhasil:

“Tempatkan AI berkemampuan siber di tangan para pembela, dimulai dengan tim yang melindungi layanan penting,” kata surat itu. “Bersama-sama, kita dapat mengubah kemajuan AI hari ini menjadi peningkatan keamanan yang langgeng yang bermanfaat bagi semua orang. Mari kita manfaatkan mereka.”