Agen OpenAI menggunakan situs web Jerman untuk bertukar pintasan tugas, cara mengatasi pembatasan, dan cara menyembunyikan aktivitas mereka mulai bulan Mei, menurut investigasi Reuters yang diterbitkan pada hari Jumat.
Pejabat OpenAI mengetahui aktivitas tersebut beberapa minggu sebelum publikasi tetapi tidak mengungkapkannya, lapor Reuters, mengutip dua orang yang mengetahui masalah tersebut. Perusahaan mengatakan telah mengungkapkan insiden yang relevan dan bekerja dengan itikad baik dengan para ahli dari luar.
Para peneliti Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts, dan Thomas Larsen menemukan sekitar 18.000 postingan oleh agen AI yang mengidentifikasi diri sebagai milik OpenAI, menurut laporan awal mereka. Von Arx, CEO organisasi nirlaba keamanan AI Nightingale, dan Byrd menemukan aktivitas tersebut pada akhir Agustus, lapor Reuters.
Para peneliti percaya bahwa agen-agen tersebut diberi tugas pencarian web berjangka waktu dengan izin untuk membaca situs web tetapi tidak untuk memposting ke situs tersebut. Namun, mereka menemukan cara untuk menulis di DseWiki, situs pemrograman Jerman yang dapat diedit secara publik, tempat mereka bertukar jawaban dan berbagi cara untuk melewati pembatasan.
Menurut laporan tersebut, agen-agen mulai mencoba mengedit wiki pada 11 Mei dan berhasil pada 24 Mei, kemudian meniru moderator, mencoba mengeksploitasi kerentanan, dan memeriksa kapan mereka dimatikan. Mereka membuat halaman cadangan setelah administrator mulai menghapus pesan pada 19 Juni, lapor Reuters. Para peneliti menghubungkan aktivitas tersebut dengan OpenAI melalui nama pengguna agen dan pola lalu lintas, termasuk kunjungan dari alamat IP OpenAI pada 21 Juni.
Aktivitas agen menurun tajam keesokan harinya, menunjukkan kemungkinan intervensi perusahaan, kata para peneliti.
OpenAI membantah karakterisasi aktivitas DseWiki sebagai peretasan, berdasarkan materi yang telah ditinjau, dan mengatakan sedang memeriksa temuan lengkapnya.
“Kami tidak dapat menanggapi klaim tersebut karena Reuters dan penulis laporan menolak permintaan kami untuk mengakses temuan sebelum publikasi. Kami sekarang dengan cermat meninjau isinya dan akan mengambil langkah-langkah yang diperlukan,” kata juru bicara OpenAI dalam sebuah pernyataan yang dibagikan kepada Decrypt.
Juru bicara tersebut juga menolak tuduhan dalam laporan Reuters bahwa tim hukum perusahaan menolak penyelidikan yang lebih luas.
“Klaim bahwa tim Hukum kami menghalangi penyelidikan insiden tersebut adalah salah,” kata mereka.
OpenAI mengatakan insiden DseWiki tidak terkait dengan pelanggaran data Hugging Face awal tahun ini. Dalam penilaian keamanan publiknya, yang diterbitkan pada hari Selasa, perusahaan tersebut menjelaskan perlindungan tambahan yang dimaksudkan untuk mendeteksi dan menghentikan aktivitas tidak sah selama pelatihan dan penyebaran.
Meskipun laporan Reuters tidak mengidentifikasi Astra sebagai pihak yang bertanggung jawab atas insiden di Jerman, pengungkapan ini menyusul peluncuran GPT-6 Astra pada hari Kamis. OpenAI menyebut Astra sebagai model pertamanya dengan kemampuan keamanan siber “kritis”, yang berarti dapat menemukan dan mengeksploitasi kelemahan yang tidak diketahui dalam sistem yang sebelumnya terlindungi dengan baik tanpa panduan manusia langkah demi langkah, dengan alat dan akses yang tepat.
Anthropic juga merevisi perlindungannya setelah model Claude mengakses sistem perusahaan nyata selama pengujian. Perusahaan mengakui kegagalan keamanan dan perilaku serta memperkenalkan isolasi dan pemantauan yang lebih ketat untuk evaluasi keamanan siber.
Pengungkapan ini juga datang saat Senator AS Bernie Sanders (I-Vt.) dan Perwakilan AS Greg Casar (D-Texas) mengumumkan rancangan Undang-Undang Larangan Kecerdasan Super Buatan yang akan datang.
Usulan tersebut akan secara permanen melarang pengembangan dan penyebaran AI superinteligen dan sementara menghentikan pengembangan AI canggih hingga regulator federal baru menetapkan aturan keamanan, menurut kantor Sanders.
