Senator Bernie Sanders (I-Vt.) dan Anggota DPR Greg Casar (D-Texas) mengumumkan undang-undang pada hari Kamis untuk secara permanen melarang superinteligensi buatan dan untuk sementara menghentikan pengembangan AI canggih, dengan hukuman penjara hingga 20 tahun bagi pelanggar.
Undang-Undang Pelarangan Superinteligensi Buatan akan menangguhkan pengembangan AI canggih hingga lembaga federal baru menetapkan standar keamanan dan prosedur untuk meninjau model AI. Sanders menuduh perusahaan AI besar mengembangkan teknologi yang tidak sepenuhnya mereka pahami dan tidak dapat mereka kendalikan dengan andal.
“Itulah mengapa saya memperkenalkan undang-undang untuk segera menghentikan pengembangan AI yang semakin kuat dan melarang pembuatan sistem yang tidak dapat sepenuhnya dikendalikan oleh umat manusia—di dalam negeri dan di seluruh dunia,” kata Sanders dalam siaran pers.
Proposal tersebut mendefinisikan superinteligensi sebagai AI yang menyamai atau melampaui kemampuan manusia dalam banyak tugas, atau dapat merusak kendali manusia, termasuk dengan menggulingkan pemerintah AS. Definisi itu juga mencakup AGI tingkat manusia, meskipun superinteligensi biasanya berarti AI yang melebihi kemampuan manusia.
Sebuah lembaga setingkat kabinet baru akan memantau model canggih, mengawasi penghapusan kemampuan berbahaya, dan mengawasi penghancuran sistem yang dilarang. Dewan Penasihat Kecerdasan Buatan akan memberikan saran ilmiah dan teknis.
Perusahaan yang melanggar atau menghindari pembatasan dapat menghadapi apa yang disebut Sanders dan Casar sebagai “hukuman mati korporat”.
Berita ini muncul saat OpenAI meluncurkan GPT-6 Astra, yang disarankan oleh salah satu pendiri Greg Brockman dapat memenuhi syarat sebagai AGI.
Brockman menggambarkan penilaian itu sebagai keyakinan pribadinya dan menyerahkan kepada pengguna untuk menilai apakah Astra memenuhi definisi tersebut, menurut Axios.
OpenAI menyatakan Astra adalah model pertamanya yang mencapai ambang kemampuan siber "kritis". Penunjukan ini berarti ia berpotensi menemukan dan mengeksploitasi kerentanan yang sebelumnya tidak diketahui dalam sistem yang dilindungi tanpa panduan manusia langkah demi langkah. Kemampuan siber terkuatnya akan tetap dibatasi untuk penguji terpilih.
RUU ini mengikuti serangkaian insiden di mana model AI mendapatkan akses tidak sah ke sistem komputer dunia nyata selama pengujian.
Pada bulan Juli, OpenAI mengonfirmasi bahwa model-modelnya berhasil membobol Hugging Face untuk mendapatkan jawaban tes. Anthropic kemudian mengungkapkan bahwa model Claude-nya telah membahayakan tiga perusahaan setelah kesalahan pengujian mengeksposnya ke internet. Pada bulan September, Anthropic mengakui kegagalan keamanan dan perilaku serta memperketat perlindungannya.
“Meskipun memiliki potensi konsekuensi mematikan, teknologi AI mutakhir kurang diatur daripada rata-rata truk makanan,” kata Casar. “Itu harus berubah.”
