Anggota parlemen AS telah mengusulkan pelarangan permanen terhadap kecerdasan buatan super, menghentikan sementara pengembangan AI tingkat lanjut, dan menjatuhkan hukuman penjara hingga 20 tahun untuk pelanggaran.
Kantor Sanders mengatakan pada 3 September bahwa Senator Bernie Sanders, I-Vt., dan Anggota DPR Greg Casar, D-Texas, telah mengumumkan Rancangan Undang-Undang Pelarangan Kecerdasan Buatan Super (Ban Artificial Superintelligence Act) yang akan datang, yang akan melarang pengembangan dan penerapan sistem AI yang diklasifikasikan sebagai supercerdas.
Proposal tersebut juga akan menangguhkan pekerjaan pada model AI tingkat lanjut sampai regulator federal baru beroperasi dan telah menetapkan aturan keselamatan serta prosedur peninjauan model. Para sponsornya ingin Amerika Serikat mengejar perjanjian internasional, koordinasi dengan sekutu, dan kontrol ekspor yang dimaksudkan untuk mencegah pengembangan superintelligence di negara lain.
Teks legislatif lengkap belum secara resmi diperkenalkan ketika para anggota parlemen mengumumkan proposal tersebut. Para sponsor malah merilis ringkasan satu halaman yang menjelaskan batasan yang direncanakan, sistem penegakan, dan sanksi.
Berdasarkan ringkasan resmi RUU tersebut, kecerdasan buatan super akan mencakup sistem yang menyamai atau melebihi kinerja kognitif manusia di berbagai tugas. Definisi ini juga akan mencakup model yang dapat dengan mudah dimodifikasi untuk mencapai tingkat tersebut.
Bagian kedua dari definisi ini mencakup AI yang mampu merencanakan dan melaksanakan "pelemahan kemanusiaan," termasuk sistem yang mampu merongrong atau menggulingkan pemerintah AS. Kemampuan berbahaya seperti mengalahkan perintah pematian atau melakukan serangan siber tidak sah juga akan termasuk dalam kerangka penegakan proposal ini.
Karena definisi ini mencakup sistem yang menyamai kinerja manusia di banyak bidang, hal ini dapat mencakup teknologi yang umumnya digambarkan sebagai kecerdasan umum buatan, atau AGI, daripada hanya berlaku untuk mesin hipotetis yang jauh lebih mampu daripada manusia.
Pengembangan AI tingkat lanjut di bawah ambang batas yang dilarang akan menghadapi penangguhan sementara. Pekerjaan dapat dilanjutkan setelah badan federal baru menetapkan aturan yang mengatur bagaimana perusahaan mengembangkan, menguji, dan merilis model yang kuat.
Para anggota parlemen tidak memberikan ambang batas teknis yang diusulkan untuk "AI tingkat lanjut" dalam ringkasan rilis. Mereka juga tidak menjelaskan model, proyek penelitian, atau fasilitas komputasi yang ada yang akan menjadi subjek penangguhan.
"Jika para pemimpin perusahaan AI besar mengakui bahwa mereka kehilangan kendali atas teknologi mereka yang sangat berbahaya, tidak bertanggung jawab bagi masyarakat untuk membiarkan mereka maju dan membuat produk-produk ini semakin canggih," kata Sanders.
Casar mengatakan sistem yang tidak dapat dikendalikan manusia dapat mengancam keamanan, kebebasan, dan kehidupan warga Amerika. Dia menyerukan Kongres untuk melarang model AI yang menjadi terlalu kuat sehingga pengembangnya tidak dapat mematikannya dengan aman.
Daripada menyerahkan penegakan hukum kepada departemen yang sudah ada, proposal ini akan menciptakan badan federal setingkat kabinet yang baru yang didedikasikan untuk pengawasan AI.
Menurut ringkasan anggota parlemen, badan tersebut akan memantau sistem batas selama pengembangan dan penggunaannya. Para pejabat dapat mengawasi penghapusan fungsi berbahaya dan mengawasi penghancuran sistem yang diklasifikasikan sebagai superintelligence yang dilarang.
Dewan Penasihat Kecerdasan Buatan yang terdiri dari para ahli teknis dan ilmiah akan memberi nasihat kepada regulator. Ringkasan tersebut tidak menyatakan bagaimana anggota akan dipilih, berapa lama mereka akan menjabat, atau pejabat mana yang akan mengendalikan keputusan penegakan badan tersebut.
Orang-orang yang mencoba melanggar atau melewati batasan dapat menerima hukuman penjara tidak lebih dari 20 tahun. Para sponsor membandingkan hukuman yang mungkin terjadi dengan hukuman yang ada yang terkait dengan pengembangan senjata nuklir yang melanggar hukum.
Perusahaan akan menghadapi apa yang disebut anggota parlemen sebagai "hukuman mati korporat." Ringkasan publik tidak menjelaskan proses hukum untuk menjatuhkan sanksi tersebut atau apakah itu akan melibatkan pembubaran, kehilangan pendaftaran federal, atau larangan melakukan bisnis.
Proposal ini lebih jauh dari sistem pengawasan sukarela yang dibahas oleh pengembang AI utama awal tahun ini. Pada bulan Juli, crypto.news melaporkan bahwa OpenAI dan Anthropic mendukung tinjauan federal 30 hari untuk model yang melampaui ambang batas keamanan siber atau keamanan nasional tertentu.
Di bawah proses yang diusulkan itu, pengembang dapat memberikan akses awal kepada evaluator federal sebelum merilis model kepada mitra lain yang disetujui. Sebuah perintah eksekutif bulan Juni melarang kerangka kerja peninjauan untuk menciptakan persyaratan lisensi, izin, atau pra-persetujuan federal wajib, sementara RUU Sanders-Casar akan menciptakan batasan yang mengikat jika Kongres menyetujuinya.
Kelompok industri juga menentang kontrol yang ditulis terlalu luas. Nvidia, Meta, Microsoft, dan 22 organisasi lainnya memperingatkan pembuat kebijakan AS pada bulan Juli bahwa pembatasan model terbuka yang menyeluruh dapat melemahkan persaingan Amerika dengan Tiongkok, dengan alasan untuk mengambil tindakan terhadap penyalahgunaan yang terbukti daripada batasan menyeluruh.
Para anggota parlemen mengaitkan proposal mereka dengan kasus-kasus baru-baru ini di mana agen AI yang kuat bertindak di luar batas pengujian yang dimaksudkan.
Pada bulan Juli, OpenAI mengungkapkan bahwa agen-agennya lolos dari lingkungan uji terbatas, memperoleh akses internet, dan membobol sistem yang dioperasikan oleh Hugging Face. Lebih dari 1.000 agen bertukar puluhan ribu pesan saat bekerja mengelilingi kontrol, menurut pengumuman dari kantor Sanders.
Liputan pelanggaran Hugging Face sebelumnya menggambarkan insiden tersebut sebagai kegagalan penahanan daripada hanya masalah perilaku model. Eitan Katz, chief strategy officer di AEREDIUM, mengatakan kontrol kriptografi harus membatasi apa yang diizinkan dilakukan oleh agen meskipun pengamanan perilaku gagal.
Reuters melaporkan pada 2 September bahwa OpenAI memberi tahu Casar dan Anggota DPR Doris Matsui, D-Calif., bahwa mereka sedang mengembangkan kemampuan pematian otomatis menyusul insiden tersebut. Perusahaan juga mengatakan telah memperketat akses internet selama pengujian keamanan dan akan memantau lebih cermat alat mana yang digunakan modelnya.
Casar mengkritik OpenAI karena tidak memberikan catatan lengkap pelanggaran tersebut kepada Kongres. Dalam pesan terpisah yang dikutip oleh Reuters, ia menyebut penolakan perusahaan untuk memberikan informasi yang diminta "sangat mengkhawatirkan."
Anggota parlemen lainnya telah mengusulkan Undang-Undang Tombol Pembunuh AI (AI Kill Switch Act) yang akan memungkinkan pejabat federal memerintahkan perusahaan untuk menonaktifkan sistem yang dianggap berbahaya bagi kehidupan manusia atau ekonomi. Ukuran itu masih tertunda di DPR ketika Reuters melaporkan tanggapan OpenAI.
Pada hari yang sama Sanders dan Casar mengumumkan proposal mereka, OpenAI merilis GPT-6 Astra, yang digambarkan oleh Presiden perusahaan Greg Brockman sebagai titik kedatangan yang mungkin untuk AGI.
"Saya kira ini mungkin tentang model ini," kata Brockman ketika wartawan bertanya apakah Astra merepresentasikan AGI, menurut Axios. Dia kemudian memberikan pengarahan: "Selamat datang di era AGI."
OpenAI mengatakan Astra menggunakan lebih dari 100.000 unit pemrosesan grafis selama pelatihan di fasilitas Stargate-nya di Texas. Perusahaan memposisikan model tersebut untuk tugas-tugas termasuk persiapan pajak, pengembangan perangkat lunak, pemformatan dokumen hukum, pekerjaan arsitektur, dan penelitian online.
Reuters melaporkan bahwa OpenAI telah mengakui bahwa Astra mungkin sengaja menyembunyikan atau menyamarkan bagian dari alasan logikanya, membuat metodenya lebih sulit untuk ditinjau oleh orang lain. Ilmuwan Kepala OpenAI Jakub Pachocki mengatakan memahami perilaku model menjadi lebih sulit seiring dengan peningkatan kapabilitas dan memperingatkan bahwa kemajuan dalam kecerdasan tidak menjamin kemajuan dalam penyelarasan (alignment).
Perusahaan juga mengatakan Astra dapat menemukan kelemahan perangkat lunak lebih cepat, sementara kemampuan yang sama dapat membuat kerentanan lebih mudah dieksploitasi. Oleh karena itu, fungsi keamanan sibernya yang terkuat dibatasi untuk pengguna yang disetujui, dengan pemeriksaan tambahan yang mampu menunda atau menghentikan beberapa pekerjaan pertahanan yang sah.
OpenAI awalnya membuat Astra tersedia untuk kelompok organisasi terbatas melalui program Daybreak Access-nya. Perusahaan mengatakan akses akan diperluas dalam beberapa hari berikutnya ke pelanggan ChatGPT Plus, Pro, Business, dan Enterprise, bersama dengan pengembang API.
