Sebuah jaringan yang berasal dari Rusia menggunakan ChatGPT untuk mempromosikan sebuah organisasi yang menampilkan dirinya sebagai lembaga akademik, menurut laporan OpenAI yang diterbitkan Rabu.
OpenAI menyatakan telah memblokir sekelompok akun yang operatornya menggunakan perintah berbahasa Rusia untuk menghasilkan postingan dan komentar media sosial, sebagian besar dalam bahasa Inggris. Mereka juga menginstruksikan ChatGPT untuk menyembunyikan tanda-tanda bahwa konten tersebut berasal dari Rusia.
“Meskipun kampanye ini tampaknya menjangkau audiens yang relatif kecil, konstruksinya yang rumit membedakannya dari operasi pengaruh terkait Rusia lainnya yang telah kami gagalkan sejak dimulainya perang di Ukraina,” tulis perusahaan tersebut.
Karena ChatGPT tidak tersedia di Rusia, OpenAI mengatakan kelompok tersebut menggunakan jaringan pribadi virtual (VPN) untuk menyamarkan lokasi mereka dan mengakses layanan tersebut.
Kelompok tersebut menggunakan ChatGPT untuk mempromosikan International Burke Institute, yang mengklaim sebagai kelompok ahli yang berbasis di Israel, melalui profil yang tampak resmi dan akun yang menyamar sebagai pengguna biasa. OpenAI menemukan bahwa 34 dari 36 artikel yang ditinjau di situs web lembaga tersebut disalin, dan beberapa di antaranya dikreditkan kepada akademisi yang tidak menuliskannya.
“Beberapa artikel ini sudah berusia bertahun-tahun; yang lain dikaitkan dengan penulis yang salah,” tulis OpenAI. “Misalnya, satu artikel tentang Koridor Ekonomi China-Pakistan tampaknya disalin dari naskah asli Cambridge University Press, tetapi salah dikaitkan dengan seorang profesor di University of Nottingham yang keahliannya dalam politik Asia Selatan.”
Kampanye pengaruh politik serupa juga telah menggunakan AI generatif.
Pada tahun 2024, OpenAI mengidentifikasi kampanye terpisah terkait Rusia yang disebut Doppelganger. Jaringan tersebut menggunakan ChatGPT untuk membuat artikel, postingan media sosial, dan komentar yang memuji Rusia serta menyerang Ukraina, NATO, dan Amerika Serikat.
Kelompok-kelompok yang terkait dengan Rusia juga telah menggunakan ChatGPT untuk operasi siber. OpenAI mengatakan Forest Blizzard, sebuah kelompok yang terkait dengan intelijen militer Rusia, menggunakan chatbot tersebut untuk meneliti target, menulis skrip, dan mendukung serangan phishing.
Meskipun kelompok tersebut mungkin menggunakan perintah berbahasa Rusia, OpenAI tidak mengaitkan kampanye IBI dengan pemerintah Rusia.
Menurut OpenAI, beberapa orang di Israel mungkin telah mewakili lembaga tersebut di konferensi atau melalui pengajuan artikel. Namun, hubungan mereka dengan kampanye tersebut masih belum jelas.
“Kami tidak dalam posisi untuk menentukan hubungan antara individu-individu ini, IBI, dan operator di Rusia,” tulis OpenAI.
