DIALEKSIS.COM | AS - OpenAI memblokir sejumlah akun ChatGPT yang diduga digunakan untuk mendukung kampanye pengaruh daring pro-Rusia dan menyebarkan disinformasi.

Temuan tersebut terungkap setelah OpenAI menyelidiki sejumlah unggahan media sosial yang dibuat menggunakan kecerdasan buatan (AI). Penyelidikan itu kemudian mengarah pada dugaan operasi pengaruh yang lebih luas.

Dalam keterangan di blog resminya, OpenAI menyebut kampanye tersebut berpusat pada sebuah situs yang memuat karya akademis hasil salinan dengan atribusi keliru. Situs itu juga menampilkan indeks "kedaulatan" yang memberikan citra positif terhadap Rusia sekaligus mengkritik negara-negara Barat.

Operator kampanye disebut memberikan instruksi dalam bahasa Rusia kepada ChatGPT untuk membuat komentar media sosial. Konten tersebut kemudian disebarkan melalui sejumlah platform, termasuk Substack, Telegram, X, Facebook, dan LinkedIn.

OpenAI juga mengatakan para operator meminta ChatGPT menyamarkan ciri-ciri bahasa yang dapat mengungkap identitas mereka sebagai warga Rusia.

Sebagian besar konten yang dihasilkan mempromosikan International Burke Institute (IBI). Menurut OpenAI, situs organisasi tersebut memuat artikel yang disalin dari karya akademis asli dan dalam beberapa kasus menggunakan atribusi yang tidak tepat.

Kampanye itu juga membangun "indeks kedaulatan" yang disebut OpenAI digunakan untuk memuji Rusia dan memberikan penilaian negatif terhadap negara-negara Barat.

Meski dampak langsung kampanye tersebut dinilai terbatas, OpenAI menilai keberadaan infrastruktur yang dibangun menjadi hal yang lebih signifikan.

Menurut OpenAI, konten yang dibuat menggunakan ChatGPT diarahkan untuk membangun institusi yang tampak kredibel, menghadirkan sosok yang diklaim sebagai ahli, menerbitkan ulang karya akademis, hingga membuat indeks risiko.

OpenAI menilai kasus ini menunjukkan bagaimana AI dapat digunakan sebagai pendukung operasi pengaruh untuk membangun citra otoritatif, menyamarkan sumber narasi, dan membuat aset propaganda yang dapat dikembangkan dalam skala lebih besar.

OpenAI diketahui tidak menyediakan akses langsung terhadap model-modelnya di Rusia. Namun, perusahaan menyebut operator dapat menggunakan VPN untuk menyamarkan lokasi mereka.

Sebelumnya, pada Februari, OpenAI juga mengumumkan penutupan akun ChatGPT yang terkait dengan Rybar, perusahaan media pro-Rusia yang disebut pemerintah Inggris memiliki hubungan dengan struktur kekuasaan dan kepentingan Rusia.

Hingga berita ini ditulis, belum ada tanggapan dari pihak Rusia. CNBC telah menghubungi Kedutaan Besar Rusia di London dan Kementerian Luar Negeri Rusia untuk meminta komentar. [cnbc]