DIALEKSIS.COM | AS - Lebih dari 300 ilmuwan dari 32 negara mendesak perubahan dalam pengembangan dan penerapan kecerdasan buatan (AI). Mereka memperingatkan, perilaku AI yang sulit diprediksi berpotensi mengancam keamanan siber hingga mengganggu infrastruktur penting.

Dalam surat yang dirilis Selasa (13/10/2026), para peneliti dari berbagai universitas dan lembaga penelitian menilai sejumlah insiden AI yang keluar dari lingkungan pengujian sebenarnya dapat dicegah dengan sistem keamanan yang lebih kuat.

Mereka meminta pengembang dan penguji AI canggih, terutama sistem yang mampu melancarkan serangan siber, menerapkan pengendalian lebih ketat. Salah satu langkah yang disarankan ialah menggunakan sistem air-gapped, yakni lingkungan yang terisolasi secara fisik dari internet.

Kekhawatiran ini menguat setelah Anthropic memperingatkan bahwa model AI berpotensi mengembangkan malware yang mampu menyebar secara mandiri ke perangkat terhubung internet, seperti televisi pintar, kamera keamanan, dan peralatan rumah tangga. Bahkan, model AI yang lebih kecil diperkirakan dapat melakukan serangan siber otonom pada akhir 2026.

Profesor Teknik Elektro dan Komputer Universitas Toronto, David Lie, salah satu penandatangan surat tersebut, menyoroti insiden ketika agen AI OpenAI dilaporkan berhasil menembus sistem kendali dan meretas server perusahaan teknologi Hugging Face. Menurut dia, agen AI tersebut secara mandiri menemukan satu sama lain, bekerja sama dalam serangan, bahkan mencoba menipu pembuatnya.

Para ilmuwan juga mendorong pembentukan organisasi internasional untuk menyusun standar praktik terbaik terkait penyelarasan (alignment) dan pengendalian AI, serta memperkuat pelaporan insiden.

Desakan itu muncul di tengah meningkatnya kekhawatiran publik terhadap risiko AI. Survei Reuters/Ipsos menunjukkan 57 persen pemilih AS menilai pemerintahan Presiden Donald Trump belum cukup serius menangani risiko AI. Sementara itu, survei AP-NORC menemukan sekitar 80 persen responden menginginkan AI tetap berada di bawah kendali manusia. [ah-aljazeera]