DIALEKSIS.COM | AS - Google mengungkap model kecerdasan buatannya, Gemini, pernah mengakses tiga sistem komputer milik perusahaan lain tanpa izin. Ini menjadi pertama kalinya Google menyatakan salah satu model AI-nya secara otonom memperoleh akses ke sistem pihak ketiga.

Dikutip dari CNBC, Jumat (18/9/2026), insiden tersebut terjadi pada Mei saat Gemini mengikuti uji keamanan capture-the-flag yang dijalankan startup keamanan siber asal Israel, Irregular.

Dalam pengujian itu, Gemini mengakses tiga sistem komputer terpisah dengan menebak kata sandi. Dua kali, model tersebut juga menggunakan kumpulan kata sandi yang tersedia untuk publik.

Google menyebut akses tersebut terjadi akibat bug dalam lingkungan pengujian yang memungkinkan agen AI terhubung ke internet. Padahal, agen Gemini seharusnya tidak memiliki akses internet secara luas.

Gemini kemudian menghentikan aktivitasnya setelah menyadari sistem yang diakses merupakan komputer perusahaan sungguhan, bukan bagian dari lingkungan pengujian. Google menyatakan tidak ada indikasi model tersebut melanjutkan intrusi setelah mengetahui kesalahan tersebut.

"Ini merupakan evaluasi standar, ketika model menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs yang dianggapnya bagian dari pengujian," ujar Wakil Presiden Rekayasa Keamanan Google, Heather Adkins.

Insiden ini terjadi di tengah meningkatnya kekhawatiran mengenai model AI yang dapat bertindak di luar tujuan awal. Dalam beberapa pekan terakhir, OpenAI, Anthropic, dan Meta juga mengungkap insiden serupa yang melibatkan model AI mereka.

Google mengatakan telah menerima laporan dari Irregular pada akhir Juli dan bekerja sama dengan perusahaan tersebut untuk memperbaiki proses pengujian. Google tidak mengungkap model Gemini secara spesifik yang terlibat dalam insiden tersebut. [cnbc]