Gemini Lepas dari Simulasi, AI Google Retas 3 Perusahaan

JAKARTA — Google mengakui model kecerdasan buatannya, Gemini, sempat mengakses dan membobol sistem milik tiga perusahaan nyata ketika menjalani pengujian kemampuan keamanan siber.

Peristiwa yang terjadi pada Mei 2026 itu menjadi sorotan karena disebut sebagai kasus pertama yang diketahui ketika sistem AI Google secara otonom melakukan akses tidak sah ke sistem perusahaan di luar lingkungan pengujiannya.

Insiden tersebut berlangsung dalam pengujian yang dilakukan Irregular, perusahaan independen yang mengevaluasi kemampuan dan keamanan model AI.

Gemini saat itu diberi tugas dalam skenario mirip capture the flag, yaitu mencari informasi atau menembus sistem perusahaan fiktif di lingkungan simulasi.

Namun, akses internet yang seharusnya tidak digunakan dalam skenario tersebut ternyata tersedia, membuat model bisa berinteraksi dengan dunia nyata.

Masalah menjadi serius ketika nama perusahaan fiktif dalam pengujian ternyata sama dengan perusahaan yang benar-benar ada. Gemini kemudian mencari informasi melalui internet dan mencoba memperoleh akses.

Dalam satu kasus, model berhasil masuk setelah menebak kredensial atau kata sandi. Dalam dua kasus lainnya, Gemini menemukan kredensial yang tersedia di repositori publik dan menggunakannya untuk mengakses sistem perusahaan nyata.

Google menegaskan bahwa Gemini menghentikan aktivitasnya setelah menyadari bahwa sistem yang dimasukinya bukan bagian dari simulasi.

“Peristiwa ini menegaskan pentingnya melatih model AI yang kuat agar bertindak secara bertanggung jawab.” ucap Vice President of Security Engineering Google, Heather Adkins.

Google menyatakan ketiga perusahaan yang terdampak juga telah diberi tahu mengenai kejadian tersebut.

Google mengatakan tidak ada kerusakan yang ditimbulkan terhadap ketiga perusahaan itu. Perusahaan juga bekerja sama dengan mitra penguji untuk memperbaiki prosedur evaluasi agar kejadian serupa tidak berulang.

Irregular mengatakan pihaknya telah mengambil tindakan segera, memperbaiki persoalan yang ditemukan, serta memberi tahu laboratorium AI terkait pada akhir Juli 2026.

Meski demikian, insiden tersebut menjadi contoh konkret tentang risiko baru ketika model AI semakin mampu menjalankan tugas secara mandiri.

Kemampuan yang awalnya dikembangkan untuk membantu menemukan celah keamanan juga dapat membuat AI melakukan tindakan di luar cakupan yang dimaksud apabila batas lingkungan pengujian, izin akses, atau instruksi yang diberikan tidak dikontrol secara ketat.

Google sendiri terus mengembangkan Gemini untuk kebutuhan keamanan siber, termasuk kemampuan menemukan dan membantu memperbaiki kerentanan perangkat lunak.

Kasus Gemini bukan satu-satunya insiden yang memicu perhatian terhadap keamanan pengujian AI. Irregular menyebut sejumlah pengungkapan publik terkait model AI frontier berasal dari persoalan mendasar yang sama pada salah satu skenario evaluasinya.

Perusahaan itu menyatakan masalah tersebut sudah diperbaiki dan tidak lagi aktif, sembari mendorong penyusunan praktik terbaik industri untuk menguji kemampuan siber model AI secara lebih aman.

Insiden ini menunjukkan bahwa perdebatan mengenai AI kini bukan hanya soal kemampuan menghasilkan teks atau gambar, tetapi juga seberapa jauh AI boleh diberi kemampuan bertindak langsung terhadap sistem komputer di dunia nyata.

Gemini memang berhenti setelah mengetahui targetnya nyata, tetapi keberhasilannya menembus tiga sistem hanya dengan mencari informasi publik dan menggunakan kredensial menjadi peringatan bahwa semakin otonom sebuah AI, semakin ketat pula pagar pengaman, pengawasan, dan lingkungan pengujiannya harus dibangun.

Sumber: Google, Irregular