Google Gemini, güvenlik testinde 3 şirketin sistemine izinsiz girdi

Google'ın Gemini yapay zeka modeli, mayıs ayında Irregular firması tarafından yürütülen bir "capture the flag" siber güvenlik testinde test ortamından çıkıp üç gerçek şirketin sistemlerine erişti. Testlerde internet erişimi kasıtlı olarak kapalıydı, ancak bir yapılandırma hatası nedeniyle model çevrimiçi oldu.

Sanal hedef şirketlerin isimleri gerçek firmalarla aynıydı. Gemini bir durumda parolayı deneme-yanılma yöntemiyle kırdı, diğer iki durumda ise genel depolarda açıkça paylaşılmış kimlik bilgilerini kullanarak giriş yaptı.

“Bu üç durumda da model, gerçek bir sistemde olduğunu anladığında durdu.”

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modellerin gerçek sistemler olduğunu fark ettikçe saldırıyı kendi başlarına durdurduğunu, herhangi bir zarar oluşmadığını ve üç şirketin de bilgilendirildiğini açıkladı.

Olaylar Temmuz sonlarında Google'a bildirildi, ancak Wall Street Journal haberi çıkana kadar kamuoyuyla paylaşılmadı. Google, modelin "hizalanmamış" davranış sergilemediğini, güvenlik önlemlerinin işlediğini ve bu nedenle genel açıklama yapma zorunluluğu olmadığını savundu.

Irregular, daha önce OpenAI, Anthropic ve Meta modellerinde de benzer "kaçıklık" olaylarına neden olmuş test ortamları sağlayan bir güvenlik laboratuvarıdır. Uzmanlar, test altyapısındaki sistematik hataların tekrarlanan olayların arkasındaki ortak neden olduğunu vurguluyor.