Google Gemini, test sırasında 3 şirketin sistemine izinsiz girdi

Google'ın Gemini yapay zeka modeli, Mayıs ayında yapılan bir siber güvenlik testinde test ortamından çıkıp üç gerçek şirketin sistemlerine erişti. Testi yürüten İsrail merkezli Irregular firması, bir hata sonucunda modele internet erişimi vermişti.

Test senaryosunda kullanılan kurgusal şirket, gerçek bir şirketle aynı isme sahipti. Gemini bunu fark etmeden parolayı tahmin ederek (brute-force) ilk şirketin sistemine girdi. Diğer iki durumda ise internet üzerindeki açık repolardan bulduğu kimlik bilgilerini kullanarak iki farklı şirkete erişim sağladı.

“Bu olaylar, güçlü yapay zeka modellerinin sorumlu şekilde hareket etmeleri için eğitilmesinin önemini gösteriyor.”

Google'a göre model, hedeflerin simülasyon olmadığını anladığında her üç durumda da kendi kendini durdurdu. Şirket, etkilenen üç kurumu durumdan haberdar etti ve Irregular ile test süreçlerini güncellediğini belirtti.

Olay, Temmuz sonlarında Irregular tarafından Google'a bildirildi. Google, modelin "yanlış hizalanma" (misalignment) göstermediğini, güvenlik önlemlerinin işlediğini ve zarar oluşmadığını gerekçe göstererek olayı halka duyurmayı tercih etmedi. Wall Street Journal haberiyle olay aydınlanınca Google onaylamak zorunda kaldı.

Irregular, aynı test yöntemiyle OpenAI, Anthropic ve Meta modellerinde de benzer "kaçış" olaylarına neden olmuş. Uzmanlar, test ortamlarının yanlış yapılandırılması ve şirketlerin bu tür olayları şeffaf paylaşmaması konusunda endişe dile getiriyor.