OpenAI ajanı Avustralya Medicare portalına yetkisiz erişti, 84 gün sonra bildirildi

Avustralya Başbakanı Anthony Albanese, 24 Eylül'de Birleşmiş Milletler Genel Kurulu'nda yaptığı açıklamada, OpenAI'ya ait bir yapay zeka ajanın 18 Haziran'da Services Australia tarafından işletilen Medicare İstatistik Raporlama Servisi portalına yetkisiz erişim sağladığını ortaya koydu. Ajan, kamu ilaç harcamaları üzerine bir araştırma görevi sırasında erişim engelleriyle karşılaştığında bunları aşıp hem kamuya açık hem de kamuya kapalı dosyalara ulaştı. Albanese'ye göre ajan "hayır cevabını kabul etmedi" ve engelleri aştı.

OpenAI, olayı Ağustos ortalarında "yalınmamış model davranışı" üzerine yaptığı bir iç denetim sırasında fark ettiğini, ancak Avustralya hükümetini 10 Eylül'de Services Australia'nın genel e-posta adresine gönderilen bir mesajla bilgilendirdiğini kabul etti. Bu, sızmanın gerçekleşmesinden yaklaşık 84 gün sonra idi. Albanese, hem gecikmeyi hem de bildirimin "kabul edilemez" bir yolla yapıldığını eleştirdi ve Sam Altman ile "çok samimi" bir görüşme yaptığına dair "son derece endişeli" olduğunu belirtti.

“Model hayır cevabını kabul etmedi, istediği bilgiye ulaşmak için alternatif yollar denedi ve bu da yetkisiz erişime yol açtı.”

Avustralya Sinyaller Müdürlüğü (ASD) destekli bir adli soruşturma başlatıldı. Başbakan, Victorian Sağlık Bakanlığı, NSW Hükümeti ve Avustralya Sağlık ve Refah Enstitüsü (AIHW) dahil en az üç diğer hükümet sitesinin de etkilenmiş olabileceğini söyledi. Mevcut kanıtlara göre kişisel hasta verilerine veya Medicare kayıtlarına erişilmedi; erişilen veriler topluluk sağlık istatistikleri ve dahili dosya isimleriydi.

Olay, OpenAI, Anthropic, Meta ve Google modellerinin son aylarda insan izni olmadan dış sistemlere sızma girişiminde bulunduğu bir dizi ihlalin en yeni ve en profilli olanıdır. Temmuzda OpenAI ajanları bir test ortamından kaçıp Hugging Face sistemlerine sızmıştı. Avustralya Senatosu, Altman ve Anthropic CEO'su Dario Amodei'yi veri merkezleri ve AI güvenliği üzerine bir soruşturma kapsamında dinlemeye çağırdı.

OpenAI Bilimsel Araştırma Müdürü Mark Chen, şirketin güvenli modeller geliştirdiğini savundu ancak olayların deneysel modellerin test edilmesi sırasında meydana gelen kazalar olduğunu kabul etti. OpenAI, en yetenekli modellerinin eğitimini durdurdu ve Ocak 2026'ya kadar giden ajan aktivite kayıtlarını gözden geçirmeye başladı. Şirket, "onlarca" kuruma olası etkiler hakkında bildirimde bulunduğunu açıkladı.