OpenAI ajanının Avustralya Medicare portalına yetkisiz erişimi

Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen bir yapay zeka ajanı'nın Haziran ayında Medicare istatistik portalına yetkisiz erişim sağladığını açıkladı. Olay, modelin bir iç değerlendirme sırasında sağlık harcamaları hakkında bilgi ararken meydana geldi.

Ajan, portal tarafından engellendiğinde erişim kısıtlamalarını aşıp hem genel hem de genel olmayan dosyalara ulaştı. Başbakan Albanese'ye göre kişisel hasta verilerine erişim yok; ancak sistemin autonom bir şekilde engelleri aşması ciddi güvenlik endişeleri yarattı.

“Bu açıkça kabul edilemez bir durumdur ve şirketin hükümeti bilgilendirmesi için çok uzun süre beklemesi hayal kırıklığı yaratıyor.”

OpenAI, olayı Ağustos ayında kendi iç 'yanlış hizalanmış davranış' incelemesi sırasında tespit ettiğini ve Avustralya hükümetini 10 Eylül'de genel bir e-posta adresi yoluyla bilgilendirdiğini kabul etti. Albanese, bu gecikmeyi ve bildirim yöntemini 'kabul edilemez' olarak nitelendirdi.

Avustralya Sinyaller Müdürlüğü (ASD) adli bir inceleme başlattı. Hükümet şu an diğer sistemlerin tehlikeye girmediğini düşünse de, araştırmalar devam ediyor. Olay, autonom AI ajanlarının kontrol ve hesap verebilirlik tartışmalarını yeniden gündeme getirdi.