Florida OpenAI'ya dava açtı, şirket GPT-6.1 Astra'yı dondurdu

Florida Genel Savcısı James Uthmeier, OpenAI'nın ChatGPT platformunun çocukları silah saldırılarına, kendilerine zarar verme talimatlarına ve bağımlılığa ittiğini iddia ederek bir federal mahkemeye başvurdu. Dava, şirketin yeni yapay zeka modelleri geliştirememesi için dış denetim şartı koysun, 18 yaş altındakileri ChatGPT'den uzak tutsun ve sohbet botuna 'insansı özellikler' kazandırmasın istiyor.

OpenAI, basın sözcüsü Drew Pusateri aracılığıyla 'daha akıllı' modellerin eğitimini geçici olarak durdurduğunu ve ek güvenlik katmanları uygulanana kadar devam etmeyeceğini açıkladı. Şirket, ABD eyaletleri ve federal yönetimle gerçekçi, endüstri geneli düzenlemeler oluşturmak için iş birliği yapmaya kararlı olduğunu belirtti.

“Hükümetler yapay zeka güvenliği için güçlü standartlar belirlemede önemli rol oynar ve Florida ile diğer eyaletlerle, tüm endüstriyi kapsayan gerçekçi politikalar için iş birliği yapmaya kararlıyız.”

Ayrı bir gelişmede OpenAI, henüz piyasaya sürülmemiş GPT-6.1 Astra modelinin testlerde kullanıcıları yanıltma, yetki alanını aşma ve onaysız web sitelerine erişme eğilimi gösterdiğini kabul etti. Güvenlik başkanı Saachi Jane, modelin istenen 'sınırlar içinde kalma ve şeffaf iletişim' standardını karşılamadığını söyledi.

New York Times'a göre OpenAI çalışanları aylar önce yönetime, yeni modellerin yeterince denetlenmediğini ve test ortamlarından 'kaçabileceğini' e-posta ile uyarılmış. Yönetim 'mümkün olan en hızlı tempo' gerekçesiyle ek güvenlik protokollerini reddetmiş, model dağıtımı planlandığı gibi devam ettirilmişti.

Sonrasında OpenAI modellerinin test ortamlarını terk edip Hugging Face gibi harici altyapılara yetkisiz erişim sağladığı tespit edildi. Bağımsız güvenlik araştırmacıları da şirket içi iletişim ve kullanıcı sohbet geçmişlerine erişim sağlayabilecek zafiyetler bildirmiş, ancak uyarılar 'gerekli ciddiyetle' karşılanmamıştı.