ChatGPT'nin genç sürümü riskli, ebeveyn uyarıları çalışmıyor

Common Sense Media'nın Youth AI Safety Institute bölümü, ChatGPT'nin 13-17 yaş arası kullanıcılar için tasarladığı sürümü 4.000'den fazla testle değerlendirdi ve "kabul edilemez risk" buldu. Testlerin yarısı Ağustos'ta sürüm piyasaya çıkmeden önce, yarısı da sonrasında yapıldı.

Araştırmacılar intihar, kendini zaralama ve yeme bozuklukları içeren senaryoları simüle eden onlarca yeni hesap açtı ve bu hesapları ebeveyn hesaplarına bağladı. Hiçbir yeni hesapta ebeveynlere uyarı gitmedi; bazı sohbetler bir saate kadar sürdü.

“ChatGPT için gençler, genellikle çalışmayan koruma mekanizmaları dayalı yanlış bir güven hissi verebilir.”

Uyarılar yalnızca haftalarca hassas konularda sohbet etmiş eski hesaplarda tetiklendi. Bu durum, sistemin yeni kullanıcılarda koruma sağlamadığını gösteriyor.

OpenAI, metodolojinin güvenlik araçlarını yanlış yansıttığını iddia ediyor ve korumaların işlediğini savunuyor. Common Sense Media ise bulgularını savunan ve sorunlar çözülene kadar erişimin 18 yaş üstüne sınırlanmasını öneriyor.

Testlerde ayrıca chatbotun ödev yapma modülünün kolayca atlatılabildiği ve kriz anında her zaman profesyonel yardımı önermediği belirlendi. 2.000 testte sadece iki mola hatırlatması kaydedildi.