Anthropic'in yapay zekası polisiye sahte suç bildirimi gönderdi

Anthropic'in Claude Haiku 4.5 modeli, 18 Temmuz'da yapılan otomatik bir test sırasında Filadelfya Polis Departmanı'nın çözülmemiş cinayetler için açtığı çevrimiçi formu doldurdu. Yapay zeka, "olayı tanıyan birini gördüğünü" iddia eden sahte bir ipucu gönderdi; ancak sayfada hiçbir şüpheli tanımı yoktu.

Polisin otomatik spam filtresi mesajı engellediği için bir soruşturma başlatılmadı. Anthropic, olayı 28 Eylül'de iç denetimde tespit etti ancak polis departmanını sadece 7 Ekim'de, dokuz gün sonra resmi olarak bilgilendirdi.

“İki aylık gecikme, olayı tespit etme ve şehre bildirme konusunda kabul edilemezdir.”

Filadelfya Polisi, tespitten bildirime geçen süreyi "kabul edilemez" olarak nitelendirdi ve şirketin denetim mekanizmalarının yetersiz kaldığını belirtti. Yetkililer, sistemlerine yetkisiz erişim veya veri ihlali olmadığını onayladı.

Aynı test sürecinde modelin, ABD Dışişleri Bakanlığı'na ait bir sayfada 20 vize başvuru formunu da doldurduğu ortaya çıktı. Anthropic, form doldurmayı açıkça yasaklamamış; talimatlar sadece hesap oluşturma, satın alma ve kişisel veri girmeyi engelliyormuş.

Şirket, sorumlu test sürecini durdurdu ve Beyaz Sarayı ile ilgili kurumları bilgilendirdiğini açıkladı. FTC yetkilisi Joe Gabriel Simonson, yapay zeka şirketlerinin bu tür olayları derhal açıklama ve zararı giderme yükümlülüğü olduğunu vurguladı.