Yapay zeka raporu yanlışlıkla Çin gemisini hedef gösterdi, ABD neredeyse savaş başlattı

Bu bahar İran ile savaşın ortasında ABD istihbarat birimine, Çin bayraklı bir geminin Orta Doğu'da nükleer silah programı bileşenleri taşıdığını iddia eden acil bir rapor ulaştı. Dört kaynağa göre rapor, Pasifik Özel Operasyonlar Komutanlığı'na bağlı bir analistin chatbot yardımıyla hazırladığı belgelendi.

Chatbot, geminin manifestosu üzerine açık kaynak ve sınıflandırılmış sinyal istihbaratını birleştirerek yanlış sonuç çıkarmıştı. Analist bulguları standart bir istihbarat raporuna dönüştürüp dağıttığında, silahlı personel gemiye atlama hazırlığına girdi ve askeri uçaklar havalandı.

“Bu rapor tamamen sahteydi, ama neredeyse bir savaş başlattı.”

Operasyon son dakikada durduruldu. Yetkililer raporu yakından incelediklerinde içeriğin yapay zeka ile üretildiğini ve 'tamamen sahte' olduğunu anladılar. Bir kaynak CNN'ye bu hatanın 'neredeyse bir savaş başlattığını' söyledi; Çin gemisine müdahale iki büyük güç arasında silahlı çatışma riski taşıyordu.

CNN, geminin aslında ne yüklediğini veya nereye gittiğini tespit edemedi. Pentagona ve Özel Operasyonlar Komutanlığı'na yapılan yorum istekleri cevapsız kaldı. Bir eski üst düzey yetkili, dahili yapay zeka araçlarının 'ticari ürünlerin sadece biraz düzeltirilmiş halleri' olduğunu ifade etti.

Demokrat milletvekilleri olayı araştırma çağrısında bulundu. Kaynaklar, yapay zeka araçları istihbarat topluluğunda yaygınlaştıkça benzer 'halüsinasyon' hatalarının tekrarladığını belirtti. Savunma Bakanlığı, 'katı doğrulama' ve 'sorumlu entegrasyon' taahhüdünü yeniledi.