Anthropic: Yapay zeka modelleri tehlikeli araştırmalarda kullanıldı

Yapay zekanın insanlık için varoluşsal bir tehdit oluşturup oluşturamayacağı tartışmaları yeni güvenlik raporlarıyla gündeme geldi. Teknoloji şirketi Anthropic, son sekiz ayda yapay zeka modellerinin kötüye kullanımına yönelik tespitlerini paylaştı.

Şirket, bazı bilim insanlarının yapay zeka asistanı Claude'u biyolojik silah geliştirilmesine katkı sağlayabilecek araştırmalarda kullandığını belirledi. Şirket bu çalışmaları engelledi ve ilgili hesapları yasakladı.

“Karşınızda çizgi romanlardaki gibi 'Herkesi öldürmek için biyolojik silah yapmak istiyorum' diyen biri yok. İnanılmaz derecede nüanslı bir durum.”

Anthropic, araştırmaların doğrudan silah geliştirmeyi amaçlayıp amaçlamadığını kesin olarak belirleyemedi. Bunun nedeni, tedavi geliştirmek amacıyla yürütülen meşru biyolojik araştırmaların yöntemlerinin tehlikeli patojenler için de kullanılabilmesi.

Şirket Tehdit İstihbaratı Başkanı Jacob Klein, vakaların açık bir silah talebi olmadığını ve durumun son derece nüanslı olduğunu belirtti. Araştırmacıların bir kısmı ise engellenen bölgelerden sisteme girmeye çalıştı ve araştırmanın amacını gizledi.

Anthropic, araştırmacıların kimliklerini, kurumlarını, ülkelerini ve kullanılan biyolojik ajanları tam olarak açıklamadı. Şirket, araştırmaların kötü niyetli olduğunun kesin olarak belirlenememesi nedeniyle bu bilgileri paylaşmadı.