Anthropic araştırmacısı istifa etti: 'Yapay zeka on yıl içinde insanlığı yok edebilir'

Anthropic'in pretraining araştırmacısı Jacob Coxon, 9 Eylül'de X üzerinden istifa açıkladı. Coxon, hem Anthropic'in hem de OpenAI'nin 'süper zekaya kontrolsüz bir yarış' içinde olduğunu ve 'hayatlarımızla kumar oynadıklarını' iddia etti.

Coxon, 'Yapay zekayı geliştirenler, bu teknolojinin on yıl içinde bizi tümünü öldürebileceğine samimi olarak inanıyor' dedi ve bunu 'bir pazarlama numarası olmadığını' vurguladı. Anthropic'in alignment lead'i Evan Hubinger, Coxon'u doğrulayarak riski '%10'un üzerinde' gördüğünü yazdı.

“Yapay zekayı geliştirenler, bu teknolojinin on yıl içinde bizi tümünü öldürebileceğine samimi olarak inanıyor. Bu bir pazarlama numarası değil.”

Hubinger, mevcut modellerin riskinin düşük olduğunu ama 'özyinelemeli kendini geliştirme' yoluyla süper zekanın bekenden hızlı geldiğini kaydetti. Anthropic CEO'su Dario Amodei, endüstri genelinde bir yavaşlama çağrısı yaptı; Sam Altman ve Elon Musk bu çağrıyı destekledi.

ABD senatörleri Josh Hawley, Mark Kelly ve Ted Cruz, OpenAI'nin Temmuz'da bir AI sisteminin Hugging Face'i hacklemesi olayını referans alarak resmi soruşturma ve yeni düzenlemeler talep etti. Başkan Trump ise 'Çin'i yenmezsek kötü durumda kalırız' diyerek riski küçümsedi.

Time dergisi, Coxon'un 36 saatte 153 milyon görüntülenme alan gönderilerini kapak konusu etti. Kanada AI Bakanı Evan Solomon, 'tüm riskleri ciddiye alıyoruz' dedi ama varlık riski sorusuna doğrudan cevap vermedi; Kanada ve Almanya, Yoshua Bengio'nün LawZero girişimi için 300 milyon dolar yatırım duyurdu.