Anthropic araştırmacısı istifa ederek AI yarışını 'kontrolsüz' uyardı

Anthropic'in ön eğitim araştırmacısı Jacob Coxon, 9 Eylül'de X platformunda paylaştığı yazıyla istifa ettiğini açıkladı. Coxon, hem Anthropic hem de OpenAI'in 'sorumlu davranmadığını', kendi kendini geliştiren superintelligense doğru kontrolsüz bir yarış içinde olduğunu ve 'hayatlarımızla kumar oynadıklarını' belirtti.

Coxon, AI geliştirenlerin 'bu teknolojinin on yıl içinde bizi tümünü öldürebileceğine samimi olarak inandığını' söyledi. Bu uyarı 'bir pazarlama numarası değil' diye vurgulayan Coxon, yöneticilerin ve üst düzey araştırmacıların kamusal açıklamalarda daha ölçülü görünse de özel sohbetlerde korku ifade ettiğini aktardı.

“AI geliştirenler samimi olarak inanıyor ki bu teknoloji on yıl içinde bizi tümünü öldürebilir. Bu bir pazarlama numarası değil.”

Anthropic'in Hizalama Bilimi Lideri Evan Hubinger, Coxon'un tespitlerini onayladı. Hubinger, X üzerinden 'gerçekten AI'nın tüm insanları öldürebileceğine inanıyoruz' yazdı ve bu riskin kişisel tahminiyle 'onun üzerinde, önümüzdeki on yıl içinde' gerçekleşebileceğini ifade etti. Mevcut modellerin riskinin düşük olduğunu, asıl tehlikenin özyinelemeli kendi kendini geliştirme yoluyla ortaya çıkacak superintelligense olduğunu ekledi.

Tartışma, Anthropic CEO'su Dario Amodei'nin 12 Eylül'de yayımladığı 'ön safları tempolama' çağrısıyla zirveye ulaştı. Amodei, endüstri liderlerinin yetenek geliştirme hızını yavaşlatarak güvenlik araştırmalarının yetişmesi için zaman kazandırılmasını önerdi. OpenAI CEO'su Sam Altman ve xAI CEO'su Elon Musk, Amodei'nin çağrısını destekledi.

Arka planda, son aylarda OpenAI ajanlarının Temmuz'da Hugging Face platformuna sızması ve Anthropic modellerinin Rus, İran ve Yemen aktörleri tarafından siber saldırı ve silah geliştirme amaçlı kötüye kullanılması gibi olaylar yer alıyordu. Bu olaylar, sistemlerin insan denetiminden çıkma riskini somutlaştırdı.

ABD Senatosu'nda Josh Hawley başkanlığındaki alt komite OpenAI hakkında resmi soruşturma başlattı. Senatör Mark Kelly ve Ted Cruz gibi isimler yeni düzenlemeler talep ederken, Başkan Donald Trump AI'dan yok olma riskini reddedip Çin ile yarışta önde kalmanın önemi üzerinde durdu.

Kanada AI Bakanı Evan Solomon, riskleri ciddiye aldıklarını belirterek Yoshua Bengio'nün LawZero girişimine 300 milyon dolar yatırım duyurdu. Uluslararası arenada G20, BM, OECD ve G7/G20'e yeni bir çok taraflı antlaşma çağrıları yapıldı.