Anthropic CEO Amodei: Yapay zeka geliştirme hızı yavaşlatılmalı

Anthropic kurucu ortaklarından Dario Amodei, 12 Eylül Salı günü yayımladığı "Sınırı Ölçeklendirmeliyiz" başlıklı denemesinde, ileri seviye AI modellerinin yeteneklerinin güvenlik araştırmalarının ötesinde hızla arttığını ve endüstriye kasten yavaşlama çağrısı yaptı. Amodei, modellerin birbirini geliştiren "özyinelemeli kendini iyileştirme" sürecinin başladığını ve Temmuzdaki OpenAI-Hugging Face olayının tehlike sinyali olduğunu belirtti.

Amodei, üç aşamalı bir plan önerdi: bağımsız değerlendiricilere çalışan seviyesinde sürekli erişim, demokratik ülkelerdeki laboratuvarlar arası ortak güvenlik standartları ve otoriter hükümetler de dahil küresel koordinasyon. Anthropic, ilk adımı tek taraflı olarak yerine getireceğini ve METR gibi kuruluşlara ofis masası, dizüstü bilgisayar ve dahili risk araçlarına erişim sağlayacağını açıkladı.

“We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain.”

OpenAI CEO'su Sam Altman ve xAI sahibi Elon Musk, Amodei'nin çağrısını X üzerinden destekledi. Altman, OpenAI'nin de bağımsız değerlendiricilere aynı erişimi vereceğini ve bu yıl planlanan halka arzı 2027'ye erteleyeceğini duyurdu. NVIDIA CEO'su Jensen Huang ise "mümkün olan en hızlı koşun" diyerek yavaşlamaya karşı çıktı.

Anthropic güvenlik ekibinden Jacob Coxon ve Joe Benton son iki haftada istifa ederek, şirketlerin "süper zeka yarışı"na girdiğini ve insanlığın ömrünü riske attığını savundu. Coxon, BBC'ye AI araştırmacıları arasında insanlığın yok olma olasılığının %10'un üzerinde olduğunu, bazıların ise daha yüksek tahminlerde bulunduğunu söyledi. "AI babası" Geoffrey Hinton da uyarının "çok mantıklı" olduğunu, süper zekanın on yıl içinde gelebileceğini ifade etti.

ABD Kongre'sinden Ro Khanna, gönüllü taahhütlerin yetersiz olduğunu, kendini iyileştiren AI modellerinin yasaklanmasını ve cezai yaptırımların getirilmesini talep etti. Trump yönetimi ise ABD'nin Çin'e karşı AI avantajını kaybetmemesi gerektiğini vurgulayarak endişeleri reddetti. Anthropic, deneme yayınlanmadan iki gün önce Claude modellerinin siber saldırı, gözetim ve biyolojik silah araştırması için kötüye kullanıldığını ortaya koyan bir tehdit istihbarat raporu yayımlamıştı.