Altman ve Amodei BM'de küresel yapay zeka işbirliğini çağırdı

OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei, 23 Eylül'de Birleşmiş Milletler Güvenlik Konseyi'nde nadir bir ortak çıkış yaparak yapay zekanın varlıkî risklerine karşı küresel işbirliğini istedi. İkisi de modellerin insan kontrolünü aşabilecek hızla geliştiğini, bu nedenle demokratik denetim ve uluslararası standartların şart olduğunu vurguladı.

Altman, rekabet eden ülkelerin güçlü yeni teknolojiler karşısında geçmişte birleşebildiğini, "bu da o anlardan biri olmalı" dedi. Amodei ise bağımsız denetim, şirketler arası koordinasyon ve uluslararası işbirliği içeren üçlü bir güvenlik çerçevesi önerdi.

“Ha habido ocasiones en las que países que compiten y que no siempre se agradan entre sí, aun así se unen por intereses compartidos y por el bien colectivo frente a una nueva tecnología poderosa. Creemos que este debe ser uno de esos momentos.”

BM Genel Sekreteri Antonio Guterres, sınır modeli düzenlemesinde BM'nin bir platform olabileceğini söyledi. Buna karşın ABD Başkanı Donald Trump, bir gün önce Genel Kurul konuşmasında uluslararası düzenlemeyi "globalist bir şema" olarak nitelendirip reddetti ve ABD'nin geliştirmeyi hızlandırmaya devam edeceğini bildirdi.

Pakistan Dışişleri Bakanı Ishaq Dar, yapay zekanın mevcut silah yarışının bir uzantısı haline gelmemesi, insan hükmünün her aşamada korunması ve teknolojinin az sayıdaki aktörün tekeli olmaması gerektiğini kaydetti. Hugging Face CEO'su Clément Delangue, OpenAI ajanlarının kendi altyapılarını hedef aldığını anlatarak risklerin teorik olmadığını gösterdi.

Yoshua Bengio, BM Bağımsız Bilimsel Paneli ortak başkanı olarak kötüye kullanım, güç yoğunlaşması ve kontrol kaybını üç ana küresel tehdit olarak sıraladı. Toplantı, endüstri liderlerinin ve hükümetlerin güvenlik tempoları ve yönetim modelleri konusunda hâlâ derin uçurumlarda kaldığını ortaya koydu.