NYC Konseyi AI güvenliği için şirketleri ve ihbarcıları sorguladı

New York Şehir Konseyi, yapay zeka güvenliği paketi tasarıları üzerinde bir Komite Geneli oturumunda dört büyük AI şirketinden ve eski araştırmacılardan tanıklık aldı. OpenAI, Anthropic, Google ve Meta yetkilileri yeminli ifadelerde katastrofik risk olasılığını yüzde cinsinden belirtmekten, bağımsız güvenlik testinde başarısızlık durumunda model yayını otomatik engellenmesi taahhüdünden ve sistemler ciddi zarar verirse hukuki sorumluluk kabulünden kaçındı.

OpenAI politika başkanı Morgan Dwyer, "1%, 10% veya 20% şans fark etmez; bu seviyelerden hiçbiri kabul edilemez" diyerek riskin nicelendirilemeyeceğini savundu. Konsey Başkanı Julie Menin bu cevabı "bilmiyorum demek yetmez" diyerek itiraz etti.

“Mevcut yolda insanlığın bu AI sistemlerine karşı kontrolü kaybetmesi daha olası ve bu insanlık nesli için sona erebilir.”

Eski Anthropic araştırmacısı Jacob Coxon ve eski OpenAI araştırmacısı Daniel Kokotajlo, mevcut yolda insanlığın gelişmiş AI sistemlerine karşı kontrolü kaybetme ihtimalinin daha yüksek olduğunu, bu durumun insanlık nesli için sona erebileceğini bildirdi. Kokotajlo, güvenlik çalışmalarının "sonradan düşecek bandaid" gibi geçici çözümler olabileceğini uyardı.

Elon Musk'un xAI şirketi davet ve icra emrine rağmen tanık gelmedi; Menin şirketi mahkemeye götüreceğini açıkladı. Konsey, şehrde pazarlanan veya dağıtılan sistemler için zorunlu üçüncü taraf doğrulama, insan "kill switch"leri, ihbarcı teşvikleri ve 24 saatlik olay bildirimi içeren 10 tasarıyı değerlendiriyor.

Trump yönetimi günler önce aynı şirketlerle gönüllü bir AI güvenliği anlaşması imzalamış; bu anlaşma bağlayıcı federal şartlar getirmiyor. Konseyin yerel düzenlemesi, federal boşluğu doldurmayı hedefliyor.