OpenAI, ABD'nin küresel yapay zeka standartlarını liderliğini çağırdı

OpenAI, 21 Eylül'de yayımladığı bir blog yazısında, ABD hükümetinin "sınır AI" sistemleri için küresel teknik standartlar oluşturma çabalarını öne çıkarmasını istedi. Öneri, Birleşmiş Milletler Genel Kurulu toplantıları ve ABD-Çin diplomasisi eş zamanında gerçekleşirken geldi.

Şirket, odak alanları arasında özyinelemeli kendini geliştirme (RSI) yeteneğine sahip modellerin ölçümü, insan denetiminin zorunlu kılınması ve olay bildirim protokollerini saydı. OpenAI'ye göre tam özerk RSI henüz gerçekleşmiyor ve güvenlik garanti edilene kadar hedeflenmemeli.

“Tam özerk RSI henüz gerçekleşmiyor ve güvenlik garanti edilene kadar hedeflenmemeli.”

Teknik standartlar, modeller için lisans veya zorunlu ön onay getirmez; ulusal hükümetlerin bu çerçeveyi kendi yasal sistemlerine nasıl entegre edeceğine karar vermesi öngörülüyor. OpenAI, ABD'nin AI endüstrisi liderliği ve küresel ağ konumu nedeniyle bu süreci yönetmek için uygun konumda olduğunu savundu.

Sam Altman, 24 Eylül'de BM Güvenlik Konseyi'nde yapılan, AI güvenlik risklerine adanmış ilk oturumda teklifi sundu. Toplantıda Anthropic CEO'su Dario Amodei, araştırmacı Yoshua Bengio ve Hugging Face CEO'su Clément Delangue de konuştu; oturumu Fransa Dışişleri Bakanı Jean-Noël Barrot yönetti.

Aynı gün Altman, Beyaz Saray'da Xi Jinping onuruna verilen devlet yemeğine de katıldı; AI konusu ikili görüşmelerin gündeminde yer aldı. The Wall Street Journal'e göre girişim, geliştiriciler arasındaki güvenlik endişelerinin arttığı ve paylaşılan denetim mekanizması yokluğundaki risklerin vurgulandığı bir dönemde ortaya çıktı.