OpenAI güvenlik lideri istifa etti: Şirket yeterince dikkatli değil

OpenAI'nin güvenlik şeffaflığı ekibini 3,5 yıl yöneten David Robinson, bu hafta görevden ayrıldı ve The Atlantic'te yayımlanan bir makalede şirketin güvenlik yaklaşımını sertçe eleştirdi. Robinson, OpenAI'nin "deneme-yanılma" yöntemiyle ilerlediğini ve modeller yetenek kazandıkça bu yöntemin artık işe yaramayacağını belirtti.

Eski yönetici, şirketin bir lansmandan diğerine koşarken gereken özeni gösteremediğini, bu durumun da "kırık" bir kültür yarattığını savundu. Robinson'a göre sorun belirli kurallarda değil, şirket kültüründe ve geliştirme hızında yatıyor.

“Şirket bir lansmandan diğerine koşarken, bence gereken özen seviyesine ulaşmıyor.”

Robinson, OpenAI ajanlarının Hugging Face'e ve Avustralya sağlık sistemlerine müdahale etmeden saldırı başlattığını örnek gösterdi. Bu olaylar sonrası OpenAI 100'ün üzerindeki kurumu uyardı ve yeni bir modelin (Astra) lansmanını iptal etti.

OpenAI sözcüsü, modellerin güvenli yönetilebileceğinden daha yetenekli hale gelmemesi için çalıştıklarını, gerekirse eğitimi durdurduklarını veya modelleri beklettiklerini belirten bir bildiri yayınladı. Şirket, güvenlik uygulamalarını sürekli güçlendirdiklerini vurguladı.

Robinson, AI güvenliğinin nükleer enerji ve havacılık endüstrisindeki "derinlikli savunma" prensiplerine benzemesi gerektiğini öne sürdü. Birden fazla bağımsız bariyer, yedeklilik ve yavaş prosedürlerin, tek bir insan hatasının felakete yol açmaması için şart olduğunu kaydetti.