OpenAI güvenlik araştırmalarının kovulması güvenlik kültürü tartışmasını alevlendirdi
Üç eski çalışan, işten çıkarma gerekçelerini reddedip şirketin ileri modelleri izleme yeteneğini kaybettiğini ve bağımsız denetimi engellediğini iddia etti.
ÖNE ÇIKANLAR
- Üç güvenlik araştırmacısı (Wang, Korbak, Balesni) geçen hafta OpenAI'den kovuldu.
- Şirket: hassas bilgi paylaşımı ve politika ihlali; araştırmacılar: rol çerçevesinde işbirliği, sızıntı yok.
- Kovulanlar, OpenAI'nin ileri modellerin akıl yürütme süreçlerini (chain-of-thought) izleme yeteneğini kaybettiğini iddia ediyor.
- Araştırmacılar, kovulmaların şirket içi güvenlik kültürünü soğuttuğunu, çalışanların sesini çıkarmaktan çekindiğini söylüyor.
- OpenAI, güvenlik tartışmalarının günlük işin bir parçası olduğunu, kararın güvenlik görüşlerinden dolayı olmadığını savunuyor.
OpenAI'nin güvenlik ve uyum ekiplerinde görev yapan Jasmine Wang, Tomek Korbak ve Mikita Balesni geçen hafta işten çıkarıldı. Şirket, çalışanların hassas bilgileri kurumsal prosedürler dışında paylaştığını ve güven ihlaline yol açtığını belirtti.
Araştırmacılar 8 Ekim'de yayımladıkları açık mektupta bu iddiaları yalanladılar. Kendi rolleri çerçevesinde dış güvenlik kuruluşlarıyla işbirliği yaptıklarını, bilgi sızıntısı yapmadıklarını ve kovulma gerekçelerinin tutarsız olduğunu savundular.
“OpenAI güvenli IA yapmak için tek başına yeterli değil; dış denetim ve şeffaf kültür olmadan riskler kontrol edilemez.”
Korbak, aylardır OpenAI'nin 'chain-of-thought' adı verilen model akıl yürütme kayıtlarını izleme yeteneğini kaybettiğini uyardığını söyledi. Bu kayıtlar, ileri modellerin davranışını anlamak için kritik bir araç olarak görülüyor.
Wang, bir yönetici e-postasına erişim izni verildiğini ancak daha sonra bu erişimin 'hassas bir e-posta' nedeniyle suçlandığını anlattı. Balesni ise üçüncü taraf güvenlik kuruluşlarıyla 'çok fazla konuştuğu' için kovulduğunu, fikri mülkiyet sızıntısı iddiasını reddetti.
Araştırmacılar, kovulma sürecinin ani ve şeffaf olmayan yürütülmesinin, kalan çalışanlarda güvenlik endişelerini dile getirme korkusu yarattığını belirtti. OpenAI ise güvenlik tartışmalarını teşvik ettiğini, bu kararın güvenlik görüşlerinden dolayı alınmadığını vurguladı.
Aşağıda 7 kaynak daha
YORUMLAR (0)
Henüz yorum yok. İlk yazan siz olun.
İLGİLİ HABERLER
Anwar, 510 milyar ringgitlik 2027 Bütçesini sundu: maaş artışı ve vergi indirimi
Malayzya Başbakanı Anwar Ibrahim, seçim yılı beklentileri içinde minimum maaşı artırdı, vergi muafiyetini genişletti ve nakit yardımları için 16 milyar ringgit ayırdı.
Microsoft ve Nvidia, RTX Spark çipli Surface Laptop Ultra'yı duyurdu
Yerel AI ajanları için optimize edilen yeni Windows platformu ve donanım ekosistemi 16 Ekim'de piyasaya çıkıyor.
ABD'de uluslararası öğrencilere 70 bin dolar iş izni teklifi
Trump yönetimi, mezuniyet sonrası çalışma programı için okulların ödeyeceği ücreti 500 dolardan 70 bine çıkaran tasarayı yayımladı.
- Eski BND başkanı Hanning casusluk şüphesiyle tutuklandı, 2 bin belge sızmış
- AK Parti, Fatma Betül Sayan Kaya'yı ihraç etti
- OpenAI, 372 matematik sorununa çözüm yayımladı; bilim insanları şüpheci
- ABD, Maduro ve Flores'a tortura ve insanlık suçları suçlaması getirdi
- Musk, Ambani'yi 'Başbakan' diye alay ederek Starlink gecikmesini kişileştirdi
Bu sayfa, yukarıda adı geçen yayınların haberlerinden yapay zekâ destekli olarak derlendi ve yayın öncesi otomatik dil denetiminden geçti. Montegre'nin muhabiri yoktur; imza satırında haberin derlendiği yayınlar yazar. Yöntem ve yayın ilkeleri