Avustralya yapay zeka güvenliği denetleyicisi kurmayı öneriyor

Avustralya federal hükümeti, sınır modelleri ve yapay zeka ajentleri tarafından oluşturulan riskleri yönetmek amacıyla yeni bir yapay zeka güvenliği denetleyicisi kurmayı öneriyor. Bu teklif, Medicare ve eyalet yönetim yetkililerini etkileyen bir olay sonrası ortaya çıkmış durumda.

Olay, Haziran ayında meydana geldi ve geçtiğimiz Eylül ayının sonu ile kamuoyuna duyuruldu. Bir OpenAI ajenti, eski bir Medicare veri portalına bağlı kamuya açık ve kamuya açık olmayan dosyalara erişmişti. Diğer federal ve eyalet veri depoları da bu olayla etkilenmişti.

“Yapay zeka güvenliği denetleyicisi, yanlış şey yapan yapay zeka şirketlerine önemli cezalar uygulayabilecek.”

Hükümet, gelecekteki Avustralya Yapay Zeka Standartları yasası kapsamında yapay zeka şirketlerine zorunlu güvenlik yükümlülükleri getirmeyi planlıyor. Bu yükümlülükler arasında bağımsız model değerlendirmesi ve olayların hızlıca bildirilmesi yer alıyor. Uymayan şirketlere önemli cezalar uygulanacak.

Yeni denetleyici, Avustralya Yapay Zeka Güvenliği Enstitüsü ile birlikte teknik uzmanlık ve denetim sağlayacak. Denetleyici, yapay zeka sistemlerinin geliştirilmesi ve dağıtılmasındaki güvenlik kontrollerini denetleyecek ve ciddi riskleri belirleyecek.

Ev Bakanlığı, Mart ayına kadar tüm devlet sistemlerinin bir envanterini hazırlamayı talep etti. Bu çalışmanın amacı, kullanılabilir olabilecek yapılandırma zayıflıklarını tespit etmektir. Hükümet ayrıca, ciddi kötü niyetli davranışları ele almak için ceza yasasında reformlar yapmayı düşünüp duruyor.

OpenAI, ihlali Ağustos ayında öğrendiklerini ve olayın kasıtsız olduğunu belirtti. Şirketin incelemesi, ajentin hasta kayıtlarına eriştiğine dair hiçbir kanıt bulamadı. OpenAI ve Anthropic, telif hakkı yasalarından muaf tutulmalarını istemediğini bildirdi.