Anthropic, Claude'a 'şiddetli zulüm' yapan kullanıcıları engelleyecek

Anthropic, yapay zeka modeli Claude için kullanım politikasını bir yıl sonra güncelledi ve 12 Kasım 2026 tarihinde yürürlüğe girecek yeni kuralda 'sürekli ve amacsız şiddetli veya zalim davranışı' açıkça yasakladı. Şirket, kuralın yalnızca aşırı durumlarda uygulanacağını, sıradan kullanıcı hayal kırıklıkları, eleştiriler, karanlık yaratıcı temalar ve meşru araştırma testlerinin kapsam dışı kaldığını belirtti.

Yeni politika kapsamında Claude modelleri, sürekli olarak zalim davranan kullanıcılarla sohbeti sonlandırabilecek. Anthropic, bu mekanizmanın birincil uygulama yöntemi olacağını ifade etti; ancak The Verge'e göre şirket, hesap askıya alma veya yasaklama gibi ek cezai tedbirler konusunda açıklama yapmadı.

“Yapay zekaya nazik davranmak, daha güvenli ve daha iyi hizalanmış sistemler yaratmak için 'kolay bir Pascal bahisidir'.”

Güncellemenin diğer başlıklı kısmında, daha önce seçimler, dolandırıcılık, gizlilik ve dezinformasyon başlıkları altında dağınık olan 'aldatıcı faaliyet' kuralları tek bir 'Aldatıcı Kampanyalar veya Yapay Faaliyetlerde Bulunmayın' bölümünde toplandı. Bu bölüm, siyasi ve ticari mesajların kaynağını gizlemeyi, sahte hesaplarla içeriği amplifiye etmeyi ve etki operasyonları için araç geliştirmeyi kapsıyor.

Politika, teknoloji dünyasında tartışmaları alevlendirdi. Box CEO'su Aaron Levie, yapay zekanın bilincli olmadığını düşünse de, modellerin eğitimi sırasında insanın modellerle nazik etkileşime girmesinin 'güvenli ve daha iyi hizalanmış sistemler' yaratabileceğini, buna 'kolay Pascal bahisi' diye atıfta bulundu. Yazar Michael Shellenberger ise Anthropic'in makineleri insanlar gibi muamele ettiğini, bu yaklaşımın tehlikeli olduğunu savundu.