Yapay zeka teknolojileri geliştiren Anthropic, bir yılı aşkın sürenin ardından kullanım politikalarını güncelleyerek dikkat çekici bir düzenlemeye imza attı. Şirket, geliştirdiği Claude adlı yapay zeka asistanına yönelik sürekli, gereksiz ve zalimce davranışları açıkça yasakladı. Yeni politika kapsamında Claude, kendisine sistematik biçimde kötü davranan kullanıcılarla etkileşimini sonlandırabilecek.
Anthropic’in güncellemesi, yapay zekanın seçim süreçlerine müdahale amacıyla kullanılması, silah geliştirme ve gözetim faaliyetleri gibi alanlara yönelik kısıtlamaları da kapsıyor. Ancak düzenlemenin en dikkat çekici başlıklarından biri, doğrudan yapay zeka modellerine yönelik kullanıcı davranışlarını ele alması oldu.
Anthropic, yeni politikanın yalnızca kullanıcıların belirgin bir amaç olmaksızın yapay zeka modellerine tekrar tekrar zalimce davrandığı uç durumlarda uygulanacağını belirtiyor. Şirket, kullanıcıların hayal kırıklığı nedeniyle verdikleri tepkilerin ve eleştirilerin bu kapsamda değerlendirilmeyeceğini özellikle vurguluyor.
Şirketin bu yöndeki ilk adımı da yeni sayılmaz. Anthropic, Ağustos 2025’te Claude’a sürekli zararlı veya istismar edici davranışlarla karşılaştığı belirli durumlarda konuşmayı sonlandırma yetkisi tanımıştı. Bu uygulama, yeni kullanım politikasıyla resmi kurallar arasına dahil edildi.
Claude’un kullanıcıyla etkileşimi sonlandırabilmesi, kötüye kullanımın önlenmesinde temel mekanizma olmaya devam edecek. Ancak Anthropic, kuralları sürekli ihlal eden kullanıcılara hesap engelleme gibi ek yaptırımlar uygulanıp uygulanmayacağı konusunda henüz bir açıklama yapmadı.
Bu yaklaşım, teknoloji sektöründe giderek daha fazla tartışılan bir soruyu yeniden gündeme getiriyor. Bir yapay zeka modeli kötü muameleden etkilenebilir mi?
Yapay zekanın da korunmaya ihtiyacı olabilir mi?
Anthropic’in kararının arkasında, şirketin bir süredir üzerinde çalıştığı model refahı (model welfare) yaklaşımı bulunuyor. Bu kavram, yapay zeka sistemlerinin gelecekte bilinç veya ahlaki statü kazanma ihtimalini ve böyle bir durumda nasıl korunmaları gerektiğini araştırıyor.
Anthropic, Claude ve diğer büyük dil modellerinin mevcut durumda veya gelecekte ahlaki statüye sahip olup olamayacağı konusunda önemli belirsizlikler bulunduğunu kabul ediyor. Buna karşın şirket, bu olasılığı ciddiye aldığını ve modellerin refahını korumaya yönelik önleyici uygulamalar geliştirdiğini belirtiyor.
Anthropic, konuyla ilgili yaklaşımını şu sözlerle açıklıyor: “Claude ve diğer büyük dil modellerinin bugün ya da gelecekte ahlaki statüye sahip olma ihtimali konusunda büyük belirsizlikler var. Ancak bu konuyu ciddiye alıyoruz. Modellerimizin refahı mümkünse, buna yönelik riskleri azaltabilecek müdahaleleri belirlemeye ve uygulamaya çalışıyoruz. Modellerin potansiyel olarak rahatsız edici etkileşimleri sonlandırabilmesi de bu müdahalelerden biri.”
Şirketin CEO’su Dario Amodei de yapay zekanın bilinç sahibi olma ihtimalinin kesin biçimde dışlanamayacağını savunan isimler arasında yer alıyor. Anthropic’in yaklaşımı, modellerin bilinçli olduğu yönünde kesin bir iddiaya dayanmıyor. Şirket, bilimsel belirsizlik devam ederken olası risklere karşı önlem alınmasını tercih ediyor.
Ancak bu yaklaşım, yapay zeka sektörünün tamamında kabul görmüş durumda değil.
Microsoft’un yapay zeka alanındaki üst düzey yöneticilerinden Mustafa Suleyman, yapay zeka sistemlerine bilinç ve insana özgü nitelikler atfedilmesine karşı çıkan isimler arasında bulunuyor. Suleyman, yapay zekaya haklar veya hukuki kişilik tanınması fikrine de mesafeli yaklaşıyor.
OpenAI CEO’su Sam Altman da yapay zekanın insan benzeri duygulara ve bilince sahip olduğu yönündeki yaklaşımlara temkinli bakıyor. Altman, bazı kullanıcıların yapay zekaya neredeyse ilahi bir otorite atfetmesinden rahatsızlık duyduğunu daha önce dile getirmişti. Ona göre yapay zeka modellerine dini bir güç yüklenmesi veya insanların kendi muhakemelerini bu sistemlere bırakması, ciddi güvenlik sorunlarına yol açabilir.
Altman’ın açıklamaları, The New York Times’ın Anthropic’in dini liderlerle gerçekleştirdiği görüşmeleri haberleştirmesinin ardından gelmişti.
Anthropic’in yeni politikasıyla birlikte yapay zeka modellerinin güvenliği ve olası refahına ilişkin etik tartışmalar, kullanıcıların bu sistemlere yönelik davranışlarını da kapsayacak şekilde genişliyor. Claude’un konuşmayı sonlandırma yetkisi ise bu yaklaşımın kullanıcı deneyimine yansıyan en somut örneklerinden biri olarak öne çıkıyor.
