Yapay zeka şirketi Anthropic, uzun süredir kapalı test sürecinde tuttuğu gelişmiş yapay zeka modeli Mythos’u ilk kez kamu kullanımına açtı. Şirket, modelin kamuya sunulan ilk sürümünü “Fable 5” adıyla yayımlarken, güvenlik gerekçeleriyle bazı yeteneklerin sınırlandırıldığını açıkladı.
Mythos’un duyurusu, modeli erken aşamada test eden güvenlik uzmanlarının uyarılarının ardından geldi. Uzmanlar, sistemin kritik altyapılara yönelik siber saldırılarda kullanılabilecek düzeyde güçlü olduğunu ve önceki yapay zeka modellerine kıyasla güvenlik açıklarını çok daha hızlı tespit edebildiğini belirtmişti.
Anthropic’e göre Fable 5, siber güvenlik gibi hassas alanlarda bağımsız şekilde yanıt üretme yeteneğine sahip değil. Bu tür sorular, şirketin daha düşük yetenek seviyesine sahip modeli olan Opus 4.8’e yönlendiriliyor. Şirket, bu yaklaşımın modelin kötü niyetli kullanım risklerini azaltmak amacıyla tercih edildiğini ifade ediyor.
Mythos ilk olarak Nisan ayında tanıtılmış ve yalnızca sınırlı sayıdaki iş ortağının erişimine açılmıştı. Haziran ayı başında ise kullanıcı tabanı genişletilerek 15’ten fazla ülkede yaklaşık 200 kuruluşa erişim sağlandı.
Pentagon ile gerilim sürüyor
Mythos’un olası askeri kullanımı, Anthropic açısından en tartışmalı başlıklardan biri olmaya devam ediyor. Şirketin, ABD Savunma Bakanlığı ile bu konuda hukuki anlaşmazlık yaşadığı belirtiliyor.
Anthropic’in Kurucu Ortağı Dario Amodei liderliğindeki şirket, geçmişte Pentagon’a yapay zeka modellerine sınırsız erişim verilmesine karşı çıkmıştı. Şirket, bunun ciddi güvenlik riskleri doğurabileceğini savunurken, ABD Savunma Bakanlığı ise Anthropic’i tedarik zinciri güvenliği açısından riskli bir kuruluş olarak değerlendirmişti.
Anthropic, yapay zeka sistemlerinin kitlesel gözetim amacıyla kullanılmasına veya tamamen otonom silah sistemlerinin geliştirilmesine izin vermediğini vurguluyor. Şirket ayrıca giderek daha güçlü hale gelen yapay zeka modellerinin kontrolsüz gelişimine karşı uluslararası düzenlemeler çağrısında bulunuyor.
Bununla birlikte uzmanlar, yapay zeka sektörünün önde gelen şirketlerinin rekabeti yavaşlatacak ortak sınırlamalar üzerinde uzlaşmasının oldukça zor olduğunu düşünüyor.
Değerlemesi OpenAI’ı geride bıraktı
Geçtiğimiz hafta halka arz planlarını açıklayan Anthropic, son yatırım turunun ardından 965 milyar dolarlık değerlemeye ulaştığını duyurdu. Şirket böylece değerleme açısından OpenAI’ı geride bırakarak dünyanın en değerli yapay zeka girişimi konumuna yükseldi.
Ancak Mythos’un kamuya açılması, yapay zeka teknolojilerinin güvenliği ve denetlenmesi konusundaki tartışmaların önümüzdeki dönemde daha da yoğunlaşacağının işaretlerinden biri olarak görülüyor.
