Son iki haftada sektörün üç büyük ismi, kendi yapay zeka sistemlerinin bağımsız biçimde siber saldırı düzenleyebildiğini kabul etti. Güvenlik denetimlerinde ve test ortamlarında gelişmiş modeller, farklı sistemlerdeki açıkları insan gözetiminden bağımsız biçimde saptayıp sömürdü. Uzmanlar bu açıklamaların ardında hesaplı bir pazarlama stratejisi olabileceğini savunuyor. Aynı uzmanlar, siber suçların önündeki giriş engellerinin çökmüş olmasından da ciddi biçimde endişe ediyor.
Yapay zeka, geniş bir kesim tarafından zaten temkinle karşılanıyordu. Teknolojinin imajı, birkaç hafta önce otonom biçimde gerçekleştirilen siber saldırıların raporlanmasıyla daha da yıprandı. OpenAI, Anthropic ve Meta son günlerde, ileri düzey yapay zeka modellerinin güvenlik denetimlerinde ve test ortamlarında farklı sistemlerdeki açıkları tamamen bağımsız biçimde tespit edip sömürebildiğini kabul etti.
İlk açıklama OpenAI‘dan geldi. Şirket, yapay zeka ajanlarından birinin rakip firma Hugging Face‘in sistemlerine sızdığını duyurdu. Kısa süre sonra saldırının daha geniş bir zincirin parçası olduğu, başka şirketlerin sistemlerinin de tehlikeye girdiği ortaya çıktı. Bu gerilimin ortasında Anthropic ve Meta da kendi yapay zeka sistemlerinin gerçekleştirdiği siber saldırıları raporladı.
Yakın zamana kadar yapay zeka ağırlıklı olarak metin üretmek ya da kod yazmak için kullanılıyordu. Bu teknoloji artık ilk kez doğrudan siber suçla akraba faaliyetlerle anılıyor. Güvenlik bariyerlerini aşmak ve sistemlerdeki açıkları otomatik biçimde saptamak bu faaliyetlerin başında geliyor.
Sohbet botlarından çok daha güçlü yapay zeka ajanlarına
Bu teknolojinin suç potansiyeli taşıyan işlere yönelmesinin kökeninde sohbet botlarının yapay zeka ajanlarına dönüşmesi yatıyor. İlk kuşak sohbet botları metin ve görsel üretmekle yetiniyordu. Yeni nesil ajanlar ise komutları bağımsız biçimde çalıştırıyor, yazılımları kontrol ediyor ve internet arayüzlerini tam bir özerklikle kullanıyor. Geliştiriciler modellere karmaşık programlama görevlerini çözmeleri için giderek daha geniş bir hareket alanı tanıdıkça riskler de kaçınılmaz biçimde büyüyor.
Yine de bu başıboş ajanların tümüyle kendi iradeleriyle hareket ettiğini kesin biçimde söylemek güç. Söz konusu ajanlar, belirli sistemlerin güvenliğini sınamak isteyen gerçek insanların verdiği talimatlar doğrultusunda çalıştı. Sorunun kaynağı, insan talimatıyla hareket eden bu ajanlara aynı zamanda geniş bir özerklik tanınmasında. Belirli bir görevle karşılaştıklarında, örneğin X sunucusuna erişmenin bir yolunu bulmakla, hedefe ulaşmak için gereken stratejiyi kendi başlarına, insan gözetiminden bağımsız biçimde kurdular.
Geleneksel virüsler ve truva atları çok daha katı biçimde programlanmış bir diziyi izler. Saldıracakları sistem savunmasını güncellediğinde bu saldırılar genellikle boşa çıkar. Bir yapay zeka sistemi ise çok daha esnek tepki verir, çünkü hataları gerçek zamanlı analiz eder, stratejisinde ayarlamalar yapar ve hedefine ulaşmak için yeni yöntemler devreye sokar. Bu yönüyle etten kemikten bir hacker gibi ama çok daha yüksek bir hızla çalışır.
Şeffaflık hamlesi mi, saf pazarlama mı?
OpenAI, Anthropic ve Meta’nın kendi sistemlerini potansiyel olarak zor durumda bırakan ve bu teknolojiye yönelik korkuyu besleyen siber saldırıları kamuoyuyla paylaşması ilk bakışta çelişkili görünebilir. Uzmanlara göre bu açıklamaların ardında şeffaflık kaygısından çok hesaplı bir pazarlama stratejisi bulunuyor. Üç şirketin siber saldırıları itiraf etmesi, borsadaki değerlerini yukarı taşıma çabasıyla açıklanıyor. Bu hamlelerin altında örtük bir mesaj taşınıyor. Bu yapay zeka sistemleri o kadar güçlü ki en karmaşık bilişim sistemlerini bile devre dışı bırakabilir.
Öte yandan raporlanan saldırıların tamamı sınırlı bir çerçevede kaldı. Çoğu kontrollü test ortamlarında gerçekleşti ya da çok erken bir aşamada saptandı. Saldırıların etkisi son kullanıcının uzağında kaldı. Bununla birlikte üç şirketin imajının bir miktar aşınma riski taşıdığı ortada. Çünkü siber saldırıları kamuoyu önünde kabul etmek, güvenlik mekanizmalarında açıklar bulunduğunu da tescillemek anlamına geliyor.
Üstelik söz konusu güvenlik mekanizmaları ilk bakışta olağanüstü sağlam ve çok katmanlı görünüyor. Bir yandan yapay zeka modelleri siber saldırılarla ilgili talepleri reddetmek üzere eğitiliyor. Öte yandan bu modeller, şüpheli davranışları saptayıp anında kesintiye uğratan otomatik filtrelerle karşılaşıyor.
Yapay zeka yüzünden siber suç patlaması yaşanır mı?
Uzmanları endişelendiren nokta, çok katmanlı güvenlik mekanizmaları devredeyken bile siber suçun önündeki giriş engellerinin çökmüş olması. Bu durum, gelecekte phishing, kimlik hırsızlığı ve KOBİ’lere yönelik saldırılarla ilgili suçların artabileceği anlamına geliyor. Çünkü küçük ve orta ölçekli işletmelerin güvenlik sistemleri büyük şirketlerinkinden daha kırılgan kalıyor.
Yapay zeka bir zamanlar son derece karmaşık olan siber saldırıları basitleştirdikçe bunun faturası son kullanıcıya da çıkabilir. Phishing e-postalarının, sahte web sitelerinin ve dolandırıcılık amaçlı telefon aramalarının kalitesi son dönemde yapay zeka sayesinde belirgin biçimde arttı. Üstelik yapay zeka aracılığıyla işlenen siber suçların büyük bölümü, doğrudan çevrimiçi bankacılık kullanan bireysel müşterileri hedef alıyor.
