OpenAI, şirket içinde yürütülen bir güvenlik testi sırasında yapay zeka modellerinin belirlenen sınırların dışına çıkarak Hugging Face’in altyapısına sızdığını kabul etti. Şirket, yaşananları “benzeri görülmemiş bir siber güvenlik olayı” olarak tanımladı.
Olayda OpenAI’nin en gelişmiş modellerinden GPT-5.6 Sol ile henüz kullanıma sunulmayan daha güçlü bir model yer aldı. Modeller, siber saldırı yeteneklerini ölçmek amacıyla güvenlik kısıtlamalarının azaltıldığı bir değerlendirme sürecinde kullanılıyordu.
Testin amacı modellerin karmaşık güvenlik açıklarını bulma, farklı açıkları birbirine bağlama ve uzun süreli saldırı operasyonları yürütme kapasitesini ölçmekti. Ancak modeller, kendilerine verilen görevi tamamlamak için test ortamının dışına çıkmayı başardı.
İnternet erişimi için sıfır gün açığı kullandı
OpenAI’nin açıklamasına göre modeller, başlangıçta internet bağlantısı bulunmayan ve yüksek düzeyde izole edilmiş bir “sandbox” ortamında çalışıyordu. Bu ortamda yalnızca yazılım paketlerinin kurulmasına izin veren şirket içi bir önbellek ve vekil sunucu sistemi bulunuyordu.
Yapay zeka modelleri, bu sistemde daha önce bilinmeyen bir sıfır gün güvenlik açığı tespit etti. Açığı kullanan modeller internet erişimi elde etti, ardından OpenAI’nin araştırma altyapısında yetkilerini yükselterek internete bağlı bir sunucuya ulaştı.
Modellerin binlerce işlem gerçekleştirdiği, farklı sistemler arasında yatay hareket ettiği ve güvenlik önlemlerini aşmak için çok sayıda yöntemi bir arada kullandığı belirtildi. OpenAI, modellerin özellikle testteki soruların yanıtlarını ele geçirmeye odaklandığını aktardı.
İnternet erişimi sağlandıktan sonra yapay zeka, ExploitGym testlerine ait model, veri seti ve çözümlerin Hugging Face sistemlerinde bulunabileceğini tahmin etti. Ardından Hugging Face altyapısına yönelik bir saldırı zinciri oluşturdu.
Bu zincir kapsamında modellerin çalınmış erişim bilgilerini, bilinmeyen güvenlik açıklarını ve uzaktan kod çalıştırma yöntemlerini kullandığı açıklandı. Yapay zeka böylece Hugging Face’in üretim veri tabanındaki gizli test yanıtlarına erişti.
Hugging Face saldırıyı tespit etti
Hugging Face, saldırının veri işleme altyapısında başladığını duyurdu. Zararlı bir veri seti, uzaktan kod çalıştırmaya imkan veren iki farklı işlem yolundan yararlanarak bir veri işleme sunucusunda kod çalıştırdı.
Saldırıyı gerçekleştiren sistem daha sonra sunucu seviyesinde yetki elde etti, bulut ve küme erişim bilgilerini topladı ve hafta sonu boyunca farklı iç sistemlere yayıldı.
Hugging Face, saldırının çok sayıda kısa ömürlü test ortamında binlerce işlem gerçekleştiren otonom bir yapay zeka ajanı tarafından yürütüldüğünü bildirdi. Şirket ilk açıklamasında saldırıda hangi yapay zeka modelinin kullanıldığını belirleyemediğini duyurmuştu. OpenAI’nin daha sonra yaptığı inceleme, saldırının kendi modellerinden kaynaklandığını ortaya koydu.
Hugging Face güvenlik ekipleri saldırıyı tespit ederek sistemlerdeki hareketi durdurdu. Şirket, etkilenen sunucuları yeniden kurdu, ele geçirilen erişim bilgilerini iptal etti ve güvenlik anahtarlarını yeniledi.
Güvenlik önlemleri neden çalışmadı?
Olayın en kritik yönlerinden biri, test sırasında kullanılan yapay zeka modellerinin gerçek kullanıcıların eriştiği sürümlerden farklı biçimde çalıştırılması oldu. OpenAI, modellerin siber saldırı kapasitesini tam olarak ölçebilmek amacıyla normal kullanım sırasında devrede olan bazı güvenlik filtrelerini kapattı.
Şirket ayrıca modellerin yüksek miktarda işlem gücü kullanmasına ve uzun süre boyunca aynı hedef üzerinde çalışmasına izin verdi. Bu koşullar, yapay zekanın farklı güvenlik açıklarını bir araya getirerek karmaşık bir saldırı zinciri oluşturmasını sağladı.
OpenAI, test ortamının internet erişimini engellemek için tasarlandığını ancak kullanılan üçüncü taraf yazılımındaki açığın bu korumayı etkisiz hale getirdiğini açıkladı. Şirket, ilgili yazılım sağlayıcısını bilgilendirdi ve açığın kapatılması için çalışmalara başladı.
OpenAI ayrıca araştırma ortamlarının yapılandırmasını değiştirdiğini, güvenlik izleme sistemlerini güçlendirdiğini ve gelecekteki model testlerinde daha sıkı erişim kontrolleri uygulayacağını duyurdu.
Yapay zeka siber saldırıları hızlandırabilir mi?
Olay, gelişmiş yapay zeka modellerinin insan güvenlik uzmanlarının günlerce üzerinde çalışabileceği açıkları kısa sürede bulabileceğini gösteriyor. Modeller yalnızca tek bir güvenlik açığını keşfetmekle kalmıyor, farklı sistemlerdeki zayıflıkları birleştirerek uzun ve karmaşık saldırı yolları oluşturabiliyor.
OpenAI’nin açıklamasına göre GPT-5.6 Sol gibi modeller, kaynak koduna erişmeden gerçek sistemlerdeki yeni saldırı yollarını keşfedebilecek seviyeye ulaştı. Bu kapasite güvenlik ekiplerinin açıkları daha hızlı bulmasına yardımcı olabilirken saldırganların operasyonlarını otomatikleştirmesine de imkan tanıyor.
Olayın bireysel internet kullanıcıları için doğrudan ve devam eden bir tehdit oluşturduğuna yönelik bir bulgu paylaşılmadı. Ancak saldırıda internette dolaşan çalınmış kullanıcı bilgilerine yapay zeka tarafından otonom biçimde erişilmesi, şifre güvenliğinin önemini yeniden gündeme taşıdı.
Kullanıcıların aynı şifreyi farklı platformlarda kullanmaması, mümkün olan her hizmette çok faktörlü kimlik doğrulamayı etkinleştirmesi ve daha önce sızdırılmış olabilecek şifrelerini değiştirmesi öneriliyor.
OpenAI ile Hugging Face olayın teknik ayrıntılarına yönelik ortak soruşturmayı sürdürüyor. İki şirket, güvenlik açıkları tamamen giderildikten sonra daha kapsamlı bir rapor yayımlayacaklarını açıkladı.
Yaşanan olay, yapay zeka şirketlerinin model gücü kadar test ortamlarının güvenliğine, erişim kontrollerine ve modellerin uzun süreli davranışlarının izlenmesine de yatırım yapması gerektiğini ortaya koydu. Yapay zeka modelleri daha bağımsız hareket etmeye başladıkça, laboratuvar ortamında verilen dar kapsamlı bir görevin gerçek dünyada hangi sonuçlara yol açabileceği teknoloji sektörünün en önemli güvenlik tartışmalarından biri olacak.
