Yapay zeka teknolojisi ilerledikçe, görüntü manipülasyonu riski de artıyor. Buna yanıt olarak Massachusetts Teknoloji Enstitüsü Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı (MIT CSAIL) yeni bir araç olan PhotoGuard‘ı tanıttı.
GitHub’da bulunan bu program, veri zehirleme tekniklerini kullanarak bir görüntüye algılanamaz, görünmez parazit katıyor. İnsan gözü tarafından algılanamasa da bu parazit bir yapay zekanın derin sahteler oluşturma yeteneğini bozuyor.
PhotoGuard, pikselleri makinelerin değişiklikleri algılayıp okuyabileceği şekilde seçerek değiştirir. Ancak insan izleyiciler için resim değişmemiş görür. Bu strateji, yapay zeka algoritmalarının görüntüyü doğru bir şekilde anlamasını ve yeniden üretmesini engelleyerek kötü amaçlı düzenleme girişimlerini engeller.
PhotoGuard bir fotoğrafa uygulandığında, buna dayalı olarak yeni resimler oluşturmaya çalışan yapay zeka görüntü oluşturuculara karşı bir engel görevi görür. Orijinal resim, görsel olarak ayırt edilemez kalırken, yapay zeka teknolojisinin gelişmiş manipülasyon yeteneklerine etkili bir şekilde bağışık hale gelir.
Örnek olarak ekip, bir tenis maçı sırasında Trevor Noah ve Michael Kosta’nın Instagram gönderisinde PhotoGuard’ı kullandı. Sistem yerinde değilse resmi değiştirmek ve iki balo salonunu dans ettirmek için yapay zeka kullanmanın ne kadar basit olduğunu gösterdiler. Ancak PhotoGuard’ın yardımıyla yapay zekanın resmi değiştirmesini başarıyla engelledi.
Yaratıcılığına rağmen, PhotoGuard’ın kusursuz olmadığını belirtmek gerekiyor. Herhangi bir savunma mekanizması gibi, sınırlamaları var. Kişilerin, dijital gürültü ekleme, kırpma veya resmi çevirme gibi farklı teknikler kullanarak korunan bir fotoğrafı tersine çevirmeye çalışması olasılığı da bulunuyor.
PhotoGuard, hızla ilerleyen yapay zeka teknolojisi çağında görüntüleri manipülasyonundan korumaya yönelik önemli bir adımı temsil ediyor.
Bazı güvenlik açıklarına rağmen, umut verici bir şekilde dijital güvenlikte daha fazla ilerlemeye ilham verecek umut verici bir araç.
