Yapay zeka ile yalanı gerçeklerden ayırmak mümkün olacak mı? Bu yaklaşım aynı zamanda bizi, dijital dünyaya hızla yayılan bu yeni teknolojinin kullanımını yeniden düşünmeye sevk ediyor.
Üretken yapay zeka araçları pek çok açıdan işimizi kolaylaştırsa da akademik makalelerin oluşturulmasından kimlik avı ve pornografik içeriğe kadar, kötü niyetli kullanımından kaynaklanan yeni tehlikeleri beraberinde getiriyor:
Yapay zekanın kötüye kullanıldığına dair 5 örnek:
1. Eğitimde ödevleri ve makaleleri yapay zekaya devretme
Öğretmenler, öğrencilerin yapay zekayı kullanmalarından, makaleler veya projeler gibi akademik çalışmaların hazırlanmasını devretmelerinden endişeliler. Yapay zeka, araştırma ve veri analizi için yararlı bir araç olabilirken, kötüye kullanımı intihal veya akademik sahtekarlıkta kullanılabilir.
Eğitim kurumlarının bulduğu şu an için tek çözüm, öğrenciler için yapay zeka kullanımını düzenlemek. Amerika Birleşik Devletleri, Avustralya, Hindistan, Fransa ve İspanya da dahil olmak üzere dünyanın dört bir yanındaki bazı kolejler ve üniversiteler, ChatGPT’nin öğrenciler tarafından gayri meşru olarak kullanıldığını düşünerek yasakladı.
Ayrıca New York’ta, tüm devlet okullarında ChatGPT kullanımı yasaklandı. Öte yandan, pek çok üniversitesinin, öğrencilerinin olağanüstü notlar almak için yapay zekayı kullanmasını önlemek için değerlendirme yöntemlerini değiştirmeye başladı.
2. Haber uydurmak için politikacıların ve ünlülerin sahte görüntüler oluşturmak
En ünlü vakalardan biri, Papa Francis’in çeşitli modern kıyafetler içindeki manipüle edilmiş görüntüleriydi. Balenciaga tarzı bir mont giydiği görsel sosyal medyada oldukça popüler oldu.
Bunun yanında Fransa Cumhurbaşkanı Emmanuel Macron’un bir gösterinin ortasında kaldığı ve eski ABD Başkanı Donald Trump’ın tutuklandığı görüntüler yine aynı durumun sonucuydu.
Öyle ki üretken yapay zeka aracı Midjourney bile bu görüntülerin çoğalması nedeniyle ücretsiz sürümünü sonlandırmaya kararı aldı.
Ayrıca, Instagram ve TikTok gibi sosyal medya platformları tam olarak yanlış bir senaryonun gerçekmiş gibi algılanmasını önlemek için yapay zeka tarafından oluşturulduğu konusunda kullanıcıları uyaracak.
3. Pornografik içerik Deepfake çalışmaları
Deepfake, gerçek insanların aslında asla söylemedikleri veya yapmadıkları şeyleri gerçekmiş gibi sunan yapay zeka tabanlı bir teknik.
Deepfakeler olumlu bir şekilde uygulanabilse de (örneğin, eğlence için görsel-işitsel içerik üretiminde veya film endüstrisi için dijital modellerin oluşturulmasında), yanlış bilgi yaymak veya insanları kasten aldatmak için de kullanılabiliyor. Örneğin, tanınmış kişilerin pornografik içeriğinin oluşturulması.
Bu uygulama şimdiden Scarlett Johansson, Emma Watson, Taylor Swift, Gal Gadot ve Maisie Williams gibi kişilikleri etkiledi ve etkilemeye de devam ediyor.
4. Hırsızlık ve dolandırıcılık için kimliğe bürünme
Yapay zeka bazı kişilerin kimlik avı yapma olasılıklarını da açtı. Daha önce bahsettiğimiz deepfake teknolojisi ile görseller oluşturulurken elde edilen büyük detay sayesinde kimliklerin taklit edilmesi mümkün olabiliyor. Suçlular, sahte sosyal medya profilleri oluşturmak, kimlik avı yapmak veya siber saldırılar gerçekleştirmek için derin sahte hesapları kullanabiliyor.
Bu riskle ilgili gerçek bir örnek, şirketin CEO’su olduğu varsayılan bir İngiliz şirketinin bir Macar bankasına yaklaşık 240 bin dolar havale etmesi emrini alan bir telefon alması… Arama inandırıcıydı çünkü ses CEO ile aynıydı. Ancak ses kayıtlarını mükemmel bir şekilde kopyalamak için ayrıntılı olarak incelemeye adamış bir yapay zeka tarafından yapılan bir çalışmaydı.
5. Uygunsuz içerik oluşturulması
Son olarak, yapay zekanın en zararlı kullanımlarından biri de şiddet, pornografi içeren veya yasayı ihlal eden, kullanıcılara ciddi psikolojik zarar verebilecek veya çevrimiçi taciz ve şantaj için kullanılabilecek resim ve videolar gibi uygunsuz içeriklerin üretilmesi…
Yapay zekanın bu içeriği oluşturmak için nasıl kullanıldığına çarpıcı örnekler var. Yapay zekayı kullanan ve çeşitli kullanıcıların eğitimli botlar ve yüzbinlerce görüntünün yardımıyla pornografi oluşturmak için kullandığı bir Discord kanalı olan Unstable Diffusion bu örneğin başında geliyor. İlginç bir şekilde, araç başlangıçta sanatsal görüntüler oluşturmak için yaratılsa da kullanımı kısa sürede farklı noktalara evrildi.
Tartışmaya yol açan bir başka vaka da fotoğraflara dayalı avatarların oluşturulması nedeniyle viral hale gelen Lensa uygulaması… Genellikle görüntüler erkeklere karşılık geldiğinde, sonuçlar savaşçıları, kahramanları veya politikacıları gösteriyor. Ancak kadın olduklarında, çıplak modellerin avatarlarını yaratmaya yönelik açık bir önyargısı var.
Technology Review’de yapay zeka muhabiri olan Melissa Heikkilä, Lensa ile fenomeni değerlendirdi ve yüzüyle oluşturulan 100 avatardan 16’sının çıplak olduğunu ve 14’ünün dar, müstehcen giysilere sahip olduğunu belirledi.
Öte yandan, Johns Hopkins Üniversitesi ve Georgia Institute of Technology tarafından yürütülen bir araştırma, bir yapay zeka sisteminin ırkçı ve cinsiyetçi önyargılar geliştirebileceğini gösterdi. Bir suçluyu göstermeleri istendiğinde siyahi birini seçti ve kadınları “ev hanımı” olarak gösterdi.
