OpenAI, yapay zeka destekli akademik sahtekârlığa son verebilecek bir metin filigranlama aracı üzerinde çalışıyor. Wall Street Journal, bu teknolojinin geliştirilme sürecine dair detayları ve OpenAI içindeki tartışmaları paylaştı. OpenAI, daha sonra bir blog yazısında bu projeyi doğruladı.
Bu metin filigranlama yöntemi, yapay zeka tarafından oluşturulan metinlere ince işaretleyiciler yerleştirerek, dijital bir parmak izi oluşturmayı hedefliyor. Bu sayede, metnin ChatGPT tarafından üretildiği tespit edilebilecek. OpenAI, bu teknolojinin belirli senaryolarda “son derece doğru” sonuçlar verdiğini belirtse de çeviri, yeniden ifade etme veya karakter ekleme gibi kurcalama teknikleri karşısında zorlandığını kabul ediyor.
Metin filigranlamanın etik etkileri, OpenAI içinde tartışmalara yol açtı. Yapay zekayı meşru bir yazma aracı olarak kullanan ana dili İngilizce olmayan konuşmacıların haksız yere etkilenebileceği endişesi var. Bu potansiyel ayrımcılık, şirketin bu sistemi uygularken daha geniş toplumsal etkileri dikkatlice değerlendirmesine neden oldu.
OpenAI’nin çalışmaları sadece metin filigranlama ile sınırlı değil. Şirket, diğer metin kaynak belirleme araçlarını ve görsel-işitsel içerik için kimlik doğrulama yöntemlerini de araştırıyor.
Her ne kadar metin filigranlama önemli faydalar sunma potansiyeline sahip olsa da, bu konuda herkes aynı fikirde değil. Yapılan bir ankette, ChatGPT kullanıcılarının yaklaşık %30’u bu teknoloji hakkında çekincelerini dile getirdi. Ana endişeleri, görünür filigranların insanları ChatGPT’yi kullanmaktan caydırabileceği ve bu durumun, AI yazma araçlarının meşru amaçlarla benimsenmesini engelleyebileceği yönünde.
Metin filigranlama mükemmel bir çözüm olmasa da etik kaygıların yapay zeka çağına yerleştirilme biçimi açısından önemli bir adım teşkil ediyor.
