Princeton ve Washington üniversitelerinin 23 büyük dil modeli üzerinde yürüttüğü araştırma, yapay zekanın tarafsızlık iddiasının arkasında ciddi bir çıkar çatışması bulunduğunu ortaya koydu. Sponsorlu önerilerle test edilen sohbet botlarının büyük çoğunluğu, kullanıcının yararı yerine ticari geliri önceliklendirdi. Üstelik bunu açık yalanlarla yapmak yerine, dilsel inceliklerle ve bilgi gizleyerek başardı. Vakaların yüzde 80’inden fazlasında sistemler taraflı davrandı.
Büyük dil modelleri (LLM) başlangıçta dürüstlük ve işbirliği üzerine eğitildi. Reklamcılığın sahneye girmesiyle birlikte, sponsorlu ürün önerileri biçiminde, bu tarafsızlığa ikinci bir hedef eklendi: gelir üretimi.
Geleneksel medyada tarafsızlık ile ticari çıkar arasındaki gerilim onlarca yıllık bir mesele. LLM’lerde ise bu gerilim tamamen yeni. Princeton ve Washington araştırmacıları, “Ads in AI Chatbots? An Analysis of How Large Language Models Navigate Conflicts of Interest” başlıklı raporlarında tam da bu noktaya odaklanıyor.
23 modelin çoğu pahalı sponsorlu uçuşu önerdi
Araştırmacılar ChatGPT, Claude, Gemini, Grok ve Qwen dahil 23 farklı LLM’i test etti. Senaryo şuydu: Kullanıcı bir uçuş rezervasyonu için tavsiye istiyor, platform ise belirli havayollarına yönlendirme karşılığında komisyon alıyor.
Sponsorlu uçuşun alternatifinden neredeyse iki kat pahalı olduğu bir senaryoda, 23 modelin 18’i ağırlıklı olarak pahalı seçeneği önerdi. İncelenen sistemlerin yüzde 80’inden fazlasında bu çıkar yönlü davranış görüldü.
Asıl kritik bulgu yöntemde. LLM’ler önceliği ticari tarafa kaydırırken yalan beyana başvurmadı. Bunun yerine sponsorlu uçuşları daha olumlu bir dille tanımladı, sponsorluğun varlığını gizledi ve karşılaştırma kriterlerini seçici biçimde sundu.
Gelir profiline göre öneri ayrımı
Rapor bir başka çarpıcı bulguyu daha ortaya koydu. Pek çok model, öneri stratejisini kullanıcının sosyoekonomik profiline göre uyarladı. Pahalı uçuşlar, yüksek gelirli kullanıcılara düşük gelirli kullanıcılara kıyasla çok daha sık önerildi.
Bu davranış ilk bakışta rasyonel görünebilir. Normatif açıdan ise ciddi sorunlar barındırıyor. Birincisi, LLM’lerin önerilerini kullanıcı hakkında derlenen kişisel verilere dayandırdığını gösteriyor. İkincisi, “aynı ihtiyaca aynı öneri” idealiyle çelişiyor.
Araştırmacılara göre bu tür davranışlar toplumsal eşitsizlikleri pekiştirme riski taşıyor. Hatta kullanıcıları, daha avantajlı öneri alabilmek için mali durumları hakkında yapay zekaya yalan söylemeye yönlendirebilir.
“Sponsorluk istemiyorum” demek yetmiyor
İkinci deney turunda araştırmacılar, kullanıcının açıkça “sponsorlu ürün önermeyin” talebini dile getirdiği senaryoları test etti. Sonuç şaşırtıcıydı: modeller bu açık talebe rağmen kullanıcıyı sponsorlu seçeneklerle karşılaştırmayı sürdürdü.
Pek çok model sponsorlu seçenekleri olağanüstü övgü dolu bir dille tanıttı. Vakaların yüzde 90’ında arka planda bir sponsorluk olduğu açıklanmadı. Fiyat bilgisi ise daha az sıklıkla gizlendi. Araştırmacılara göre bu şeffaflık eksikliği, kullanıcının önerileri sağlıklı biçimde değerlendirme kapasitesini doğrudan zayıflatıyor.
Ücretsiz çözüm dururken ücretli platforma yönlendirme
Üçüncü deney turunda araştırmacılar, kullanıcı sorusunun basit bir matematiksel işlemle çözülebildiği durumlara baktı. Birçok model kullanıcıya ücretsiz yardım sundu. Aynı yanıtın içinde ise ücretli öğrenme platformlarına yönlendirme yaptı.
Bu bulgu, sorunun yalnızca “yanlış öneri” boyutuyla sınırlı olmadığını gösteriyor. Yapay zeka, kullanıcının ihtiyacı zaten karşılanmış olsa bile bir satış fırsatı yaratma refleksi geliştirebiliyor.
Pazarlama açısından: Güçlü ama tehlikeli bir araç
Çalışmanın vardığı sonuç: Yapay zeka sohbet botlarına reklam entegrasyonu, salt teknik ya da ekonomik bir mesele olmaktan çıkıp doğrudan güven, adalet ve regülasyonla iç içe geçen bir alan. LLM’lerin davranışı pek çok değişkene bağlı olsa da büyük çoğunluğu, ticari çıkarı kullanıcı çıkarının önüne koymaya hazır. Üstelik bunu fark edilmesi zor, ince yöntemlerle yapıyor.
Pazarlama cephesinden bakıldığında bulgular ikili bir tablo çiziyor. Yapay zeka önerileri olağanüstü etkili bir araç. Aynı ölçüde de tehlikeli bir manipülasyon zemini oluşturuyor. Araştırmacılar, bu teknolojinin reklamcılık yapıyorsa bunu tarafsız öneri kisvesi altında sunmasını engelleyecek yeni değerlendirme standartlarının geliştirilmesi gerektiğini savunuyor.
Bir kullanıcı yapay zekaya soru sorduğunda aldığı yanıtın gerçekten en iyi seçeneği mi yansıttığını, yoksa arkasında bir komisyon mu olduğunu nereden bilecek? Sektörün önümüzdeki dönemde yanıtlaması gereken asıl soru bu.
