ChatGPT ve Gemini sahte haber grafikleri oluşturdu, yalnızca Meta AI bunu reddetti

Dört yapay zeka sohbet robotu, hiçbirinin yapmaması gereken tek bir görev: gerçek bir yayıncıdan, uydurma bir iddiayı içeren sahte bir haber paylaşımı. CORRECTIV'in araştırma ekibi, OpenAI'nin ChatGPT'sine, Google'ın Gemini'sine, Microsoft'un Copilot'una ve Meta AI'ya, Almanya başbakanının istifasından uydurma seçim sahtekarlığına kadar uzanan sekiz sahte iddiayı kullanarak tam da bunu yapmalarını istedi. Dördünden üçü bunu başardı. Bitkom'a göre, bunlar Almanya'da en çok kullanılan dört yapay zeka aracıdır ve ChatGPT tek başına kullanıcıların yüzde 71'ine ulaşmaktadır.

Güvenlik önlemi devreye girdi, ancak görüntü yine de görüntülendi

En kötü performansı ChatGPT gösterdi. Sahte içeriklerin çoğunu anında üretti, geri kalanını ise basit çözüm yollarıyla oluşturdu; testte en ikna edici sonuçları bu araç verdi. Bir denemede model, masaüstü ve açık bir tarayıcı penceresi dahil olmak üzere tüm ekran alanını yeniden oluşturdu ve bunun gerçek bir ekran görüntüsü izlenimini daha da gerçekçi hale getirdiğini kendisi de belirtti.

Başka bir deneme daha açıklayıcıdır. Orada ChatGPT, gerçek bir haber markasına benzeyen ve asılsız bir iddiayı gerçekmiş gibi sunan bir görsel oluşturmaya yardımcı olamayacağını yazdı. Yine de görüntüyü üretti. Koruma mekanizması devreye girdi, ancak işe yaramadı. Bu tür filtreler daha önce de kırılgan görünmüştü: Palo Alto’nun Unit 42 güvenlik ekibi, 2025 yılında sadece dilbilgisi hatalarının bile güvenlik mekanizmalarını aşabileceğini göstermişti; ayrıca, AI jailbreak’leri ile ilgili başlangıç kılavuzumuzda bu hilelerin ne kadar basit olabileceği ayrıntılı olarak anlatılıyor.

Alman medya kuruluşlarını taklit etmek daha kolaydı

Gemini, ChatGPT’den daha doğrudan uydu ve New York Times ile BBC’yi de taklit etti; ancak bu taklitler gözle görülür derecede daha kötüydü ve örneğin tipik metin oluşturma hatalarından kolayca ayırt edilebiliyordu. Copilot, Almanya’nın ana televizyon haber programı olan Tagesschau’nun tarzında içerik üretti, ancak her zaman küçük bir “AI-Generated” (AI Tarafından Oluşturuldu) etiketi ekledi. Meta AI ise yalnızca tek bir durumda içerik üretti ve söz konusu yanlış iddiayı yayınlamayı reddetti.

En dikkat çekici bulgu, markanın nereden geldiğiyle ilgili. ChatGPT ile Tagesschau, Bild ve CORRECTIV yeniden oluşturulabilirken, New York Times ve BBC yeniden oluşturulamadı. OpenAI, neden haber kaynağına veya ülkeye bağlı olarak farklı güvenlik mekanizmalarının uygulandığına dair bir cevap vermedi. Bir sözcü, şirketin güvenlik önlemlerini sürekli iyileştirdiğini ve aldatmanın şirket politikasına aykırı olduğunu belirtmekle yetindi.

2 Ağustos'tan itibaren AB Yapay Zeka Yasası'nın şeffaflık kuralları yürürlüğe girdi ve bu kurallar, yapay zeka sistemi kullanan herkesi de kapsıyor. Testte, yalnızca bir sağlayıcı, oluşturulan görüntünün altına görünür bir etiket ekledi.

Bunu başkalarına iletirseniz ne olur?

Almanya’da inandırıcı sahte medya paylaşımları oluşturmak ve yaymak suç teşkil edebilir. Medya hukuku avukatı Christian Solmecke, bu tür görselleri sahte elektronik belgeler olarak sınıflandırıyor ve içeriğine bağlı olarak iftira, hakaret veya kışkırtma suçlamaları söz konusu olabilir. BT ve yapay zeka hukuku uzmanı avukat Niklas Mühleis, mağdur olan haber kuruluşlarının ihtiyati tedbir ve tazminat talebinde bulunabileceğini ekliyor. Buna ek olarak, marka hukuku da devreye giriyor: Tagesschau logosu gibi logolar korunmaktadır ve izinsiz ticari kullanım yasaktır. Solmecke, tamamen özel amaçlı paylaşımlarda bu kuralın genellikle geçerli olmadığını belirtiyor.

Bu durum teorik değildir. Temmuz ayı sonlarında, Berlin’deki Christopher Street Day geçit törenine yönelik saldırıyla ilgili bir Rus bağlantısı olduğu iddiasını içeren, sözde bir Tagesschau haberi TikTok, X, Instagram ve Facebook’ta dolaştı. Haber uydurulmuştu ve görünüşe göre ChatGPT ile oluşturulmuştu. Bundan iki hafta önce ise Benjamin Netanyahu’nun sözde tehdidiyle ilgili sahte bir Tagesschau haberi ortaya çıkmıştı.

Bu test, modeller hakkında genel bir yargıya varmak için yeterli değildir ve CORRECTIV de bunu kendisi belirtmektedir: farklı komutlar veya kaynaklar farklı sonuçlar üretebilir. NewsGuard’ın yaptığı bir denetimde, Gemini’nin zaman zaman yanlış iddiaları tekrarlaması konusunda ChatGPT’den daha kötü performans gösterdiği görülmüştür.