Araştırmacılar sahte kamuoyu yaratan yapay zeka sürüleri konusunda uyarıyor

Büyük bir insan grubunun belirli bir konu hakkında konuşabildiği ve bu konunun internette trend olmasına neden olduğu bir dünya hayal edin. Ya da bu insanların kamuya mal olmuş kişileri zorlayabildiği ve hatta yanlış bilgi yayabildiği bir dünya. Şimdi de "insanların" aslında benzersiz insan seslerini taklit ederken birlikte hareket eden yapay zeka destekli profiller olduğu bir dünya hayal edin.

Bu tehlike, dünyanın dört bir yanındaki bir dizi kurumdan bilim insanlarının Science dergisindeki yeni bir yayında bizi uyardığı şeydir.

Uluslararası bir araştırma ekibi, büyük dil modellerinin (LLM'ler) çok etmenli sistemlerle birleştirilmesinin kötü niyetli YZ sürülerinin oluşturulmasını nasıl sağladığını ayrıntılı olarak açıkladı. Geleneksel, kolayca tanımlanabilen kopyala-yapıştır botların aksine, bu gelişmiş sürüler, kalıcı kimlikleri, hafızayı ve koordineli hedefleri koruyan YZ kontrollü kişiliklerden oluşur. İnsan etkileşimine dayalı olarak tonlarını ve içeriklerini dinamik olarak uyarlayabilir ve birden fazla platformda minimum gözetimle çalışabilirler.

Bu ağların oluşturduğu birincil tehdit "sentetik fikir birliği" üretimidir Dijital alanları uydurma ama son derece ikna edici konuşmalarla dolduran bu sürüler, belirli bir bakış açısının evrensel olarak kabul edildiğine dair yanlış bir yanılsama yaratıyor. Araştırmacılar bu fenomenin demokratik söylemin temelini tehlikeye attığını, çünkü tek bir kötü niyetli aktörün binlerce bağımsız ses gibi davranabileceğini belirtiyor.

Bu kalıcı etki, geçici fikirleri değiştirmenin ötesine geçerek bir topluluğun dilini, sembollerini ve kültürel kimliğini temelden değiştirebilir. Dahası, bu eşgüdümlü çıktı, düzenli yapay zeka modellerinin eğitim verilerini kirletme tehdidinde bulunarak manipülasyonu yerleşik yapay zeka platformlarına kadar genişletiyor.

Bu gelişen tehdide karşı koymak için uzmanlar, geleneksel post-by-post içerik moderasyonunun artık etkili olmadığını savunuyor. Savunma mekanizmaları, istatistiksel olarak olası olmayan koordinasyonu belirlemeye ve içerik kaynağını izlemeye yönelmelidir. Araştırmacılar ayrıca, büyük gruplar halinde etkileşime girdiklerinde YZ ajanlarının kolektif eylemlerini incelemek için davranış bilimlerinin uygulanmasının gerekliliğini vurgulamaktadır. Önerilen çözümler arasında gizliliği koruyan doğrulama yöntemlerinin kullanılması, dağıtılmış bir YZ Etki Gözlemevi aracılığıyla kanıtların paylaşılması ve gerçek olmayan katılımı teşvik eden finansal teşviklerin sınırlandırılması yer alıyor.