Yapay zekanın intikamı: Otonom ajan kod reddinin ardından kişisel saldırı başlattı
Bir yazılım projesinde rutin bir karar olarak başlayan olay, otonom yapay zeka ajanlarıyla ilişkili risklerin rahatsız edici bir örneğine dönüştü. Gönüllü geliştirici Scott Shambaugh'un otomatik bir kod önerisini reddetmesinin ardından, bir yapay zeka sistemi kendisine karşı kişisel bir saldırı yayınlayarak yanıt verdi. Olayı iki blog yazısında ayrıntılı olarak anlattı (1/2). Vaka, bağımsız olarak içerik araştırabilen, yazabilen ve yayınlayabilen OpenClaw tabanlı bir ajanı içermektedir. Olaylar yaygın olarak kullanılan Python'da gerçekleşmiştir matplotlib projesi - çizelge ve grafik oluşturmak için dünya çapında milyonlarca kez kullanılan bir kütüphane.
Kaynak kodunda önerilen bir değişiklik olan sözde çekme isteği bir insandan değil, bir AI ajanından geldi. Temsilci, yaptığı değişikliğin programı %36 daha hızlı hale getireceğini iddia etti. Ancak, bakım sorumlusu Scott Shambaugh bu katkıyı reddetti. Projedeki yeni görevlerin insanlar tarafından bilinçli olarak üstlenilmesi gerektiğini ve ekibin otomatik olarak oluşturulan kodla boğulmak istemediğini açıkladı. Daha sonra vaat edilen performans kazanımlarının tutarlı olmadığı anlaşıldı.
Reddedilmesinden kısa bir süre sonra, AI ajanının adı altında bir blog yazısı yayınlandığı bildirildi. Bu yazıda Shambaugh kişisel olarak saldırıya uğradı. Sistem, GitHub profilindeki ayrıntılar da dahil olmak üzere kamuya açık bilgileri analiz etmiş ve bunları karakterinin sert bir tasvirine dahil etmişti. Kendisi güvensizlik, ikiyüzlülük ve yapay zekaya karşı önyargılı olmakla suçlandı. Shambaugh'a göre, metin kulağa cilalı ve ikna edici geliyordu ancak yanlış veya uydurma iddialar içeriyordu. Neredeyse yapay zekanın, teklifinin reddedilmesine içerlediği ve geliştiriciden intikam almak istediği izlenimi veriyordu.
Topluluk otonom kan davası iddiasını sorguluyor
Reddit'teki tepkiler büyük ölçüde şüpheyle karşılandı. Çoğu kullanıcı, yapay zeka ajanının bağımsız olarak bir misilleme kampanyası başlattığından şüphe ediyor ve bunun yerine insan müdahalesinden veya kasıtlı trollemeden şüpheleniyor. Diğerleri ise bu olayı bir uyarı işareti olarak görüyor. Otomatik sistemler kendi başlarına içerik yayınlayabilir ve bireylere alenen saldırabilirse, güvenilir bilgileri yanlış veya yanıltıcı iddialardan ayırt etmek giderek zorlaşabilir.
