Anthropic, bilim insanlarının biyolojik silah araştırmaları konusunda Claude’dan yardım istediğini yakaladı

Claude AI'nın arkasındaki şirket olan Anthropic, kısa süre önce yapay zeka modellerini potansiyel biyolojik silah geliştirme amacıyla kullanmaya çalışan çok sayıda bilim insanını tespit edip engelledi. Şirket tarafından yayınlanan yeni bir tehdit raporu, Claude AI platformunun yaygın olarak kötüye kullanıldığını ayrıntılı olarak ortaya koyuyor. Soruşturma, son derece tehlikeli patojenleri inceleyen aktif bilim insanlarının dahil olduğu beş özel vaka çalışmasına dikkat çekiyor. Meşru biyomedikal araştırmalar genellikle biyolojik silah geliştirme süreçlerini yakından andırdığı için, bu tür kötüye kullanımları tespit etmek hâlâ oldukça karmaşıktır.

Mayıs ayında meydana gelen dikkat çekici bir vakada, Anthropic’in dahili biyolojik güvenlik sınıflandırıcı sistemi, chikungunya virüsü üzerine işlev kazanımı araştırması için hibe başvurusu hazırlama talebini engelledi. Sivrisinekler yoluyla bulaşan bu patojen, kişiyi güçsüz düşüren semptomlara neden olur ve şu anda onaylanmış bir tedavisi bulunmamaktadır. Önerilen araştırma, virüsün bulaşıcılığını ve bağışıklık tepkilerinden kaçma yeteneğini artırmayı amaçlıyordu.

Bu araştırmanın bir askeri enstitüyle bağlantılı olması, şirketin endişelerini anında artırdı. Anthropic ayrıca, patojeni memeliler arasında daha kolay yayılabilecek şekilde uyarlamaya odaklanan, kuş gribi üzerine işlev kazanımı araştırması içeren ayrı bir girişimi de durdurdu. Engellenen bir başka sorgu ise, bir araştırmacının Claude’u kullanarak zehir toksin peptidlerinin haritasını çıkarmak ve özelliklerini optimize etmekle ilgiliydi.

Anthropic, bu faaliyetlerle ilişkili hesapları kalıcı olarak yasaklayarak yanıt verdi. Şirket, bu bulguları gelecekteki kötüye kullanımlara karşı güvenlik önlemlerini güçlendirmek için kullandı. Rapor, yeni modellerin karmaşık bilimsel görevleri yerine getirme konusunda giderek artan bir yetkinlik sergilediğini vurguluyor.

Bu yetenek, onları karmaşık biyolojik mühendislik alanında gerçek bir araştırma asistanı arayan aktörler için son derece cazip hedefler haline getiriyor. Anthropic, ilgili bilim insanlarının kimliklerini ve çalıştıkları kurumları gizli tutmayı tercih etti. Şirket, bu profesyonellerin kimliklerinin açıklanmasının onları fiziksel zarara maruz bırakabileceğini belirterek, araştırmacıların açıkça zarar verme niyetinde olmayabileceklerini de kaydetti.