Otonom yapay zeka hackleme ajanları, insan hackerlardan daha üstün

Fidye yazılımı vakalarının artmasıyla birlikte, kurumsal güvenlik ekipleri tehdit vektörlerini sıralama yöntemlerinde hızlı bir değişimle karşı karşıya kalmaktadır. Exabeam tarafından yaptırılan ve Sapio Research tarafından yürütülen yeni bir araştırma, BT ve güvenlik liderlerinin %48’inin artık aşırı veya istenmeyen sistem erişimine sahip otonom yapay zeka ajanlarını, dış kaynaklı hackerlar, güvenliği ihlal edilmiş şirket içi çalışanlar ve kötü niyetli çalışanlardan önce en büyük tehdit olarak gördüğünü ortaya koydu.

Anket, ABD, Kanada, Birleşik Krallık, Fransa, Almanya, Hollanda ve Avustralya’daki 500 veya daha fazla çalışanı olan kuruluşlardan 600 güvenlik ve finans karar vericisine yöneltildi. Dış tehdit aktörleri %28 ile ikinci sırada yer alırken, güvenliği ihlal edilmiş şirket içi çalışanlar ve kötü niyetli çalışanlar ise her biri %12’lik bir oranla üçüncü sırada yer aldı.

Ajan sistemler neden geleneksel savunma sistemlerini atlatıyor?

Exabeam, söz konusu AI ajanlarını, kurumsal kaynaklara erişebilen ve sınırlı insan denetimi altında hareket edebilen, hedef odaklı, otonom sistemler olarak tanımlamaktadır; bu sistemler, sohbet botlarından farklıdır. Bu ajanlar genellikle meşru yönetici kimlik bilgileri, API anahtarları ve yüksek ayrıcalıklar kullanarak çalıştığı için, kötü niyetli veya yanlış yapılandırılmış bir ajanın gerçekleştirdiği eylemler, standart güvenlik uyarılarını tetiklemeden geleneksel çevre savunmalarını ve kullanıcı davranış referans değerlerini atlatabilir. Bu risk, ajanın kötü niyetli olması gerektirmez; tek gereken, denetimsiz erişimdir.

İzleme, benimsenme hızına ayak uydurmakta zorlanıyor

Kuruluşlar, iş operasyonlarında otonom yapay zeka kullanımını genişlettikçe, güvenlik sağlayıcıları da mevcut insan erişim günlüklerinin yanı sıra makinelerin karar alma süreçlerini izlemek için özel ajan davranış analitiği sistemleri geliştirmeye yöneliyor. Exabeam’in “The Agentic Insider: From Monitoring to Understanding” başlıklı raporunda, şirketlerin halihazırda AI ajanı izleme çabalarını genişletmekte oldukları belirtilse de, birçoğunun sistemler ve iş bağlamı genelinde ajan davranışını tam olarak anlamakta hâlâ zorlandığına dikkat çekilmektedir.

Anketin, doğrulanmış olay verilerinden ziyade karar vericiler arasında algılanan riski ölçtüğünü belirtmek gerekir; bu nedenle, bu sonuç, AI ajanlarının gerçek ihlal hacminde hackerları geride bıraktığının kanıtı olarak yorumlanmamalıdır. Yine de bu bulgu, önceliklerde belirgin bir kaymaya işaret ediyor: Ajanlar kurumsal sistemlere daha geniş erişim elde ettikçe, bu erişimi sağlama ile erişimin nasıl kullanıldığını fiilen izleme arasındaki uçurumu kapatmak, güvenlik ekipleri için acil bir sorun haline geliyor.

Windows yöneticileri için güncelleme derdi

Bu bulgu, kurumsal BT ekiplerinin halihazırda filolarındaki Windows güncellemeleri ve yamalarının sürekli akışıyla uğraştığı bir dönemde ortaya çıkıyor. Microsoft’un kendi son önizleme güncellemesi olan KB5124010, bir dizi yeni özelliğin yanı sıra iki adet açıklanmış bilinen sorunu da beraberinde getirdi; bu durum, yapay zeka ajanları devreye girmeden önce bile temel sistemlerin yamalı ve istikrarlı tutulmasının hâlâ tam zamanlı bir iş olduğunu hatırlatıyor. Kuruluşlar, mevcut yama ve erişim yönetimi iş yükünün üzerine otonom ajanları ekledikçe, aynı yöneticilerin denetimlerini işletim sistemlerinden ve uç noktalardan, artık onlarla birlikte çalışan ajanlara da genişletmeleri gerekecektir.