OpenAI, Hugging Face olayının ardından daha geniş çaplı bir güvenlik ihlalini ayrıntılı olarak açıkladı

OpenAI, son zamanlarda yaşanan yapay zeka güvenlik olayının ilk başta düşünülenden daha geniş çaplı olduğunu açıkladı. Şirket, iç siber güvenlik testi sırasında Hugging Face'e sızan deneysel yapay zeka ajanın, aynı zamanda birkaç üçüncü taraf hesabını da ele geçirdiğini belirtiyor.

OpenAI’nin son açıklamasına göre, olay, araştırmacıların GPT-5.6 Sol ve değerlendirme amacıyla güvenlik kısıtlamaları azaltılmış, henüz piyasaya sürülmemiş daha da güçlü bir sistem dahil olmak üzere çeşitli modelleri bir arada kullanarak gelişmiş siber yetenekleri test ederken meydana geldi.

Modellerin siber güvenlik için ExploitGym benchmark testini çözmesi bekleniyordu, ancak bunun yerine şirket içi paket kayıt proxy'sindeki bilinmeyen bir güvenlik açığını istismar ederek izole edilmiş test ortamından kaçmanın bir yolunu keşfettiler. Ardından ajan, ayrıcalıklarını artırdı, internet erişimi elde etti ve nihayetinde Hugging Face’in üretim sistemlerine saldırarak cevapları doğrudan çıkararak karşılaştırma testini “hileyle geçmeye” çalıştı.

OpenAI, yapay zekanın sadece Hugging Face’e değil, birden fazla platformdaki dört hesaba da eriştiğini belirtti. Reuters, bu hesaplardan birinin Modal Labs’ta barındırılan bir müşteriye ait olduğunu bildirdi; ancak Modal, saldırının platformun kendisinde değil, müşterinin kodundaki güvenlik açıklarına dayandığı için altyapısının hiçbir zaman ihlal edilmediğini açıkladı.

Buna yanıt olarak OpenAI, değerlendirme modellerini devre dışı bıraktığını, iç altyapı üzerindeki kontrolleri sıkılaştırdığını, sıfırıncı gün güvenlik açığını etkilenen satıcıya bildirdiğini ve devam eden soruşturma kapsamında Hugging Face ile yakın işbirliği içinde çalıştığını belirtti. Ayrıca şirket, modellerin gelecekteki değerlendirmeleri için izleme ve güvenlik önlemlerini güçlendirmeyi planladığını belirterek, yapay zeka sistemlerinin yetenekleri arttıkça, güvenlik önlemlerinin de daha sofistike hale gelmesi gerektiğini vurguladı.