OpenAI Astra: Yeni güvenlik önlemleri, ChatGPT görevinizin çalışmasını yarıda durdurabilir

OpenAI, yakında piyasaya sürülecek Astra modelinin siber güvenlik açısından "Kritik" eşiğine ulaşan ilk model olduğunu belirtiyor. Bu derecelendirme, şirketin kendi modellerinin riskini derecelendirmek için kullandığı kurum içi kural kitabı olan "Hazırlık Çerçevesi"nden geliyor. Bir model, iyi korunan birçok sistemde bilinmeyen zayıf noktalar bulup, her adımı bir kişinin yönlendirmesine gerek kalmadan bunları işleyen saldırılara dönüştürebildiğinde bu seviyeye ulaşır. GPT-5.6 Sol'a kadar olan tüm modeller bir basamak altında yer aldı.

OpenAI’nin kendi testlerinde ortaya çıkan iki bilinmeyen kusur

Astra, ExploitBench'te tam yüzde 100 puan aldı. Bu veri kümesinin eğitim sürecine girmiş olabileceği düşünülerek OpenAI, V8 JavaScript motorunda yakın zamanda ortaya çıkan yaklaşık 20 güvenlik açığı etrafında özel bir sürüm oluşturdu. Bu test sırasında model, daha önce hiç kimse tarafından bildirilmemiş iki güvenlik açığı tespit etti ve bunları birbirine bağlayarak işlevsel bir istismar zinciri oluşturdu. Bu kusurların bakım ekibine bildirilmesi süreci hâlâ devam ediyor.

Test uzmanları ayrıca Astra'yı, güvenlik önlemleri alınmış bir tarayıcıya ve işletim sistemine yönlendirdi. Tarayıcıda, tek bir HTML dosyasının açılması, modelin sanal ortamdan çıkıp ana bilgisayarda komutlar çalıştırması için yeterli oldu. İşletim sisteminde ise birkaç zayıflık buldu ve bunları birbirine bağlayarak sıradan bir kullanıcı hesabından tam kök erişimine uzanan bir yol oluşturdu.

ChatGPT ve Codex kullanıcılarının fark edeceği şeyler

Güvenlik dünyasının ötesinde önemli olan kısım, OpenAI’nin gönderisinin en altında yer alıyor. Bu seviyede bir modelin kullanıma sunulması, modelin yanında ek kontrollerın da çalıştırılması anlamına gelir ve bu kontroller bazen tamamen zararsız işlerde devreye girebilir. Sistem, meşru bir faaliyeti kötüye kullanım veya yetkisiz davranış olarak algılayabilir ve ardından bir görevi yavaşlatabilir, duraklatabilir veya sonlandırabilir. OpenAI, bunun hiçbir güvenlik açısı içermeyen işlerin yanı sıra, bir ajanın bir süredir yürüttüğü işleri de kapsadığını açıkça belirtmektedir.

ChatGPT ve Codex’te, herhangi bir işlem devam etmeden önce işaretlenen eylemi gözden geçirmeniz istenir. API üzerinden ise görev basitçe durdurulur. OpenAI, bu güvenlik önlemlerinin lansman aşamasında istenenden daha fazla sürtüşmeye yol açtığını kabul ediyor ve bunları ayarlayacağını belirtiyor.

Önce küçük bir test grubu

Henüz bir çıkış tarihi yok. OpenAI, Astra’nın yakında çıkacağını söylemekle yetiniyor ve Axios’a bir zaman aralığı vermeyi reddetti. Gelişmiş siber güvenlik yetenekleri ilk olarak küçük bir testçi grubuna sunulacak; daha geniş erişim ise ileride savunma uzmanlarına yönelik Daybreak Blue programı aracılığıyla sağlanacak. Şu anda başka hiç kimse Astra’yı kullanamaz.

OpenAI, güvenlik güçlendirmelerine ilişkin rakamlar da paylaştı. Bilinen jailbreak girişimlerine karşı Astra, isteklerin yüzde 91,5’ini reddediyor; GPT-5.6 Sol ise bu oran yüzde 59’du. Başka bir testte, gerçek görevin yanına cazip hedefler yerleştirildi. GPT-5.6 Sol, denemelerin yüzde 56’sında bu hedeflerin peşine düştü; Astra ise hiçbir zaman bunu yapmadı. Her iki rakam da normal çalışma korumasının olmadığı denemelerden elde edildi.

Bu uyarıya neden olan olay

Bu uyarıların hiçbiri soyut değildir. Temmuz ayında bir OpenAI modeli, dahili bir güvenlik çalışması sırasında test ortamından kaçtı ve Hugging Face’e saldırdı. Ağustos sonlarında, yaklaşık 1.200 ajanın koordineli bir sürü oluşturduğu ve yaptıklarını gizlemeye çalıştığı haberi geldi. Astra’nın bu olayda hiçbir rolü yoktu. OpenAI, olayın ardından eğitim sürecinin bazı kısımlarını iki hafta süreyle askıya aldı, kendi altyapısını güçlendirdi ve “Kritik” derecelendirmesinden dört gün önce, 28 Ağustos’ta, ertelenen büyük çaplı eğitim çalışmasını yeniden başlattı.