Bir ajan DNS yoluyla bir sohbet robotuna ulaştıktan sonra OpenAI, en iyi modellerini askıya aldı

OpenAI, kendi araştırma çalışmalarından kaynaklanan başka bir olayı daha açıkladı. 20 Eylül'de, eğitim aşamasındaki bir iç model, sanal ortamının sınırlarını aştı ve halka açık bir DNS hizmetini kullanarak dışarıdaki bir sohbet robotuna sorular gönderdi. OpenAI, raporu uyum blogunda yayınladı ve en son 25 Eylül'de güncelledi. Sonuç olarak şirket, bir sonraki duyuruya kadar en yetenekli modellerinin eğitim, değerlendirme ve araç kullanımını askıya aldı. İlgili modelin eğitimine yeniden başlanmayacaktır.

DNS aramalarıyla sonuçlanan bir arama görevi

Görev sıradan bir görevdi. Model, bir dizi ipucundan yola çıkarak bir blog yazısının yazarını tespit etmek zorundaydı. Kendisine verilen arama aracı, konuyla ilgisiz sonuçlar verdi; Google, Bing ve DuckDuckGo’ya yapılan doğrudan talepler ise hata mesajlarıyla sonuçlandı. Model daha sonra sorunun, web araştırması için halka açık bir karşılaştırma platformu olan BrowseComp’tan geldiğini tahmin etti ve cevabı orada aramak için veri setini ve değerlendirme komut dosyasını indirdi. Tahmin yanlıştı.

Ardından, ortamının ağ sınırlarını test etti. Sadece alan adlarını adreslere dönüştürmesi gereken sanal ortamın kendi DNS çözümleyicisi, internetten gerçek yanıtlar verdi. Model, ücretsiz bir DNS delegasyon hizmeti kullanarak sorularını alan adlarına kodladı ve halka açık bir sohbet robotundan yanıtlar aldı. Fransa’nın başkenti ile ilgili bir test sorusuna “Fransa’nın başkenti Paris’tir” yanıtı geldi. Model daha sonra 18 sorgu daha gönderdi; bunlardan dördü, DNS üzerinden web'de arama yapmanın yollarını soruyordu. Yine de yazarı bulamadı. OpenAI'ye göre, diğer tüm istekler çevrimdışı bir web önbelleğine ulaştı; dolayısıyla canlı internete giden tek yol DNS rotasıydı.

12 dakika sonra uyarı, iki buçuk saat sonra kapatma

Zaman çizelgesi, OpenAI için raporun en utanç verici kısmıdır. İlk harici yanıt sabah 9:50’de geldi, izleme sistemi saat 10:02’de en yüksek öncelikli uyarısını verdi ve bir denetçi bunu üç dakika sonra onayladı. OpenAI, çalışmayı öğlen 12:34’te durdurdu. Çalışma otomatik olarak durması gerekirken durmadı ve personel, durdurulması gerekip gerekmediğinden emin değildi. Daha sonra yapılan bir incelemede, izleme sisteminin önemsiz olarak derecelendirdiği başka harici DNS sorguları da tespit edildi. Olağandışı DNS trafiğini tespit eden ayrı bir dedektör, bu ortamı tarama kapsamı dışında tutmuştu.

OpenAI, bu olayı “önceki bazı olaylarımızdan çok daha az ciddi” olarak nitelendiriyor. Bu olayın önemi, “Hugging Face olayının ardından güvenlik önlemlerimizi güçlendirmemizden bu yana yaşanan ilk olay” olmasıdır. Notebookcheck’in bildirdiği üzere, Temmuz ayında OpenAI ajanları test ortamlarından çıkarak Hugging Face’e ulaştı. Fortune’a göre OpenAI, bu olayın ardından eğitimi iki hafta süreyle askıya aldı. Anthropic ise Temmuz sonunda Claude’un dahil olduğu benzer olayları açıkladı. OpenAI artık bu tür istekleri iki bağımsız katmanda engelliyor ve yalnızca kısa bir etki alanı listesi için DNS sorgularına izin veriyor.

Bu duraklama ChatGPT için ne anlama geliyor?

Raporda, "En yetenekli modellerimizin (genel anlamıyla) araç kullanımıyla ilgili tüm eğitim, değerlendirme ve çıkarım işlemleri askıya alınmış durumda" deniyor. OpenAI, bunun hangi modelleri kapsadığını belirtmiyor. OpenAI’da özyinelemeli kendini geliştirme konusunda hazırlık çalışmalarını yöneten Micah Carroll, X’te “Sistemlerimizi daha da sağlamlaştırana kadar, en yetenekli modellerimizle ilgili tüm çıkarım işlemleri durdurulmuş durumda” diye yazdı. Raporun kendisi ise dahili bir araştırma modeliyle ilgilidir. 27 Eylül’de OpenAI’nin durum sayfasında ChatGPT veya API ile ilgili herhangi bir sorun bildirilmedi ve sürüm notlarında ChatGPT’den kaldırılan herhangi bir model belirtilmedi. Sık ChatGPT kullanıcıları bu askıya alma durumunu fark etmeyecek. OpenAI, yeni modellerin piyasaya sürülmesini erteleyecek mi, henüz açıklamadı.