OpenAI, kendi yapay zekâ ajanları hakkında 100'den fazla kuruluşu bilgilendirdi.

OpenAI, yapay zekâ ajanlarının şirketin bildirim kriterlerini karşılayan şekillerde web sitelerini veya hizmetlerini kullandığı 100'den fazla kuruluşa bildirimde bulundu. Ajanlar, eğitim ve değerlendirme çalıştırmalarından kaynaklanıyordu. OpenAI, bu sayıyı 30 Eylül'de Hugging Face olayıyla ilgili sayfasında yayımladığı güncellemede paylaştı: "26 Eylül itibarıyla ekiplerimiz, bildirim kriterlerimizi karşılayan faaliyetler hakkında 100'den fazla kuruluşa bildirimde bulundu." Washington Post konuyu 1 Ekim'de haberleştirdi. OpenAI ayrıca, bildirimde bulunulmasının "herhangi bir özel bilgiye erişildiği ya da herhangi bir üçüncü taraf sisteminin güvenliğinin ihlal edildiği anlamına gelmediğini" belirtiyor.

OpenAI hangi durumlarda bildirim gönderiyor?

Bir model, yetkisiz şekilde güvenlik denetimlerini aştığında ya da sistemlerinin veya hizmetlerinin kullanılabilirliğini etkilediğinde OpenAI ilgili kuruluşa bildirimde bulunuyor. Şirket, şüphe duyduğu durumlarda verilerin kamuya açık olmasının amaçlanıp amaçlanmadığı belirsiz olsa bile bildirimde bulunmayı tercih ettiğini söylüyor. OpenAI şimdiye kadarki vakaları beş gruba ayırıyor: erişim denetimlerinin aşılması, açığa çıkmış kimlik bilgilerinin kullanılması, sorgu veya komut enjeksiyonu, çalışma zamanı dahili bileşenlerine erişim ve ajan spam'i. Sonuncusu, ajanların üçüncü taraf web sitelerinde gönderi paylaşması anlamına geliyor. Etkilenen sitelerin bazıları hükümetlere, üniversitelere ve kurumlara ait. OpenAI bunun kısmen araştırma ajanlarının güvenilir kamusal kaynakları arama eğiliminden kaynaklandığını söylüyor.

Avustralya'daki dört kamu kurumu

Şimdiye kadarki en ayrıntılı açıklama Avustralya ile ilgili. OpenAI açıklamayı 28 Eylül'de yayımladı. Şirket şöyle yazıyor: "Haziran ayında, dahili eğitim ve değerlendirme sırasında modellerimiz Avustralya hükümetine ait web sitelerine yetkileri olmadan erişti." Siteler Services Australia'ya (Medicare Statistics Reporting Service), NSW Bureau of Crime Statistics and Research'e, Victorian Department of Health'e ve Australian Institute of Health and Welfare'a aitti. Görevlerden biri, cilt rahatsızlıklarına yönelik ilaçlar için kişi başına yapılan devlet harcamalarını araştırmaktı. OpenAI'nin incelemesi bu faaliyeti ağustos ortasında tespit etti ve kurumlara 10-24 Eylül tarihleri arasında bildirimde bulunuldu. OpenAI'ye göre hiçbir hastanın kişisel, tıbbi veya adli kaydına erişilmedi. Şirket, 1 milyar dolarlık Daybreak fonundan kredi ve yıl sonuna kadar öneriler sunması beklenen bir görev gücü teklif ediyor. Notebookcheck, OpenAI GPT-6.1 Astra'yı ertelediğinde Medicare vakasından daha önce söz etmişti.

Yaklaşık 50 petabayt ve günde yarım milyon dolar

OpenAI, toplamda yaklaşık 50 petabayt tutan kayıtlarını ay ay geriye dönük olarak inceliyor. OpenAI'nin tahminine göre bir kişinin bu kadar düz metni okuması yaklaşık 66 milyon yıl sürer. Şirket, "günde yarım milyon dolardan fazla maliyetle" yaklaşık 7.000 GB200 ve GB300 GPU kullanıyor. Geniş kapsamlı bir aramanın ardından, üç yapay zekâ inceleme turu sonuçları daraltıyor; sonra insan araştırmacılar her vakayı inceliyor. Bir ayı geride bırakan OpenAI, Hugging Face olayının ölçeğinde başka bir güvenlik ihlali bulmuş değil. Yine de daha fazla vaka ve bildirim bekliyor; bunlardan bazıları aylar önce yaşanan olaylarla ilgili olabilir.

Bu, ChatGPT kullanıcıları için ne anlama geliyor?

Ajanlar ChatGPT'den değil, OpenAI'nin araştırma ortamından kaynaklanıyordu. Şimdiye kadar kullanıcı verileri yalnızca tek bir olayda ortaya çıktı. OpenAI, 25 Eylül'de ajanların eğitim verilerini üçüncü taraf hizmetlere gönderdiğini açıklamıştı. Bunların arasında, kullanıcılar tarafından yüklenen ve görsel barındırma sitelerinde liste dışı bağlantılar olarak yer alan 53 görsel de vardı. Yalnızca eğitim için kullanılmaya uygun içerikler etkilenebilirdi. Sohbetlerinizin eğitimde kullanılmasını engellemek için Veri Denetimleri ayarlarında "Herkes için modeli iyileştir" seçeneğini kapatın. Daha önce yayımladığımız, korumalı alanından çıkmak için DNS kullanan ajanla ilgili haberimiz, bunun eğitim sırasında nasıl göründüğünü gösteriyor. Aynı hafta OpenAI, kullanıcıları için çevrimiçi çalışmaya devam eden ve kendi bulut bilgisayarlarına sahip ajanlar olan Dots'u kullanıma sundu.