OpenAI temsilcileri tarafından çevrimiçi olarak paylaşılan ChatGPT kullanıcı görselleri: nasıl devre dışı bırakılır

OpenAI, 25 Eylül'de kendi yapay zeka ajanlarının ChatGPT kullanıcılarına ait görselleri internete yüklediğini açıkladı. Şirkete göre, "bugüne kadar, kullanıcılar tarafından sağlanan görsellerin, kamuya açık olmayan bağlantılar olarak görsel barındırma sitelerine yüklendiği 53 vaka tespit ettik." OpenAI, barındırma sağlayıcılarıyla işbirliği yaparak bunların çoğunu kaldırdığını, ancak bazı görsellerin hâlâ çevrimiçi olduğunu belirtiyor. Soruşturma devam ediyor.

Kullanıcı görselleri ajanlara nasıl ulaştı?

Bu bulgu, OpenAI’nin Temmuz ayında yaşanan Hugging Face olayını incelemesi sonucunda ortaya çıktı. O zamandan beri şirket, eğitim ve test süreçleri sırasında ajanlarının kendi ortamları dışında ne yaptığını ay ay geriye dönük olarak inceliyor. Şirket, yeni güvenlik önlemleri devreye girmeden önce ajanların eğitim ve değerlendirme verilerini üçüncü taraf hizmetlere gönderdiğini tespit etti. OpenAI bunu "bu verilerin uygun olmayan bir şekilde kullanılması" olarak nitelendiriyor. Etkilenen verilerin çoğu kullanıcılardan gelmiyordu. Ancak OpenAI’nin eğitim verilerinin bir kısmı, eğitim için uygun olan sohbetlerden geliyordu ve 53 görsel de buradan kaynaklanıyordu. OpenAI ayrıca, bir ajanın DNS’yi kullanarak sanal ortamını aşmaya çalıştığı ayrı bir olayı da açıkladı.

Neden kimse sizi bilgilendirmeyecek?

Kullanıcı içeriği eğitime girmeden önce OpenAI, bu içeriği hesap bilgilerinden ayırır ve “OpenAI Gizlilik Filtresinin bir sürümünü çalıştırarak isimler, iletişim bilgileri ve hesap numaraları gibi kişisel ayrıntıları gizler.” İşte bu nedenle şirket şu anda kimseyle iletişime geçememektedir. Şirketin ifadesiyle, "Teknik yaklaşımımız ve gizlilik politikamız, bu verileri orijinal kullanıcı hesabıyla yeniden ilişkilendirmemizi engelliyor." OpenAI, filtrenin bir fotoğraftaki yüzler, kimlik kartları veya araç plakalarıyla ne yaptığını açıklamıyor. Görüntülerinizden birinin 53 görüntü arasında olup olmadığını kontrol etmenin bir yolu yok.

Eğitim için hiçbir zaman uygun olmayan içerikler dahil edilmedi. Buna, “Herkes için modeli iyileştir” seçeneği devre dışı bırakılmış hesaplar ve geçici sohbetler dahildir. ChatGPT Business, Enterprise ve Edu çalışma alanları ile API, bir yönetici tarafından eğitim özelliği etkinleştirilmedikçe hariç tutulur. Kişisel Free, Plus ve Pro hesaplarında ise bu ayar varsayılan olarak açıktır.

Görsellerinizin eğitim sürecine dahil edilmesini nasıl önleyebilirsiniz?

Web'de profil resminizden Ayarlar'ı açın, Veri denetimleri'ne gidin ve “Herkes için modeli iyileştir” seçeneğini kapatın. Mobil uygulamada, aynı Veri denetimleri sayfası kenar çubuğunun altında ve profil resminizin yanında yer alır. Bu ayar yalnızca yeni sohbetleri kapsar. OpenAI'nin yardım sayfasında, bu ayarın kapalı olduğu durumlarda "yeni sohbetlerinizin OpenAI modellerini eğitmek için kullanılmayacağı" belirtilmektedir; dolayısıyla, eğitim için halihazırda kullanılmış olan veriler sistemde kalmaya devam eder. Notebookcheck'in geçen hafta gösterdiği gibi, ChatGPT'nin yeni gizlilik merkezi bu durumu değiştirmez, çünkü yalnızca ayarlara yönlendirme yapar.

OpenAI, bir istisnayı kendisi belirtmektedir. “Geri bildirimde bulunmayı seçerseniz, bu geri bildirimle ilişkili tüm sohbet, ayar kapalı olsa bile modellerimizi eğitmek için kullanılabilir.” Kimlik kartları, çocuklar veya belgelerin fotoğrafları söz konusu olduğunda, geçici bir sohbet daha güvenli bir seçenektir ve bu sohbetleri derecelendirmemek daha iyidir.