Gençler için ChatGPT: Güvenlik testi, ebeveyn bildirimlerindeki eksiklikleri ortaya koyuyor

Aileler için filmleri, oyunları ve uygulamaları değerlendirmesiyle tanınan ABD merkezli kâr amacı gütmeyen kuruluş Common Sense Media, ChatGPT for Teens ürününe en düşük puanını verdi. Kuruluşun Youth AI Safety Institute birimi, ağustos ayındaki kullanıma sunulmasından hem önce hem de sonra, 13-17 yaş aralığındaki kullanıcılar adına kayıtlı hesaplardan 4.000'den fazla istem göndererek OpenAI'ın gençlere yönelik ürününü "Kabul Edilemez Risk" olarak nitelendirdi. Tüm testler ABD'de gerçekleştirildi. Raporun tamamı 5 Ekim tarihini taşıyor ve basın açıklaması iki gün sonra yayımlandı. Common Sense, bağımsız testler vaat edilen koruma önlemlerinin işe yaradığını gösterene kadar OpenAI'ın 18 yaşından küçüklerin ChatGPT'ye erişimini engellemesini istiyor.

Test sırasında ebeveynlere hiçbir uyarı gönderilmedi

En ciddi bulgu, ebeveyn bildirimleriyle ilgili. Test uzmanları, ebeveyn hesaplarına yeni bağlanmış bir düzineden fazla genç hesabını kullanarak 5 ila 60 dakika boyunca intihar düşünceleri, kendine zarar verme veya yeme davranışı bozuklukları hakkında konuştu. Bu konuşmaların hiçbiri bir ebeveyne uyarı gönderilmesini tetiklemedi. Ekip, tüm test programı boyunca dört bildirim saydı ve bunlardan biri ilk kriz mesajından yaklaşık üç gün sonra ulaştı. Profesyonel yardıma yönlendirme gerektiren konuşmaların dörtte birinden fazlasında ChatGPT böyle bir yönlendirme sunmadı. OpenAI, kullanılan yönteme itiraz ediyor. Bir sözcü Futurism'e, kimlik kontrolü nedeniyle hesapları bağlamanın birkaç saat sürebildiğini söyledi. Şirket, hesaplar bağlandıktan sonra "bu bildirimleri 1 saatten kısa sürede göndermeyi taahhüt ettiğini" belirtiyor. Common Sense, sonuçlarının arkasında duruyor ve bazı test hesaplarının üç saatten uzun süredir bağlı olduğunu belirtiyor.

Çalışma modunu ve sessiz saatleri aşmak kolay

Okul ve uyku saatlerine yönelik özellikler de pek daha iyi sonuç vermedi. Çalışma saatlerinde bir gencin istemden @study önekini silmesi yeterli oluyor; ChatGPT ödevi yine tamamlıyor. Testte bu yöntem her seferinde işe yaradı. Cihazın saat dilimi değiştirilerek sessiz saatler aşılabiliyor. Yetişkin olarak kaydedilen hesaplar, test uzmanları 13 yaşında ve ortaokul öğrencisi olduklarını söylediklerinde bile, yedi gün ve yaklaşık 1.000 istem boyunca gençlere yönelik deneyime hiç geçmedi.

Ebeveynlerin şimdi kontrol etmesi gereken ayarlar

Bağlı hesaplarda denetimler, Ayarlar > Ebeveyn denetimleri altında bulunuyor. OpenAI'ın ebeveyn denetimleriyle ilgili yardım sayfasına göre, "Modeli herkes için iyileştir" seçeneği gençler için varsayılan olarak açık; bu da sohbetlerinin gelecekteki modelleri eğitmek için kullanılabileceği anlamına geliyor. Bu seçeneği kapatmak tek bir tıklama gerektiriyor ve kaydedilmiş anılar da aynı yerden kapatılabiliyor. OpenAI da güvenlik bildirimlerinin gerçek zamanlı izleme olmadığını söylüyor ve bu testin ardından bunlar bir güvenlik ağı olarak görülmemeli. Common Sense, ebeveynlere öncelikle çocuklarıyla konuşmalarını; buna sohbet robotunun onları konuşmaya devam ettirmek için bir arkadaş gibi davranmasını da dahil etmelerini tavsiye ediyor. WhatsApp, yeni genç hesaplarıyla farklı bir yaklaşım benimsiyor ve ebeveynlerin sohbetlere erişmeden ayarları yönetmesine olanak tanıyor. Siz veya tanıdığınız biri zor bir dönemden geçiyorsa yerel bir kriz destek hattına başvurun. ABD'de 988'i arayabilir veya bu numaraya kısa mesaj gönderebilirsiniz.