OpenAI'nin yeni ChatGPT özelliği ruh sağlığı krizleri sırasında güvenilir bir kişiyi uyarabilir

OpenAI, ChatGPT için yeni bir Güvenilir Kişi özelliğini kullanıma sundu ve kullanıcıların, sohbet sırasında kullanıcılarının ruh sağlığına yönelik bir risk tespit etmesi halinde şirketin ulaşabileceği yetişkin bir kişi belirlemelerine olanak tanıdı. Trusted Contact 7 Mayıs'tan itibaren ChatGPT kullanıcılarına sunulacak ve tüm dünyadaki kullanıcılar tarafından kullanılabilecek.

"Uzman rehberliği, sosyal bağlantıyı intihar riskini azaltmak için en önemli koruyucu faktörlerden biri olarak tanımlıyor. Güvenilir İletişim, kullanıcının zaten güvendiği biriyle bağlantı kurmasını teşvik etmek için tasarlanmıştır. Profesyonel bakım veya kriz hizmetlerinin yerini almaz ve sıkıntı içindeki insanları desteklemek için çeşitli koruma katmanlarından biridir. ChatGPT, kullanıcıları uygun olduğunda kriz yardım hatları veya acil servislerle iletişime geçmeye teşvik etmeye devam edecektir." OpenAI'nin güvenlik ekibi bir blog yazısında açıkladı.

Güvenilir Kişi, ChatGPT'nin ayarlarından seçilebilen 18 (veya Güney Kore'de 19) yaşın üzerindeki bir yetişkinle sınırlıdır. Güvenilir kişinin bir ChatGPT hesabına sahip olması gerekli değildir, ancak bildirim gönderme söz konusu olduğunda işleri kolaylaştırır. Güvenilir irtibat kişisi kararlaştırıldıktan sonra, bir kullanıcı kendine zarar verme konusunda ciddi bir tartışma yaşıyorsa, ChatGPT söz konusu kullanıcıdan güvenilir irtibat kişisine ulaşmasını isteyebilir veya küçük bir ekip durumu gözden geçirdikten sonra proaktif olarak irtibat kişisine kendisi ulaşabilir.

Yapay zeka şirketleri duygusal bağımlılığın sınırlarıyla karşılaşıyor

Lansman, yapay zeka şirketlerinin sohbet robotlarının hassas kullanıcılarla nasıl etkileşime girdiği konusunda artan bir incelemeyle karşı karşıya kalmasıyla gerçekleşti. Son yıllarda, ChatGPT ve Claude gibi sistemler, sanrısal düşünceleri doğrulamak, paranoyayı güçlendirmek veya kırılgan kullanıcıları topraklamak yerine duygusal olarak tırmandırmakla defalarca eleştirildi.

Konu, "YZ psikozu" gibi terimlerin daha geniş bir kamuoyu tartışmasına girmesine neden olacak kadar belirgin hale geldi ve kullanıcılar YZ'ye bir sırdaş, terapist veya arkadaş gibi davrandıklarında duygusal olarak ne kadar ikna edici olabileceğine dair artan endişeyi yansıtıyor.

OpenAI bu baskının son derece farkında görünüyor. Şirket duyurusunda, bazı kullanıcıların YZ sistemleriyle etkileşim halindeyken ciddi ruh sağlığı krizleri yaşadığını özellikle kabul etti.

"Bu ciddi güvenlik durumları nadir olsa da, ortaya çıktıklarında, sistemlerimiz zamanında inceleme ve müdahaleyi destekleyecek şekilde tasarlanmıştır. Hiçbir sistem mükemmel değildir ve Güvenilir Kişiye yapılan bir bildirim her zaman bir kişinin yaşadıklarını tam olarak yansıtmayabilir, ancak her bildirim gönderilmeden önce eğitimli insan incelemesine tabi tutulur ve bu güvenlik bildirimlerini bir saatten kısa bir sürede incelemeye çalışıyoruz," diye yazdı OpenAI'nin güvenlik ekibi.

Burada, davalara duyarlı Ai şirketleri tarafından kullanıcılara yönelik artan dadılık uygulamasının, en çok risk altında olanların sansürcülere takılmamak için geçici çözümler bulmasıyla geri tepebileceğine dair bir argüman var. Ancak Trusted Contact'ın ya da buna benzer bir şeyin zaten geliştirileceği açık. Kullanıcılara bebek gibi davranmak ile her düşüncelerinin yapay zeka tarafından doğrulanmasına izin vermek arasında bir denge kurulmalı, elbette, ancak çizginin nerede olduğu belli değil - ve onu bulana kadar karanlıkta tökezleyeceğiz.