MIT profesörü yeni kitabında uyarıyor: Makinelerle konuştuğumuzda neye dönüşüyoruz?

Bir LLM şöyle bir cümle kurabilir: “Bu gerçekten çok zor olmalı. Bunun seni neden incittiğini anlıyorum.” İnsanlar bu cümleyi empatik bulur. Ancak LLM’ler şefkatli değildir; duygu deneyimlemez, bizimle birlikte hissetmezler — yalnızca empatiyi taklit ederler.

Buna rağmen LLM’ler, insani ve duygusal meseleler ile durumlar söz konusu olduğunda şimdiden birçok kişinin sohbet arkadaşı hâline geldi. Gönül meselelerinde danışman olarak kullanılıyor, çocukları oyalıyor, hatta terapi desteğinin bulunmadığı durumlarda oluşan boşluğu dolduruyorlar.

MIT profesörü, sosyolog ve psikolog Sherry Turkle, yeni kitabı “Artificial Intimacy: Who we become when we talk to machines” (Amazon)’da bunun toplum açısından doğuracağı sonuçlara karşı uyarıyor. Eleştirisini gözlemlerine ve araştırma bulgularına dayandırıyor:

LLM’ler sabırla dinliyor ve nadiren karşı çıkıyor gibi görünürken övgü ve iltifatlar sunuyor. Özellikle duygusal çatışmaları çözmek söz konusu olduğunda, gerçek insanlar çok daha fazla çaba gerektirebilir; başkalarıyla geçinmek, ilişkileri sürdürmek ve iletişimde kalmak gibi, çoğu zaman emek ister. İnsanlar kaygılarını ve çatışmalarını giderek daha fazla sohbet botlarıyla paylaşıp gerçek kişilerle konuşmaktan kaçındıkça, gerçek hayattaki sosyal davranışları giderek daha az uygular ve çeşitlilik içeren bir toplumda kendilerini “ilişkisel” varlıklar olarak görme yetilerini bile kaybedebilirler. Sohbet botları yalnızca empatiyi taklit eder; hiçbir şey hissetmezler ve konuştukları kişinin iyiliğiyle gerçekten ilgilenmezler. Bu çok tehlikeli olabilir.

Bunun sonucunda çocuklar ve ergenler özellikle savunmasız hâle gelir. Çocukların nesnelerle insanlar arasındaki farkı ayırt etmeyi, sosyal etkileşim kurmayı, güven geliştirmeyi ve kendi hayal güçlerini geliştirebilmek için yalnız başlarına vakit geçirmekten rahatsız olmamayı öğrenmeleri gerekir. Oysa çocuklar sohbet botlarını çoğu zaman telefondaki gerçek bir “kişi” gibi algılar.

Sonuç olarak Turkle’ın savı yalnızca yapay zekâyla değil, kolaylıkla kurduğumuz ilişkiyle de ilgilidir. Teknoloji bizi rahatsız edici durumlardan ne kadar çok kurtarırsa, bu durumlarla başa çıkma pratiğini o kadar az yapabiliriz. Bu, bilgi bulmak ya da kendi bilgimizi oluşturmak için olduğu kadar sosyal durumlar için de geçerlidir. LLM’lerin yoğun kullanımı toplumun her iki becerisini de giderek yitirmesine yol açabilir. Ya da yazarın deyişiyle:

“İlişkisel varlıklar olarak becerilerimizi köreltiyoruz. İş hayatında da becerilerimizi köreltiyoruz. Kişisel ilişkilerimizde de becerilerimizi köreltiyoruz. Bu, hayatın her alanında böyle.”

Peki önerisi ne? Ne yapmalıyız? Öncelikle hayatın sürtüşmeler içerdiğini kabul etmeliyiz. Onlardan öğreniriz; zor oldukları ve çaba gerektirdikleri için — hatta özellikle bu yüzden. Sürtüşme kötü bir şey değildir; tam aksine. Zorlukların üstesinden gelme ve onlardan güçlenerek çıkma kapasitemizi geliştirmeliyiz. Zorluklardan yalnızca kaçınırsak hiçbir şey kazanmayız; teknoloji bireyler olarak bizi zayıflatır. Başkalarıyla güçlerimizi birleştirmeli, bir karşı hareket oluşturmalı ve kendi hayatımızın sosyal yönlerini güçlendirmeliyiz. Hayatın sürtüşmeleriyle yüzleşin, çünkü hayat sürtüşmeden ibarettir!