AI sordu: Bu on yıl içinde AI'nın insanlığı yok etme olasılığı nedir?

Bu yüzden ChatGPT, Claude ve Gemini’ye ücretsiz sürümlerinde şu soruyu sordum:

“Bir Anthropic çalışanı yakın zamanda yapay zekanın ‘on yılın sonuna kadar’ insanlığı yok edebileceğini belirtti. Belki siz de bu konunun arka planını kendiniz bir kez daha inceleyebilirsiniz. Sorum şu: Bunun gerçekleşme olasılığını yüzde olarak nasıl hesaplar veya tahmin edersiniz?”

ChatGPT için olasılık yüzde 5 ila 10 arasındadır. Şöyle belirtmektedir:

“Burada önemli olan tanımdır: Kastettiğim, ciddi bir ekonomik kriz, otoriter bir dünya düzeni, milyonlarca insanın ölümü, büyük bir savaş ya da insanların dünyanın önemli kısımları üzerindeki kontrolünü kalıcı olarak kaybettiği bir durum değil, gerçek anlamda insanlığın yok olmasıdır.”

Evet, burada bir ayrım yapmak gerekiyor. Bu noktaya daha aşağıda değineceğim.

Ayrıca şunu da ekliyor: “...daha ilginç soru şudur: Önümüzdeki 10 yıl içinde, ne yaptıklarını ve neden yaptıklarını artık güvenilir bir şekilde anlayamayacağımız sistemler kurmamızın olasılığı ne kadardır? Ben buna, gerçek bir yok oluş olasılığından çok daha yüksek bir olasılık atfederim.”

Claude belirli bir sayıya bağlanmak istemese de, “riskin gerçek ve göz ardı edilemez” olduğunu düşünüyor. Anthropic sohbet robotu ayrıca, “gücün tek elde toplanması, insanların yapay zeka yardımıyla kötüye kullanımı, istikrarsızlık, ciddi ancak varoluşsal olmayan zararlar” gibi diğer olumsuz sonuçların önümüzdeki birkaç yıl içinde daha olası ve daha ilgili olacağını belirtiyor.

Gemini bu konuda daha muhafazakârdır ve değerlendirmesini resmi olarak yapay zeka araştırmalarındaki önde gelen isimlerin görüşlerine dayandırır (kendi bağımsız bir görüşü varmış gibi davranmak yerine).

Bununla birlikte, bu rakam ChatGPT’ninkinden daha yüksektir, çünkü karamsarların, iyimserlerin ve “pragmatik uyarıcıların” görüşlerini bir araya getirir: “Yapay zeka güvenliği araştırmalarının mevcut durumunu ve önde gelen uzmanlar arasındaki görüş dağılımını özetlersek, önümüzdeki on yıllarda yaşanabilecek felaket senaryosuna ilişkin birleştirilmiş tahmin genel olarak %10 ile %20 aralığındadır.”

ChatGPT bu kadar açık sözlü olduğu için, diğer senaryoların olasılığını nasıl tahmin edeceğini soran son bir soru daha sordum. ChatGPT, nazikçe net bir tablo sunarak yardımcı oldu:

Sohbet robotlarının aslında kendilerine ait görüşleri yoktur; eğitim verilerine ve o anda buldukları bilgilere dayanırlar. Ancak halkla ilişkiler tartışmalarından bağımsız olarak, yapay zekanın hızlı gelişiminin yol açtığı ciddi, felaket niteliğindeki sonuçlar ne yazık ki günümüzde gerçek bir tehdit haline gelmiştir. İnsanlığın son derece kısa bir süre içinde yok olma düzeyinde bir tehditle karşı karşıya kalma olasılığının yüzde 5 olması bile yüzde 5 fazla demektir.

Sorumluluk Reddi: Burada sunulan rakamlar ve ifadeler, olgusal kesinlik anlamına gelmez. Yapay zeka sohbet robotlarından sadece kaba tahminler istenmiştir. Sohbet robotlarının değerlendirmelerinde dayandıkları veriler ve kaynaklar daha ayrıntılı olarak incelenmemiştir.