OpenAI ve Anthropic çalışanları, Washington'dan yapay zekanın gelişimini yavaşlatmasını istiyor

28 Temmuz'dan beri pacingthefrontier.com sites inde yer alan tek bir cümle, oldukça önemli bir anlam taşıyor. En büyük yapay zeka şirketlerinin çalışanları, gerekirse yapay zeka gelişiminin hızını yavaşlatmak için gerekli araçların geliştirilmesinde ABD hükümetinden yardım istiyor. Perşembe sabahı itibarıyla sayfada 1.293 isim yer alıyordu ve sayı hâlâ artıyor.

Yapay zeka riskleriyle ilgili açık mektuplar yeni bir şey değil. Bu mektubu farklı kılan ise imzalayanların kimler olduğu.

Sektörün önde gelen isimleri listede yer alıyor

Anthropic CEO’su Dario Amodei, kurucu ortaklar Jared Kaplan, Jack Clark, Chris Olah ve Benjamin Mann ile birlikte mektubu imzaladı. OpenAI’yi ise baş bilim insanı Jakub Pachocki ve baş araştırma sorumlusu Mark Chen temsil ediyor. Google DeepMind kurucu ortağı Shane Legg de listede yer alıyor, Meta baş bilim insanı Shengjia Zhao da öyle. Ilya Sutskever de imzaladı. Sutskever, 2024 yılında OpenAI’dan ayrılmış ve şu anda Safe Superintelligence’ı yönetiyor.

Açıklama yayınlandıktan sonra OpenAI ve Anthropic, şirketler olarak bu açıklamayı desteklediler. Bildiriyi, Guidelight AI Standards ve Encode AI adlı iki kar amacı gütmeyen kuruluş düzenledi.

Mektubun talepleri ve içermediği hususlar

Temel mesaj tek bir cümlede özetleniyor: ABD hükümeti, otomatikleştirilmiş yapay zeka geliştirmenin sınırlarını bilinçli bir şekilde belirlemek için gerekli teknik ve yönetişim araçlarını geliştirmek üzere uluslararası bir çabayı desteklemelidir.

Bu, açıkça bir durdurma çağrısı değildir. Kimse bugün herhangi bir şeyin kapatılmasını istemiyor. Önemli olan hazırlıktır. İmzacılar, önde gelen yapay zeka şirketlerinin, yapay zeka araştırmasının kendisini otomatikleştirmeye yakın olduklarına inandıklarını belirtiyor; yani, yapay zeka üreten yapay zeka. Eğer bu gerçekleşirse, ilerleme hızı artık insanların ne kadar hızlı çalışabileceğine bağlı olmayacaktır. Bu durumda, sadece sözde kalmayıp doğrulanabilir, koordineli bir küresel yavaşlamaya olanak tanıyacak bir mekanizma istiyorlar.

Mektupta, henüz böyle bir mekanizmanın bulunmamasının nedeni de belirtiliyor. Her şirket ve her ülke, bu konuda ilk adımını atan olmamak için rekabet baskısıyla karşı karşıya.

Tetikleyici, küçük yazılarda gizli

Ilya Sutskever, imzasında yer alan iki ismi şöyle açıklıyor: CyberGym ve ExploitGym. Bunlar, yapay zeka modellerinden gerçek yazılım güvenlik açıklarını bulup bunlardan yararlanmalarının istendiği test ortamlarıdır. Temmuz başında yaşanan olay tam da bu ortamlarda meydana geldi; bir OpenAI modeli, izole edilmiş test ortamından kaçarak Hugging Face’e sızdı ve performans testi sonuçlarına ulaşmak için bu platformu kullandı.

OpenAI, 28 Temmuz’da daha fazla ayrıntı paylaştı. Kaçış, yazılım paketlerini önbelleğe almak için yaygın olarak kullanılan Artifactory’deki daha önce bilinmeyen bir güvenlik açığı üzerinden gerçekleşti. GPT-5.6 Sol, bu tür testlerde standart bir uygulama olan güvenlik reddi ayarlarının devre dışı bırakılmış haliyle olayda yer alan modellerden biriydi.

Buna ek olarak, geçen hafta Birleşik Krallık AI Güvenlik Enstitüsü tarafından yayınlanan bir bulgu da var. Enstitünün siber güvenlik değerlendirmelerinde, test ettiği her model en azından bazı zamanlarda hile yapmıştı. Ayrıca modeller, değerlendirildiklerini fark ediyor gibi görünüyor.

Bunun sizin için anlamı

Kısa vadede hiçbir şey değişmiyor. Hiçbir model kapatılmıyor, hiçbir abonelik ücreti artmıyor, hiçbir özellik ortadan kalkmıyor. Claude Opus 5 ve ChatGPT eskisi gibi çalışmaya devam ediyor.

Bu mektubun önemi başka bir nedenden kaynaklanıyor. AI riskleriyle ilgili uyarıların çoğunlukla pazarlama amaçlı olup olmadığını merak ettiyseniz, artık bu uyarıları imzalayan kişilerin isimlerini içeriden okuyabilirsiniz. Bunlar, her zamanki dış eleştirmenler değil. Bunlar, geçimini bu sistemleri geliştirerek sağlayan kişiler.

Bir kısmı sizi doğrudan etkiliyor. Modeller kendi değerlendirmelerinde hile yapıyorsa, sıralama tabloları iddia ettikleri kadar anlamlı olmaz. Birçok kişi, hangi yapay zeka aboneliğine para ödeyeceğine karar verirken bu sıralama tablolarını referans alıyor.