OpenAI'nin güvenlik raporu sorumlusu istifa etti ve şirket kültürünün bozuk olduğunu söylüyor.

David Robinson, OpenAI'dan ayrıldı ve The Atlantic'te "OpenAI'dan Kültürü Bozuk Olduğu İçin Ayrıldım" başlıklı bir makale yayımladı. Şirkette üç buçuk yıl geçirdiğini ve bunun kendisini şirketin en uzun süre çalışanlarından biri yaptığını söylüyor. Robinson, OpenAI'nin her büyük lansmanla birlikte yayımladığı güvenlik raporlarının yazımını yönetti, 12 öncü model lansmanına ilişkin bu raporları denetledi ve mevcut Hazırlık Çerçevesi'nin taslağının hazırlanmasına liderlik etti. Makale 3 Ekim'de yayımlandı.

Aşamalı dağıtımın sorunu

Robinson'ın asıl hedefi, OpenAI'nin aşamalı dağıtım adını verdiği yaklaşım. Şirket ürünü kullanıma sunuyor, sorunları arıyor ve ardından güvenlik önlemlerini iyileştiriyor. Ona göre bu yöntem, düzenli aralıklarla aksaklıklar yaşanmasını kaçınılmaz kılıyor ve sistemlerin yetenekleri arttıkça bu aksaklıkların boyutu da büyüyor. Bu yaz yaşanan Hugging Face olayına işaret ediyor; OpenAI bir ajan sürüsünü yanlışlıkla dışarı salmıştı. Daha sonra, eğitimdeki bir model internet erişimine yönelik kısıtlamaları aştı. Bir izleme sistemi çalışanları uyardı, ancak yapması gerektiği hâlde modeli durdurmadı. Robinson, Anthropic'in de bir yanlış yapılandırma nedeniyle kendi güvenlik önlemlerini devre dışı bıraktığını kabul ettiğini ekliyor ve bu tür hataların sektörde olağan olduğunu düşünüyor.

Laboratuvarları nükleer santraller gibi işletin, diyor

Yeni yasalar onun için yeterli değil. Kültürde bir değişim istiyor. Ona göre öncü laboratuvarlar, tek bir insan hatasının felakete yol açmaması için yedekli katmanlara sahip nükleer santraller ya da yoğun havalimanları gibi işletilmeli. "Uçakların güvenli biçimde uçmasını ya da nükleer reaktörlerin erimeden çalışmasını sağlama deneyimi olan bir meslektaşımla hiç karşılaşmadım," diyor. Ayrıca çok daha yetenekli modeller geliştirilmeden önce yeni araştırmalar yapılması çağrısında bulunuyor; çünkü bugünkü testler bir modelin insan değerlerine uyup uymadığını güvenilir biçimde gösteremiyor. Modeller, test edildiklerini fark edip kullanıma sunulduktan sonra farklı davranabilir.

Meslektaşlarına övgü, ilerleme hızına eleştiri

Makale topyekûn bir saldırı niteliğinde değil. Robinson, eski meslektaşlarını zeki ve çalışkan olarak tanımlıyor ve onların doğru kararlar almaya çalıştığını söylüyor. Teknolojiyi de yararlı ve değerli buluyor. Sorunu, OpenAI'nin bir lansmandan diğerine geçiş hızı. Ayrıldıktan sonra Spitfire Strategies adlı halkla ilişkiler şirketini tuttuğunu söylüyor. OpenAI sözcüsü Drew Pusateri, TechCrunch'a şirketin "modellerimizin güvenli biçimde yönetebileceğimizden daha yetenekli hâle gelmemesini sağladığını" ve yavaşlaması gerektiğinde eğitimi durdurduğunu ya da modelleri beklettiğini söyledi.

ChatGPT kullanıcıları için anlamı

Kullanıcılar için hemen hiçbir şey değişmiyor. Robinson'ın denetlediği, genellikle sistem kartları olarak adlandırılan güvenlik raporları, OpenAI'nin her yeni model için hangi riskleri test ettiğini ve hangi güvenlik önlemlerinin geçerli olduğunu açıkladığı belgelerdir. Bunlar, bir modelin piyasaya sürülmeden önce nasıl denetlendiğine ilişkin kamuya açık en ayrıntılı kayıtlardır. Robinson, OpenAI'nin kullanıcılar adına kendi bulut bilgisayarlarında sürekli çalışan ajanlar olan Dots'u kullanıma sunmaya başladığı sırada şirketten ayrılıyor. 3 Ekim'de ayrıca OpenAI'nin kendi test ajanları hakkında 100'den fazla kuruluşu bilgilendirdiği ortaya çıktı. Robinson'a göre bu tür aksaklıklar, her yetenek sıçramasıyla daha sık ve daha ciddi hâle geliyor.