"Dünya tehlike altında": Anthropic'in yapay zeka güvenliği başkanı, işini değerleriyle bağdaştıramayarak istifa etti

Sharma veda mektubunda sadece ayrılış nedenlerini özetlemekle kalmıyor, aynı zamanda sert bir uyarıda da bulunuyor: "Dünya tehlike altında." Sharma mevcut durumu, birbirine bağlı çok sayıda krizin aynı anda yaşandığı bir "çoklu kriz" olarak tanımlıyor. Ona göre bu zaten gerçekleşiyor. Endişelerinin yapay zeka gibi teknik tehditlerle sınırlı olmadığını açıkça belirtiyor veya biyolojik silahlar değil, artan jeopolitik gerilimler de dahil olmak üzere birbiriyle bağlantılı daha geniş bir yelpazedeki küresel krizleri kapsamaktadır.

Sharma, günlük işlerde kişinin değerlerini korumasının ne kadar zor olduğunu vurguluyor. Güçlü ilkelere sahip kuruluşlar bile önceliklerini değiştirmek ya da pragmatik ödünler vermek konusunda sürekli bir baskıyla karşı karşıya kalıyor. Anthropic kendisini diğer önde gelen yapay zeka şirketlerine karşı güvenlik odaklı, değerlere önem veren bir alternatif olarak sunuyor - bu da Sharma'nın eleştirilerini daha da önemli kılıyor.

Sharma felsefe okumayı planlıyor - topluluk saygıyla karşılık veriyor

Mrinank Sharma'nın teknoloji sektörünü tamamen bırakmayı ve bunun yerine felsefe okumayı planlaması dikkat çekicidir. Genel olarak, X'teki topluluk saygı ve anlayışla karşılık verdi. Birçok kullanıcı yapay zeka güvenliği alanındaki çalışmalarını övüyor ve kendisine başarılar diliyor. Bazı eleştirmenler ise şirkette kalsaydı daha büyük bir etkiye sahip olabileceğini savunuyor. Sharma, organizasyonun dışında olmanın kendisine açıkça konuşma konusunda daha fazla özgürlük verdiğini söylüyor. Bu da teknoloji sektöründeki gelişmeleri takip etmeye ve görüşlerini uzaktan paylaşmaya devam edebileceğini gösteriyor.

Sharma'nın veda mektubunda küresel krizlere ilişkin sözlerinin yanı sıra dikkat çeken referanslar da yer alıyor. Dipnotlarda, David J. Temple takma adıyla yayınlanan "CosmoErotic Humanism" adlı bir çalışmaya atıfta bulunuyor. Bu ismin, geçmişte cinsel suiistimal iddiaları nedeniyle eleştirilere maruz kalmış bir ruhani öğretmen olan Marc Gafni ile bağlantılı olduğu bildiriliyor. Sharma bu bağlantı hakkında yorum yapmazken, bu referans istifa kararının arkasındaki entelektüel etkiler hakkında soru işaretleri yarattı.

Sharma'nın istifasının Anthropic'in geleceği üzerinde nasıl bir etkisi olacağı belirsizliğini koruyor. Sohbet robotu Claude'un arkasındaki şirket şu anda büyük bir reklam kampanyası yürütüyor ve yapay zeka asistanını reklamsız bir alternatif olarak tanıtıyor. Bu bağlamda, ayrılışının zamanlaması uygunsuz olabilir.