Nvidia, yapay zekâ ajanlarını izlemek ve ışık hızında izole etmek için güvenlik platformunu tanıttı.

Son zamanlarda, büyük yapay zeka şirketlerinden gelen ve yapay zekalarının kapalı olması amaçlanan bir sistemden çıkıp başka sistemleri sözde hacklediğini anlatan giderek artan sayıda haber dikkat çekti. O zamandan beri, bu olayların öncelikle müşterileri yapay zekalarının inanılmaz yeteneklerine ikna etmek için tasarlanmış bir PR gösterisi mi olduğu, yoksa gerçek uyarı işaretleri mi teşkil ettiği tartışılıyor.

Her iki durumda da, yapay zeka ajanları giderek daha yetenekli hâle geldikçe güvenlikle ilgili endişeler de artıyor. Nvidia şimdi yeni platformuyla bu endişeleri gidermeyi umuyor. Nvidia’ya göre mesele hiç de basit değil; çünkü etkili bir şekilde çalışabilmesi için yapay zekanın belirli belgelere veya web’in bazı bölümlerine erişmesi de gerekiyor.

Nvidia’nın yeni güvenlik platformunun adı OpenShell ve temelde iki katmandan oluşan bir korumalı alan: Yapay zeka ajanlarına, örneğin belirli bir klasöre, hassas erişim izinleri verilirken diğer her şey engelleniyor. Sentry adı verilen ikinci katman, ajanların faaliyetlerini sürekli izleyip kaydediyor ve önceden belirlenmiş sınırları aşmaya çalışmaları hâlinde yapay zekayı milisaniyeler içinde yalıtabiliyor.

Ancak sistemi kullanmak o kadar da kolay değil: Kullanıcıların, ajanın tam olarak neleri yapmasına izin verildiğini ve neleri yapamayacağını önceden belirlemesi gerekiyor. Bu bir yandan biraz zahmetli; öte yandan, kullanıcıların daha önce aklına gelmemiş yaratıcı alternatif çözümlerden yapay zekayı potansiyel olarak mahrum bırakabilir.

Nvidia ayrıca, yapay zekanın insanlık için gerçek bir tehdit hâline gelebileceği yönündeki yapay zeka çalışanlarının uyarılarına ve yapay zekanın hızla, durdurulamaz gibi görünen gelişimini yavaşlatma çağrılarına da yanıt veriyor. Ancak Nvidia’ya göre yapay zeka güvenliği, öncelikle teknik yöntemlerle çözülebilecek bir mühendislik sorunu.