Karşılaştırmalı kompakt yapay zeka iş istasyonları: Nvidia DGX Spark, AMD Ryzen AI Max+ 395 ile buluşuyor
Nvidia ilk olarak DGX Spark platformunu duyurdu. AMD, Strix Halo mimarisiyle doğrudan yanıt verdi ve ilginç bir şekilde, ilgili çipleri rakiplerinden bile daha önce pazara sundu. Nvidia GB10'un doğrudan rakibi olan AMD Ryzen AI Max+ 395, tipik olarak 128 GB bellekle eşleştirilerek büyük yerel modellerin yürütülmesini sağlıyor. Çeşitli yapay zeka kıyaslamalarında ve saf çıkarım hızında, çipler özellikle FP16 ve FP64 görevlerinde neredeyse eşittir. Bellek bant genişliği ve diğer birçok performans rakamı da kağıt üzerinde aynıdır. Bu nedenle, aşağıdaki gibi sistemleri dikkate almaya değer HP ZGX Nano G1n AI İstasyonu gibi sistemlerin yanı sıra Bosgame M5.
İki sistemin temel işlemci mimarileri temelde birbirinden farklıdır. Nvidia GB10 Superchip için ARM tabanlı bir Grace modülü kullanırken, AMD Ryzen AI Max+ 395 için Zen 5 çekirdekli klasik x86 mimarisine güveniyor. Bu farkın yazılım uyumluluğu üzerinde önemli bir etkisi var. AMD'nin x86 platformu, yerleşik eski uygulamalar için kapsamlı destek ile puan kazanıyor ve Windows ekosistemine sorunsuz bir şekilde giriyor. Buna karşılık, Nvidia'nın ARM stratejisi yalnızca Linux tabanlı DGX işletim sistemi ve yoğun şekilde paralelleştirilmiş yapay zeka iş yükleri için optimize edilmiştir ve geleneksel masaüstü görevlerine uygulanabilirliğini sınırlamaktadır.
AMD, özel bir NPU entegrasyonu ile jet başka bir mimari yol izliyor. Bu, 50 INT8 TOPS sağlar ve daha küçük modellerin veya arka plan görevlerinin enerji tasarruflu bir şekilde çalışmasına olanak tanır. FastFlowLM gibi projeler bu mimariden faydalanıyor, çünkü sistem her yapay zeka görevi için yoğun işlem gerektiren ana çipi devreye sokmak zorunda kalmıyor. Bununla birlikte Nvidia, Blackwell mimarisi ve yerel FP4 desteği ile AMD'de bu formda eksik olan büyük bir bellek avantajını koruyor.
Belirleyici farklılıklar yazılım ekosistemlerine bakıldığında ortaya çıkıyor. Nvidia konumunu korumak için köklü CUDA ekosistemine güveniyor. AMD ise buna RDNA mimarisi için kendi ROCm platformuyla karşı çıkıyor. Birçok özel uygulamada uyumluluk açısından, bu henüz Nvidia'nın yazılım yığınıyla tam olarak eşleşmiyor.
Nihayetinde karar, ekosisteme karşı bütçeyi tartmaya dayanıyor. Nvidia, bu ürünler için kayda değer primler talep ediyor DGX Spark sistemlerikarşılığında endüstri standardını sunuyor. Büyük veri merkezleri için kod hazırlamak CUDA'yı neredeyse kaçınılmaz kılıyor. Öncelikle çok fazla yerel bellek gerektiren ve Nvidia'nın tescilli özellikleri olmadan da yapılabilen saf çıkarım görevleri için Ryzen AI Max+ 395, güçlü ve genellikle daha uygun maliyetli bir alternatiftir.
