Microsoft Maia 300 yapay zekâ çipi, devasa 288 GB HBM4 bellek ve 18 TB/s bant genişliğiyle geliyor

Microsoft, şirketin Nvidia ve AMD donanımlarına bağımlılığını azaltmayı amaçlayan, özel olarak tasarlanmış en yeni yapay zekâ hızlandırıcısı Maia 300'ü resmen tanıttı. Bu tanıtım, OpenAI'ın kendi bünyesinde geliştirdiği çip Jalapeno'yu tanıtmasından kısa bir süre sonra gerçekleşti.  Çip, bu yılın başlarında piyasaya sürülen Maia 200'ün yerini alıyor. İlk Maia çipi olan Maia 100, 2023'te ortaya çıkmıştı. 

Maia 300, TSMC'nin gelişmiş N2P (2 nm) üretim süreciyle üretilen bir ana hesaplama bölümünü içeren çoklu yongacık tasarımı kullanıyor. Paket ayrıca ayrı bellek ve G/Ç yongacıkları içeriyor; bu da Microsoft'un farklı bileşenleri kendi gereksinimlerine uygun üretim süreçleriyle üretmesine olanak tanıyor. Reuters'a göre, yardımcı çiplerin bir kısmında daha düşük maliyetli bir 3 nm üretim süreci kullanılıyor.

Hızlandırıcı, FP4 hassasiyetinde 13,8 PFLOPS'a ve FP8 hassasiyetinde 6,9 PFLOPS'a kadar hesaplama performansı sunuyor. SoC'nin güç değeri 950 W seviyesinde; bu, Maia 200'ün 750 W'lık değerinden önemli ölçüde yüksek. Microsoft, Maia 300'ü toplam 288 GB bellek ve 18 TB/s bant genişliği sunan sekiz HBM4 yığınıyla donattı. Her yığın 36 GB kapasite sağlıyor ve HBM4 bellek pin başına 9 Gb/s hızında çalışıyor. Karşılaştırma için, Maia 200, 7 TB/s bant genişliğine sahip 216 GB HBM3E bellek içeriyor; bu da yeni hızlandırıcıyı bellek yoğun çıkarım iş yükleri için kullanışlı kılıyor.

Microsoft, hızlandırıcının ara bağlantı özelliklerini de geliştirdi. Maia 300, 3,2 TB/s çift yönlü ölçek büyütme bant genişliği sunuyor ve özel bir yapay zekâ aktarım protokolüne sahip, iki katmanlı Ethernet tabanlı bir ağ kullanıyor. Tek bir raf 96 Maia 300 hızlandırıcısını barındırırken, ölçek büyütme mimarisi yaklaşık 12.000 hızlandırıcı içeren kümeleri destekliyor.

Microsoft, ham teknik özelliklerinin ötesinde, Maia 300'ün önde gelen GPU tabanlı yapay zekâ sistemlerinden megawatt başına %40 daha fazla token üretebildiğini iddia ediyor. Tam donanımlı, 96 hızlandırıcılı bir yapılandırmanın, raf ölçeğinde Maia 200'ün yedi katına kadar token işleme kapasitesi sunduğu bildiriliyor. Ancak şirket, verimlilik avantajının boyutunu bağımsız olarak belirlemeye yetecek kadar ayrıntıyı rakip GPU yapılandırmaları hakkında paylaşmadı.

Microsoft, Maia 300'ü 2027'de üretim ortamlarında devreye almaya başlamayı ve zamanla altyapıyı birkaç gigawatt kapasiteye ulaştırmayı planlıyor. Reuters, şirketin gelecek yıl bir milyondan fazla Maia 300 çipini devreye alabileceğini bildiriyor; bu da üçüncü taraf yapay zekâ hızlandırıcılarına bağımlılığını azaltma hedefini ortaya koyuyor.