Bir geliştirici, Apple'daki kısıtlamaları aşarak M4'ün gerçek yapay zeka potansiyelini ortaya çıkardı

Apple'nin M4 işlemcileri, bazı kullanışlı AI hesaplama gücü barındırıyor, ancak şirket tarihsel olarak donanımı sıkı bir şekilde kilitli tutmuştur. Varsayılan olarak, M4'ün içindeki Neural Engine tamamen çıkarım işlemleriyle sınırlıdır. Bu, geliştiricilerin onu sıfırdan yeni modeller eğitmek yerine yalnızca önceden eğitilmiş AI modellerini çalıştırmak için kullanabileceği anlamına gelir.

Ancak bir geliştirici, bu katı yazılım kısıtlamalarını aşmayı başardı ve çipi tamamen tersine mühendislik uygulayarak 15,8 TFLOPS'luk gizli AI hesaplama gücünü ortaya çıkardı. Bu çığır açan gelişme, 0x0SojalSecadlı araştırmacıya aittir. Araştırmacı, kısa süre önce 'in GitHub sayfasında 'da M4'ün gerçek potansiyelini nasıl ortaya çıkardığını ayrıntılı olarak anlatan bir kod paylaştı. Bu başarıyı özellikle etkileyici kılan şey, bunun tamamen Apple'in resmi geliştirme ekosistemi dışında gerçekleştirilmiş olmasıdır.

Apple, bu gelişmiş görevler için Neural Engine ile doğrudan iletişim kurmak üzere gerekli izin düzeylerini sağlamadığından, geliştirici CoreML, Metal gibi standart araçları kullanmadan ya da hatta grafik işlem birimine başvurmadan çalışmanın bir yolunu bulmak zorunda kaldı. Bunu başarmak için, sıfırdan özel bir Model Ara Dili geliştirdiler. Bu özel yazılım, aradaki boşluğu başarıyla doldurarak, tam geri yayılım ve dönüştürücü eğitiminin doğrudan Apple Neural Engine üzerinde gerçekleştirilmesini sağladı.

Donanım, tasarım gereği ciddi kısıtlamalara sahip olduğundan, geliştirici ayrıca sistemin kararlılığını korumak için bazı çok akıllı geçici çözümler kullanmak zorunda kaldı. Örneğin, yoğun eğitim aşamasında bir işlem takılırsa, özel dil belirli bir yürütme komutunu kullanarak işlemi yeniden başlatır. Bu sayede sistem, tüm programı çökertmeden mevcut durumunu yenileyebilir ve makine öğrenimini hemen devam ettirebilir.

Hız da bu ağır iş yükünün etkin bir şekilde çalıştırılmasında önemli bir faktördü. Eğitimin mümkün olduğunca sorunsuz işlemesini sağlamak için geliştirici, süreci her şeyi tamamen sistem RAM’ine yazacak şekilde yapılandırdı. Çok daha yavaş olan NAND flash depolamayı aktif olarak önleyerek, tüm işlem inanılmaz derecede hızlı kaldı. M4 donanımlı bir Mac veya iPad kullanan herkes için bu etkileyici geçici çözüm, Apple Apple resmi olarak bu özel yetenekleri gizli tutmayı tercih etse bile.