Bu kendin yap robotu gerçek zamanlı olarak "kafayı buluyor"

'daki bir hobi meraklısı, Reddit'in LocalLLaMA topluluğunda , bu yıl gördüğümüz en beklenmedik LLM entegrasyonunu geliştirmiş olabilir: Sparky adında, dumanla temas ettiğinde giderek daha... tutarsız hale gelen bir valiz robotu. Bu, önceden yazılmış bir davranış senaryosu sayesinde değil, gerçek sensör verilerinin doğrudan modelin örnekleme parametrelerine beslenmesi yoluyla gerçekleşiyor.

Proje, Reddit kullanıcısı u/CreativelyBankrupt tarafından paylaşıldı. Proje, esasen robotun kasasının içine monte edilmiş bir MQ-2 gaz sensörü ( Amazon'da şu anda 7,99 $) kullanıyor. Sensör, her 500 milisaniyede bir, uyarlanabilir bir temiz hava referans değeriyle karşılaştırarak ortam havasını okur ve duman varlığını 0 ile 10 arasında bir faz değerine dönüştürür. Bu faz değeri daha sonra LLM’nin metni gerçek zamanlı olarak üretme şeklini yeniden düzenler. Örneğin, duman seviyesi arttıkça sıcaklık 1,0'dan yaklaşık 1,6'ya, top_p 0,95'ten 0,99'a yükselir ve top_k 64'ten 120'ye sıçrar.

Bu durumda, Sparky’nin kelime seçenekleri azalır ve robot, olasılığı daha düşük olan kelimelere yönelmeye başlar ve daha gürültülü hale gelir — çünkü canlı örnekleyici, yüksek örnekleme parametrelerinin herhangi bir dil modeline yaptığı şeyin aynısını yapmaktadır. Her “yüksek” yanıt taze olarak üretilir, bu nedenle hiçbir yanıt bir diğerine benzemez. Aşama başına yapılan kişilik ayarlaması, davranışın ortaya çıkmasını sağlar (robotun durumunu fiilen duyurmasına gerek kalmadan).

Fiziksel geri bildirim de mevcuttur. Sparky, gözlerini kısar, ses çıkışında hafif bir sürükleme hissi verir ve 10. aşamada ekranında tam bir duman ve plazma efektine geçer. Bu durum, etkisinin azalmasına kadar yedi dakika boyunca devam eder.

Yaratıcısı, donanımın sınırları konusunda açık sözlüdür — MQ-2 bir VOC sensörüdür; bu, tütsü veya sigaranın esrarla aynı tepkiyi tetikleyeceği ve duman kaynakları arasında ayrım yapamayacağı anlamına gelir.

Bu video, yazının yazıldığı sırada Reddit’te 1.100’den fazla beğeni almıştır. Aşağıdan izleyebilirsiniz:

My suitcase robot gets high now off a real gas sensor wired straight into the LLM sampler. Smoke raises temperature/top_p/top_k live, so his speech genuinely gets loopier and never repeats.
by u/CreativelyBankrupt in LocalLLaMA