PrismML küçük yapay zeka modellerini Qualcomm akıllı gözlüklere getiriyor
PrismML, Caltech araştırmacılarının kurduğu bir yapay zeka laboratuvarı olarak, küçük dil modellerini Qualcomm destekli akıllı gözlükler için optimize etti.
Caltech araştırmacıları tarafından kurulan ve UC Berkeley'den Ion Stoica'nın danışmanlığını yaptığı yapay zeka laboratuvarı PrismML, küçük dil modellerinin bir versiyonunu Qualcomm'un Snapdragon çipleriyle çalışan akıllı gözlükler için geliştirdi.
Çarşamba günü Qualcomm'un Snapdragon Zirvesi'nde, çip üreticisi PrismML'in 1-bit Bonsai LLM'sini sergiledi. Bu model, Snapdragon AR1 Gen 1 Platformu üzerine inşa edilen akıllı gözlüklerde yerel olarak çalışabiliyor.
PrismML'in ana başarısı, daha büyük modelleri önemli ölçüde küçültürken (bu durumda 4 kat), standart karşılaştırma testlerinde performanslarının neredeyse tamamını koruması. Akıllı gözlükler için uyarlanan bu model, 2 milyar parametreli ve görme ile dil için optimize edilmiş durumda. Bu sayede kullanıcılar, gördükleri nesneler hakkında gerçek zamanlı sorular sorabiliyorlar.
Prism'in daha büyük hedefi, cihazlarda çalışan ve mevcut işlem gücünü daha iyi kullanan açık kaynaklı yapay zeka geliştirmek. Girişim bunu, özel yapay zeka laboratuvarlarının gizlilik vaatlerine ve sürekli artan işlem gücü ihtiyacına bağımlı kalmaya bir alternatif olarak sunuyor.
Qualcomm'un çipi için bir model yayınlamak, bu vizyona doğru atılmış önemli bir adım. Ancak PrismML destekli akıllı gözlüklerin henüz bir duyurusu yapılmadı.
