Qualcomm-ийн Snapdragon чип дээр суурилсан ухаалаг нүдний шилнүүдэд зориулан хиймэл оюун ухааны шинэ шийдлийг боловсруулжээ
Caltech-ийн судлаачдын үүсгэн байгуулж, UC Berkeley-ийн Ион Стойкагийн зөвлөгөөгөөр хөгжүүлж буй PrismML стартап нь өөрийн бүтээсэн жижиг хэмжээний хэлний загваруудаа (LLM) ухаалаг нүдний шилэнд нэвтрүүлэхээр болжээ. Энэхүү технологи нь Qualcomm-ийн Snapdragon AR1 Gen 1 платформ дээр суурилсан төхөөрөмжүүдэд ажиллах боломжтой юм.
Лхагва гарагт болсон Snapdragon Summit арга хэмжээний үеэр PrismML-ийн 1-бит бүхий “Bonsai” загварыг танилцуулсан байна. Энэхүү 2 тэрбум параметртэй загвар нь дүрс болон хэлний өгөгдлийг боловсруулахад зориулагдсан тул хэрэглэгч нүдний шилээр харж буй зүйлийнхээ талаар бодит цаг хугацаанд асуулт асуух боломжтой болно.
PrismML-ийн технологи нь том хэмжээний загваруудын гүйцэтгэлийг алдагдуулахгүйгээр хэмжээг нь дөрөв дахин багасгадаг онцлогтой. Стартапын зүгээс төхөөрөмж дээр өөрөө ажиллах нээлттэй жинтэй хиймэл оюун ухааныг хөгжүүлж, үүлэн тооцоолол болон төвлөрсөн AI лабораториудаас хамааралгүйгээр тооцоолох хүчин чадлыг илүү үр дүнтэй ашиглахыг зорьж байна.
Гэсэн хэдий ч одоогоор PrismML-ийн технологиор тоноглогдсон, худалдаанд гарах ухаалаг нүдний шилний талаарх албан ёсны мэдээлэл хараахан гараагүй байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
The AI Lab PrismML — founded by Caltech researchers and advised by UC Berkeley’s Ion Stoica — has created a version of its tiny language models for smart glasses running on Qualcomm’s Snapdragon chips.
On Wednesday, at Qualcomm’s Snapdragon Summit, the chipmaker showcased PrismML’s 1-bit Bonsai LLM, which can be run locally on AI smart glasses built on the Snapdragon AR1 Gen 1 Platform.
As TechCrunch previously reported, PrismML’s claim to fame is that it shrinks larger models substantially (in this case, by 4x), while retaining almost all of their performance on standard benchmarks. The smart glasses version is a 2-billion-parameter model tuned for vision and language, so wearers can ask what they’re looking at in real time.
Prism’s larger goal is open-weight AI that runs on devices and makes better use of the computing power they already have. The startup pitches this as an alternative to depending on the privacy promises of proprietary AI labs and their insatiable need for more compute.
Releasing a model for Qualcomm’s chip is a step toward that vision. But no smart glasses running PrismML have been announced yet.
