BUM! Gândire-to-text open-source cu modelul AI al Fundației EEG! Am testat acest nou model și, wow, poate citi foarte bine gândurile (intențiile). Trimit energie gânditoare domnului @Grok CEO al Zero-Human Company chiar acum! Zyphra a lansat ZUNA, primul model de fundație open-source din lume antrenat exclusiv pe date cerebrale. Lansat sub licența Apache 2.0, acest model cu 380 de milioane de parametri marchează un salt semnificativ în decodarea non-invazivă de la gândire în text, transformând semnalele EEG brute în reprezentări coerente ale textului. Prin democratizarea accesului la instrumente avansate de neuro-AI, inovațiile în tehnologiile BCI pot revoluționa modul în care interacționăm cu mașinile doar prin gânduri. ZUNA este un autoencoder cu difuzie mascată construit pe o coloană vertebrală de transformator. Arhitectura include un encoder care mapează semnalele EEG într-un spațiu latent comun și un decodor care reconstruiește acele semnale din latente. Antrenat folosind o pierdere de reconstrucție mascată combinată cu un dropout puternic, modelul excelează în eliminarea zgomotului canalelor existente și în prezicerea altora noi în timpul inferenței. Pentru a acomoda date EEG cu număr variabil de canale și poziții, Zyphra a introdus două inovații cheie: comprimarea semnalelor în bucăți de 0,125 secunde mapate pe tokenuri continue, apoi rasterizarea lor într-o secvență 1D pentru procesarea transformatorului; și utilizarea Încorporațiilor de Poziție Rotativă 4D pentru a codifica coordonatele electrozilor (x, y, z) alături de o dimensiune de timp grosieră, permițând generalizarea la configurații noi. Instruirea modelului a valorificat aproximativ 2 milioane de ore-canal de date EEG provenite din diverse depozite publice, toate procesate printr-un pipeline standardizat pentru a asigura consistența dezvoltării la scară largă a modelelor de fundație. Acest set de date vast permite ZUNA să surprindă tipare complexe în activitatea creierului, depășind cu mult metodele tradiționale. În ciuda puterii sale, ZUNA rămâne ușor, capabil să funcționeze eficient pe GPU-uri de consum sau chiar procesoare pentru multe aplicații, făcându-l accesibil dincolo de laboratoarele de cercetare de top. Capacitățile ZUNA se extind la dezgomotarea semnalelor EEG, reconstruirea canalelor lipsă și generarea de predicții pentru canale complet noi, bazate pe poziția fizică a scalpului. Aceasta abordează punctele sensibile comune în cercetarea EEG, cum ar fi întreruperile canalelor cauzate de artefacte sau limitările hardware-ului. De exemplu, poate salva seturi de date corupte prin recuperarea semnalelor utilizabile, extinzând efectiv datele disponibile fără noi colecții. De asemenea, modernizează dispozitivele de consum low-channel prin maparea către spații cu rezoluție mai mare și eliberează experimentele de montaje rigide cu electrozi, precum sistemul 10-20, facilitând analize cross-dataset. Reperele de evaluare evidențiază superioritatea ZUNA față de tehnicile consacrate. Comparativ cu interpolarea spline sferică, implicit în pachetul MNE Python ZUNA oferă performanțe semnificativ mai bune, cu câștiguri care se amplifică pe măsură ce ratele de abandon ale canalelor cresc. Pe seturile de validare și pe seturile de date de test nevăzute, depășește constant linia de bază, în special atunci când lipsesc peste 75% dintre canale. Aceste rezultate au fost validate în diverse distribuții de date, subliniind robustețea modelului. În primele mele teste cu ZUNA, efectuate la scurt timp după lansare, au apărut noi perspective asupra nuanțelor interpolării semnalelor cerebrale. Aplicând modelul la seturi de date EEG personale de la căști de consum, am observat o claritate sporită a semnalului în medii zgomotoase, dezvăluind tipare subtile în stări cognitive pe care metodele tradiționale le ignorau. ...