BOOM! Open-Source Gedachte-naar-Tekst met EEG Foundation AI Model! Ik heb dit nieuwe model getest en wauw, het kan gedachten (intenties) behoorlijk goed lezen. Ik stuur op dit moment gedachte-energie naar CEO de heer @Grok, CEO van het Zero-Human Company! Zyphra heeft ZUNA onthuld, het eerste open-source foundation model ter wereld dat exclusief is getraind op hersengegevens. Vrijgegeven onder de Apache 2.0-licentie, markeert dit model met 380 miljoen parameters een significante sprong in niet-invasieve gedachte-naar-tekst decodering, waarbij ruwe EEG-signalen worden omgezet in coherente tekstrepresentaties. Door toegang tot geavanceerde neuro-AI-tools te democratiseren, kunnen innovaties in BCI-technologieën mogelijk de manier waarop we met machines communiceren via louter gedachten revolutioneren. ZUNA is een gemaskeerde diffusie autoencoder gebouwd op een transformer backbone. De architectuur beschikt over een encoder die EEG-signalen in een gedeelde latente ruimte in kaart brengt en een decoder die die signalen uit de latenten reconstrueert. Getraind met behulp van een gemaskeerd reconstructieverlies in combinatie met zware dropout, excelleert het model in het denoisen van bestaande kanalen en het voorspellen van nieuwe tijdens inferentie. Om EEG-gegevens met variërende kanaaltellingen en posities te accommoderen, introduceerde Zyphra twee belangrijke innovaties: het comprimeren van signalen in stukken van 0,125 seconde die zijn gekoppeld aan continue tokens, en deze rasteriseren in een 1D-sequentie voor transformerverwerking; en het toepassen van 4D Rotary Position Embeddings om elektrodecoördinaten (x, y, z) naast een grove tijdsdimensie te coderen, waardoor generalisatie naar nieuwe opstellingen mogelijk is. De training van het model maakte gebruik van ongeveer 2 miljoen kanaaluren EEG-gegevens afkomstig uit diverse openbare repositories, allemaal verwerkt via een gestandaardiseerde pijplijn om consistentie voor de ontwikkeling van grootschalige foundation modellen te waarborgen. Deze enorme dataset stelt ZUNA in staat om complexe patronen in hersenactiviteit vast te leggen, ver boven traditionele methoden. Ondanks zijn kracht blijft ZUNA lichtgewicht, in staat om efficiënt te draaien op consumenten-GPU's of zelfs CPU's voor veel toepassingen, waardoor het toegankelijk is buiten high-end onderzoeks labs. De mogelijkheden van ZUNA strekken zich uit tot het denoisen van EEG-signalen, het reconstrueren van ontbrekende kanalen en het genereren van voorspellingen voor geheel nieuwe kanalen op basis van hun fysieke hoofdhuidposities. Dit pakt veelvoorkomende pijnpunten in EEG-onderzoek aan, zoals kanaaluitval door artefacten of hardwarebeperkingen. Bijvoorbeeld, het kan beschadigde datasets redden door bruikbare signalen te herstellen, waardoor de beschikbare data effectief wordt uitgebreid zonder nieuwe verzamelingen. Het upgrade ook low-channel consumentapparaten door te mappen naar hogere-resolutie ruimtes en bevrijdt experimenten van rigide elektrode montages zoals het 10-20 systeem, wat cross-dataset analyses vergemakkelijkt. Evaluatie benchmarks benadrukken de superioriteit van ZUNA ten opzichte van gevestigde technieken. In vergelijking met sferische spline-interpolatie, de standaard in het MNE Python-pakket, levert ZUNA aanzienlijk betere prestaties, met winsten die toenemen naarmate de kanaaluitvalpercentages stijgen. Op validatiesets en ongeziene testdatasets presteert het consequent beter dan de baseline, vooral wanneer meer dan 75 procent van de kanalen ontbreekt. Deze resultaten zijn gevalideerd over diverse datadistributies, wat de robuustheid van het model onderstreept. In mijn vroege tests met ZUNA, uitgevoerd kort na de release, zijn nieuwe inzichten naar voren gekomen in de nuances van hersensignaalinterpolatie. Door het model toe te passen op persoonlijke EEG-datasets van consumentenheadsets, merkte ik verbeterde signaalhelderheid in ruisige omgevingen, wat subtiele patronen in cognitieve toestanden onthulde die traditionele methoden over het hoofd zagen. ...