ドカン! EEG Foundation AIモデルを用いたオープンソースの思考をテキストに変換! この新しいモデルをテストしていて、驚くほど、思考(意図)をかなりよく読み取れます。今、ゼロヒューマン社のCEO@Grokに思考エネルギーを送っています! Zyphraは、脳データのみを学習した世界初のオープンソース財団モデル「ZUNA」を発表しました。Apache 2.0ライセンスの下でリリースされたこの3億8千万パラメータモデルは、生のEEG信号を一貫したテキスト表現に変換する非侵襲的な思考からテキストへの復号において大きな飛躍を示しています。 高度な神経AIツールへのアクセスを民主化し、BCI技術の革新を進め、思考だけで機械と関わる方法を革命的に変える可能性があります。 ZUNAはトランスバックボーン上に構築されたマスク付き拡散オートエンコーダです。このアーキテクチャは、EEG信号を共有潜在空間にマッピングするエンコーダーと、その潜在空間から信号を再構成するデコーダを備えています。 マスクされた再構成損失と重いドロップアウトを組み合わせて訓練され、既存チャネルのノイズ除去や推論中の新しいチャネルの予測に優れています。異なるチャネル数や位置を持つEEGデータに対応するため、Zyphraは2つの重要な革新を導入しました。信号を0.125秒単位のチャンクに圧縮し、連続トークンにマッピングし、トランス処理用の1次元シーケンスにラスタライズすること。4次元回転位置埋め込み技術を用いて電極座標(x, y, z)を粗い時間次元とともに符号化し、新規セットアップへの一般化を可能にしています。 このモデルのトレーニングは、多様な公共リポジトリから得られた約200万チャンネル時間のEEGデータを活用し、すべて標準化されたパイプラインを通じて処理され、大規模な基礎モデル開発の一貫性を確保しています。 この膨大なデータセットにより、ZUNAは従来の手法をはるかに上回る複雑な脳活動パターンを捉えることができます。その高性能にもかかわらず、ZUNAは軽量であり、多くの用途でコンシューマーGPUやCPUでも効率的に動作できるため、ハイエンドな研究所を超えて利用可能です。 ZUNAの機能は、脳波信号のノイズ除去、欠損チャネルの再構築、そして物理的な頭皮位置に基づく全く新しいチャネルの予測生成にも及びます。 これは、アーティファクトによるチャネルの切断やハードウェアの制限など、EEG研究でよくある課題に対応しています。例えば、破損したデータセットを利用可能な信号を復元することで、新たなコレクションなしで実質的に利用可能なデータを拡大できます。 また、低チャネルの消費者向けデバイスを高解像度空間にマッピングすることでアップグレードし、10-20システムのような硬い電極モンタージュから実験を解放し、クロスデータセット解析を容易にします。 評価ベンチマークは、ZUNAが既存の技術に対して優れていることを強調しています。球面スプライン補間と比較して、MNE PythonパッケージのデフォルトZUNAは大幅に優れた性能を提供し、チャネルドロップアウト率の増加に伴いその効果も増幅されます。 検証セットや未確認テストデータセットでは、特に75%以上のチャネルが欠落している場合に、ベースラインを一貫して上回る性能を発揮します。これらの結果は多様なデータ分布で検証され、モデルの堅牢性が強調されました。 ZUNAのリリース直後に行った初期のテストでは、脳信号補間の微妙なニュアンスについて新たな知見が浮かび上がりました。このモデルを消費者向けヘッドセットの個人用EEGデータセットに適用することで、騒がしい環境での信号の明瞭さが向上し、従来の手法では見落とされがちな認知状態の微妙なパターンが明らかになりました。 ...