私たちは、他のどのチップよりもはるかに高いスループットを提供しつつ、最小のレイテンシを実現したLLMチップを作っています。私たちはこれをMatX Oneと呼んでいます。 MatX Oneチップは分割可能なシストリックアレイをベースにしており、大型シストリックアレイが知られるエネルギー効率と面積効率を持ちつつ、柔軟な形状を持つ小型行列でも高い利用率を発揮します。このチップは、SRAMファースト設計の低遅延とHBMの長コンテキストサポートを組み合わせています。これらの要素に加え、数値計算の新たなアプローチにより、発表されたどのシステムよりも高いスループットを実現しつつ、同時にSRAMファースト設計のレイテンシーに匹敵します。高いスループットと低いレイテンシーは、サブスクリプション費用に対してよりスマートで高速なモデルを提供します。 開発を終え、製造を迅速に拡大するために5億ドルのシリーズB資金を調達し、1年以内にテープアウトを達成しました。このラウンドは、ウォール街で最もテクノロジーに精通した企業の一つであるジェーン・ストリートと、AGIに関する決定的なメモを書いた創設者のシチュエーショナル・アウェアネスLP@leopoldasch主導しました。参加者には@sparkcapital、@danielgross、@natfriedman基金、@patrickc・@collision、@TriatomicCap、@HarpoonVentures、@karpathy、@dwarkesh_spなどが含まれます。また、マーベルやアルチップを含むサプライチェーン全体での投資家も歓迎しています。 @MikeGunter_と私は、LLMに最適なチップは、LLMに必要なものや進化の過程を深く理解した基礎から設計すべきだと感じたため、MatXを立ち上げました。私たちは、小型モデルの性能、低ボリュームのワークロード、さらにはプログラミングの容易ささえも諦めて、そのようなチップで実現する覚悟があります。 今では100人のチームで、学習率スケジュールからスイング・モジュロ・スケジューリング、ガード・ラウンド・スティッキー・ビッツ、ブラインドメイト接続まで、あらゆることを考えるメンバーが同じ建物に集まっています。もし私たちが多世代のチップを大量に設計・設計・展開するのを手伝いたいなら、ぜひご参加ください。