一つの記憶がすべてを支配することはできません。 私たちは、長文脈幾何学的再構成のための新しいハイブリッドメモリアーキテクチャであるLoGeRを紹介します。 LoGeRは最大10kフレーム/キロメートルスケールでの安定した再構成を可能にし、シーケンス長の線形時間スケーリング、完全なフィードフォワード推論、そして後最適化なしを実現しています。 それでも強力な最適化ベースのパイプラインに匹敵するか、それを超えることができます。(1/5) @GoogleDeepMind @Berkeley_AI