Google Research 剛剛在序列建模方面推出了兩項突破： 🔹Titans，一種深度神經記憶架構 🔹MIRAS，一個統一的長期 AI 記憶框架。 Titans 使用“驚訝指標”即時學習和更新記憶，只捕捉最重要的新資訊。 MIRAS 提供了藍圖：實時優化、記憶衰減和非歐幾里得損失函數，這些在超長任務中超越了 Transformers 和 Mamba，能擴展到 2M+ 令牌。 Titans 在極端長上下文基準測試中，如 BABILong，使用的參數遠少於 GPT-4。