随着 MiniMax、Qwen、Kimi 和 NVIDIA 最近发布的混合注意力技术,本文介绍了一种无误差线性注意力,可能会超越它们所有。 这种新技术具有稳定的线性时间注意力,优于任何线性注意力变体,甚至 DeltaNet!