O GPT-5.4 se říkalo, že model může přetrvávat stav. Jeff Dean to zmínil při svém @latentspacepod vystoupení, takže je jasné, že AI Labs o tom přemýšlejí. Vsadil bych se, že je velká šance, že objevili, jak efektivně integrovat modely stavů a prostoru s Transformery ve velkém měřítku. SSM jsou navrženy tak, aby s každým výpočetním krokem přenášely skrytý stav a škálovaly lineárně, nikoli kvadraticky jako u Transformers. To také potvrzuje fámu, že GPT-5.4 bude mít kontextové okno s kapacitou 2 miliony tokenů. Perzistentní stav by v podstatě znamenal, že AI modely se přes noc změní z postavy Guye Pearce v "Memento" na postavu Dustina Hoffmana ve filmu "Rain Man". Dalo by to AI modelům skutečnou dlouhodobou paměť. Byl by to skutečný obrovský průlom.