GPT-5.4:n huhuttiin mukaan, että malli voi pysyä tilassa. Jeff Dean mainitsi tämän @latentspacepod esiintymisensä yhteydessä, joten selvästi AI-laboratoriot harkitsevat asiaa. Veikkaan, että on suuri mahdollisuus, että he ovat löytäneet, miten tila-avaruusmallit voidaan integroida tehokkaasti Transformereihin suuressa mittakaavassa. SSM:t on suunniteltu kuljettamaan piilotettua tilaa eteenpäin jokaisella laskentavaiheella, ja skaalautuvat lineaarisesti toisin kuin Transformersissa. Tämä tukee myös huhua, että GPT-5.4:llä olisi 2 miljoonan tokenin kontekstiikkuna. Pysyvä tila tarkoittaisi käytännössä, että tekoälymallit siirtyisivät Guy Pearcen hahmosta "Mementossa" Dustin Hoffmanin hahmoksi "Rain Manissa" yhdessä yössä. Se antaisi tekoälymalleille todellisen pitkäaikaisen muistin. Se olisi todellinen valtava läpimurto.