Vi måste fixa arkitekturen, rullande fönsterkontext är inte agentminne 🧵
1/rullande fönster-kontext är inte agentminne. de flesta som bygger med AI-agenter vet inte skillnaden. Och det förstör deras produkter.
2/ett rullande fönster är bara vad LLM:n kan se just nu. (tillfälligt. tillståndsfritt. blind utanför fönstret.) Det är den aktiva konversationen (tokens in, tokens ut). När något rullar förbi gränsen är det borta. Fullständigt. Modellen har ingen aning om att den någonsin funnits.
3/agentminne är något helt annat. (det är skillnaden mellan RAM och hårddisk.) Det är explicit lagring (fakta, preferenser, tidigare interaktioner) som lever utanför modellen. Den kan frågas, uppdateras, tas bort. Den överlever sessionsavslut.
4/Utan verkligt minne lär sig agenter faktiskt inte av tidigare samtal. (Det är bara en mycket självsäker hallucination.) Vad de istället gör är att gissa. De matchar mönster inom det nuvarande fönstret och fejkar kontinuitet. Det ser sammanhängande ut. Det är det inte.
5/att blanda ihop de två är där saker går fel tyst. Du antar att din agent känner till användarens preferenser. Det gör det inte (det är bara kontext som rullades ut för två sessioner sedan). Det verkade som att den mindes. det var bara att arbeta med det som fanns framför den.
Din agent är inte trasig. Den hade bara aldrig minne från början.
52