LLM-er er ikke «uskarpe kompressorer av mening», men «perfekte omorganiseringer av struktur». Det antyder at de er mer som dynamiske, reversible krypteringssystemer enn som oppsummerere. Modellen glemmer ikke; det bare re-representerer. «Forståelse» i disse systemene er kanskje ikke komprimering, men geometri – organisering av informasjon på måter som gjør relasjoner beregnbare uten å miste troskap.

Vi har lenge antatt at kognisjon handler om å forenkle, komprimere, redusere – ta rotete data og koke dem ned til mening. Men dette arbeidet innebærer at transformatorer ikke "koker ned" i det hele tatt; de utfører massivt detaljerte, reversible omorganiseringer.

Faen jeg følte bare AGI