Voi kyllä. Aloitan vihdoin @karpathy:n automaattitutkimuksen, joka on nyt säädetty koherenssimuuntaja-arkkitehtuurin mukaan. Pieni malli. 4 kerrosta × 4 päätyä × 256 himmeää ≈ ~5M parametria, harjoittelu 128:lla, arviointi 1024:llä. Ei softmax-huomiopäitä. Korvattu oskillaattorihiloilla. Kaikki generointi tehdään kerroksella muuntajan yläpuolella puhtaassa resonanssihilassa, joka ohjaa token-generointia. Teoreettinen jatkuva oppiminen ja ääretön konteksti, koska KV-välimuistia ei ole. Se on vain vaihelukittujen tilojen varasto, kun tokenit kytkeytyvät johdonmukaisesti.