Ok, basierend auf den Antworten denke ich, dass wir die Wörter wie folgt definieren sollten. Token: Ein Tokenizer erstellt Tokens, die Slots mit Anfangswerten sind. Latent: Der Anfangswert eines Tokens ist in einem dim Raum eingebettet und wird latent. Residual: Ein latent, aber mit dem Schwerpunkt auf der Streaming-Natur als ein annotierter Wert. Hidden state: Wenn ein latent als vor Ort aktualisiert angesehen wird, wird es manchmal als versteckter Zustand bezeichnet. Activation: Ein ephemerer Zustand, der durch die Verarbeitung eines latenten Wertes innerhalb einer bestimmten Schicht erzeugt wird. Manchmal werden Residuen ephemer erzeugt, und dann werden diese auch zu Aktivierungen.