Muuntajamallin jäännösliitäntä toteutetaan yleensä kahdella tavalla: Pre-Norm: x + Kerros (Norm(x)) Normin jälkeinen: Norm(x + kerros(x)) Teoksessa A Mathematical Framework for Transformer Circuits jäännösvirta kuvataan sisäisenä keskitettynä työtilana