Viimeisen kuuden kuukauden aikana NanoGPT:n nopeuslasku 3.28:aan FineWebissä laski 33 % kahteen minuuttiin. Äskettäin osa näistä muutoksista on kopioitu massamuodossa suuremmalle 2,92 häviöraitalle. Yllättäen säädetty yolo-juoksu rikkoi 2,92 tappion ennätyksen 25 %:lla.