I løpet av de siste 6 månedene har NanoGPT Speedrun til 3,28 tap på FineWeb falt med 33 % til 2 minutter. Nylig ble en delmengde av disse endringene bulk-kopiert og limt inn til den større 2,92-tapsbanen. Overraskende nok slo den uinnstilte yolo-runen 2,92 tapsrekorden med 25 %.