過去6か月間で、FineWebでのNanoGPTのスピードランで3.28の損失は33%減少し、2分となりました。最近では、これらの変更の一部がより大規模な2.92ロストラックに一括コピー&ペーストされました。驚くべきことに、未調整のヨロランは2.92の敗北記録を25%更新しました。