Łukasz Kaiser(@OpenAI) powiedział, że w pewnym sensie wstępne szkolenie wydaje się osiągnęło górną część krzywej S. Jednak nie oznacza to, że zwiększanie wstępnego szkolenia przestało działać. W rzeczywistości działa to dokładnie tak, jak się spodziewano, a laboratoria takie jak OpenAI i Google, a także inne, obserwują, że strata maleje w przybliżeniu logarytmicznie, gdy dodajesz więcej mocy obliczeniowej. Problem polega na tym, ile pieniędzy musisz włożyć, aby uzyskać zyski, a mimo że kwoty są ogromne, ludzie nadal inwestują. W przeciwieństwie do tego, w paradygmacie „rozumowania” możesz uzyskać znacznie bardziej uderzający postęp za tę samą cenę, ponieważ rozumowanie wciąż znajduje się w dolnej części krzywej S. Zatem wstępne szkolenie nie wygasło. Powiedział, że po prostu znaleźliśmy nowy paradygmat, który dostarcza znacznie bardziej niezwykłego postępu za tę samą cenę.