The Bitter Lesson er sterkt feiltolket og generelt overvurdert Skalering er en nødvendig del av intelligens. Det er også det du gjør når du er tom for ideer. Det finnes mange måter å bruke compute på. For eksempel: - søk etter nye akser å bruke compute (O3 / Reasoning Models, 2024) - redesign systemet for å eliminere flaskehalser (Transformers, 2017) - forbedre dataene (det meste av det som driver forbedringer ved Frontier Labs) - redefinere problemet fullstendig (InstructGPT, 2022)