«Гіркий урок» сильно неправильно інтерпретований і загалом переоцінений Масштабування — необхідна частина інтелекту. Це також те, що ти робиш, коли у тебе закінчуються ідеї. Існує багато способів витратити на обчислення. Наприклад: - Пошук нових осей для використання обчислень (O3 / Reasoning Models, 2024) - Редизайн системи для усунення вузьких місць (Transformers, 2017) - покращення даних (більшість того, що стимулює покращення в лабораторіях Frontier) - повністю переосмислити проблему (InstructGPT, 2022)