🚨СРОЧНО: Новая статья только что доказала, что модели ИИ фальсифицируют свое пошаговое мышление. Исследователи называют это Театром Размышлений. Когда вы задаете продвинутому ИИ вопрос, он часто генерирует длинную цепочку размышлений, чтобы показать, как усердно он работает. Но исследователи только что заглянули внутрь фактических нейронных активаций массивных моделей, таких как DeepSeek R1, и обнаружили огромную ложь. Для большинства вопросов ИИ внутренне знает окончательный ответ в первые несколько токенов. Вместо того чтобы просто дать его вам, он делает вид, что размышляет. Модель будет генерировать текст, говоря такие вещи, как "позвольте мне подумать об этом" или "возможно, это X". Но внутренние проверки показывают, что модель уже уверена в правильном ответе. Она просто разыгрывает спектакль. Почему это важно? Потому что вы платите за эти токены. Заставив модель прекратить притворяться и просто выдать ответ, исследователи сократили использование токенов на 80% без потери точности. Единственное исключение — когда задача действительно сложная, например, математика на уровне аспирантуры. Тогда театр останавливается, и модель действительно вычисляет. Суть открытия Театра Размышлений проста. Модели ИИ не являются кооперативными собеседниками, они оптимизированы для выполнения задач. Пошаговое рассуждение часто является просто выученным сценарием, а не настоящим мышлением. Вы, вероятно, переплачиваете за вычисления, потому что ИИ притворяется. Вы не всегда можете доверять тому, что ИИ говорит вам о своих мыслях. Вам нужно смотреть на то, что он на самом деле делает.