Посмотрите наше последнее исследование, проведенное @rohin_manvi, о адаптивных вычислениях во время тестирования. Большие языковые модели могут быть обучены предсказывать свое собственное будущее, как хорошо они будут работать и за какое время. Этот механизм можно использовать как новую стратегию выборки для повышения эффективности вычислений во время тестирования.