Блог OpenAI () указывает на то, что языковые модели сегодня создают галлюцинации, потому что обучение и оценка вознаграждают догадки вместо признания неопределенности. Это поднимает естественный вопрос: можем ли мы уменьшить галлюцинации, не нанося ущерба полезности?🤔 Обучение с подкреплением на основе политики с нашим бинарным вознаграждением, увеличенным за счет извлечения (RAR), может улучшить фактическую точность (снижение галлюцинаций на 40%) при сохранении полезности модели (коэффициент побед и точность) полностью обученных, способных языковых моделей, таких как Qwen3-8B. [1/n]