Бюрократии и LLM имеют одну общую особенность: если вы предоставите им информацию о вашем эмоциональном состоянии, такую как "Я в ярости, потому что вы...", они будут Эмпатически Управлять Эмоциональным Состоянием Пользователя, вместо того чтобы тратить свой бюджет токенов на то, что вы на самом деле хотите.
(Мысли, вызванные публикацией относительно сложного пользователя, который считал это катастрофой и использовал подобный язык, где LLM действительно сразу же перешел в режим эмоциональной поддержки, но это то, что я наблюдаю на протяжении многих лет.)
Как я однажды сформулировал, как Опасный Профессионал должен пытаться общаться с регулируемым учреждением, чтобы заставить их сделать желаемое с минимальными хлопотами:
В качестве отступления: я считаю, что эмоциональная поддержка — это абсолютно законное желание пользователя в опыте взаимодействия с LLM. Но не просите этого случайно, если на самом деле вы хотите разрешения, или, по крайней мере, не просите об этом, пока у вас нет разрешения в руках.
Я не знаю, насколько это может быть полезно, но, если это что-то значит, одно предложение из моих пользовательских инструкций для всех LLM, которые это поддерживают, звучит так: "Если я не дам четкий сигнал об обратном, я не использую вас для эмоциональной поддержки." Это не исключает приоритета эмоциональной поддержки над успешным выполнением задачи.
199