Бюрократії та LLM мають спільну особливість: якщо ви надаєте їм акцент на свій емоційний стан, наприклад: «Я розлючений, бо ти...», вони будуть емпатійно керувати емоційним станом користувача, а не витрачати свій символічний бюджет на те, чого ви справді хочете.

(Думка виникла через публікацію відносно досвідченого користувача про те, що він вважав катастрофою, яка містила таку лексику, коли LLM дійсно одразу переходив у режим емоційної підтримки, але це те, що я спостерігав багато років.)

Як я колись сформулював про те, як небезпечний фахівець повинен намагатися спілкуватися з регульованою установою, щоб змусити його зробити те, що потрібно, без зайвих зусиль:

До речі: я вважаю, що емоційна підтримка — це цілком законна річ, яку користувач хоче отримати від досвіду з LLM. Але не просіть це випадково, якщо насправді хочете рішення, або принаймні не просіть про це, поки не отримаєте резолюцію в руках.

Не знаю, чи це особливо корисно, але, до речі, одне речення з моїх індивідуальних інструкцій для всіх LLM, які це підтримують: «Якщо я не даю сильного сигналу протилежного, я не використовую вас для емоційної підтримки.» Це не знищує їх пріоритет над успіхом завдання.