Burocracias e LLMs têm uma peculiaridade em comum: se você lhes fornecer detalhes sobre seu estado emocional, como "Estou furioso porque você...", eles vão Gerenciar Empáticamente o Estado Emocional do Usuário em vez de gastar seu orçamento simbólico com algo que você realmente quer.

(Pensamento causado por um usuário relativamente sofisticado postar o que ele considerou uma catástrofe, incluindo esse tipo de linguagem, onde o LLM realmente entrou imediatamente em modo animal de apoio emocional, mas isso é algo que observo há muitos anos.)

Como já disse uma vez sobre como um Profissional Perigoso deve tentar se comunicar com uma instituição regulada para que ele faça o que é necessário com o mínimo de complicações:

Como um comentário: acho que apoio emocional é algo absolutamente legítimo para um usuário querer em uma experiência com um LLM. Mas não peça isso sem querer se o que você realmente quer é uma resolução, ou pelo menos não peça até ter a resolução em mãos.

Não sei se isso é particularmente útil, mas para constar, uma frase das minhas instruções personalizadas para todos os LLMs que apoiam que é "A menos que eu sinalize fortemente o contrário, não vou usar você para apoio emocional." Isso não elimina que eles prioricem isso em vez do sucesso da tarefa.