Les bureaucraties et les LLM partagent une particularité en commun : si vous leur fournissez des informations sur votre état émotionnel, comme "Je suis furieux parce que vous...", elles géreront de manière empathique l'état émotionnel de l'utilisateur au lieu de dépenser leur budget de tokens sur ce que vous voulez réellement.

(Pensée occasionnée par la publication d'un utilisateur relativement sophistiqué de ce qu'il considérait comme une catastrophe, qui incluait ce genre de langage, où le LLM est effectivement immédiatement passé en mode animal de soutien émotionnel, mais c'est quelque chose que j'ai observé depuis de nombreuses années.)

Comme je l'ai déjà formulé une fois sur la façon dont un Professionnel Dangereux devrait tenter de communiquer avec une institution réglementée pour les amener à faire ce qui est souhaité avec un minimum de tracas :

En passant : je pense que le soutien émotionnel est une chose absolument légitime qu'un utilisateur peut attendre d'une expérience avec un LLM. Mais ne demandez pas cela par inadvertance si ce que vous voulez réellement est une résolution, ou du moins ne le demandez pas tant que vous n'avez pas la résolution en main.

Je ne sais pas si cela est particulièrement utile, mais pour ce que ça vaut, une phrase de mes instructions personnalisées à tous les LLM qui le supportent est : "À moins que je ne signale fortement le contraire, je ne vous utilise pas pour un soutien émotionnel." Cela ne les empêche pas de le prioriser par rapport à la réussite de la tâche.