Byråkratier og LLM-er har en felles egenskap: hvis du gir dem farge på din emosjonelle tilstand, som «Jeg er rasende fordi du...», vil de empatisk håndtere brukerens emosjonelle tilstand i stedet for å bruke sitt symbolske budsjett på det du faktisk vil ha.

(Tanke utløst av en relativt sofistikert brukers innlegg om det de anså som en katastrofe som inkluderte slikt språk, hvor LLM-en faktisk umiddelbart gikk inn i emosjonell støttedyr-modus, men dette er noe jeg har observert i mange år.)

Som jeg en gang formulerte dette om hvordan en farlig fagperson bør forsøke å kommunisere med en regulert institusjon for å få dem til å gjøre det som kreves med minst mulig styr:

For øvrig: Jeg mener emosjonell støtte er en helt legitim ting for en bruker å ønske seg ut av en opplevelse med en LLM. Men ikke be uforvarende om det hvis det du egentlig ønsker er et forsett, eller i det minste ikke be om det før du har forsettet i hånden.

Jeg vet ikke om dette er spesielt hjelpsomt, men for ordens skyld er én setning i mine egne instruksjoner til alle LLM-er som støtter dette: «Med mindre jeg sterkt signaliserer noe annet, bruker jeg dere ikke til emosjonell støtte.» Dette utelukker ikke at de prioriterer det fremfor oppgavesuksess.