Byråkratier och LLM:er har en egenhet gemensamt: om du ger dem färg om ditt känslotillstånd, som "Jag är rasande för att du...", kommer de empatiskt att hantera användarens känslotillstånd istället för att spendera sin symboliska budget på det du faktiskt vill ha.

(Tanken som väcktes av en relativt sofistikerad användares inlägg om vad de ansåg vara en katastrof som inkluderade sådant språk, där LLM faktiskt omedelbart gick in i emotionellt stöddjursläge, men detta är något jag har observerat i många år.)

Som jag en gång uttryckte detta om hur en farlig yrkesperson bör försöka kommunicera med en reglerad institution för att få dem att göra det som krävs med minsta krångel:

Som en parentes: Jag tycker att emotionellt stöd är helt legitimt för en användare att vilja ha ut av en upplevelse med en LLM. Men be inte om det om du faktiskt vill ha ett löfte, eller åtminstone inte förrän du har det i handen.

Jag vet inte om detta är särskilt hjälpsamt, men för vad det är värt är en mening i mina egna instruktioner till alla LLM:er som stödjer det: "Om jag inte starkt signalerar något annat, använder jag dig inte för emotionellt stöd." Detta utesluter inte att de prioriterar det framför uppgiftens framgång.