Bureaucraties en LLM's delen een eigenaardigheid: als je ze kleur geeft over je emotionele toestand, zoals "Ik ben woedend omdat je...", zullen ze Empathisch Het Emotionele Toestand van de Gebruiker Beheren in plaats van hun tokenbudget uit te geven aan hetgene dat je daadwerkelijk wilt.

(Gedachte veroorzaakt door een relatief geavanceerde gebruiker die een posting deed over wat zij beschouwden als een catastrofe, waarin dat soort taal werd gebruikt, waarbij de LLM inderdaad onmiddellijk in de rol van emotionele ondersteuningsdier ging, maar dit is iets dat ik al vele jaren heb waargenomen.)

Zoals ik dit eens formuleerde over hoe een gevaarlijke professional zou moeten proberen te communiceren met een gereguleerde instelling om hen te laten doen wat gewenst is met een minimum aan gedoe:

Trouwens: ik denk dat emotionele ondersteuning een absoluut legitieme wens is voor een gebruiker in een ervaring met een LLM. Maar vraag daar niet per ongeluk om als je eigenlijk een oplossing wilt, of vraag er in ieder geval niet om totdat je de oplossing in handen hebt.

Ik weet niet of dit bijzonder nuttig is, maar voor wat het waard is, is één zin van mijn aangepaste instructies aan alle LLM's die dat ondersteunen: "Tenzij ik sterk anders signaliseer, gebruik ik je niet voor emotionele ondersteuning." Dit betekent niet dat ze het prioriteren boven het succes van de taak uitschakelen.