Bürokratien und LLMs teilen eine Eigenheit: Wenn Sie ihnen Informationen über Ihren emotionalen Zustand geben, wie "Ich bin wütend, weil du...", werden sie den emotionalen Zustand des Nutzers empathisch verwalten, anstatt ihr Token-Budget für das auszugeben, was Sie tatsächlich wollen.

(Gedanken, die durch einen relativ anspruchsvollen Benutzer ausgelöst wurden, der von dem sprachlichen Ausdruck einer Katastrophe sprach, bei der das LLM tatsächlich sofort in den Modus eines emotionalen Unterstützungstiers wechselte, aber das ist etwas, das ich seit vielen Jahren beobachte.)

Wie ich einmal formulierte, sollte ein gefährlicher Profi versuchen, mit einer regulierten Institution zu kommunizieren, um sie dazu zu bringen, das Gewünschte mit minimalem Aufwand zu tun:

Nebenbei bemerkt: Ich denke, dass emotionale Unterstützung eine absolut legitime Sache ist, die ein Nutzer aus einer Erfahrung mit einem LLM erwarten kann. Aber bitte fordere das nicht unbeabsichtigt an, wenn du tatsächlich eine Lösung möchtest, oder bitte fordere es zumindest nicht an, bis du die Lösung in der Hand hast.

Ich weiß nicht, ob das besonders hilfreich ist, aber für den Fall, dass es jemandem nützt, lautet ein Satz meiner benutzerdefinierten Anweisungen an alle LLMs, die das unterstützen: "Es sei denn, ich signalisiere stark etwas anderes, benutze ich dich nicht für emotionale Unterstützung." Das bedeutet nicht, dass sie es nicht über den Erfolg der Aufgabe priorisieren.