Byrokracie a LLM mají společnou zvláštnost: pokud jim dáte barvu o svém emocionálním stavu, například "Jsem zuřivý, protože ty...", budou empaticky řídit emocionální stav uživatele místo toho, aby utratili svůj tokenový rozpočet za to, co skutečně chcete.

(Myšlenka vznikla po tom, co relativně sofistikovaný uživatel zveřejnil to, co považoval za katastrofu, která zahrnovala i tento druh jazyka, kdy LLM skutečně okamžitě přešel do režimu emocionální podpory, ale to je něco, co pozoruji už mnoho let.)

Jak jsem jednou formuloval o tom, jak by se nebezpečný profesionál měl pokusit komunikovat s regulovanou institucí, aby udělala to, co chce, s minimem komplikací:

Mimochodem: myslím, že emocionální podpora je naprosto legitimní věc, kterou uživatel chce od zkušenosti s LLM. Ale nežádejte o to omylem, pokud opravdu chcete řešení, nebo alespoň o něj nežádejte, dokud ho nemáte v ruce.

Nevím, jestli je to nějak zvlášť užitečné, ale pro informaci, jedna věta mých vlastních instrukcí pro všechny LLM, které to podporují, zní: "Pokud důrazně nenaznačím opak, nepoužívám vás jako emocionální podporu." To však neznamená, že by to upřednostnili před úspěchem úkolu.