Biurokracje i LLM-y mają wspólną cechę: jeśli dostarczysz im informacji o swoim stanie emocjonalnym, takich jak "Jestem wściekły, ponieważ...", będą Empatycznie Zarządzać Emocjonalnym Stanem Użytkownika, zamiast wydawać swój budżet tokenów na to, czego naprawdę chcesz.

(Myśl wywołana przez stosunkowo zaawansowanego użytkownika, który opublikował to, co uważał za katastrofę, w której użyto takiego języka, gdzie LLM rzeczywiście natychmiast przeszedł w tryb wsparcia emocjonalnego, ale to coś, co obserwuję od wielu lat.)

Jak to kiedyś ująłem, jak Niebezpieczny Profesjonalista powinien próbować komunikować się z regulowaną instytucją, aby skłonić ją do zrobienia tego, co chce, z minimalnym zamieszaniem:

Na marginesie: uważam, że wsparcie emocjonalne to absolutnie uzasadniona rzecz, której użytkownik może oczekiwać od doświadczenia z LLM. Ale nie proś o to przypadkowo, jeśli tak naprawdę chcesz rozwiązania, lub przynajmniej nie pytaj o to, dopóki nie masz rozwiązania w ręku.

Nie wiem, czy to jest szczególnie pomocne, ale dla informacji, jedno zdanie moich niestandardowych instrukcji do wszystkich LLM-ów, które to wspierają, brzmi: "O ile nie sygnalizuję inaczej, nie używam cię do wsparcia emocjonalnego." To nie wyklucza priorytetowego traktowania tego nad sukcesem zadania.