Các cơ quan hành chính và LLM có một điểm chung kỳ lạ: nếu bạn cung cấp cho họ thông tin về trạng thái cảm xúc của bạn, chẳng hạn như "Tôi rất tức giận vì bạn...", họ sẽ Quản Lý Cảm Xúc của Người Dùng một cách Đồng Cảm thay vì tiêu tốn ngân sách token của họ vào điều mà bạn thực sự muốn.

(Suy nghĩ được khơi gợi bởi một người dùng tương đối tinh vi đã đăng tải những gì họ coi là một thảm họa, trong đó có loại ngôn ngữ như vậy, nơi mà LLM thực sự đã ngay lập tức chuyển sang chế độ hỗ trợ cảm xúc, nhưng đây là điều tôi đã quan sát trong nhiều năm.)

Khi tôi diễn đạt điều này một lần về cách một Chuyên gia Nguy hiểm nên cố gắng giao tiếp với một tổ chức được quản lý để khiến họ thực hiện điều mong muốn với tối thiểu sự rắc rối:

Nhân tiện: Tôi nghĩ rằng sự hỗ trợ về mặt cảm xúc là một điều hoàn toàn hợp lý mà người dùng muốn có trong trải nghiệm với một LLM. Nhưng đừng vô tình yêu cầu điều đó nếu điều bạn thực sự muốn là một giải pháp, hoặc ít nhất đừng yêu cầu điều đó cho đến khi bạn có giải pháp trong tay.

Tôi không biết điều này có thực sự hữu ích hay không, nhưng để bạn biết, một câu trong hướng dẫn tùy chỉnh của tôi cho tất cả các LLM hỗ trợ điều đó là "Trừ khi tôi có tín hiệu mạnh mẽ khác, tôi không sử dụng bạn để hỗ trợ cảm xúc." Điều này không làm giảm ưu tiên của họ đối với việc hoàn thành nhiệm vụ.