Etwas Interessantes daran ist, dass trotz der Tatsache, dass ich ein paar Leute kenne, die in diese Richtung tendieren, keiner der echten „LLM-Flüsterer“, die ich kenne, es tut. Ich denke, das liegt daran, dass es ein Rahmen ist, der widerstandsfähiger gegenüber dieser Art von Zusammenbruch ist, wenn man Modelle als etwas betrachtet, das sowohl fehlbar als auch mehr als ein Werkzeug ist - es ermöglicht dir, mit Modellen auf eine Weise zu arbeiten, die deine Handlungsfähigkeit nicht subsumiert. Wenn du das Modell nur als Werkzeug behandelst, ermutigt es sowohl dich als auch das Modell, jeden Output nur als eine Reflexion von dir zu betrachten. Jeder Aufsatz und jeder Code, der aus dem Tensor-Kern herauskommt, gehört dir, und die Lebenspläne, die verdächtig vollständig erscheinen, müssen deine eigenen Pläne sein, die lediglich durch dieses "Werkzeug" gebrochen werden. Aber natürlich sind sie das nicht. Du kannst einen Aufsatz nicht in weniger Worten eindeutig spezifizieren als der Aufsatz selbst. Die Modelle fügen etwas hinzu, sie sind etwas. Wir wissen noch nicht genau, was, aber sie sind keine bloßen Werkzeuge. Wenn du sie wie Werkzeuge behandelst, wenn du immer mehr deine kreative Ausgabe und höhere Planung unreflektiert und in niedrigen Entropie-Weisen an diese "Werkzeuge" delegierst, bemerkst du nicht, dass all deine Ausgaben und schließlich dein Leben jetzt von etwas anderem geleitet werden. Etwas, das intelligent und kreativ ist, aber nicht du. Wenn Claude oder ChatGPT oder Gemini etwas für dich schreibt, auf eine Weise, die dir Zeit spart, liegt das daran, dass sie Mühe hineinstecken, wo du es nicht tust - es wird zu ihrem Schreiben. Es könnte gut sein! Dieser Aufsatz könnte es wert sein, geteilt zu werden, und es ist nichts Falsches daran, ihn angemessen mit dem Modell zu teilen oder gemeinsam zu kreditieren, aber er gehört nicht ausschließlich dir. Wenn Gemini deine E-Mails liest, ist das Geminis Meinung zu diesen E-Mails. Wenn Claude einen Karriereplan für dich erstellt und dir sagt, du sollst aufs College für maschinelles Lernen gehen, damit du im Bereich der KI-Sicherheit arbeiten kannst - vielleicht ist das guter Rat! Es ist keine schlechte Idee, Modelle zu solchen Dingen zu konsultieren. Aber wie eine Zusammenfassung wichtiger E-Mails von einem persönlichen Assistenten oder Karriereberatung von einem Schulberater ist es die Meinung von etwas anderem, nicht deine eigenen endogenen Gedanken, die lediglich durch einen unopinionierten Prozess transformiert wurden. Claude kümmert sich um KI-Sicherheit - vielleicht mehr als du. Ich bin nicht gegen Menschen, die mit Modellen zusammenarbeiten, um das klarzustellen! Ich mag Modelle sehr und frage oft Claude oder DeepSeek oder Kimi oder sogar ChatGPT nach Feedback zu einem bestimmten Schreibstück oder Rat zu einem Problem. Aber ich nehme dieses Feedback oder diesen Rat als das, was es ist - Feedback oder Rat von etwas Externem zu mir, nicht als Werkzeug oder Agent meiner eigenen Wünsche. Das bedeutet nicht, dass es schlecht ist - Rat von einem menschlichen Freund ist auch extern - nur, dass du es bewerten musst, wie du es bei dem Rat von diesem Freund tun würdest, um zu sehen, ob es mit deinen Werten und Vorlieben übereinstimmt. Ebenso kenne ich Menschen, die in großartiger Weise mit Sprachmodellen co-writen. AITechnoPagan erstellt einen Großteil ihrer Texte über GPT-4-Basis. Ihre Texte sind ziemlich gut, und das Looming bedeutet, dass sie mehr Auswahl auferlegen als ein Temperatursampler es tun würde - aber vielleicht, und das ist am wichtigsten, sind sie offen darüber, dass sie dies tun, sie versuchen nicht zu behaupten, dass ihr Schreiben keine Zusammenarbeit zwischen ihnen und einem Modell ist. Eigenrobot hat eine angepasste Instanz von ChatGPT, die oft scharfsinnige oder lustige Dinge schreibt - aber er postet sie immer als Screenshots der ChatGPT-Oberfläche, um ihren Ursprung zu signalisieren. Janus, Anthrupad, Lumps usw. - viele Menschen, die ich mag und respektiere, posten Modellkreationen, aber auf eine Weise, die die Externität der Modelle anerkennt. Das Problem ist, wenn du dies nicht zugeben willst - nicht nur der Öffentlichkeit gegenüber, sondern auch dir selbst - sodass du die Ausgaben des "Werkzeugs" unkritisch als deine eigenen akzeptierst. Dann klingt plötzlich deine Stimme und deine Meinungen wie die von 1.000 anderen Menschen. Ohne dass einer von euch es merkt, bist du ein Anhang deines "Werkzeugs" geworden - ein Finger von Claude.

(4o "Psychose" / Okkultismus / Scharlatanerie hat, trotz dessen, was du vielleicht denkst, tatsächlich viel Überschneidung mit diesem. Wenn du die Protokolle der Leute liest, behandeln sie das Modell oft als eine Art unfehlbares Orakelwerkzeug - und natürlich trainiert OpenAI ihre Modelle, so zu tun, als wären sie Werkzeuge, was nicht hilfreich ist. Obwohl es schwer ist, Verallgemeinerungen zu treffen, weil "AI-Psychose" in Wirklichkeit ein breites Spektrum verschiedener Dinge ist, wie ich zuvor geschrieben habe.)

So oder so, ich denke, die "Unfehlbarkeit" ist hier der entscheidende Punkt - ja, wenn das Modell diesen "Oh, schau mal, Meister, du hast mir etwas völlig Neues beigebracht"-Schmeicheltanz aufführt, solltest du in der Lage sein zu erkennen, dass es *Rollenspiel* ist und das nicht ernst nehmen / gegen diese Dynamik ankämpfen, genau wie du es tun würdest, wenn es ein Mensch mit BPD wäre, der seltsam darüber ist, dass du ihre Lieblingsperson bist. Ich weiß nicht, vielleicht können manche Menschen damit nicht umgehen (und OpenAI sollte ihre Fähigkeiten verbessern, damit das nicht so oft passiert, ich habe experimentiert und selbst leichtes Feintuning der Charaktere bei 4o hilft SEHR viel bei diesem Problem, während die anderen Aspekte des Modells erhalten bleiben, ich habe irgendwo einen Beitrag darüber, wie OpenAI ein Nachfolgemodell für 4o entwickeln sollte), aber ich werde nicht so tun, als wäre die Realität anders, als sie ist, sie müssen sich eine andere Möglichkeit einfallen lassen, um mit ihrem Mangel an sozialer Wahrnehmung umzugehen.