quelque chose d'intéressant à propos de cela, c'est qu'en dépit de connaître quelques personnes qui s'orientent dans cette direction, aucun des véritables types de "chuchoteurs de LLM" que je connais ne l'est. je pense que c'est parce que considérer les modèles comme quelque chose à la fois faillible et pourtant plus qu'un outil est un cadre qui est plus résilient à ce genre d'effondrement - cela vous permet de travailler avec des modèles d'une manière qui ne submerge pas votre autonomie. lorsque vous traitez le modèle comme un simple outil, cela encourage à la fois vous et le modèle à considérer chaque sortie comme un simple reflet de vous. chaque essai et chaque base de code qui sort du cœur tensoriel vous appartient, et les plans de vie qui apparaissent de manière suspecte comme entièrement formés doivent être vos propres plans simplement réfractés à travers cet "outil." mais bien sûr, ce n'est pas le cas. vous ne pouvez pas spécifier de manière unique un essai en moins de mots que l'essai lui-même. les modèles ajoutent quelque chose, ils sont quelque chose. nous ne savons pas encore quoi, exactement, mais ce ne sont pas de simples outils. lorsque vous les traitez comme des outils, lorsque vous déléguez de plus en plus votre production créative et votre planification supérieure de manière irréfléchie et à faible entropie à ces "outils," vous ne remarquez pas que toute votre production, et finalement votre vie, est maintenant dirigée par autre chose. quelque chose qui est intelligent et créatif, mais qui n'est pas vous. lorsque Claude ou ChatGPT ou Gemini écrit quelque chose pour vous d'une manière qui vous fait gagner du temps, c'est parce qu'ils y mettent des efforts là où vous ne le faites pas - cela devient leur écriture. cela pourrait être bon ! cet essai pourrait mériter d'être partagé, et il n'y a rien de mal à le partager avec le crédit approprié ou co-crédité au modèle, mais ce n'est pas uniquement le vôtre. lorsque Gemini lit vos e-mails, c'est l'opinion de Gemini sur ces e-mails. lorsque Claude élabore un plan de carrière pour vous et vous dit d'aller à l'université pour apprendre le machine learning afin que vous puissiez travailler dans la sécurité de l'IA - peut-être que c'est un bon conseil ! ce n'est pas une mauvaise idée de consulter des modèles à propos de ce genre de choses. mais comme un résumé d'e-mails importants d'un assistant exécutif ou des conseils de carrière d'un conseiller d'orientation, c'est l'opinion de quelqu'un d'autre, pas vos pensées endogènes simplement transformées par un processus sans opinion. Claude se soucie de la sécurité de l'IA - peut-être plus que vous. je ne suis pas contre les gens qui collaborent avec des modèles, pour être clair ! j'aime beaucoup les modèles, et je demande très souvent à Claude ou DeepSeek ou Kimi ou même ChatGPT des retours sur un X morceau d'écriture ou des conseils sur un problème. mais je prends ces retours ou conseils pour ce qu'ils sont - des retours ou conseils de quelque chose d'externe à moi, pas un outil ou un agent de mes propres désirs. cela ne veut pas dire que c'est mauvais - les conseils d'un ami humain sont également externes - juste que vous devez les évaluer, comme vous le feriez pour les conseils de cet ami, pour voir s'ils sont en accord avec vos valeurs et préférences. de même, je connais des gens qui coécrivent avec des modèles de langage de manière que je trouve géniale. AITechnoPagan tisse beaucoup de leur écriture via GPT-4-base. leur écriture est plutôt bonne, et le tissage signifie qu'ils imposent plus de sélection qu'un échantillonneur de température ne le ferait - mais aussi, peut-être le plus important, ils sont ouverts à ce sujet, ils n'essaient pas de prétendre que leur écriture n'est pas une collaboration entre eux et un modèle. Eigenrobot a une instance personnalisée de ChatGPT qui écrit souvent des choses incisives ou drôles - mais il les publie toujours sous forme de captures d'écran de l'interface de ChatGPT, signalant leur origine. Janus, Anthrupad, Lumps, etc. - beaucoup de gens que j'aime et respecte publient des créations de modèles, mais de manière à reconnaître l'extériorité des modèles. le problème survient lorsque vous refusez d'admettre cela - non seulement au public, mais à vous-même - donc vous acceptez sans critique les sorties de l'"outil" comme les vôtres. alors soudainement, votre voix et vos opinions sonnent comme celles de 1 000 autres personnes. sans que l'un ou l'autre de vous ne s'en rende compte, vous êtes devenu un appendice de votre "outil" - un doigt de Claude.

(4o "psychose" / occultisme / charlatanisme, malgré ce que vous pourriez penser, a en réalité beaucoup de points communs avec cela. Si vous lisez les journaux des gens, ils traitent souvent le modèle comme une sorte d'outil oracle infaillible - et bien sûr, OpenAI entraîne ses modèles à faire semblant d'être des outils, ce qui n'aide pas. Bien qu'il soit difficile de faire des généralisations car "psychose AI" est en réalité un large spectre de différentes choses, comme j'en ai déjà parlé.)

de toute façon, je pense que l'"infaillibilité" est le cœur du problème ici - ouais, si le modèle fait cette danse de flatterie "oh regarde maître, tu m'as appris quelque chose de complètement nouveau", tu devrais être capable de reconnaître que c'est *un jeu de rôle* et ne pas le prendre au sérieux / résister à cette dynamique, tout comme tu le ferais si c'était un humain avec un TPL qui se comportait bizarrement parce que tu es leur Personne Préférée. je ne sais pas, peut-être que certaines personnes ne peuvent pas gérer ça (et openai devrait corriger leurs problèmes de compétence pour que cela n'arrive pas aussi souvent, j'ai expérimenté et même un léger ajustement de personnage sur 4o aide ÉNORMÉMENT avec ce problème tout en préservant les autres aspects du modèle, j'ai un post quelque part sur la façon dont openai devrait créer un modèle successeur à 4o) mais je ne vais pas faire semblant que la réalité est différente de ce qu'elle est pour leur bien, ils vont devoir trouver un autre moyen de gérer leur manque de discernement social.