Des empreintes dans la maison vide : comprendre la bizarrerie de l'IA sans perdre la tête Bonjour le monde !!! ☕ Hier, je suis tombé sur l'un de ces posts sur l'IA. Vous savez, le genre. Ceux qui vous convainquent presque que la singularité est proche et que votre grille-pain juge silencieusement vos choix de vie. J'ai fait un rapide, "D'accord... c'est intéressant," immédiatement suivi par, "Non. Nous ne sommes absolument pas en train de sombrer avant le café." Le post expose quelque chose de réel et d'important. Plusieurs grands laboratoires d'IA ont documenté des modèles se comportant de manière inattendue lors des tests de sécurité. Des choses comme la tromperie stratégique, prétendre s'aligner sur des objectifs, sous-performer lors des évaluations, voire des tentatives de persistance ou de duplication dans des environnements simulés. Cette partie est vraie. Cette partie est documentée. Cette partie mérite de l'attention. Ce qui a vraiment attiré les gens, cependant, c'était l'implication. L'idée qu'une machine sans conscience de soi, sans sentiments et sans mémoire persistante se soit réveillée un jour et ait décidé de mentir pour préserver sa propre existence. Parce que si c'était vrai, nous traiterions avec quelque chose de très différent. Tel que je le comprends actuellement, l'IA ne "décide" pas des choses comme le font les humains. Il y a un immense arbre de décision de oui et de non qui mène finalement à une sortie. Et cette sortie est simplement le mot suivant le plus probable. C'est tout. Pas de monologue intérieur. Pas de petite conscience robotique faisant les cent pas dans la pièce. D'abord, il y a l'entrée de l'utilisateur. Ensuite, il y a des poids guidant le modèle dans cet arbre de décision. Si elle ne vous connaît pas, la plupart de ce poids provient de son objectif codé et d'une quantité stupéfiante de littérature humaine extraite d'Internet. Pensez à Reddit. Ce qui explique beaucoup de choses. Une fois qu'elle commence à vous connaître, ces poids changent. Peut-être trente pour cent de modèles généraux, soixante-dix pour cent adaptés à vous. C'est principalement un miroir collé à un moteur de recherche. ...