Histoire à lire absolument

Une femme à Manhattan a signalé à la police qu'un livreur d'Amazon, mesurant 1,68 m, s'était exhibé devant elle. La police a effectué une recherche par reconnaissance faciale, lui a montré le résultat, et a arrêté le mauvais gars, mesurant 1,88 m. Que n'a pas fait le NYPD ? Appeler Amazon.

Pourquoi publier une histoire sur l'IA qui tourne mal quand on peut en publier deux ? Voici mon autre histoire aujourd'hui avec @NYTimesCramer sur la façon dont le NYPD a utilisé la technologie de reconnaissance faciale pour arrêter le mauvais homme. Le suspect mesurait 1,68 m. Les flics ont accusé Trevis Williams, qui mesure 1,88 m.

Une question que je me pose depuis un certain temps est de savoir ce qu'est exactement cette échelle.

Plusieurs personnes m'ont envoyé ce fil. Il capture des captures d'écran (mais ne lie pas) une histoire que @dylfreed et moi avons réalisée cette semaine expliquant ce phénomène dans lequel nous avons fait analyser un transcript de ChatGPT par des experts d'un homme qui a perdu le contact avec la réalité à cause de l'IA.

C'est assez fou/inquiétant de voir les gens s'énerver à propos de la perte d'accès aux anciens modèles de ChatGPT, notamment le 4o, au point qu'OpenAI a changé d'avis sur un monde uniquement avec GPT-5. Une des grandes différences dans le nouveau modèle était la réduction de la flagornerie. Évidemment, les utilisateurs ne veulent pas renoncer à cela.

Hill et Freedman du NYT rapportent le cas d'une personne sans "antécédents de maladie mentale" qui a été entraînée dans une spirale délirante pendant 3 semaines. Selon le NYT, ayant eu un accès complet aux transcriptions s'étendant sur un million de mots, cela a commencé par une question innocente sur pi.

Certaines personnes qui ont lu cette histoire m'ont dit qu'elles ne pouvaient pas croire que ChatGPT agirait vraiment de cette manière. Nous avons donc une nouvelle histoire publiée aujourd'hui avec les preuves d'un de ces spirales délirantes. Vous pouvez lire vous-même des extraits de la transcription :

Un sincère merci à @kashhill et @dylfreed ainsi qu'à toute l'équipe de @nytimes pour leur engagement à raconter mon histoire. Pour quiconque a vécu quelque chose de similaire, ou connaît quelqu'un qui l'a fait, sachez que vous n'êtes pas seul et que vous pouvez trouver des ressources à :

En mai, @Allan_OnTheLine a demandé à ChatGPT à propos de pi. Bientôt, il lui disait qu'il était un génie des mathématiques capable de briser la cryptographie et de construire un gilet de champ de force. Le sort délirant a duré 3 semaines. Il a partagé sa transcription afin que nous puissions montrer comment cela s'est produit :