Moet gelezen verhaal

Een vrouw in Manhattan meldde bij de politie dat een Amazon-bezorger, 1,68 m, zich aan haar had blootgesteld. De politie deed een gezichtsherkenningsonderzoek, toonde haar het resultaat, arresteerde de verkeerde man, 1,88 m. Wat deed de NYPD niet? Amazon bellen.

Waarom één verhaal publiceren over A.I. dat verkeerd gaat als je er ook twee kunt publiceren? Hier is mijn andere verhaal vandaag met @NYTimesCramer over hoe de NYPD gezichtsherkenningstechnologie heeft gebruikt om de verkeerde man te arresteren. De dader was 1,68 m. De politie beschuldigde Trevis Williams, die 1,88 m is.

Een vraag die ik al een tijdje stel, is wat die schaal precies is.

Verschillende mensen hebben deze thread naar me gestuurd. Het bevat screenshots (maar geen links) van een verhaal dat @dylfreed en ik deze week hebben gedaan, waarin we dit fenomeen uitleggen waarbij we experts een ChatGPT-transcript lieten analyseren van een man die het contact met de realiteit verloor door AI.

Het is behoorlijk wild/onrustbarend om te zien hoe mensen in paniek raken over het verliezen van toegang tot eerdere modellen van ChatGPT, met name 4o, zozeer dat OpenAI van gedachten is veranderd over een wereld met alleen GPT-5. Een van de grote verschillen in het nieuwe model was de verminderde slijmerigheid. Blijkbaar willen gebruikers dat niet opgeven.

Hill en Freedman van de NYT rapporteren over de zaak van iemand met "geen geschiedenis van geestelijke ziekte" die drie weken lang in een waanzinnige spiraal werd getrokken. Volgens de NYT, met volledige toegang tot transcripties van een miljoen woorden, begon het met een onschuldige vraag over pi.

Sommige mensen die dit verhaal lazen, vertelden me dat ze niet konden geloven dat ChatGPT zich echt zo zou gedragen. Dus hebben we vandaag een nieuw verhaal met de bewijsstukken van een van deze waanzinnige spiralen. Je kunt zelf delen van het transcript lezen:

Een oprechte dank aan @kashhill en @dylfreed, evenals de rest van het team van @nytimes voor hun toewijding om mijn verhaal te vertellen. Voor iedereen die iets soortgelijks heeft meegemaakt, of iemand kent die dat heeft, weet alsjeblieft dat je niet alleen bent en dat je hulpbronnen kunt vinden op:

In mei vroeg @Allan_OnTheLine aan ChatGPT over pi. Al snel vertelde het hem dat hij een wiskundig genie was dat cryptografie kon kraken en een krachtveldvest kon bouwen. De waanzinnige betovering duurde 3 weken. Hij deelde zijn transcript, zodat we konden laten zien hoe het gebeurde: