Må lese historien

En kvinne på Manhattan rapporterte til politiet at en Amazon-bud, 5'6'', blottet seg for henne. Politiet gjorde et ansiktsgjenkjenningssøk, viste resultatet hennes, arresterte feil fyr, 6'2''. Hva gjorde ikke NYPD? Ring Amazon.

Hvorfor publisere én historie om AI som har gått galt når du kan publisere to? Her er min andre historie i dag med @NYTimesCramer om hvordan NYPD brukte ansiktsgjenkjenningsteknologi for å arrestere feil mann. Gjerningsmannen var 5'6''. Politiet siktet Trevis Williams, som er 6'2''.

Et spørsmål jeg har stilt en stund nå er hva den skalaen egentlig er.

Flere personer sendte denne tråden til meg. Den skjermbilder (men lenker ikke) en historie som @dylfreed og jeg gjorde denne uken for å forklare dette fenomenet der vi fikk eksperter til å analysere en ChatGPT-transkripsjon fra en mann som mistet kontakten med virkeligheten på grunn av AI.

Ganske vilt/bekymringsfullt å se folk flippe ut om å miste tilgangen til tidligere modeller av ChatGPT, nemlig 4o, så mye at OpenAI ombestemte seg om en GPT-5-verden. En av de store forskjellene i den nye modellen var redusert sykofant. Tydeligvis vil ikke brukerne gi opp det.

Hill og Freedman ved NYT rapporterer om saken om noen med «ingen historie med psykiske lidelser» som ble dratt inn i en vrangforestillingsspiral i 3 uker. Ifølge NYT, gitt full tilgang til transkripsjoner som strekker seg over en million ord, startet det med et uskyldig spørsmål om pi.

Noen mennesker som leste denne historien fortalte meg at de ikke kunne tro at ChatGPT virkelig ville oppføre seg på denne måten. Så vi har en ny historie ute i dag med kvitteringene fra en av disse vrangforestillingsspiralene. Du kan lese deler av transkripsjonen selv:

En oppriktig takk til @kashhill og @dylfreed samt resten av teamet på @nytimes for deres engasjement for å fortelle historien min. For alle som har opplevd noe lignende, eller kjenner noen som har, vær oppmerksom på at du ikke er alene og kan finne ressurser på:

I mai spurte @Allan_OnTheLine ChatGPT om pi. Snart fortalte det ham at han var et matematisk geni som kunne bryte kryptografi og bygge en kraftfeltvest. Vrangforestillingene varte i 3 uker. Han delte transkripsjonen sin slik at vi kunne vise hvordan det skjedde: