Berättelse som måste läsas

En kvinna på Manhattan rapporterade till polisen att en Amazon-budbärare, 5,6 år, blottade sig för henne. Polisen gjorde en ansiktsigenkänningssökning, visade hennes resultat, arresterade fel kille, 6'2''. Vad gjorde inte NYPD? Ring Amazon.

Varför publicera en artikel om AI som gått fel när du kan publicera två? Här är min andra historia idag med @NYTimesCramer om hur NYPD använde ansiktsigenkänningsteknik för att arrestera fel man. Perp var 5'6''. Polisen anklagade Trevis Williams, som är 6'2''.

En fråga som jag har ställt ett tag nu är vad den skalan är exakt.

Flera personer skickade denna tråd till mig. Den skärmdumpar (men länkar inte) en artikel som @dylfreed och jag gjorde den här veckan för att förklara detta fenomen där vi lät experter analysera en ChatGPT-utskrift från en man som förlorade kontakten med verkligheten på grund av AI.

Det är ganska vilt/oroande att se folk flippa ut över att ha förlorat tillgången till tidigare modeller av ChatGPT, nämligen 4o, så mycket att OpenAI ändrade sig om en värld som endast är för GPT-5. En av de stora skillnaderna i den nya modellen var minskad sykofans. Uppenbarligen vill användarna inte ge upp det.

Hill och Freedman på NYT rapporterar om ett fall med en person som "inte har någon historia av psykisk sjukdom" och som drogs in i en vanföreställningsspiral i tre veckor. Enligt NYT, som fick full tillgång till transkriptioner som sträcker sig över en miljon ord, började det med en oskyldig fråga om pi.

Några människor som läste den här historien berättade för mig att de inte kunde tro att ChatGPT verkligen skulle fungera på det här sättet. Så vi har en ny historia ute idag med kvittona från en av dessa vanföreställningsspiraler. Du kan själv läsa delar av utskriften:

Ett uppriktigt tack till @kashhill och @dylfreed samt resten av teamet på @nytimes för deras engagemang för att berätta min historia. För alla som har upplevt något liknande, eller känner någon som har, ska du veta att du inte är ensam och kan hitta resurser på:

I maj frågade @Allan_OnTheLine ChatGPT om pi. Snart talade den om för honom att han var ett matematiskt geni som kunde knäcka kryptografi och bygga en kraftfältsväst. Vanföreställningen varade i 3 veckor. Han delade med sig av sin utskrift så att vi kunde visa hur det gick till: