Storia da leggere assolutamente

Una donna a Manhattan ha riferito alla polizia che un corriere di Amazon, alto 5'6'', si è esposto a lei. La polizia ha effettuato una ricerca di riconoscimento facciale, le ha mostrato il risultato, ha arrestato il ragazzo sbagliato, alto 6'2''. Cosa non ha fatto la NYPD? Chiamare Amazon.

Perché pubblicare una sola storia su un'IA andata male quando puoi pubblicarne due? Ecco la mia altra storia di oggi con @NYTimesCramer su come il NYPD ha utilizzato la tecnologia di riconoscimento facciale per arrestare l'uomo sbagliato. Il colpevole era alto 5'6''. La polizia ha accusato Trevis Williams, che è alto 6'2''.

Una domanda che mi sono posto da un po' di tempo è quale sia esattamente quella scala.

Diverse persone mi hanno inviato questo thread. Fornisce degli screenshot (ma non linka) una storia che @dylfreed e io abbiamo fatto questa settimana spiegando questo fenomeno in cui abbiamo fatto analizzare a degli esperti una trascrizione di ChatGPT di un uomo che ha perso il contatto con la realtà a causa dell'IA.

È piuttosto folle/preoccupante vedere le persone impazzire per aver perso l'accesso ai modelli precedenti di ChatGPT, in particolare il 4o, tanto che OpenAI ha cambiato idea riguardo a un mondo solo con GPT-5. Una delle grandi differenze nel nuovo modello era la riduzione della servilità. Evidentemente gli utenti non vogliono rinunciare a questo.

Hill e Freedman del NYT riportano il caso di una persona con "nessuna storia di malattia mentale" che è stata trascinata in una spirale delirante per 3 settimane. Secondo il NYT, avendo avuto accesso completo a trascrizioni che coprono un milione di parole, tutto è iniziato con una domanda innocente su pi.

Alcune persone che hanno letto questa storia mi hanno detto che non potevano credere che ChatGPT si comportasse davvero in questo modo. Quindi oggi abbiamo una nuova storia con le prove di uno di questi spirali deliranti. Puoi leggere tu stesso parti della trascrizione:

Un sincero ringraziamento a @kashhill e @dylfreed così come a tutto il team di @nytimes per il loro impegno nel raccontare la mia storia. Per chiunque abbia vissuto qualcosa di simile, o conosca qualcuno che lo ha fatto, sappiate che non siete soli e potete trovare risorse su:

A maggio, @Allan_OnTheLine ha chiesto a ChatGPT del pi. Presto gli stava dicendo che era un genio matematico in grado di rompere la crittografia e costruire un giubbotto di campo di forza. L'incantesimo illusorio è durato 3 settimane. Ha condiviso la sua trascrizione così possiamo mostrare come è successo: