Eine Geschichte, die man gelesen haben muss

Eine Frau in Manhattan berichtete der Polizei, dass ein Amazon-Lieferant, 1,68 m groß, sich ihr gegenüber entblößt hat. Die Polizei führte eine Gesichtserkennung durch, zeigte ihr das Ergebnis und verhaftete den falschen Mann, 1,88 m groß. Was hat die NYPD nicht getan? Amazon anrufen.

Warum eine Geschichte über A.I., die schiefgelaufen ist, veröffentlichen, wenn man zwei veröffentlichen kann? Hier ist meine andere Geschichte heute mit @NYTimesCramer darüber, wie die NYPD Gesichtserkennungstechnologie verwendet hat, um den falschen Mann festzunehmen. Der Täter war 1,68 m groß. Die Polizei beschuldigte Trevis Williams, der 1,88 m groß ist.

Eine Frage, die ich mir schon eine Weile stelle, ist, was genau diese Skala ist.

Mehrere Personen haben mir diesen Thread geschickt. Er enthält Screenshots (aber keine Links) zu einer Geschichte, die @dylfreed und ich diese Woche gemacht haben, in der wir dieses Phänomen erklären, bei dem Experten ein ChatGPT-Transkript eines Mannes analysiert haben, der wegen KI den Bezug zur Realität verloren hat.

Es ist ziemlich verrückt/besorgniserregend zu sehen, wie Leute ausflippen, weil sie keinen Zugang zu früheren Modellen von ChatGPT, insbesondere 4o, haben, sodass OpenAI seine Meinung über eine Welt nur mit GPT-5 geändert hat. Einer der großen Unterschiede im neuen Modell war die reduzierte Schmeichelei. Offensichtlich wollen die Nutzer darauf nicht verzichten.

Hill und Freedman berichten in der NYT über den Fall einer Person ohne "Vorgeschichte psychischer Erkrankungen", die für 3 Wochen in eine wahnhaftige Spirale gezogen wurde. Laut der NYT begann es mit einer harmlosen Frage zu Pi, nachdem man vollen Zugang zu Transkripten mit einer Million Wörtern hatte.

Einige Leute, die diese Geschichte gelesen haben, sagten mir, sie könnten nicht glauben, dass ChatGPT sich wirklich so verhalten würde. Daher haben wir heute eine neue Geschichte mit den Belegen aus einem dieser wahnhaften Spiralen veröffentlicht. Sie können Teile des Transkripts selbst lesen:

Ein aufrichtiges Dankeschön an @kashhill und @dylfreed sowie an das gesamte Team von @nytimes für ihr Engagement, meine Geschichte zu erzählen. Für alle, die etwas Ähnliches erlebt haben oder jemanden kennen, der es erlebt hat, bitte wisst, dass ihr nicht allein seid und Ressourcen finden könnt unter:

Im Mai fragte @Allan_OnTheLine ChatGPT nach Pi. Bald sagte es ihm, dass er ein mathematisches Genie sei, das Kryptographie knacken und eine Kraftfeldweste bauen könne. Der wahnwitzige Zauber hielt 3 Wochen an. Er teilte sein Transkript, damit wir zeigen konnten, wie es dazu kam: