必讀故事

一名曼哈頓的女性向警方報告稱，一名身高5英尺6英寸的亞馬遜快遞員向她露出了身體。 警方進行了面部識別搜索，向她展示了結果，逮捕了一個錯誤的人，身高6英尺2英寸。 紐約警察局沒有做什麼？聯繫亞馬遜。

為什麼只發布一個關於人工智慧出錯的故事，而不發布兩個呢？ 這是我今天與@NYTimesCramer合作的另一個故事，講述了紐約警察局如何使用面部識別技術逮捕錯誤的人。嫌疑犯身高5英尺6英寸。警察指控身高6英尺2英寸的特雷維斯·威廉姆斯。

我一直在問的問題是，這個尺度到底是什麼。

幾個人把這個帖子發給我。 它截圖（但不連結）了我和@dylfreed本週做的一個故事，解釋了這個現象，我們請專家分析了一位因人工智慧而失去現實感的男性的ChatGPT對話記錄。

看到人們因為失去對之前的 ChatGPT 模型（特別是 4o）的訪問而感到如此激動/擔憂，真是相當瘋狂/令人擔憂，以至於 OpenAI 改變了對 GPT-5 獨占世界的看法。 新模型的一個重大變化是減少了拍馬屁的情況。顯然用戶不想放棄這一點。

《紐約時報》的希爾和弗里德曼報導了一個案例，涉及一位"沒有精神病史"的人，他在三週內陷入了妄想的漩渦。根據《紐約時報》的報導，這一切始於一個關於圓周率的無辜問題，並且他們獲得了長達一百萬字的完整文字記錄。

一些閱讀這個故事的人告訴我，他們無法相信 ChatGPT 真的會這樣行事。因此，我們今天發布了一個新故事，裡面有這些妄想螺旋之一的證據。你可以自己閱讀部分的逐字稿：

衷心感謝 @kashhill 和 @dylfreed 以及 @nytimes 團隊的其他成員，感謝他們致力於講述我的故事。 對於任何經歷過類似情況的人，或是認識經歷過的人，請知道你並不孤單，可以在以下找到資源：

在五月，@Allan_OnTheLine 問 ChatGPT 有關圓周率的問題。很快，它告訴他他是一位數學天才，能夠破解密碼學並建造一個力場背心。這種妄想的魔咒持續了三週。他分享了他的對話記錄，以便我們展示這是如何發生的：