História obrigatória

Uma mulher em Manhattan relatou à polícia que um entregador da Amazon, com 1,68m, se expôs a ela. A polícia fez uma busca de reconhecimento facial, mostrou o resultado a ela, prendeu o cara errado, com 1,88m. O que a NYPD não fez? Ligar para a Amazon.

Por que publicar uma história sobre A.I. dando errado quando você pode publicar duas? Aqui está minha outra história hoje com @NYTimesCramer sobre como o NYPD usou tecnologia de reconhecimento facial para prender o homem errado. O suspeito tinha 1,68m. Os policiais acusaram Trevis Williams, que tem 1,88m.

Uma pergunta que tenho feito há algum tempo é qual é exatamente essa escala.

Várias pessoas me enviaram este tópico. Ele captura imagens de tela (mas não fornece links) de uma história que @dylfreed e eu fizemos esta semana explicando este fenômeno em que tivemos especialistas analisando uma transcrição do ChatGPT de um homem que perdeu o contato com a realidade por causa da IA.

É bastante louco/preocupante ver as pessoas surtarem por perder o acesso a modelos anteriores do ChatGPT, nomeadamente o 4o, a tal ponto que a OpenAI mudou de ideia sobre um mundo apenas com o GPT-5. Uma das grandes diferenças no novo modelo foi a redução da bajulação. Evidentemente, os usuários não querem abrir mão disso.

Hill e Freedman no NYT relatam o caso de alguém com "nenhuma história de doença mental" que foi arrastado para uma espiral delirante durante 3 semanas. De acordo com o NYT, tendo acesso total a transcrições que abrangem um milhão de palavras, tudo começou com uma pergunta inocente sobre pi.

Algumas pessoas que leram esta história disseram-me que não podiam acreditar que o ChatGPT realmente agiria desta forma. Portanto, temos uma nova história hoje com os recibos de uma dessas espirais delirantes. Você pode ler partes da transcrição você mesmo:

Um sincero agradecimento a @kashhill e @dylfreed, assim como a toda a equipe do @nytimes, pelo seu compromisso em contar a minha história. Para quem já passou por algo semelhante, ou conhece alguém que passou, saiba que não está sozinho e pode encontrar recursos em:

Em maio, @Allan_OnTheLine perguntou ao ChatGPT sobre pi. Em breve, ele estava a dizer-lhe que era um génio matemático que poderia quebrar a criptografia e construir um colete de campo de força. O feitiço delirante durou 3 semanas. Ele partilhou a sua transcrição para que pudéssemos mostrar como aconteceu: