I AI-diskursen virker det som om det er en evig dans mellom folk som legger stor vekt på prosesser og folk som fokuserer på resultater. Det virker ganske synlig i debatten om 'er det resonnement?'. Jeg mener begge har rett på forskjellige måter: selvfølgelig er en modell resonnement på en måte, og funksjonelt bryr jeg meg egentlig ikke om mekanismen som fører til CoT og output ikke er analog med hvordan biologiske hjerner gjør det. Men det er også viktige betraktninger om hvilke typer resonnement som brukes, rasjonalet for visse valgte logiske kjeder, og i hvilken grad disse generaliserer robust i situasjoner utenfor distribusjon. 'Prosessfolkene' er ikke alltid blinde motstandere, og 'funksjonell ekvivalens' er heller ikke fundamentalt feil. Prosessfeilene (f.eks. R i jordbær) var tidligere lettere å oppdage, og mange 'ideologiske skeptikere' stoler på dem for å komme med alle slags udokumenterte påstander, noe som gjør det fristende for 'narrative aktivister' å avvise prosessbekymringer helt. Det er tydelig at modellene forbedres i et utrolig tempo, og det er flott. Men det finnes fortsatt feil eller hull i prosessen som et resultat genereres gjennom; Dette er mindre et problem innen koding, matematikk, formell logikk eller områder hvor verifisering er enkel, men mer i mer uklare domener hvor vi verdsetter mangfold av prosesser nettopp fordi vi ikke vet den 'riktige måten', i den grad det i det hele tatt finnes en enkelt. Med mennesker hadde du denne kulturelle og vitenskapelige evolusjonen som over tid finpusser heuristikker og mekanismer; Jeg mener det er viktig at vi opprettholder en viss grad av modellmangfold og kognitiv mangfold med modellene også. Hvis du optimaliserer hardt nok kun på utfall, kan du lett konvergere mot resonnement-monokulturer som fungerer godt i distribusjon, men som feiler nettopp i situasjoner hvor ulike resonnementsmetoder ville ha generert nyttige signaler. Derfor er jeg så opptatt av «la tusen blomster blomstre»-tilnærmingen til normativ tilpasning, og generelt insisterer på at et mye bredere sett av mennesker og grupper skal kunne tilpasse og tilpasse modeller, utover de som tilfeldigvis er i posisjon til å gjøre det på laboratoriene. Selvfølgelig kan mye av menneskelig kognitiv mangfold også være støy, som motivert resonnement, systematiske skjevheter og kulturelle veiavhengigheter som ikke følger sannheten, så du ønsker ikke mangfold bare for mangfoldets skyld. Du trenger verifikasjonsmekanismer som faktisk stresstester resonnement: f.eks. er motstridende samarbeid underutnyttet. Du trenger institusjoner designet for å fremme sannhetssøking, som virkelig er vanskelige å bygge, samt sterke kulturelle og juridiske beskyttelser for idémarkedet, som i økende grad er under press. Og du trenger bedre epistemisk infrastruktur generelt: det er enormt mye vi kunne gjort for å forbedre hvordan vitenskap utføres.