I AI-diskursen verkar det finnas en evig dans mellan människor som lägger stor vikt vid processer och dem som fokuserar på resultat. Det verkar ganska tydligt i debatten om 'är det resonemang?'. Jag tycker att båda har rätt på olika sätt: självklart är en modell på något sätt resonerande, och funktionellt bryr jag mig inte om mekanismen som leder till CoT och utgången inte är analog med hur biologiska hjärnor gör det. Men det finns också viktiga överväganden kring vilka typer av resonemang som används, motiveringen bakom vissa valda logiska kedjor och i vilken utsträckning dessa generaliseras robust i situationer utanför fördelningen. 'Processmänniskorna' är inte alltid blinda motståndare, och de som är 'funktionell ekvivalens' är inte heller fundamentalt felaktiga. Processfelen (t.ex. R i jordgubbar) var dock tidigare lättare att upptäcka, och många 'ideologiska skeptiker' förlitar sig på dem för att göra alla möjliga ogrundade påståenden, vilket gör det frestande för 'narrativa aktivister' att helt avfärda processfrågor. Uppenbarligen förbättras modellerna i en otrolig takt, och det är fantastiskt. Men det finns fortfarande misslyckanden eller luckor i processen genom vilken ett resultat genereras; Detta är mindre ett problem inom kodning, matematik, formell logik eller områden där verifiering är enkelt, och mer i mer suddiga områden där vi värdesätter mångfald av processer just för att vi inte vet det 'rätta sättet', i den mån det ens finns ett enda. Med människor hade man denna kulturella och vetenskapliga evolution som med tiden förfinar heuristiker och mekanismer; Jag tycker det är viktigt att vi upprätthåller en viss grad av modellmångfald och kognitiv mångfald även med modeller. Om du optimerar tillräckligt hårt enbart på utfall kan du lätt konvergera mot resonerande monokulturer som presterar bra i distribution men misslyckas just i de situationer där olika resonemangsmetoder skulle ha genererat användbara signaler. Därför är jag så angelägen om 'låta tusen blommor blomma'-metoden för normativ anpassning, och generellt insisterar på att en mycket bredare grupp människor och grupper ska kunna anpassa och anpassa modeller, bortom de som råkar vara i position att göra det i labben. Självklart kan mycket av mänsklig kognitiv mångfald också vara brus, som motiverat resonemang, systematiska fördomar och kulturella beroenden som inte följer sanningen, så du vill inte bara ha mångfald för sakens skull. Du behöver verifieringsmekanismer som verkligen stresstestar resonemang: t.ex. är motsatta samarbeten underutnyttjade. Du behöver institutioner utformade för att främja sanningssökande, vilket verkligen är svårt att bygga, samt starka kulturella och juridiska skydd för idémarknaden, som alltmer utsätts för press. Och du behöver bättre epistemisk infrastruktur i stort: det finns enormt mycket vi kan göra för att förbättra hur vetenskap bedrivs.