V diskurzu o AI se zdá, že existuje věčný tanec mezi lidmi, kteří kladou velký důraz na proces, a těmi, kteří se soustředí na výsledky. Zdá se, že je to docela viditelné v debatě o tom, zda se to "je to rozumování?". Myslím, že oba mají pravdu různými způsoby: samozřejmě model je v jistém smyslu uvažování, a funkčně mi je jedno, jestli mechanismus vedoucí k CoT a výstupu není analogický tomu, jak to dělají biologické mozky. Ale také jsou důležité úvahy ohledně druhů uvažování, odůvodnění určitých zvolených logických řetězců a míry, do jaké se tyto řetězce robustně zobecňují v situacích mimo distribuci. 'Procesní lidé' nejsou vždy slepí pochybovači a ani ti 'funkční ekvivalenci' nejsou zásadně nesprávní. Selhání procesů (například R u jahod) bylo dříve snazší odhalit a mnoho "ideologických skeptiků" na ně spoléhá, aby mohli dělat všelijaká nepodložená tvrzení, což je pro "narativní aktivisty" lákavé zcela odmítnout obavy o procesy. Je jasné, že modely se zlepšují neuvěřitelným tempem, a to je skvělé. Přesto však v procesu, kterým je výsledek generován, zůstávají selhání nebo mezery; To je méně problém v programování, matematice, formální logice nebo oblastech, kde je ověřování snadné, ale více v rozmazanějších oblastech, kde si ceníme rozmanitosti procesů právě proto, že neznáme "správný způsob", do té míry, že vůbec existuje jediný. U lidí došlo k kulturnímu a vědeckému vývoji, který postupem času zdokonaluje heuristiky a mechanismy; Myslím, že je důležité, abychom udržovali určitou míru mnohosti modelů a kognitivní rozmanitosti i u modelů. Pokud dostatečně důkladně optimalizujete pouze na základě výsledků, můžete snadno skončit v monokulturách uvažování, které se dobře uplatňují v distribuci, ale selhávají právě v situacích, kde by různé přístupy k uvažování generovaly užitečný signál. Proto jsem tak nadšený pro přístup "nechat rozkvést tisíc květin" k normativnímu zarovnání a obecně trvám na tom, že mnohem širší okruh lidí a skupin by měl být schopen modely přizpůsobovat a sladit, a to i víc než ti, kdo jsou v laboratořích. Samozřejmě spousta lidské kognitivní rozmanitosti může být také motivované uvažování jako hluk, systematické předsudky a kulturní závislosti, které neodpovídají pravdě, takže nechcete rozmanitost jen pro její samotnou rozmanitost. Potřebujete ověřovací mechanismy, které skutečně testují uvažování: například adversariální spolupráce jsou nedostatečně využívány. Potřebujete instituce navržené k podpoře hledání pravdy, které je skutečně těžké vybudovat, stejně jako silnou kulturní a právní ochranu trhu s myšlenkami, který je stále více pod tlakem. A potřebujete lepší epistemickou infrastrukturu obecně: je toho obrovského množství, co bychom mohli udělat pro zlepšení způsobu práce vědy.