In der KI-Diskussion scheint es diesen ewigen Tanz zwischen Menschen zu geben, die viel Wert auf den Prozess legen, und Menschen, die sich auf Ergebnisse konzentrieren. Das ist ziemlich sichtbar in der Debatte 'Ist es Denken?'. Ich denke, beide haben auf unterschiedliche Weise recht: Natürlich denkt ein Modell in gewissem Sinne, und funktional ist es mir egal, ob der Mechanismus, der zum CoT und zum Ergebnis führt, nicht analog zu dem ist, wie biologische Gehirne es tun. Aber es gibt auch wichtige Überlegungen zu den Arten des Denkens, den Gründen für bestimmte gewählte logische Ketten und dem Grad, in dem diese robust in Situationen außerhalb der Verteilung verallgemeinert werden. Die 'Prozessmenschen' sind nicht immer blind ablehnend, und die 'funktionale Äquivalenz'-Menschen sind auch nicht grundsätzlich falsch. Die Prozessfehler (z. B. R in Erdbeeren) waren früher leichter zu erkennen, und viele 'ideologische Skeptiker' verlassen sich auf sie, um allerlei unbegründete Behauptungen aufzustellen, was es verlockend macht, dass 'Erzählaktivisten' die Prozessbedenken völlig abtun. Offensichtlich verbessern sich die Modelle in einem unglaublichen Tempo, und das ist großartig. Aber es bleiben Fehler oder Lücken im Prozess, durch den ein Ergebnis generiert wird; das ist weniger ein Problem in der Programmierung, Mathematik, formalen Logik oder in Bereichen, in denen die Überprüfung einfach ist, sondern mehr in unschärferen Bereichen, in denen wir Vielfalt der Prozesse gerade deshalb schätzen, weil wir nicht wissen, was der 'richtige Weg' ist, in dem Maße, in dem es überhaupt einen einzigen gibt. Bei Menschen gab es diese kulturelle und wissenschaftliche Evolution, die im Laufe der Zeit Heuristiken und Mechanismen verfeinert; ich denke, es ist wichtig, dass wir auch eine gewisse Modellvielfalt und kognitive Diversität mit Modellen aufrechterhalten. Wenn man sich nur auf Ergebnisse konzentriert und hart optimiert, könnte man leicht auf Denkmonokulturen konvergieren, die in der Verteilung gut abschneiden, aber genau in den Situationen versagen, in denen vielfältige Denkansätze nützliche Signale generiert hätten. Daher bin ich so begeistert von dem Ansatz 'lass tausend Blumen blühen' zur normativen Ausrichtung und generell darauf bedacht, dass eine viel breitere Gruppe von Menschen und Gruppen in der Lage sein sollte, Modelle anzupassen und auszurichten, über diejenigen hinaus, die zufällig in der Lage sind, dies in den Laboren zu tun. Natürlich kann viel menschliche kognitive Diversität auch Lärm wie motiviertes Denken, systematische Vorurteile und kulturelle Pfadabhängigkeiten sein, die nicht der Wahrheit folgen, also will man nicht einfach nur Vielfalt um ihrer selbst willen. Man braucht Verifikationsmechanismen, die das Denken tatsächlich auf die Probe stellen: z. B. werden adversariale Kooperationen zu wenig genutzt. Man braucht Institutionen, die darauf ausgelegt sind, die Wahrheitsfindung zu fördern, was wirklich schwer zu erreichen ist, sowie starke kulturelle und rechtliche Schutzmaßnahmen für den Ideenmarkt, die zunehmend unter Druck stehen. Und man braucht eine bessere epistemische Infrastruktur im Allgemeinen: Es gibt eine enorme Menge, die wir tun könnten, um zu verbessern, wie Wissenschaft betrieben wird.