Ich war gestern bei einer Veranstaltung über KI für die Wissenschaft, einer Podiumsdiskussion hier bei NeurIPS. Die Podiumsteilnehmer diskutierten, wie sie planen, Menschen auf allen Ebenen im wissenschaftlichen Prozess zu ersetzen. Also stand ich auf und protestierte, dass das, was sie tun, böse ist. Schaut euch um, sagte ich. Der Raum ist gefüllt mit Forschern verschiedener Art, die meisten von ihnen jung. Sie sind hier, weil sie die Forschung lieben und zur Erweiterung des menschlichen Wissens beitragen wollen. Wenn ihr den Menschen aus dem Prozess herausnehmt, was bedeutet, dass Menschen keine Rolle mehr in der wissenschaftlichen Forschung spielen, beraubt ihr sie der Tätigkeit, die sie lieben, und einer wichtigen Quelle von Sinn in ihrem Leben. Und wir alle wollen etwas Sinnvolles tun. Warum, fragte ich, wollt ihr uns die Möglichkeit nehmen, zur Wissenschaft beizutragen? Meine Frage änderte den Verlauf des Panels und setzte den Ton für den Rest der Diskussion. Danach kamen mehrere Teilnehmer zu mir, entweder um mir zu danken, dass ich in Worte gefasst habe, was sie fühlten, oder um zu fragen, ob ich wirklich meinte, was ich sagte. Also dachte ich, ich würde die Frage hier zurückbringen. Einer der Podiumsteilnehmer fragte, ob ich wirklich die Freude an der Wissenschaft dem Finden eines Heilmittels gegen Krebs und der Ermöglichung von Unsterblichkeit vorziehen würde. Ich antwortete, dass wir letztendlich Krebs heilen werden und irgendwann wahrscheinlich die Unsterblichkeit wählen können. Die Wissenschaft macht bereits große Fortschritte mit Menschen an der Spitze. Eines Tages werden wir auch Fusionsenergie und Raumfahrt haben. Vielleicht könnte es diesen Prozess beschleunigen, die Menschen aus dem Prozess herauszunehmen, aber ich denke nicht, dass es das wert wäre. Ich halte es für von entscheidender Bedeutung, dass wir Menschen die Kontrolle über unseren eigenen Fortschritt haben. Das kollektive Wissen der Menschheit zu erweitern, ist, denke ich, das Sinnvollste, was wir tun können. Wenn Menschen nicht mehr sinnvoll zur Wissenschaft beitragen könnten, wäre das eine Katastrophe. Also, nein. Ich denke nicht, dass es sich lohnt, ein Heilmittel gegen Krebs schneller zu finden, wenn das bedeutet, dass wir nie wieder Wissenschaft betreiben können. Viele von denen, die letzte Nacht zu mir kamen, die mich fragten, ob ich es ernst meinte oder nur trollte, hielten die Prämisse für absurd. Natürlich wird es immer Platz für Menschen in der Wissenschaft geben. Es wird immer Aufgaben geben, die nur Menschen erledigen können, Einsichten, die nur Menschen haben, und so weiter. Daher sollten wir KI willkommen heißen. Forschung ist hart, und wir brauchen jede Hilfe, die wir bekommen können. Ich antwortete, dass ich hoffte, dass sie recht haben. Das heißt, ich hoffe wirklich, dass es immer Teile des Forschungsprozesses geben wird, für die Menschen unerlässlich sind. Aber was ich kritisierte, war nicht das, was wir "schwache Wissenschaftsautomatisierung" nennen könnten, bei der Menschen in wichtigen Rollen im Prozess bleiben, sondern "starke Wissenschaftsautomatisierung", bei der Menschen überflüssig sind. Andere hielten es für unreif, darüber zu streiten, weil eine vollständige Wissenschaftsautomatisierung nicht am Horizont steht. Wieder hoffe ich, dass sie recht haben. Aber ich sehe keinen Schaden darin, es jetzt zu diskutieren. Und ich denke sicherlich nicht, dass wir Forschung zur Wissenschaftsautomatisierung weiter vorantreiben müssen. Andere bemerkten, dass dies ein sinnloser Streit sei. Die Wissenschaftsautomatisierung kommt, ob wir es wollen oder nicht, und wir sollten uns besser daran gewöhnen. Der Zug kommt, und wir können einsteigen oder uns ihm in den Weg stellen. Ich halte das für ein bemerkenswert feiges Argument. Es liegt an uns als Gesellschaft zu entscheiden, wie wir die Technologie, die wir entwickeln, nutzen. Es ist kein Zug, es ist ein Lastwagen, und wir sollten besser das Steuer übernehmen. Einer der Podiumsteilnehmer machte eine Schachanalogie und argumentierte, dass viele Menschen Schach spielen, obwohl Computer jetzt viel besser als Menschen im Schach sind. Also könnten wir Wissenschaft als eine Art Hobby betreiben, auch wenn die echte Wissenschaft von Computern gemacht wird. Wir würden weit entfernt von der Grenze spielen, vielleicht die Lücken füllen, die KI-Systeme nicht interessieren. Das war, um es milde auszudrücken, keine zufriedenstellende Antwort. Während ich Spiele liebe, betrachte ich das Spielen von Spielen sicherlich nicht als so bedeutungsvoll wie die Erweiterung des menschlichen Wissens. Danke, aber nein danke. Insgesamt war es jedoch auffällig, dass die meisten derjenigen, mit denen ich sprach, mir für das Ansprechen des Themas dankten, da ich Bedenken äußerte, die sie bereits hatten. Einer von ihnen bemerkte, dass, wenn man an der Automatisierung der Wissenschaft arbeitet und sich nicht einmal ein wenig um das Endziel sorgt, man ein Psychopath ist. Ich würde hinzufügen, dass eine andere Möglichkeit ist, dass man nicht wirklich an das glaubt, was man tut. Einige könnten fragen, warum ich dieses Argument über Wissenschaft und nicht zum Beispiel über visuelle Kunst, Musik oder Spieldesign mache. Das liegt daran, dass die Veranstaltung von gestern über KI für die Wissenschaft war. Aber ich denke, dass dasselbe Argument für alle Bereiche menschlichen kreativen und intellektuellen Ausdrucks gilt. Es ist etwas, das wir vermeiden sollten, wenn wir können, menschliche intellektuelle oder kreative Arbeit überflüssig zu machen, und wir sollten es absolut vermeiden, wenn es keine gleichwertig bedeutungsvollen neuen Rollen für Menschen gibt, in die sie übergehen können. Man könnte weiter argumentieren, dass es unglaublich egoistisch ist, daran zu arbeiten, Menschen aus bedeutungsvoller kreativer Arbeit wie wissenschaftlicher Forschung herauszunehmen. Man erhält die intellektuelle Befriedigung, neue KI-Methoden zu erfinden, aber die nächste Generation bekommt keine Chance, beizutragen. Warum wollt ihr euren Kindern (akademischen und biologischen) die Möglichkeit nehmen, sich an der bedeutungsvollsten Tätigkeit der Welt zu beteiligen? Also, woran glaube ich, da ich ein KI-Forscher bin, der aktiv an den Arten von KI-Methoden arbeitet, die zur Automatisierung der Wissenschaft verwendet werden? Ich glaube, dass KI-Tools, die uns helfen, produktiver und kreativer zu sein, großartig sind, aber dass KI-Tools, die uns ersetzen, schlecht sind. Ich liebe Wissenschaft, und ich habe Angst vor einer Zukunft, in der wir in die dunklen Zeiten zurückgedrängt werden, weil wir nicht mehr zur Wissenschaft beitragen können. Menschliche Handlungsfähigkeit, auch in kreativen Prozessen, ist von entscheidender Bedeutung und muss um jeden Preis geschützt werden. Ich weiß nicht genau, wie man die Entwicklung und Nutzung von KI so steuert, dass wir neue Werkzeuge erhalten, aber nicht ersetzt werden. Aber ich weiß, dass es von größter Bedeutung ist.