Ich habe gemischte Gefühle zu den Begriffen "AGI" und "ASI" entwickelt, um zu vermitteln, wohin diese Technologie führt. Einerseits hat AGI eine Schlüsselrolle dabei gespielt, talentierte Menschen zu motivieren, die sich obsessiv mit diesem Problem beschäftigt haben (@demishassabis, @ShaneLegg, @ilyasut, viele andere) und den Kapitalfluss ermöglicht, der viele unserer Fortschritte möglich gemacht hat. Andererseits schadet "AGI" oder "ASI" oder jede Variante derzeit aktiv dem Diskurs darüber, wie die interessanteste Technologie unserer Lebenszeit entwickelt und genutzt wird. a) Es ist keine genaue Beschreibung dessen, wohin wir steuern, zumindest nicht so, wie die meisten Menschen den Begriff interpretieren. Schaut euch die aktuellen Gespräche mit @karpathy und @dwarkesh_sp an, und ihr seht sofort, wie weit wir von etwas entfernt sind, das auch nur annähernd menschlicher Intelligenz ähnelt. Kein Beweis für einen Durchbruch, die Zeitpläne werden immer weiter. Wir bauen sehr nützliche Technologie, die transformieren könnte, wie Unternehmen arbeiten oder wie Technologie entwickelt wird, aber das hat nichts mit "allgemeiner Intelligenz" zu tun. b) Es ist so überladen geworden, dass ich fast keine zwei Personen finde, die es auf die gleiche Weise definieren oder sich über Zeitpläne einig sind (ob wir es bereits erreicht haben oder 30 Jahre davon entfernt sind). Deshalb muss jeder Blogbeitrag über AGI seine eigene lokale Definition heraufbeschwören, um fortzufahren. Ich abonniere größtenteils die Sichtweise von @random_walkers, warum "Intelligenz" immer in einer fast inkohärenten Weise verwendet wird. c) Am wichtigsten ist, dass es Angst hervorruft – verbunden mit der historischen Nutzung in Sci-Fi und Philosophie (denkt an 2001, Her, alles, was die Singularität heraufbeschwört), das nichts mit dem Technologiebaum zu tun hat, auf dem wir uns tatsächlich befinden. Es macht jede KI-Diskussion unglaublich einfach, zu vermenschlichen und in Hypothetisches abzudriften. Wir benötigen möglicherweise einen anderen Begriff für das, was wir am Ende all dessen zu bauen versuchen und was es für Unternehmen und die Gesellschaft bedeutet.