muchos de los principales investigadores están comenzando a argumentar que la escalabilidad por sí sola no nos llevará a la AGI, y que eventualmente necesitaremos un gran avance en la investigación similar a la creación de transformadores. Recientemente tuve la oportunidad de hablar con John Hennessy (el presidente de Alphabet), y le pregunté si la tendencia actual de escalabilidad es solo otra fase temporal o un paradigma en sí mismo. Él dijo que hay dos preguntas clave: sí la escalabilidad seguirá ofreciendo avances en la capacidad de construir sistemas de IA para hacer razonamientos complejos. Hasta ahora no hemos visto una pausa en eso, así que la respuesta no es claramente sí, sino probablemente. La segunda pregunta es si la escalabilidad seguirá siendo rentable, y su respuesta a eso fue no. Un métrico útil a considerar es el rendimiento por vatio, y esa curva está comenzando a aplanarse. Creo que se está volviendo cada vez más claro que incluso si la escalabilidad continúa mejorando las capacidades del modelo, el verdadero cuello de botella puede no ser el rendimiento decreciente, sino el costo energético requerido para alcanzar sistemas de nivel AGI y ASI. El estancamiento no está apareciendo en el rendimiento bruto, está apareciendo en el rendimiento por vatio. El problema de ASI, en última instancia, se convierte en un problema energético. Kardashev es.