, @dwarkesh_sp @ilyasut preguntó: "¿Cómo conseguiste tu mejor gusto para la investigación?" El excientífico jefe de OpenAI dijo: "Lo que realmente puede ampliar la brecha entre los mejores investigadores no es la potencia computacional (Computación) ni la inteligencia pura (Inteligencia), sino la estética (Estética/Gusto). ” La "ley de escala" en la que se apoyó el campo de la IA en el pasado está llegando a su límite, marcando el fin de una era en la que se dependía de la estética de fuerza bruta para impulsar el progreso. Los futuros avances dependerán de métodos de aprendizaje y algoritmos más potentes, conocidos como "investigación". La razón por la que el gusto para la investigación es importante es porque apunta a la verdad subyacente de la inteligencia. Ilya cree que las buenas arquitecturas de IA y los mecanismos de aprendizaje deben "coincidir con la estructura intrínseca del cerebro", es decir, encontrar las heurísticas correctas para el aprendizaje humano: el cerebro humano es un sistema de aprendizaje altamente versátil y extremadamente eficiente que puede dominar nuevas habilidades en muy poco tiempo (como un adolescente que aprende a conducir en solo 10 horas). Los futuros avances en IA vendrán de este método de aprendizaje más eficiente y versátil, en lugar de simplemente aumentar la cantidad de datos o el tamaño del modelo. La perspectiva del coinventor de avances clave como AlexNet, Seq2Seq, AlphaGo, GPT-3 y más sugiere una trascendencia del empirismo: Los datos pueden ser engañosos Las tendencias pueden expirar Pero Estados Unidos no lo hará