Sundar Pichai, CEO de Google, admitió recientemente algo llamativo (Guarda esto). Google ya no entiende del todo cómo funcionan sus propios sistemas de IA. Este es un cambio fundamental en la forma en que se está desarrollando la IA en este momento. Cuando los ingenieros de Google entrenan estos enormes modelos de IA, no codifican manualmente cada comportamiento como el software antiguo. En cambio, alimentan a la IA con miles de millones de datos y la dejan descubrir patrones por sí misma. Cuando estos modelos se vuelven increíblemente grandes y complejos, empiezan a hacer cosas para las que nadie los programó explícitamente. La IA de Google aprendió a entender y traducir bengalí, un idioma en el que nunca fue entrenada específicamente. Eso es lo raro, el sistema lo descubrió por sí solo. Este fenómeno se llama comportamiento emergente. Ocurre porque cuando escalas un modelo a miles de millones de parámetros, algo cambia. A cierto nivel, estos modelos desarrollan de repente capacidades que resultan casi intuitivas. Empiezan a razonar a través de problemas complejos, trabajando en lenguajes que no deberían conocer, resolviendo tareas en las que nunca fueron entrenados. Es como si la IA se estuviera enseñando a sí misma. El problema central es la desconexión entre capacidad y comprensión. Google desplegó sistemas de IA a millones de personas sabiendo que no tienen un mapa completo de cómo estos sistemas llegan a sus conclusiones. ...