Ha habido muchas discusiones aquí sobre la IA y la creatividad: ¿será capaz la IA de crear conocimiento o arte realmente nuevo? Hay distinción entre dos tipos de creatividad: cerrada (con objetivo específico) y creatividad abierta, de "cielo azul" (abierta). En uno de mis artículos favoritos: la creatividad cerrada responde a los incentivos; La creatividad de "cielo azul" no la tiene: se basa en la motivación intrínseca. Un componente clave para entrenar sistemas de IA es la RL, que genera señales positivas dadas las salidas del modelo. Puede que este sistema optimice la creatividad "cerrada", pero no cumpla con la creatividad "azul cielo". De hecho, el mismo grupo de autores muestra que los humanos siguen dominando la IA en la creatividad "blue sky", pero no rinden en tareas que implican creatividad cerrada. Si queremos que la IA cree conocimiento verdaderamente nuevo, es útil pensar en cómo optimizar el entrenamiento para este tipo de creatividad de "cielo azul". Esto abre muchas preguntas importantes sobre cómo diseñar la función de recompensa, cómo dotar al modelo de motivación intrínseca (que es un área activa de investigación), etc.