Det har förts många diskussioner här om AI och kreativitet – kommer AI att kunna skapa verkligt ny kunskap eller konst? Det finns en skillnad mellan två typer av kreativitet: sluten (med specifikt mål) och öppna, "blå himmel" kreativitet (öppen). I en av mina favoritartiklar: sluten kreativitet svarar på incitament; "Blue Sky"-kreativitet gör det inte – den bygger på inre motivation. En nyckelkomponent i träning av AI-system är RL, som genererar positiva signaler baserat på modellens utdata. Det kan vara så att detta system optimerar "sluten" kreativitet, men missar målet när det gäller "blå himmel"-kreativitet. Faktum är att samma författargrupp visar att människor fortsätter att dominera AI på "blå himmel"-kreativitet, men presterar sämre på uppgifter som involverar sluten kreativitet. Om vi vill att AI ska skapa verkligt ny kunskap är det användbart att fundera på hur vi kan optimera träningen för denna typ av "blå himmel"-kreativitet. Detta öppnar upp många viktiga frågor om hur man utformar belöningsfunktionen, hur modellen ska utrustas med inre motivation (vilket är ett aktivt forskningsområde), osv.