ここではAIと創造性について多くの議論がなされてきました――AIは本当に新しい知識や芸術を生み出せるのでしょうか? 創造性には2つのタイプがあります。クローズド型(特定の目標を持つもの)と、オープンで「青い空」型(オープンエンド型)です。私のお気に入りの論文の一つでは、閉鎖的創造性はインセンティブに反応する;「青い空」の創造性はそうではなく、内発的動機に基づいています。 AIシステムのトレーニングにおける重要な要素の一つが強化学習(RL)であり、モデルの出力に対してポジティブな信号を生成します。このシステムは「閉じた」創造性を最適化する一方で、「青空」の創造性には的を外している可能性があります。 実際、同じ著者たちは、人間が「ブルースカイ」クリエイティビティではAIを支配し続けている一方で、クローズドクリエイティブを伴うタスクではパフォーマンスが劣っていることを示しています。 AIに真に新しい知識を生み出したいのであれば、この種の「青空」的な創造性に最適化するトレーニングを考えることが有用です。これにより、報酬関数の設計方法や、モデルに内発的動機付け(これは現在も研究されている分野)をどのように付与するかなど、多くの重要な疑問が生じます。