Fino ad ora, "raccontare una storia di media lunghezza soddisfacente e ben scritta" si è rivelato molto più difficile per i LLM rispetto a dimostrazioni matematiche, generazione musicale, rapporti di ricerca, codice e molte altre forme di lavoro. Le ragioni tecniche sono abbastanza chiare, ma dovrebbero essere modelli linguistici.
Una grande ragione è che è difficile verificare una scrittura davvero buona, quindi non puoi fare un buon RL su di essa. Tuttavia, sospetto che il tweet sopra verrà citato quest'anno con un esempio di un pezzo di scrittura molto buono creato da un LLM da zero, quindi vedremo.
72