Până acum, "a spune o poveste satisfăcătoare și bine scrisă de lungime medie" s-a dovedit mult mai dificilă pentru LLM-uri decât demonstrațiile matematice, generarea muzicii, rapoartele de cercetare, codul și multe alte forme de muncă. Motivele tehnice sunt destul de clare, dar ar trebui să fie modele de limbaj
Un motiv important este că este greu să verifici o scriere cu adevărat bună, așa că nu poți face un RL bun pe ea. Totuși, bănuiesc că tweet-ul de mai sus va fi, citez, pe Twitter cândva anul acesta cu un exemplu de scris foarte bun creat de un LLM de la zero, așa că vom vedea.
74