Så langt har det å «fortelle en tilfredsstillende og godt skrevet mellomlang historie» vist seg langt vanskeligere for LLM-er enn matematiske bevis, musikkgenerering, forskningsrapporter, kode og mange andre former for arbeid. De tekniske grunnene er ganske klare, men de skal være språkmodeller

En stor grunn er at det er vanskelig å verifisere virkelig god skriving, så du kan ikke gjøre god RL på det. Jeg mistenker imidlertid at tweeten ovenfor vil bli sitert en gang i år med et eksempel på et veldig godt skriveverk laget av en LLM fra bunnen av, så vi får se.