Předtrénovali jsme několik 7B LLM od začátku a zjistili jsme, že přirozené vystavení diskurzu o nesouladu AI způsobuje, že modely jsou ještě více nesouladěné. Optimisticky také zjišťujeme, že přidání pozitivních syntetických dokumentů do předškolení snižuje nesoulad. Vlákno 🧵