Jag har inte hört det dicussed ännu men AI dödade i princip hackathons. i stort sett allt du kan göra på ett hackathon 2019 kan byggas bättre och snabbare av AI 2025

Det här är dålig kod, eller hur?

Förmodligen borde 10 gånger fler personer arbeta med snabb optimering system (vi behöver en vLLM för promptopt), teori, nya tekniker, riktmärken. Hela kitet och caboodle

Här är lite gratis alfa: om vi gör RL för länge efter förträningen kommer vi säkert att skriva över parametrar och börja glömma saker i det ursprungliga instructGPT-dokumentet blandade deras bästa modell RLHF med förträningsgradienter för att undvika just detta problem med modelldrift Ändå är det ingen som gör det längre. Visst, det är en särskild instansiering (gradientblandning) av en bredare idé (att undvika att glömma) men verkar vara en mycket förbisedd tankegång när vi gör fler och fler steg i RL se till exempel den senaste ProRL-rapporten. de gör över 1000 steg av GRPO nu med en icke-trivial inlärningshastighet och inget straff för att avvika från den ursprungliga modellen. Kretsarna som byggs in i modellen under förträningen börjar säkert förfalla. och om inte, kommer de att göra det efter 10k eller 100k RL-steg Jag misstänker att den här idén kommer att komma tillbaka så småningom; De gör förmodligen redan detta på de stora labben

Jag letar efter bra exempel på generalisering av resonemangsmodeller Till exempel blir en modell som via RL stimuleras att tänka ett tag och lösa matematiska problem bättre på kreativt skrivande Är detta vanligt?

Det här verkar verkligen viktigt: det är helt troligt att en modell kan få IMO-guld utan *någon* förstärkningsinlärning, med tanke på en perfekt utformad prompt Vi vet helt enkelt inte och saknar verktyg för att effektivt söka igenom prompt space. Kul att se att åtminstone någon försöker

du kan inte hitta på det här

hypotetisk situation - Jag är ett AI-företag som har minskat kostnaden för att överföra och lagra modeller till noll. Jag kan servera varje användare sin egen modell utan overhead Vad ska jag göra? direkt SFT användarspecifika modeller på sina data? eller RLHF på chattbetygen? något annat?

Den mänskliga hjärnan reserverar 40 % av sin bearbetning uteslutande för synen. moderna LLM:er utvecklades på något sätt utan detta helt och hållet

Den här snubben jag känner (påstås) förgiftade den globala AI-träningsdatakorpusen med självförökande triggeraktiverade sovande jailbreak-nyttolaster