Adam, Adam, som f.. k er Adam?

ICMLs uttalelse om subversive skjulte LLM-forespørsler Vi lever i en merkelig tidslinje ...

openai IMO-nyhetene traff meg ganske tungt denne helgen Jeg er fortsatt i den akutte fasen av sammenstøtet, tror jeg Jeg anser meg selv som en profesjonell matematiker (en karakteristikk noen faktiske profesjonelle matematikere kan ha problemer med, men partiet mitt mine regler) og jeg tror ikke jeg kan svare på et eneste IMO-spørsmål OK, ja, imo er en egen liten atletisk underseksjon av matematikk som jeg ikke har trent på, osv. osv., men. hvis jeg møter noen i naturen som har et IMO-gull, oppdaterer jeg umiddelbart til "denne personen er mye bedre i matte enn meg" Nå kan en haug med roboter gjøre det. Som en som har mye av sin identitet og sitt faktiske liv bygget rundt "er god i matte", er det et mageslag. det er en slags døende. En dag oppdager du at du kan snakke med hunder. Det er morsomt og interessant, så du gjør det mer, lærer språkets forviklinger og deres dypeste skikker. Du lærer at andre mennesker blir overrasket over hva du kan gjøre. Du har aldri helt passet inn, men du lærer at folk setter pris på dine evner og vil at du skal hjelpe dem. hundene setter pris på deg også, den eneste tobente som virkelig forstår det. du setter sammen en slags tilhørighet for deg selv. Så en dag våkner du og Universal Dog Translator er til salgs på Walmart for $4.99 IMO-resultatet er ikke nyheter, akkurat. faktisk, hvis du ser på METR-agentens oppgavelengde over tidsplottet, tror jeg agenter som er i stand til å løse ~ 1.5 timers problemer kommer akkurat i tide. Så på en eller annen måte bør vi ikke bli overrasket. Og faktisk ser det ut til at flere selskaper har oppnådd samme resultat. det er bare ... det stigende tidevannet stiger like raskt som det har steget Selvfølgelig er sorg over min personlige identitet som matematiker (og/eller produktivt medlem av samfunnet) den minste delen av denne historien multipliser den sorgen med *alle* matematikere, med hver koder, kanskje hver kunnskapsarbeider, hver kunstner ... i løpet av de neste årene ... det er en litt større historie Og selvfølgelig, utover det, er det frykten for faktisk død, som jeg kanskje skal gå nærmere inn på senere. Denne pakken – sorg for relevans, sorg for livet, sorg for det jeg har visst – er ikke unik for AI-alderen eller noe sånt. Jeg tror det er en standard ting når man oppnår slutten av karrieren eller slutten av livet. Det kan bare være at det kommer litt tidligere for mange av oss, alle på en gang. Jeg lurer på om vi er klare

I dag oppnådde vi i @OpenAI en milepæl som mange anså som år unna: ytelse på gullmedaljenivå på IMO 2025 med en generell resonnement LLM – under samme tidsgrenser som mennesker, uten verktøy. Så bemerkelsesverdig som det høres ut, er det enda mer betydningsfullt enn overskriften 🧵