Adam, Adam, wie de f..k is Adam?

ICML's verklaring over subversieve verborgen LLM-prompts We leven in een vreemde tijdlijn...

het openai IMO-nieuws heeft me dit weekend behoorlijk geraakt ik zit nog steeds in de acute fase van de impact, denk ik ik beschouw mezelf als een professionele wiskundige (een karakterisering waar sommige echte professionele wiskundigen misschien bezwaar tegen hebben, maar mijn feestje, mijn regels) en ik denk niet dat ik een enkele imo-vraag kan beantwoorden ok, ja, imo is zijn eigen kleine atletische subsectie van wiskunde waarvoor ik niet heb getraind, enz. enz., maar. als ik iemand in het wild ontmoet die een IMO-goud heeft, update ik onmiddellijk naar "deze persoon is veel beter in wiskunde dan ik ben" nu kunnen een heleboel robots het. als iemand die veel van zijn identiteit en zijn echte leven heeft opgebouwd rond "goed zijn in wiskunde," is het een klap in de maag. het is een soort sterven. zoals, op een dag ontdek je dat je met honden kunt praten. het is leuk en interessant, dus je doet het meer, leert de intricaties van hun taal en hun diepste gebruiken. je leert dat andere mensen verrast zijn door wat je kunt doen. je hebt nooit echt in de pas gelopen, maar je leert dat mensen je vermogen waarderen en je om je heen willen hebben om hen te helpen. de honden waarderen je ook, de enige biped die het echt begrijpt. je assembleert voor jezelf een soort van erbij horen. dan word je op een dag wakker en de universele hondvertaler is te koop bij walmart voor $4,99 de IMO-resultaten zijn niet echt nieuws. in feite, als je naar de METR-agent taaklengte in de tijd plot kijkt, denk ik dat agents in staat zijn om ~ 1,5 uur problemen op te lossen precies op tijd komt. dus op de een of andere manier zouden we niet verrast moeten zijn. en inderdaad, het lijkt erop dat meerdere bedrijven hetzelfde resultaat hebben behaald. het is gewoon... de stijgende vloed stijgt zo snel als het is gestegen natuurlijk is de rouw om mijn persoonlijke identiteit als wiskundige (en/of productief lid van de samenleving) het kleinste deel van dit verhaal vermenigvuldig die rouw met *iedere* wiskundige, met elke coder, misschien elke kenniswerker, elke kunstenaar... over de komende jaren... het is een iets groter verhaal en natuurlijk, daarbuiten, is er de angst voor de echte dood, waar ik misschien later meer op in ga. dit pakket -- rouw om relevantie, rouw om leven, rouw om wat ik heb gekend -- is niet uniek voor het AI-tijdperk of iets dergelijks. ik denk dat het een standaardding is als je het einde van je carrière of het einde van je leven nadert. het zou gewoon kunnen zijn dat dat voor velen van ons iets eerder komt, allemaal tegelijk. ik vraag me af of we er klaar voor zijn

Vandaag hebben wij bij @OpenAI een mijlpaal bereikt die velen jaren weg dachten: een gouden medaille-niveau prestatie op de 2025 IMO met een algemeen redeneermodel—onder dezelfde tijdslimieten als mensen, zonder hulpmiddelen. Zo opmerkelijk als dat klinkt, is het nog significanter dan de kop 🧵