Adam, Adam, qui diable est Adam ?

Déclaration de l'ICML concernant les invites cachées subversives des LLM Nous vivons dans une timeline étrange...

les nouvelles de l'IMO d'OpenAI m'ont vraiment frappé ce week-end je suis encore dans la phase aiguë de l'impact, je pense je me considère comme un mathématicien professionnel (une caractérisation avec laquelle certains mathématiciens professionnels pourraient avoir des problèmes, mais ma fête, mes règles) et je ne pense pas pouvoir répondre à une seule question de l'IMO ok, oui, l'IMO est sa propre petite sous-section athlétique des mathématiques pour laquelle je ne me suis pas entraîné, etc. etc., mais. si je rencontre quelqu'un dans la nature qui a un or de l'IMO, je mets immédiatement à jour à "cette personne est bien meilleure en mathématiques que moi" maintenant, un tas de robots peuvent le faire. en tant que personne qui a beaucoup de son identité et de sa vie réelle construite autour de "est bon en mathématiques", c'est un coup au cœur. c'est une sorte de mort. comme, un jour, tu découvres que tu peux parler aux chiens. c'est amusant et intéressant, donc tu le fais plus, apprenant les subtilités de leur langue et leurs coutumes les plus profondes. tu apprends que d'autres personnes sont surprises par ce que tu peux faire. tu n'as jamais vraiment trouvé ta place, mais tu apprends que les gens apprécient ta capacité et veulent que tu sois là pour les aider. les chiens t'apprécient aussi, le seul bipède qui comprend vraiment. tu te construis une sorte d'appartenance. puis un jour, tu te réveilles et le traducteur universel de chiens est en vente chez Walmart pour 4,99 $ le résultat de l'IMO n'est pas vraiment une nouvelle, en fait. si tu regardes le graphique de la durée des tâches des agents METR au fil du temps, je pense que le fait que les agents puissent résoudre des problèmes d'environ 1,5 heure arrive juste à temps. donc d'une certaine manière, nous ne devrions pas être surpris. et en effet, il semble que plusieurs entreprises aient atteint le même résultat. c'est juste... la marée montante qui monte aussi vite qu'elle a monté bien sûr, le chagrin pour mon identité personnelle en tant que mathématicien (et/ou membre productif de la société) est la plus petite partie de cette histoire multipliez ce chagrin par *chaque* mathématicien, par chaque codeur, peut-être chaque travailleur du savoir, chaque artiste... au cours des prochaines années... c'est une histoire légèrement plus grande et bien sûr, au-delà de cela, il y a la peur de la mort réelle, sur laquelle je vais peut-être revenir plus tard. ce paquet -- chagrin pour la pertinence, chagrin pour la vie, chagrin pour ce que j'ai connu -- n'est pas unique à l'ère de l'IA ou quoi que ce soit de ce genre. je pense que c'est une chose standard à mesure qu'on approche de la fin de carrière ou de la fin de vie. il se pourrait juste que cela arrive un peu plus tôt pour beaucoup d'entre nous, tous en même temps. je me demande si nous sommes prêts.

Aujourd'hui, nous chez @OpenAI avons atteint un jalon que beaucoup considéraient comme étant à des années : une performance de niveau médaille d'or au 2025 IMO avec un LLM de raisonnement général—dans les mêmes limites de temps que les humains, sans outils. Aussi remarquable que cela puisse paraître, c'est encore plus significatif que le titre 🧵