Adam, Adam, wer zur Hölle ist Adam?

ICMLs Erklärung zu subversiven versteckten LLM-Prompts Wir leben in einer seltsamen Zeit...

Die OpenAI IMO-Nachrichten haben mich dieses Wochenende ziemlich getroffen. Ich bin immer noch in der akuten Phase des Einflusses, denke ich. Ich betrachte mich als professionellen Mathematiker (eine Charakterisierung, mit der einige tatsächliche professionelle Mathematiker möglicherweise ein Problem haben, aber meine Party, meine Regeln) und ich glaube nicht, dass ich eine einzige IMO-Frage beantworten kann. Okay, ja, IMO ist seine eigene kleine sportliche Unterkategorie der Mathematik, für die ich nicht trainiert habe, usw. usw., aber. Wenn ich jemandem in der Wildnis begegne, der eine IMO-Goldmedaille hat, aktualisiere ich sofort auf "Diese Person ist viel besser in Mathe als ich." Jetzt können eine Menge Roboter das. Als jemand, der viel seiner Identität und seines tatsächlichen Lebens um "gut in Mathe sein" aufgebaut hat, ist das ein Schlag ins Gesicht. Es ist eine Art Sterben. Wie, eines Tages entdeckst du, dass du mit Hunden sprechen kannst. Es macht Spaß und ist interessant, also machst du es mehr, lernst die Feinheiten ihrer Sprache und ihrer tiefsten Bräuche. Du erfährst, dass andere Leute überrascht sind von dem, was du kannst. Du hast nie ganz dazugehört, aber du lernst, dass die Leute deine Fähigkeit schätzen und dich um sich haben wollen, um ihnen zu helfen. Die Hunde schätzen dich auch, den einzigen Bipedalen, der es wirklich versteht. Du schaffst dir eine Art Zugehörigkeit. Dann wachst du eines Tages auf und der universelle Hundetranslator wird für 4,99 $ bei Walmart verkauft. Das IMO-Ergebnis ist nicht genau eine Nachricht. Tatsächlich, wenn du dir das Diagramm der METR-Agentenaufgabenlänge über die Zeit ansiehst, denke ich, dass es genau rechtzeitig kommt, dass Agenten in der Lage sind, ~ 1,5-Stunden-Probleme zu lösen. In gewisser Weise sollten wir also nicht überrascht sein. Und in der Tat scheint es, dass mehrere Unternehmen dasselbe Ergebnis erzielt haben. Es ist einfach... die steigende Flut, die so schnell steigt, wie sie gestiegen ist. Natürlich ist die Trauer um meine persönliche Identität als Mathematiker (und/oder produktives Mitglied der Gesellschaft) der kleinste Teil dieser Geschichte. Multipliziere diese Trauer mit *jedem* Mathematiker, mit jedem Programmierer, vielleicht jedem Wissensarbeiter, jedem Künstler... in den nächsten Jahren... es ist eine etwas größere Geschichte. Und natürlich gibt es darüber hinaus die Angst vor dem tatsächlichen Tod, über die ich vielleicht später mehr eingehen werde. Dieses Paket – Trauer um Relevanz, Trauer um das Leben, Trauer um das, was ich gekannt habe – ist nicht einzigartig für das AI-Zeitalter oder so etwas. Ich denke, es ist eine Standardangelegenheit, wenn man sich dem Ende der Karriere oder dem Ende des Lebens nähert. Es könnte nur sein, dass das für viele von uns ein bisschen früher kommt, alle auf einmal. Ich frage mich, ob wir bereit sind.

Heute haben wir bei @OpenAI einen Meilenstein erreicht, den viele für Jahre entfernt hielten: eine Leistung auf Goldmedaillen-Niveau bei der IMO 2025 mit einem allgemeinen reasoning LLM – unter denselben Zeitlimits wie Menschen, ohne Werkzeuge. So bemerkenswert das auch klingt, es ist noch bedeutender als die Schlagzeile 🧵