Adam, Adam, quem é o f..k é Adam?

Declaração da ICML sobre prompts ocultos subversivos de LLM Vivemos numa linha do tempo estranha...

as notícias do openai IMO me atingiram bastante pesado neste fim de semana ainda estou na fase aguda do impacto, eu acho considero-me um matemático profissional (uma caracterização com a qual alguns matemáticos profissionais reais podem ter problemas, mas a minha festa, as minhas regras) e não acho que consigo responder a uma única pergunta do imo ok, sim, imo é sua própria pequena subseção atlética da matemática para a qual não treinei, etc. etc., mas. se eu encontrar alguém na vida real que tenha uma medalha de ouro do IMO, eu imediatamente atualizo para "esta pessoa é muito melhor em matemática do que eu" agora um monte de robôs pode fazer isso. como alguém que tem muito da sua identidade e da sua vida real construídas em torno de "é bom em matemática", é um soco no estômago. é uma espécie de morte. como, um dia você descobre que pode falar com cães. é divertido e interessante, então você faz isso mais, aprendendo as complexidades da língua deles e seus costumes mais profundos. você aprende que outras pessoas ficam surpresas com o que você pode fazer. você nunca se encaixou exatamente, mas aprende que as pessoas apreciam sua habilidade e querem que você esteja por perto para ajudá-las. os cães também apreciam você, o único bípede que realmente entende. você monta para si mesmo uma espécie de pertencimento. então, um dia você acorda e o tradutor universal de cães está à venda no walmart por $4,99 o resultado do IMO não é exatamente uma novidade. na verdade, se você olhar para o gráfico de comprimento da tarefa do agente METR ao longo do tempo, eu acho que os agentes serem capazes de resolver problemas de ~ 1,5 horas está vindo bem a tempo. então, de certa forma, não deveríamos nos surpreender. e, de fato, parece que várias empresas alcançaram o mesmo resultado. é apenas... a maré crescente subindo tão rápido quanto tem subido claro, o luto pela minha identidade pessoal como matemático (e/ou membro produtivo da sociedade) é a menor parte desta história multiplique esse luto por *cada* matemático, por cada programador, talvez por cada trabalhador do conhecimento, cada artista... ao longo dos próximos anos... é uma história um pouco maior e, claro, além disso, há o medo da morte real, sobre o qual talvez eu fale mais tarde. este pacote -- luto pela relevância, luto pela vida, luto pelo que conheci -- não é único da era da IA ou algo assim. eu acho que é uma coisa padrão à medida que se aproxima do fim da carreira ou do fim da vida. pode apenas ser que isso esteja chegando um pouco mais cedo para muitos de nós, todos de uma vez. eu me pergunto se estamos prontos

Hoje, nós da @OpenAI alcançámos um marco que muitos consideravam a anos de distância: desempenho ao nível de medalha de ouro na IMO 2025 com um LLM de raciocínio geral—dentro dos mesmos limites de tempo que os humanos, sem ferramentas. Por mais notável que isso pareça, é ainda mais significativo do que o título 🧵