Adam, Adam, kto do cholery jest Adam?

Oświadczenie ICML na temat podstępnych ukrytych podpowiedzi LLM Żyjemy w dziwnej rzeczywistości…

wiadomości o openai IMO uderzyły mnie dość mocno w ten weekend wciąż jestem w ostrej fazie wpływu, myślę uważam się za profesjonalnego matematyka (charakterystyka, z którą niektórzy prawdziwi profesjonalni matematycy mogą się nie zgodzić, ale moja impreza, moje zasady) i nie sądzę, żebym potrafił odpowiedzieć na jedno pytanie IMO ok, tak, IMO to swoją własną małą sekcja sportowa matematyki, do której nie trenowałem, itd., itd., ale. jeśli spotkam kogoś w dziczy, kto ma złoto IMO, natychmiast aktualizuję do "ta osoba jest znacznie lepsza w matematyce niż ja" teraz mnóstwo robotów potrafi to zrobić. jako ktoś, kto ma dużo swojej tożsamości i swojego rzeczywistego życia zbudowanego wokół "jest dobry w matematyce", to cios w brzuch. to rodzaj umierania. jakby pewnego dnia odkrywasz, że możesz rozmawiać z psami. to jest zabawne i interesujące, więc robisz to więcej, ucząc się zawiłości ich języka i ich najgłębszych zwyczajów. dowiadujesz się, że inni ludzie są zaskoczeni tym, co potrafisz. nigdy nie pasowałeś do reszty, ale dowiadujesz się, że ludzie doceniają twoje umiejętności i chcą, żebyś był w pobliżu, aby im pomóc. psy też cię doceniają, jedyny dwunożny, który naprawdę to rozumie. tworzysz dla siebie rodzaj przynależności. a potem pewnego dnia budzisz się i uniwersalny tłumacz psów jest na sprzedaż w walmart za 4,99 dolara wynik IMO nie jest dokładnie wiadomością. w rzeczywistości, jeśli spojrzysz na wykres długości zadań agenta METR w czasie, myślę, że agenci, którzy potrafią rozwiązywać problemy trwające ~ 1,5 godziny, nadchodzą w odpowiednim czasie. więc w pewnym sensie nie powinniśmy być zaskoczeni. i rzeczywiście, wydaje się, że wiele firm osiągnęło ten sam wynik. to po prostu... rosnąca fala rośnie tak szybko, jak to się dzieje oczywiście, żal za moją osobistą tożsamością jako matematyka (i/lub produktywnego członka społeczeństwa) jest najmniejszą częścią tej historii pomnóż ten żal przez *każdego* matematyka, przez każdego programistę, może każdego pracownika wiedzy, każdego artystę... w ciągu następnych kilku lat... to nieco większa historia i oczywiście, poza tym, jest strach przed rzeczywistą śmiercią, o którym może później opowiem więcej. ten pakiet -- żal za istotnością, żal za życiem, żal za tym, co znałem -- nie jest unikalny dla ery AI ani nic w tym stylu. myślę, że to standardowa rzecz, gdy zbliżasz się do końca kariery lub końca życia. może się okazać, że to nadchodzi nieco wcześniej dla wielu z nas, wszyscy naraz. zastanawiam się, czy jesteśmy gotowi

Dziś w @OpenAI osiągnęliśmy kamień milowy, który wielu uważało za odległy o lata: osiągnięcie poziomu złotego medalu na 2025 IMO z ogólnym modelem LLM do rozumowania — w tych samych ograniczeniach czasowych co ludzie, bez narzędzi. Tak niezwykłe, jak to brzmi, jest to jeszcze bardziej znaczące niż nagłówek 🧵