Adam, Adam, yang f.. k adalah Adam?

Pernyataan ICML tentang petunjuk LLM tersembunyi subversif Kita hidup dalam garis waktu yang aneh...

berita openai IMO menghantam saya cukup berat akhir pekan ini Saya masih dalam fase akut dampaknya, saya pikir Saya menganggap diri saya seorang matematikawan profesional (karakterisasi yang mungkin dipermasalahkan oleh beberapa matematikawan profesional yang sebenarnya, tetapi partai saya aturan saya) dan saya tidak berpikir saya dapat menjawab satu pertanyaan pun Oke, ya, imo adalah subbagian atletik kecil matematika yang belum saya latih, dll. dll., tapi. jika saya bertemu seseorang di alam liar yang memiliki emas IMO, saya segera memperbarui ke "Orang ini jauh lebih baik dalam matematika daripada saya" sekarang sekelompok robot bisa melakukannya. Sebagai seseorang yang memiliki banyak identitas dan kehidupan aktual mereka yang dibangun di sekitar "pandai matematika", itu adalah pukulan usus. itu semacam sekarat. Seperti, suatu hari Anda menemukan bahwa Anda dapat berbicara dengan anjing. Ini menyenangkan dan menarik sehingga Anda melakukannya lebih banyak, mempelajari seluk-beluk bahasa mereka dan kebiasaan terdalam mereka. Anda belajar orang lain terkejut dengan apa yang dapat Anda lakukan. Anda tidak pernah benar-benar cocok, tetapi Anda belajar bahwa orang-orang menghargai kemampuan Anda dan ingin Anda membantu mereka. Anjing-anjing juga menghargai Anda, satu-satunya biped yang benar-benar mengerti. Anda mengumpulkan untuk diri sendiri semacam kepemilikan. Kemudian suatu hari Anda bangun dan Universal Dog Translator dijual di Walmart seharga $4.99 hasil IMO bukanlah berita, tepatnya. faktanya, jika Anda melihat plot panjang tugas agen METR dari waktu ke waktu, saya pikir agen mampu memecahkan masalah ~ 1,5 jam datang tepat waktu. Jadi dalam beberapa hal kita tidak boleh terkejut. Dan memang, tampaknya beberapa perusahaan telah mencapai hasil yang sama. Hanya saja... air pasang naik secepat naiknya Tentu saja, kesedihan atas identitas pribadi saya sebagai ahli matematika (dan/atau anggota masyarakat yang produktif) adalah bagian terkecil dari cerita ini Melipatgandakan kesedihan itu oleh *setiap* matematikawan, oleh setiap pembuat kode, mungkin setiap pekerja pengetahuan, setiap seniman ... selama beberapa tahun ke depan ... Ini adalah cerita yang sedikit lebih besar Dan tentu saja, di luar itu, ada ketakutan akan kematian yang sebenarnya, yang mungkin akan saya bahas lebih lanjut nanti. Paket ini - kesedihan untuk relevansi, kesedihan untuk hidup, kesedihan untuk apa yang saya ketahui - tidak unik untuk era AI atau semacamnya. Saya pikir itu adalah hal yang standar karena seseorang menambahkan akhir karier atau akhir kehidupan. Mungkin saja itu akan datang sedikit lebih cepat bagi banyak dari kita, sekaligus. Saya ingin tahu apakah kita siap

Hari ini, kami di @OpenAI mencapai tonggak sejarah yang dianggap banyak orang bertahun-tahun lagi: kinerja tingkat medali emas di IMO 2025 dengan LLM penalaran umum—di bawah batas waktu yang sama dengan manusia, tanpa alat. Meskipun kedengarannya luar biasa, itu bahkan lebih signifikan daripada judul utama 🧵