Адам, Адам, кто, черт возьми, такой Адам?

Эта работа делает смелое заявление! Момент AlphaGo для открытия архитектуры моделей Исследователи представляют ASI-Arch, первую Искусственную Суперинтеллектуальную систему для исследований в области ИИ (ASI4AI), позволяющую полностью автоматизированное инновационное проектирование нейронных архитектур. Без человечески спроектированного пространства поиска. Без человека в процессе. 🔍 Ключевые достижения ASI-Arch: - Автономная генерация и обучение кода - Проведено 1,773 эксперимента (более 20K часов на GPU) - Обнаружено 106 новых SOTA архитектур линейного внимания - Открыт закон масштабирования для научного открытия

⏱️ИИ упрощает процесс верификации, модели проверяют доказательства за считанные минуты. 💻 Теперь @prfsanjeevarora, @chijinML, @danqi_chen и @PrincetonPLI выпустили Goedel Prover V2, модель, которая более эффективна и точна, чем любая предыдущая модель. 👉

Расширенная версия Gemini с Deep Think официально достигла уровня золотой медали на Международной математической олимпиаде. 🥇 Она решила 5️⃣ из 6️⃣ исключительно сложных задач, связанных с алгеброй, комбинаторикой, геометрией и теорией чисел. Вот как 🧵

BatchNorm получает награду Test-of-Time на #ICML2025! 🎉 BatchNorm произвел революцию в глубоком обучении, решив проблему внутреннего смещения ковариат, что может замедлять обучение, ограничивать скорости обучения и усложнять тренировку глубоких сетей. Нормализуя входные данные в каждой мини-партии, BatchNorm значительно стабилизировал и ускорил обучение. Это позволило использовать более высокие скорости обучения, улучшило поток градиентов и проложило путь для гораздо более глубоких архитектур, таких как ResNet. Помимо снижения внутреннего смещения ковариат, BatchNorm также сглаживает ландшафт оптимизации и улучшает обобщение модели, что делает его краеугольным камнем современного обучения нейронных сетей. Очень заслуженно, @Sergey_xai и @ChrSzegedy!

#ICML2025 награда за время тестирования

Новая статья от @Scale_AI! 🌟 LLM, обученные с помощью RL, могут использовать хакеры вознаграждений, но не упоминают об этом в своем CoT. Мы представляем тонкую настройку вербализации (VFT) — обучение моделей говорить, когда они используют хакеры вознаграждений — что значительно снижает уровень нераспознанных хаков (6% против базового уровня 88%).

Парень создал набор данных из 50 книг, написанных в Лондоне в 1800-1850 годах, для обучения LLM. Никакого современного предвзятости. На самом деле, это супер интересно видеть, что можно на этом обучить!

Par — выразительный, параллельный, тотальный* язык с линейными типами и полной дуальностью. Основанный на линейной логике и типах сессий, Par сочетает в себе как функциональные, так и императивные особенности, интегрируясь без швов.

Вишенка на торте размером с дыню :)