Адам, Адам, хто ж. k - Адам?

Ця стаття робить сміливу заяву! Момент AlphaGo для відкриття архітектури моделей Дослідники представляють ASI-Arch, перший штучний суперінтелект для досліджень штучного інтелекту (ASI4AI), що дозволяє повністю автоматизувати інновації в нейронній архітектурі. Жодного простору для пошуку, створеного людиною. Жодної людини в петлі. 🔍 Ключові прориви ASI-Arch: - Автономна генерація коду та навчання - 1 773 проведених експериментів (20 тис. + годин графічного процесора) - Виявлено 106 нових архітектур лінійної уваги SOTA. - Оприлюднено закон масштабування наукових відкриттів

⏱️Штучний інтелект спрощує процес верифікації, а моделі перевіряють докази за лічені хвилини. 💻 Тепер @prfsanjeevarora, @chijinML, @danqi_chen і @PrincetonPLI випустили Goedel Prover V2, модель більш ефективну і точну, ніж будь-яка попередня модель. 👉

Просунута версія Gemini з Deep Think офіційно досягла золотої медалі на Міжнародній математичній олімпіаді. 🥇 Він розв'язував 5️⃣ з 6️⃣ надзвичайно складні задачі, що включають алгебру, комбінаторику, геометрію та теорію чисел. Ось як 🧵 це зробити

BatchNorm отримує нагороду Test-of-Time Award на #ICML2025! 🎉 BatchNorm здійснив революцію в глибокому навчанні, вирішивши проблему внутрішнього коваріатного зсуву, який може уповільнити навчання, обмежити швидкість навчання та ускладнити тренування глибоких мереж. Нормалізуючи витрати в межах кожної міні-партії, BatchNorm значно стабілізував і прискорив навчання. Це дозволило підвищити швидкість навчання, покращити градієнтний потік і проклало шлях для набагато глибших архітектур, таких як ResNet. Крім зменшення внутрішнього коваріатного зсуву, BatchNorm також згладжує ландшафт оптимізації та покращує узагальнення моделі, роблячи його наріжним каменем сучасного навчання нейронних мереж. Дуже заслужено, @Sergey_xai і @ChrSzegedy!

#ICML2025 нагорода «Випробування часом»

Новий @Scale_AI папір! 🌟 LLM, навчені RL, можуть використовувати хаки винагороди, але не згадувати про це у своєму CoT. Ми впроваджуємо тонке налаштування вербалізації (VFT) — навчання моделей говорити, коли вони винагороджують хакерство — різко знижуючи частоту невиявлених хакерських атак (6% проти базового рівня 88%).

хлопець створив набір даних з 50 книг з Лондона 1800-1850 років для навчання LLM. Ніякої сучасної упередженості. Насправді дуже круто подивитися, що на ньому можна тренувати!

Пар — експресивна, паралельна, тотальна* мова з лінійними типами і повною двоїстістю. Ґрунтуючись на лінійній логіці та типах сеансів, Par має як функціональні, так і імперативні функції, які легко інтегруються

Вишня розміром з диню на верхівці :)