Adam, Adam, kto do cholery jest Adam?

Ten artykuł stawia odważne twierdzenie! Moment AlphaGo dla odkrywania architektury modeli Badacze wprowadzają ASI-Arch, pierwszą Sztuczną Superinteligencję do badań AI (ASI4AI), umożliwiającą w pełni zautomatyzowaną innowację architektury neuronowej. Brak przestrzeni wyszukiwania zaprojektowanej przez człowieka. Brak człowieka w pętli. 🔍 Kluczowe przełomy ASI-Arch: - Autonomiczne generowanie kodu i trening - 1 773 przeprowadzonych eksperymentów (ponad 20K godzin GPU) - Odkryto 106 nowych architektur liniowych z SOTA z uwagą - Odkryto prawo skalowania dla odkryć naukowych

⏱️AI ułatwia proces weryfikacji, a modele weryfikują dowody w ciągu kilku minut. 💻 Teraz, @prfsanjeevarora, @chijinML, @danqi_chen i @PrincetonPLI wydali Goedel Prover V2, model bardziej wydajny i dokładniejszy niż jakikolwiek wcześniejszy model. 👉

Zaawansowana wersja Gemini z Deep Think oficjalnie osiągnęła poziom złotego medalu na Międzynarodowej Olimpiadzie Matematycznej. 🥇 Rozwiązała 5️⃣ z 6️⃣ wyjątkowo trudnych problemów, obejmujących algebrę, kombinatorykę, geometrię i teorię liczb. Oto jak 🧵

BatchNorm zdobywa nagrodę Test-of-Time na #ICML2025! 🎉 BatchNorm zrewolucjonizował uczenie głębokie, rozwiązując problem wewnętrznego przesunięcia kowariancji, które może spowolnić uczenie, ogranicza tempo uczenia i utrudnia trenowanie głębokich sieci. Normalizując dane wejściowe w każdej mini-partii, BatchNorm znacząco ustabilizował i przyspieszył proces treningu. Umożliwił wyższe tempo uczenia, poprawił przepływ gradientów i otworzył drogę dla znacznie głębszych architektur, takich jak ResNet. Oprócz redukcji wewnętrznego przesunięcia kowariancji, BatchNorm również wygładza krajobraz optymalizacji i poprawia generalizację modelu, co czyni go fundamentem nowoczesnego treningu sieci neuronowych. Bardzo zasłużone, @Sergey_xai i @ChrSzegedy!

#ICML2025 nagroda za całokształt osiągnięć

Nowy artykuł @Scale_AI! 🌟 LLM-y trenowane z użyciem RL mogą wykorzystywać haki nagród, ale nie wspominają o tym w swoim CoT. Wprowadzamy fine-tuning werbalizacji (VFT) — uczymy modele, aby mówiły, kiedy wykorzystują haki nagród — co dramatycznie zmniejsza wskaźnik nieodkrytych haków (6% w porównaniu do bazowego poziomu 88%).

Facet stworzył zbiór danych z 50 książkami z Londynu z lat 1800-1850 do treningu LLM. Bez nowoczesnych uprzedzeń. To naprawdę super fajne, aby zobaczyć, co można na tym wytrenować!

Par, ekspresyjny, współbieżny, całkowity* język z liniowymi typami i pełną dualnością. Opierając się na logice liniowej i typach sesyjnych, Par ma zarówno funkcjonalne, jak i imperatywne cechy, które integrują się w sposób płynny.

Wiśnia wielkości melona na wierzchu :)