Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Chayenne Zhao
Člen technického personálu @radixark | Škálovatelný RL @lmsysorg | Předchozí laboratoř AGI SF @Amazon | Seed Infra ByteDance | NeuLab @LTIatCMU | BS @Tsinghua_Uni | PhD @UCLA
xAI > OpenAI. Ta změna atmosféry je skutečná.
Můj blízký přítel – typ inženýra, za kterého každá firma první úrovně bojuje – právě včera podepsal svou nabídku. Řekl jsem mu přímo: Ani jsem nemusel hádat, věděl jsem, že si vybereš xAI. Jsi klasický xAI člověk.
Co lidé nechápou, je ta "hrubá síla", kterou Elon buduje. Zatímco jiné laboratoře jsou uvězněné v nekonečných bezpečnostních poradách a PR smyčcích, xAI je jen čistý, syrový boj. Je to vysoce intenzivní inženýrství v tom nejlepším smyslu.
Znám tolik naprostých monstra, kteří se tam nedávno přestěhovali a ani se nedotkli svých profilů na LinkedIn nebo Twitteru. Jsou příliš zaneprázdněni dodáváním kódu a využíváním plnohodnotného výpočetního výkonu, který může poskytnout jen Musk.
V tomto závodě obvykle vyhrávají ti, kteří pracují s nejsilnějším týmem. xAI je konečná hra.

Vahid Kazemi9. 1. 12:03
Mohu s jistotou říct, že náš tým v @xAI je desetkrát kompetentnější než můj bývalý tým v @OpenAI.
17
Konec éry FAIR v Meta, ale úsvit robotické renesance na FAR Amazonu.
Lidé podceňují Amazon FAR, protože si myslí, že je to jen další byrokratická ruka amazonského impéria. Špatně.
Minulé léto, když jsem absolvoval stáž ve FAR (AGI SF lab), jsem viděl "skrytou" stránku. Zatímco zbytek Amazonu působí jako tradiční gigant, FAR funguje jako tým SEAL s neuvěřitelnou hustotou talentů (David Luan @jluan @AdeptAILabs AI je postaven jinak).
Je to stejný scénář jako u Alibaba Qwen nebo Xiaomi v MiMo: Radikální autonomie = výsledky SOTA. Navíc, na rozdíl od většiny Amazonu, FAR vás skutečně krmí (nejlepší jídlo v údolí, ne@ mě @).
Pokud sázíte proti Amazonu v oblasti fyzické AI, sázíte proti špatným lidem. Stále mi chybí atmosféra z kanceláře FAR a nekonečné technické debaty s původními lidmi tam.

Jitendra MALIK4. 1. 08:38
1/4 For the last several years I worked part-time at the FAIR lab at Meta, in addition to being a professor at UC Berkeley. That phase is now over, and starting Jan. 5, I will be leading a robotics research effort at Amazon FAR in San Francisco, while continuing at Berkeley.
Přestaňte být posedlí nesmysly o "vznikajících vlastnostech" z 8B nebo 70B. Většina toho, co vidíte, je jen šum měření a podvádění benchmarků.
Vždycky jsem říkal, že Zeyuan Allen-Zhu dělá nejpřísnější "fyziku" z LLM. Jak jsem poznamenal ve svých blozích, většina akademických debat o architektuře je jen kultování nákladu, protože selhávají v řízení proměnných.
Zeyuanův nový tutoriál dokazuje, že model 100M může odhalit více architektonických pravd než model 8B s tokenem 1T. Pokud to nesledujete, jen si hrajete s drahými LEGO kostkami ve tmě.
Průmysl se konečně probouzí: Škálovat bez pochopení "fyziky" je jen hazard bohatého muže.

Zeyuan Allen-Zhu, Sc.D.16. 12. 2025
(1/N)🚀Today we launch two tightly connected milestones in the Physics of LM series: a sharpened Part 4.1 (v2.0) and a brand new Part 4.2 — together forming a clear, reproducible, textbook-style reference for principled architecture research.
Part 4.1 introduced a synthetic pretraining playground — our Galileo experiment for LLMs🍎. Our v2.0 strengthens it with Gated DeltaNet (GDN) and stricter alignment, building an even cleaner “Pisa tower” for testing architectural limits.
Part 4.2 shows these synthetic predictions resonate in reality 🌍 — across 1–8B / 1T-token pretraining — confirming which design principles actually matter.
Together, Parts 4.1 and 4.2 bring the synthetic and real worlds into surprising agreement 🤝— one more step toward a more scientific understanding of LLM architectures.
If you’re curious about:
🧠why some models reason deeper
⚙️ why linear models struggle at retrieval
🎶why a tiny horizontal mixer (Canon) changes everything …
this release ties it all together.
(Links at the end)

Top
Hodnocení
Oblíbené
