トレンドトピック
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Christian Szegedy
#deeplearning、#ai 研究員。意見は私のものです。
Christian Szegedy reposted
この論文は大胆な主張をしています!
モデルアーキテクチャの発見のためのAlphaGoの瞬間
研究者らは、完全に自動化されたニューラルアーキテクチャの革新を可能にする、AI研究のための最初の人工スーパーインテリジェンス(ASI4AI)であるASI-Archを紹介します。
人間が設計した検索スペースはありません。ループには人間がいない。
🔍 ASI-Arch の主なブレークスルー:
- 自律的なコード生成とトレーニング
- 1,773回の実験を実施(20K+ GPU時間)
- 106の新しいSOTA線形アテンションアーキテクチャが発見されました
- 科学的発見のためのスケーリング法則を発表

33.15K
Christian Szegedy reposted
BatchNormが #ICML2025 でTest-of-Time Awardを受賞!🎉
BatchNorm は、学習を遅くし、学習率を制限し、ディープネットワークのトレーニングを困難にする内部共変量シフトに対処することで、ディープラーニングに革命をもたらしました。
各ミニバッチ内の入力を正規化することで、BatchNorm は学習を大幅に安定させ、加速しました。これにより、学習率が向上し、勾配フローが改善され、ResNetのようなはるかに深いアーキテクチャへの道が開かれました。
BatchNorm は、内部共変量シフトを減らすだけでなく、最適化の状況を滑らかにし、モデルの一般化を改善するため、最新のニューラル ネットワーク トレーニングの基礎となっています。
非常に当然、@Sergey_xai、そして@ChrSzegedyです!

9.71K
:)の上にのせたメロンサイズのさくらんぼ

Shane Gu7月11日 06:22
2023: at OpenAI, some key figs in post-training were against scaling RL.
2022: Eric/Yuhuai (now xAI) wrote STaR and I wrote "LLM can self-improve". It was clear that RL on clean signals unlocks the next leap.
Pre/post-training divide may have been a big slowdown to AI.

13.57K
トップ
ランキング
お気に入り
Trending onchain
Trending on X
Recent top fundings
Most notable