Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
AI @apple
Skvělý průzkum distribuované inference na heterogenním hardwaru. Včetně čipu Apple s MLX:
2. 8. 21:00
Inteligence byla uzamčena v zahradách obehnaných zdmi. Dnes otevíráme brány.
Parallax nyní běží v hybridním režimu, kdy počítače Mac a GPU poskytují velké modely společně ve skutečně distribuovaném rámci.
15,3K
Super inteligence ve vaší kapse se stane. A pokud chcete urychlit časovou osu, ozvěte se mi.
Pracujeme na tom v každé vrstvě MLX.
6. 8. 07:48
Jednoho dne brzy bude na zařízení ve vaší kapse běžet něco chytřejšího než ten nejchytřejší člověk, kterého znáte, a pomůže vám s čímkoli budete chtít.
To je velmi pozoruhodná věc.
61,25K
Super inteligence ve vaší kapse se stane. A pokud chcete urychlit časovou osu, ozvěte se mi.
Pracujeme na tom v každé vrstvě MLX.
6. 8. 07:48
Jednoho dne brzy bude na zařízení ve vaší kapse běžet něco chytřejšího než ten nejchytřejší člověk, kterého znáte, a pomůže vám s čímkoli budete chtít.
To je velmi pozoruhodná věc.
177
Teprve jsem si s ním začal hrát, ale model se mi zatím zdá skvělý.
Má však také některé implementační zvláštnosti:
- Nový chatovací protokol
- K dispozici pouze v kvantizaci fp4
- Umyvadlo pozornosti, které tak trochu rozbíjí srostlou pozornost
Otevřené modely se pohybují rychle a zajímalo by mě, kolik času investovat do podpory těchto funkcí? Bude OpenAI open source více modelů?
6. 8. 12:43
Nové 120B MoE od OpenAI běží pěkně v mlx-lm na M3 Ultra.
Spuštění 8-bitového kvanta:
144
Top
Hodnocení
Oblíbené