Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
AI @apple
Explorare rece a inferenței distribuite pe hardware heterogen. Inclusiv siliciu Apple cu MLX:
2 aug., 21:00
Informațiile au fost închise în grădini împrejmuite. Astăzi, deschidem porțile.
Parallax rulează acum în modul hibrid, Mac-urile și GPU-urile deservind modele mari împreună într-un cadru cu adevărat distribuit.
15,4K
Super inteligența în buzunarul tău se va întâmpla. Și dacă doriți să accelerați cronologia, contactați-mă.
Lucrăm la acest lucru la fiecare nivel cu MLX.
6 aug., 07:48
Într-o zi, în curând, ceva mai inteligent decât cea mai deșteaptă persoană pe care o cunoști va rula pe un dispozitiv în buzunar, ajutându-te cu orice vrei.
Acesta este un lucru foarte remarcabil.
61,27K
Super inteligența din buzunarul tău se va întâmpla. Și dacă doriți să accelerați cronologia, contactați-mă.
Lucrăm la acest lucru la fiecare nivel cu MLX.
6 aug., 07:48
Într-o zi, în curând, ceva mai inteligent decât cea mai deșteaptă persoană pe care o cunoști va rula pe un dispozitiv în buzunar, ajutându-te cu orice vrei.
Acesta este un lucru foarte remarcabil.
205
Abia am început să mă joc cu el, dar modelul pare grozav până acum.
Dar are și unele idiosincrazii de implementare:
- Un nou protocol de chat
- Disponibil numai în cuantificarea fp4
- Absorbția atenției care întrerupe atenția fuzionată
Modelele deschise se mișcă rapid și mă întreb cât timp să investesc în susținerea acestor caracteristici? OpenAI va deschide mai multe modele?
6 aug., 12:43
Noul MoE 120B de la OpenAI rulează frumos în mlx-lm pe un M3 Ultra.
Rularea cuantității pe 8 biți:
177
Limită superioară
Clasament
Favorite