Rubriques tendance
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
IA @apple
Exploration intéressante de l'inférence distribuée sur du matériel hétérogène. Y compris le silicium Apple avec MLX :
2 août, 21:00
L'intelligence a été enfermée dans des jardins clos. Aujourd'hui, nous ouvrons les portes.
Parallax fonctionne désormais en mode hybride, avec des Macs et des GPU servant de grands modèles ensemble dans un cadre véritablement distribué.
15,4K
Une super intelligence dans votre poche va se réaliser. Et si vous voulez accélérer le calendrier, contactez-moi.
Nous travaillons sur cela à chaque niveau avec MLX.
6 août, 07:48
Un jour bientôt, quelque chose de plus intelligent que la personne la plus intelligente que vous connaissez fonctionnera sur un appareil dans votre poche, vous aidant avec tout ce que vous voulez.
C'est une chose très remarquable.
61,27K
Une super intelligence dans votre poche va se réaliser. Et si vous voulez accélérer le calendrier, contactez-moi.
Nous travaillons sur cela à chaque niveau avec MLX.
6 août, 07:48
Un jour bientôt, quelque chose de plus intelligent que la personne la plus intelligente que vous connaissez fonctionnera sur un appareil dans votre poche, vous aidant avec tout ce que vous voulez.
C'est une chose très remarquable.
202
Je viens juste de commencer à jouer avec, mais le modèle semble génial jusqu'à présent.
Mais il a aussi quelques idiosyncrasies d'implémentation :
- Un nouveau protocole de chat
- Disponible uniquement en quantification fp4
- Un puits d'attention qui casse un peu l'attention fusionnée
Les modèles ouverts évoluent rapidement et je me demande combien de temps investir pour soutenir ces fonctionnalités ? OpenAI va-t-il ouvrir davantage de modèles ?
6 août, 12:43
Le nouveau MoE de 120B d'OpenAI fonctionne bien dans mlx-lm sur un M3 Ultra.
Exécution du quant 8 bits :
174
Meilleurs
Classement
Favoris