Tendencias del momento
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
IA @apple
Exploración interesante de la inferencia distribuida en hardware heterogéneo. Incluyendo el silicio de Apple con MLX:
2 ago, 21:00
La inteligencia ha estado encerrada en jardines amurallados. Hoy, estamos abriendo las puertas.
Parallax ahora funciona en modo híbrido, con Macs y GPUs sirviendo grandes modelos juntos en un marco verdaderamente distribuido.
15,39K
La superinteligencia en tu bolsillo sucederá. Y si quieres acelerar la línea de tiempo, contáctame.
Estamos trabajando en esto en cada capa con MLX.
6 ago, 07:48
pronto, algo más inteligente que la persona más inteligente que conoces estará funcionando en un dispositivo en tu bolsillo, ayudándote con lo que quieras.
esto es algo muy notable.
61,27K
La superinteligencia en tu bolsillo va a suceder. Y si quieres acelerar el cronograma, contáctame.
Estamos trabajando en esto en cada capa con MLX.
6 ago, 07:48
pronto, algo más inteligente que la persona más inteligente que conoces estará funcionando en un dispositivo en tu bolsillo, ayudándote con lo que quieras.
esto es algo muy notable.
199
Solo acabo de empezar a jugar con esto, pero el modelo parece genial hasta ahora.
Pero también tiene algunas idiosincrasias de implementación:
- Un nuevo protocolo de chat
- Solo disponible en cuantización fp4
- Un sumidero de atención que rompe un poco la atención fusionada
Los modelos abiertos avanzan rápido y me pregunto cuánto tiempo invertir en apoyar estas características. ¿OpenAI abrirá más modelos?
6 ago, 12:43
El nuevo MoE de 120B de OpenAI funciona bien en mlx-lm en un M3 Ultra.
Ejecutando el cuantificador de 8 bits:
171
Parte superior
Clasificación
Favoritos