Tópicos em alta
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
@apple IA
Exploração legal de inferência distribuída em hardware heterogêneo. Incluindo silício da Apple com MLX:
2 de ago., 21:00
A inteligência foi trancada em jardins murados. Hoje, estamos abrindo os portões.
O Parallax agora é executado no modo híbrido, com Macs e GPUs atendendo a grandes modelos juntos em uma estrutura verdadeiramente distribuída.
15,39K
Super inteligência no seu bolso vai acontecer. E se você quiser acelerar a linha do tempo, entre em contato comigo.
Estamos trabalhando nisso em todas as camadas com o MLX.
6 de ago., 07:48
Algum dia, em breve, algo mais inteligente do que a pessoa mais inteligente que você conhece estará rodando em um dispositivo no seu bolso, ajudando você com o que quiser.
Isso é uma coisa muito notável.
61,26K
Super inteligência no seu bolso vai acontecer. E se você quiser acelerar a linha do tempo, entre em contato comigo.
Estamos trabalhando nisso em todas as camadas com o MLX.
6 de ago., 07:48
Algum dia, em breve, algo mais inteligente do que a pessoa mais inteligente que você conhece estará rodando em um dispositivo no seu bolso, ajudando você com o que quiser.
Isso é uma coisa muito notável.
195
Acabei de começar a brincar com ele, mas o modelo parece ótimo até agora.
Mas também tem algumas idiossincrasias de implementação:
- Um novo protocolo de bate-papo
- Disponível apenas na quantização fp4
- Dissipador de atenção que tipo de quebra a atenção fundida
Os modelos abertos se movem rapidamente e eu me pergunto quanto tempo investir no suporte a esses recursos? A OpenAI abrirá o código de mais modelos?
6 de ago., 12:43
O novo MoE 120B da OpenAI funciona bem em mlx-lm em um M3 Ultra.
Executando o quant de 8 bits:
167
Melhores
Classificação
Favoritos