A Mistral parece estar prestes a lançar 2 novos modelos: Ministral 3 e Mistral Large 3. Em termos de arquitetura, parece ser: > exatamente igual ao llama2/3 para a Ministral, que é muito parecida (mesmo que adicionem a SWA) ao primeiro lançamento do Mistral 7B há 2 anos. > exatamente a mesma arquitetura do DeepSeek V3 para o grande (que parece ser um MoE) para ambos, eles também usam escalonamento de corda llama4 (em vez de fio), e para o Grande parecem implementar decodificação especulativa com águia Link para PRS no tópico