Vous pouvez exécuter des embeddings à la pointe de la technologie sur des CPU maintenant. Une nouvelle méthode de distillation vient d'être lancée avec 96 % de qualité de l'enseignant pour une taille jusqu'à 15× plus petite. 𝗟𝗲𝗮𝗳𝗿𝗲𝗱𝗱𝘂𝗰𝗲 𝗹𝗲𝘀 𝗰𝗼𝘀𝘁𝘀 𝗱'𝗲𝗺𝗯𝗲𝗱𝗱𝗶𝗻𝗴 𝗮𝘃𝗲𝗰 𝗻𝗲 𝗹𝗼𝘀𝘀 LEAF provient de MongoDB Research et cible les modèles d'embedding, pas les générateurs. Il distille un grand modèle en un modèle compact tout en conservant le même espace vectoriel. 𝗜𝘁 𝘂𝘀𝗲 𝗮𝗻 𝗮𝘀𝘆𝗺𝗺𝗲𝘁𝗿𝗶𝗰 𝗿𝗲𝘁𝗿𝗶𝗲𝘃𝗮𝗹 𝗱𝗲𝘀𝗶𝗴𝗻 Les documents sont intégrés une fois en utilisant le grand modèle. Les requêtes sont intégrées à l'exécution en utilisant le petit modèle. • Un travail hors ligne pour des milliards de documents • Requêtes rapides sur des CPU ou des appareils en périphérie • Pas de réindexation lorsque les modèles changent 𝗧𝗵𝗲 𝗿𝗲𝘀𝘂𝗹𝘁𝘀 𝗮𝗿𝗲 𝗵𝗮𝗿𝗱 𝗻𝘂𝗺𝗯𝗲𝗿𝘀 Il conserve ~96 % de la performance de l'enseignant. Les modèles sont 5×–15× plus petits et jusqu'à 24× plus rapides. Meilleurs classements sur BEIR et MTEB pour des tailles compactes. Cela vous permet d'exécuter des recherches sémantiques, RAG et du clustering avec une faible latence, une faible mémoire et sans GPU.

Vous pouvez maintenant transformer Claude Code en une pile de développement complète. Une nouvelle mise à jour propose une CLI qui installe des agents, des commandes et des intégrations en quelques minutes, avec 14,8k étoiles sur GitHub. 𝗖𝗹𝗮𝘂𝗱𝗲 𝗖𝗼𝗱𝗲 𝗰𝗮𝗻 𝗻𝗼𝘄 𝗯𝗲 𝗰𝗼𝗻𝗳𝗶𝗴𝘂𝗿𝗲𝗱 𝗹𝗶𝗸𝗲 𝗮 𝗿𝗲𝗮𝗹 𝘁𝗲𝗮𝗺 Il regroupe des rôles, des flux de travail et des outils en tant que composants réutilisables. Vous les installez avec une seule commande. Pas de câblage manuel ou de copier-coller. • Agents pour la révision de code, la sécurité et la performance • Commandes Slash pour les tests, l'optimisation et les vérifications • Hooks pour l'automatisation avant engagement et après tâche 𝗜𝘁 𝗮𝗱𝗱𝘀 𝗼𝗯𝘀𝗲𝗿𝘃𝗮𝗯𝗶𝗹𝗶𝘁𝘆 𝘁𝗼 𝗔𝗜 𝗰𝗼𝗱𝗶𝗻𝗴 Il suit les sessions, l'état et l'utilisation en temps réel. Vous pouvez inspecter les conversations en direct localement ou à distance. • Analytique avec des métriques de performance • Vérifications de santé pour mauvaise configuration • Tableau de bord des plugins avec contrôle des permissions 𝗜𝘁 𝘀𝗼𝗹𝘃𝗲𝘀 𝗿𝗲𝗽𝗲𝗮𝘁𝗮𝗯𝗶𝗹𝗶𝘁𝘆 𝗮𝗻𝗱 𝘀𝗰𝗮𝗹𝗲 Au lieu de prompts uniques, vous installez un comportement standardisé. Cela permet aux équipes de partager des configurations, de déboguer plus rapidement et de s'intégrer de manière cohérente.

Petite correction de code = GPT Grande réécriture de code = Claude