1/ Lancement d'Enchanted ✨ Chaque humain mérite une IA vraiment personnelle. Pas une contrôlée par un grand laboratoire. Pas une qui accumule vos données. Utilisez Enchanted.

Je n'ai pas beaucoup tweeté ces deux derniers mois car j'ai passé du temps à apprendre et à expérimenter diverses techniques d'apprentissage par renforcement. J'ai hâte de partager bientôt quelques travaux en cours : 1. Recette optimale en termes de calcul pour l'entraînement GRPO 2. Outil alimenté par l'apprentissage par renforcement pour améliorer la confidentialité dans les interactions avec les LLM Les expériences ont été prometteuses 👀

1/ Aujourd'hui, nous annonçons Pleiades, une série de modèles fondamentaux épigénétiques (90M→7B paramètres) entraînés sur 1,9T de tokens de données de méthylation humaine et génomiques. Pleiades modélise avec précision l'épigénétique pour la prédiction de pistes génomiques, la génération et la détection de maladies neurodégénératives à partir de cfDNA, surpassant les précédentes références basées uniquement sur l'ADN.

Quel est le rôle de la mémoire LLM / RAG à court et moyen terme, étant donné que dans le contexte à long terme, les fenêtres peuvent être extrêmement grandes ? J’ai obtenu quelques informations en discutant des fenêtres contextuelles LLM avec un membre de l’équipe DeepMind. En travaillant sur Gemma, ils ont découvert qu’ils pouvaient étirer la longueur du contexte mais rencontrer des problèmes de qualité - les jetons au début et à la fin sont bien récupérés, mais ceux du milieu se perdent dans le mécanisme d’attention. Leur point de vue intéressant : ils ont d’abord pensé qu’un contexte plus long résoudrait tout, mais une analyse plus approfondie a montré qu’avec un nombre fixe de paramètres, la qualité n’est pas gratuite. Bien qu’ils repoussent les limites de contexte, ils considèrent toujours que les approches RAG sont nécessaires dans un avenir proche (6 à 12 mois) en raison de ces problèmes de qualité de l’attention. Pour l’instant, le problème de la récupération n’est pas entièrement résolu simplement en allongeant les contextes. En outre, le remplissage de toute la fenêtre de contexte pour les modèles de haute qualité à contexte long coûte ~1 $ par appel aujourd’hui.