Google vient de publier un excellent guide sur l'ingénierie contextuelle efficace pour les systèmes multi-agents. Faites attention à celui-ci, développeurs d'IA ! (ajoutez-le à vos favoris) Voici mes principaux enseignements : Les fenêtres de contexte ne sont pas le goulot d'étranglement. L'ingénierie contextuelle l'est. Pour des problèmes plus complexes et à long terme, la gestion du contexte ne peut pas être traitée comme un simple problème de "manipulation de chaînes". L'approche par défaut pour gérer le contexte dans les systèmes d'agents aujourd'hui reste de tout entasser dans l'invite. Plus d'historique, plus de jetons, plus de confusion. La plupart des équipes traitent le contexte comme un problème de concaténation de chaînes. Mais les déversements de contexte brut créent trois échecs critiques : > explosion des coûts due à des informations répétitives > dégradation des performances due aux effets de "perdu au milieu" > augmentation des taux d'hallucination lorsque les agents attribuent mal des actions à travers un système La gestion du contexte devient une préoccupation architecturale aux côtés du stockage et du calcul. Cela signifie que des transformations explicites remplacent la concaténation de chaînes ad hoc. Les agents reçoivent par défaut le contexte minimum requis et demandent explicitement des informations supplémentaires via des outils. Il semble que le Kit de Développement d'Agents de Google réfléchisse vraiment en profondeur à la gestion du contexte. Il introduit une architecture en couches qui traite le contexte comme "une vue compilée sur un système d'état" plutôt que comme une activité de bourrage d'invite. À quoi cela ressemble-t-il ? 1) Structure : Le Modèle en Couches Le cadre sépare le stockage de la présentation à travers quatre couches distinctes : 1) Le Contexte de Travail gère les vues éphémères par invocation. 2) La Session maintient le journal des événements durables, capturant chaque message, appel d'outil et signal de contrôle....