La conséquence est qu'en raison des agents AI, chaque petite entreprise et entrepreneur dispose désormais des ressources d'une entreprise du Fortune 500. La technologie a toujours été axée sur la production d'une plus grande abondance et d'un meilleur accès à une ressource donnée. Nous avons fait cela avec des logiciels pendant des décennies, des mainframes aux serveurs clients en passant par le cloud. Chacune de ces périodes a rendu la technologie 10 à 100 fois plus accessible à un plus grand nombre d'entreprises. L'IA fait de même maintenant pour tous les domaines du travail intellectuel. Pourquoi le codage de haut niveau n'est-il disponible que pour un ensemble microscopiquement petit d'entreprises dans le monde ? Pourquoi la grande majorité des entreprises ne peuvent-elles pas se permettre une excellente publicité ? Pourquoi seul un petit sous-ensemble d'entreprises obtient-il d'excellents conseils juridiques, une sécurité logicielle, des recherches et presque tous les autres domaines du travail intellectuel ? L'IA apporte toutes ces capacités aux entreprises de toutes tailles. Les plus grandes opportunités dans les agents AI consistent à déterminer quelles ressources la plupart des entreprises ont toujours voulu mais qu'elles n'ont jamais pu se permettre ou trouver auparavant.

Voici pourquoi l'ingénierie contextuelle est si importante. Nous venons de passer 2 heures à débattre de quand un agent devrait s'appuyer sur ses connaissances internes par rapport à la recherche de contexte pertinent dans les données pour un seul type de question. Nous avons traité 2 cas de test sur des centaines. Même les personnes impliquées dans le brainstorming n'ont pas pu s'accorder sur ce qu'elles s'attendraient à ce que les humains fassent dans cette situation. Il n'y avait vraiment pas de bonne réponse, et c'est toujours spécifique au contexte, client par client. Tout dans l'ingénierie contextuelle est un compromis entre une variété de facteurs : à quelle vitesse voulez-vous que l'agent réponde à une question, combien d'interactions aller-retour voulez-vous exiger de l'utilisateur, combien de travail doit-il effectuer avant d'essayer de répondre à une question, comment sait-il qu'il dispose du matériel source exhaustif pour répondre à la question, quel est le niveau de risque d'une mauvaise réponse, et ainsi de suite. Chaque décision que vous prenez sur l'une de ces dimensions a des conséquences à l'autre extrémité. Il n'y a pas de repas gratuit. C'est pourquoi construire des agents IA est si fou. Cela met également en évidence combien de valeur il y a au-dessus de la couche LLM. Prendre ces décisions correctement est directement lié à la qualité de la proposition de valeur.

D'après le dernier post de Karpathy : "Les applications LLM organiseront, affineront et animeront réellement des équipes de professionnels déployés dans des secteurs spécifiques en fournissant des données privées, des capteurs, des actionneurs et des boucles de rétroaction." C'est exactement ça. Dans un monde d'agents IA, il y a une couche beaucoup plus épaisse au-dessus du LLM que ce qui était initialement perçu. La critique du thin wrapper a quelque peu fonctionné dans un monde où les gens reconditionnaient des tokens avec une interface ou un prompt système légèrement personnalisés, ce qui était largement tout ce qui était possible il y a 2 ans. Mais les agents IA combineront des outils, des données propriétaires, des prompts système très spécifiques à un domaine, des interfaces spécialisées pour les parties humaines des flux de travail, une ingénierie contextuelle avancée pour gérer les limites de la fenêtre contextuelle, et plus encore. La grande majorité de ceux-ci fonctionneront mieux lorsqu'ils seront adaptés à un secteur spécifique, une fonction de travail ou un type de tâche. De plus, pour obtenir une véritable adoption dans l'entreprise, un degré élevé d'intégration système et de gestion du changement est généralement nécessaire pour impulser les changements de flux de travail et l'adoption. C'est pourquoi les entreprises (ou du moins les produits) axées sur des opportunités spécifiques seront souvent nécessaires pour réellement alimenter ces flux de travail. Il y a énormément d'opportunités ici dans l'année à venir.