Une réflexion approfondie sur le modèle économique des modèles frontier. Tout cela est basé sur des chiffres divulgués par The Information, NYT, etc. 🔵Le cœur : C'est une machine à brûler du calcul Au cœur du modèle, c'est brutalement simple : presque tous les coûts proviennent du calcul – inférence, et surtout formation. La formation suit quelque chose comme une loi d'échelle. Supposons que les coûts augmentent d'environ 5x chaque année ; et le retour sur investissement des coûts de formation est de 2x. Cela crée une dynamique étrange : Coût de formation de l'année 1 : 1 Revenu de l'année 2 provenant de ce modèle : 2 Mais coût de formation de l'année 2 pour le modèle suivant : 5 Net : +2 - 5 = -3 Faites avancer et cela devient pire : Revenu de l'année 3 : +10 Coût de formation de l'année 3 : -25 Net : -15 Les modèles frontier, tels qu'ils sont actuellement gérés, sont des boules de neige à flux de trésorerie négatif. Chaque génération brûle plus de liquidités que la précédente. Pour que cela devienne un jour un flux de trésorerie positif, seules deux choses peuvent logiquement changer : A. Les revenus croissent beaucoup plus vite que 2x, ou B. La croissance des coûts de formation ralentit de 5x par an à quelque chose comme <2x Le PDG d'Anthropic, Dario Amodei, a décomposé le scénario B (« les coûts de formation cessent de croître de manière exponentielle ») en deux réalités possibles : ...