1/ Karpathy vient de décrire le plafond strict sur les systèmes autonomes d'un trillion de dollars comme une remarque accessoire à propos de son script d'hyperparamètres de la nuit (@NoPriorsPod) — et est retourné à l'ajustement de son taux d'apprentissage...

2/ @karpathy : "Ceci est extrêmement bien adapté à tout ce qui a des métriques objectives faciles à évaluer... écrire des noyaux pour un code CUDA plus efficace [...] est le choix parfait. Choix parfait."

6/ Ce qu'il a réellement dit, c'est que le goulot d'étranglement de l'IA autonome n'est pas l'intelligence. Ce n'est pas le calcul. Ce n'est pas les données. C'est de savoir si quelqu'un peut vérifier la réponse. C'est tout. C'est toute l'économie de l'AGI !

7/ Chaque laboratoire s'efforce de retirer les humains de la boucle. L'ensemble de l'économie dépend de leur maintien dans celle-ci. Personne n'a réconcilié cela. Nous avons essayé.

8/ Le coût de l'automatisation s'effondre. Le coût de la vérification est limité par la biologie. Cette unique asymétrie entraîne tout : le dérèglement de l'alignement, l'effondrement du pipeline junior, la responsabilité en tant que logiciel, l'avenir du travail et l'endroit où la valeur s'accumulera finalement.

9/ Document :