J'ai des sentiments mitigés sur les termes "AGI" et "ASI" pour décrire où cette technologie nous mène. D'une part, l'AGI a joué un rôle clé en motivant des personnes talentueuses qui se sont obsédées sur ce problème (@demishassabis, @ShaneLegg, @ilyasut, beaucoup d'autres) et a permis le flux de capitaux qui a rendu possibles bon nombre de nos avancées. D'autre part, "AGI" ou "ASI" ou toute variante nuit actuellement au discours sur la manière dont la technologie la plus intéressante de notre vie est construite et utilisée. a) ce n'est pas une description précise de la direction que nous prenons, du moins telle que la plupart des gens interprètent le terme. Regardez les conversations récentes avec @karpathy et @dwarkesh_sp et vous voyez instantanément à quel point nous sommes loin de quoi que ce soit ressemblant à une véritable intelligence humaine. Pas de preuve de décollage, les délais continuent de s'étendre. Nous construisons une technologie très utile qui pourrait transformer la façon dont les entreprises fonctionnent ou comment la technologie est construite, mais cela n'a rien à voir avec "l'intelligence générale". b) c'est devenu si chargé que j'ai trouvé presque personne qui le définit de la même manière ou qui s'accorde sur les délais (que nous l'ayons déjà atteint ou que nous soyons à 30 ans). C'est pourquoi chaque article de blog sur l'AGI doit invoquer sa propre définition locale pour avancer. Je souscris principalement à l'avis de @random_walker's sur la raison pour laquelle "l'intelligence" est utilisée d'une manière presque incohérente tout le temps. c) surtout, cela évoque la peur—liée à l'utilisation historique dans la science-fiction et la philosophie (pensez à 2001, Her, tout ce qui évoque la singularité) qui n'a rien à voir avec l'arbre technologique sur lequel nous sommes réellement. Cela rend chaque discussion sur l'IA incroyablement facile à anthropomorphiser et à détourner vers des hypothétiques. Nous pourrions avoir besoin d'un terme différent pour ce que nous essayons de construire à la fin de tout cela et ce que cela signifie pour les affaires et la société.