J'ai eu l'occasion de faire un premier passage à travers ce document. Ce document est vraiment génial. Je ne pense pas avoir vu d'autre article sur l'économie post-AGI qui définisse clairement la conséquence de l'augmentation de l'automatisation et de la pertinence continue de l'intelligence humaine comme l'écart entre le coût d'automatisation et le coût de vérification. Il y a deux choses qui m'ont marqué. La première est ce cycle : > lorsque des experts supervisent des agents, ils produisent des corrections, des étiquettes et des connaissances "comment faire". Cela est capturé comme données d'entraînement / outils, ce qui réduit le coût d'automatisation. > à mesure que l'automatisation devient moins chère, les entreprises remplacent les humains par des agents. Cela réduit le besoin d'humains, en particulier pour les postes de début de carrière. > avec moins d'expérience accumulée, la société a moins de vérificateurs capables et la vérification devient plus coûteuse. > maintenant, vous obtenez l'écart entre le coût d'automatisation et le coût de vérification qui augmente, ce qui signifie que les agents peuvent opérer dans plus de domaines que les humains ne peuvent auditer de manière fiable (zones d'ombre). > dans ces zones d'ombre, les humains ne peuvent pas fournir de retours correctifs précis. Les agents continuent d'optimiser des proxies mesurables, et le comportement peut s'éloigner de la véritable intention humaine. La deuxième chose qui m'a marqué est le concept de "responsabilité-en-tant-que-service". En gros, cela signifie que le déploiement de tout agent par un fournisseur s'accompagne d'une responsabilité attachée, que si l'agent cause des dommages / pertes / problèmes juridiques de manière définie, le fournisseur paie (jusqu'à une limite). Donc, le client achète un résultat indemnisé, pas seulement un logiciel. Cela force essentiellement les entreprises à internaliser le risque que les agents ne soient pas alignés avec l'utilisateur. J'aime beaucoup ce concept de responsabilité-en-tant-que-service parce que toute la thèse de notre plateforme @eigencloud était basée sur la réduction et l'assurance. Tout service déployé sur @eigencloud est censé être mis en jeu et si le service nuit à l'utilisateur, la mise derrière le service est réduite et compense l'utilisateur en fonction de l'achat préalable de l'utilisateur. Je recommande vivement à tout le monde de lire ce document !