Fick chansen att gå igenom den här artikeln först. Den här uppsatsen är verkligen bra. Jag tror inte att jag har sett någon annan ekonomisk artikel efter AGI som skarpt definierar konsekvensen av ökad automatisering och fortsatt relevans av mänsklig intelligens som gapet mellan kostnad för att automatisera och kostnad för att verifiera. Det finns två saker som stack ut för mig. Den första är denna cykel: > när experter övervakar agenter producerar de korrigeringar, etiketter och "hur man gör"-kunskap. Det fångas som träningsdata/verktyg vilket minskar kostnaden för automatisering. > när automatiseringen blir billigare, byter företag ut människor mot agenter. Det minskar behovet av människor, särskilt för nybörjarroller. > med mindre samlad erfarenhet har samhället färre kompetenta verifierare och verifiering blir dyrare. > nu får man gapet mellan kostnad att automatisera och kostnad att verifiera ökar, vilket innebär att agenter kan verka inom fler områden än vad människor pålitligt kan granska (blinda fläckar). > i dessa blinda fläckar kan människor inte ge tät korrigerande feedback. Agenter fortsätter att optimera mätbara proxyer, och beteendet kan avvika från verklig mänsklig avsikt. Den andra som fastnade för mig är konceptet "ansvars-som-en-tjänst". I princip innebär det att en leverantörs utplacering av en agent medför ett ansvar att om agenten orsakar skada / förluster / juridiska problem på definierade sätt, betalar leverantören (upp till en gräns). Så kunden köper ett skadesskyddat resultat, inte bara mjukvara. Detta tvingar i princip företag att internalisera risken att agenter inte är i linje med användaren. Jag gillar verkligen konceptet med ansvarstagande som en tjänst eftersom hela tesen för vår @eigencloud plattform var baserad på att skära och att det var försäkring. Alla tjänster som distribueras på @eigencloud är avsedda att stake:as och om tjänsten skadar användaren skärs staken bakom tjänsten och kompenserar användarbaserat. på användarens förköp. Jag rekommenderar varmt alla att läsa denna artikel!